"Miliony seksualizowanych obrazów". Wicepremier uderza w Muska

Komisja zarzuca gigantowi brak przeprowadzenia oceny ryzyka przed wprowadzeniem nowej funkcji Groka. Nowy produkt firmy Muska jest chatbotem, którego działanie opiera się na sztucznej inteligencji. Zdaniem Komisji Europejskiej, platforma X nie oszacowała potencjalnych zagrożeń, jakie Grok mógłby stwarzać dla użytkowników, a także nie podjęła działań ograniczających wspomniane ryzyka. Bruksela wskazuje, że stanowi to naruszenie unijnych przepisów o sługach cyfrowych (DSA).

KE podkreśla, iż Grok umożliwia generowanie oraz rozpowszechnianie na terenie Unii Europejskiej nielegalnych treści, takich jak zmanipulowane obrazy o charakterze seksualnym, także przedstawiających nieletnich.

Rzecznik KE ds. cyfrowych Thomas Regnier wskazał, iż funkcja wprowadzona od 2024 r. przez X nowa funkcja Grok nie została uwzględniona w żadnych raportach oceny ryzyka, które przedstawia firma. Postępowanie wszczęte przez Bruksela ma ustalić, czy firma Muska wprowadzając nową funkcjonalność wzięła pod uwagę fakt, iż użytkownicy Groka mogą mieć kontakt z treściami przedstawiającymi przemoc płciową i wykorzystywanie dzieci, co mogło skutkować negatywnym wpływem na zdrowie użytkowników.

Gawkowski: To nie błąd algorytmu, to realne zagrożenie

Do sprawy odniósł się w mediach społecznościowych wicepremier i minister cyfryzacji Krzysztof Gawkowski.

"Miliony seksualizowanych obrazów kobiet i mężczyzn, wygenerowanych przez Grok na X to nie 'błąd algorytmu', to realne zagrożenie" – napisał na platformie X polityk Lewicy.

Wicepremier podkreślił, że to wniosek Polski Komisja Europejska wszczęła formalne dochodzenie w sprawie chatbota Grok. "Platformy mają obowiązki. DSA na poziomie europejskim obowiązuje wszystkich – także gigantów z Doliny Krzemowej" – zaznaczył.

Szef resortu cyfryzacji przypomniał, że "bezpieczeństwo użytkowników nie podlega negocjacjom ani lobbingowi". "Prawo musi być egzekwowane konsekwentnie" – dodał.

"Dziś w zakresie egzekwowania DSA musimy polegać na aktywności Komisji Europejskiej, ale liczę, że nowe ustawy nad którymi już w rządzie pracujemy, dadzą Polsce realne narzędzia i możliwości działania, aby chronić internautów" – czytamy we wpisie Gawkowskiego.