Komisja zarzuca gigantowi brak przeprowadzenia oceny ryzyka przed wprowadzeniem nowej funkcji Groka. Nowy produkt firmy Muska jest chatbotem, którego działanie opiera się na sztucznej inteligencji. Zdaniem Komisji Europejskiej, platforma X nie oszacowała potencjalnych zagrożeń, jakie Grok mógłby stwarzać dla użytkowników, a także nie podjęła działań ograniczających wspomniane ryzyka. Bruksela wskazuje, że stanowi to naruszenie unijnych przepisów o sługach cyfrowych (DSA).
KE podkreśla, iż Grok umożliwia generowanie oraz rozpowszechnianie na terenie Unii Europejskiej nielegalnych treści, takich jak zmanipulowane obrazy o charakterze seksualnym, także przedstawiających nieletnich.
Rzecznik KE ds. cyfrowych Thomas Regnier wskazał, iż funkcja wprowadzona od 2024 r. przez X nowa funkcja Grok nie została uwzględniona w żadnych raportach oceny ryzyka, które przedstawia firma. Postępowanie wszczęte przez Bruksela ma ustalić, czy firma Muska wprowadzając nową funkcjonalność wzięła pod uwagę fakt, iż użytkownicy Groka mogą mieć kontakt z treściami przedstawiającymi przemoc płciową i wykorzystywanie dzieci, co mogło skutkować negatywnym wpływem na zdrowie użytkowników.
Gawkowski: To nie błąd algorytmu, to realne zagrożenie
Do sprawy odniósł się w mediach społecznościowych wicepremier i minister cyfryzacji Krzysztof Gawkowski.
"Miliony seksualizowanych obrazów kobiet i mężczyzn, wygenerowanych przez Grok na X to nie 'błąd algorytmu', to realne zagrożenie" – napisał na platformie X polityk Lewicy.
Wicepremier podkreślił, że to wniosek Polski Komisja Europejska wszczęła formalne dochodzenie w sprawie chatbota Grok. "Platformy mają obowiązki. DSA na poziomie europejskim obowiązuje wszystkich – także gigantów z Doliny Krzemowej" – zaznaczył.
Szef resortu cyfryzacji przypomniał, że "bezpieczeństwo użytkowników nie podlega negocjacjom ani lobbingowi". "Prawo musi być egzekwowane konsekwentnie" – dodał.
"Dziś w zakresie egzekwowania DSA musimy polegać na aktywności Komisji Europejskiej, ale liczę, że nowe ustawy nad którymi już w rządzie pracujemy, dadzą Polsce realne narzędzia i możliwości działania, aby chronić internautów" – czytamy we wpisie Gawkowskiego.
Czytaj też:
Dwa nowe projekty ws. DSA. Resort ujawniaCzytaj też:
AI wymknęła się spod kontroli. Chatbot Muska zablokowany w Azji
Polecamy Państwu „DO RZECZY+”
Na naszych stałych Czytelników czekają: wydania tygodnika, miesięcznika, dodatkowe artykuły i nasze programy.
Zapraszamy do wypróbowania w promocji.