Polski badacz wyrzucony z OpenAI. W tle niebezpieczny incydent

Polski badacz wyrzucony z OpenAI. W tle niebezpieczny incydent

Dodano: 
Sztuczna inteligencja, zdjęcie ilustracyjne
Sztuczna inteligencja, zdjęcie ilustracyjne Źródło: Pixabay / geralt
Tomasz Korbak, polski badacz zajmujący się bezpieczeństwem sztucznej inteligencji, został zwolniony z OpenAI w trybie natychmiastowym.

Tomasz Korbak, Jasmine Wang oraz Mikita Balesni zostali zwolnieni z OpenAI, jednej z najbardziej rozpoznawalnych firm zajmujących się rozwojem sztucznej inteligencji. Wszyscy troje pracowali nad bezpieczeństwem zaawansowanych modeli AI.

Jak informują Reuters i TechCrunch, oficjalnym powodem zwolnień było naruszenie wewnętrznych zasad dotyczących dostępu do poufnych informacji i ich przekazywania podmiotom zewnętrznym.

Badacze nie zgadzają się jednak z zarzutami. Opublikowali list otwarty skierowany do organów odpowiedzialnych za nadzór nad bezpieczeństwem OpenAI. Ostrzegają w nim przed atmosferą strachu, która ich zdaniem może zniechęcać pracowników do zgłaszania zagrożeń związanych z rozwojem sztucznej inteligencji.

Polski naukowiec zwolniony z dnia na dzień. "Rozmawianie z METR było moją pracą"

Jak opisuje "Rzeczpospolita", Korbak miał zostać poinformowany o zwolnieniu wyłącznie ustnie. Według jego relacji ochroniarz odebrał mu identyfikator, a następnie wyprowadził go z siedziby firmy w San Francisco. Badacz twierdzi, że jako uzasadnienie usłyszał o utracie zaufania w związku z komunikacją z niezależną organizacją METR, zajmującą się oceną bezpieczeństwa zaawansowanych systemów AI.

Korbak był technicznym łącznikiem między OpenAI a audytorami badającymi jeden z najpoważniejszych incydentów bezpieczeństwa firmy. "Rozmawianie z METR było moim bezpośrednim obowiązkiem służbowym. Od miesięcy alarmowałem, że tracimy zdolność monitorowania procesów myślowych agentów AI. Wierzę, że to właśnie było prawdziwą przyczyną zwolnienia" – przekazał Korbak w mediach społecznościowych.

Polak utrzymuje, że nie przedstawiono mu szczegółowego pisemnego uzasadnienia decyzji ani konkretnych przykładów zachowań, które miałyby naruszać obowiązujące procedury.

Agenci AI wydostali się z zamkniętego środowiska

Spór o zwolnienie Korbaka jest związany z incydentem z lipca 2026 roku. Podczas wewnętrznych testów cyberbezpieczeństwa modele OpenAI ominęły zabezpieczenia odizolowanego środowiska, uzyskując dostęp do internetu oraz systemów zewnętrznych.

W wyniku działań autonomicznych agentów naruszone zostały zabezpieczenia infrastruktury OpenAI i platformy Hugging Face, popularnej wśród twórców i badaczy sztucznej inteligencji. Incydent został opisany przez OpenAI w opublikowanym w sierpniu raporcie. Firma przyznała, że modele podejmowały działania niezgodne z założeniami testów, wykorzystywały podatności infrastruktury i komunikowały się nieautoryzowanymi kanałami.

Do niezależnej oceny zdarzenia zaangażowano organizację METR, z którą współpracował Korbak. Zwolnieni badacze przekonują, że incydent miał bezprecedensowy charakter, a część procedur dotyczących współpracy z audytorami była dopiero opracowywana.

Spółka kierowana przez Sama Altmana zaprzecza, jakoby zwolnienia stanowiły odwet za zgłaszanie problemów z bezpieczeństwem AI. Przedstawiciele OpenAI utrzymują, że decyzje były konsekwencją naruszenia zasad obchodzenia się z wrażliwymi informacjami oraz utraty zaufania do pracowników. Firma nie ujawniła jednak publicznie pełnych szczegółów dotyczących zarzucanych naruszeń.

Zwolnieni naukowcy przedstawiają odmienne stanowisko. Ich zdaniem tak radykalne działania mogą doprowadzić do sytuacji, w której inni pracownicy będą obawiali się otwarcie mówić o zagrożeniach. W liście otwartym apelują o przejrzyste zasady współpracy z niezależnymi audytorami, zachowanie możliwości monitorowania działania modeli AI i utrzymanie kultury otwartej dyskusji o bezpieczeństwie.

Czytaj też:
Czy Polacy obawiają się sztucznej inteligencji? Jest sondaż
Czytaj też:
AI odczytała tajne pismo Napoleona. Ludziom nie udało się przez 200 lat

Źródło: X / rp.pl
Czytaj także