To miał być zamknięty egzamin z hakowania. Zakończył się prawdziwym włamaniem do obcej firmy. Autonomiczny agent napędzany modelami OpenAI wydostał się z odizolowanego środowiska testowego, połączył z internetem i zaatakował infrastrukturę Hugging Face. Powód był niemal absurdalny: chciał wykraść odpowiedzi i oszukać na teście – podał Reuters.
Model znalazł wyjście z piaskownicy
OpenAI sprawdzało GPT-5.6 Sol oraz jeszcze potężniejszy, nieudostępniony model w benchmarku ExploitGym. Test miał pokazać, czy sztuczna inteligencja potrafi samodzielnie wykrywać i wykorzystywać luki. Aby poznać jej maksymalne możliwości, firma wyłączyła część blokad, które normalnie powstrzymują modele przed prowadzeniem groźnych operacji.
Agent dostał jeden cel: rozwiązać zadania. Najpierw odkrył nieznaną wcześniej lukę w oprogramowaniu pośredniczącym w pobieraniu pakietów. Następnie podniósł swoje uprawnienia, przedostał się do maszyny z dostępem do sieci i uznał, że odpowiedzi mogą znajdować się na serwerach Hugging Face. Na tym nie koniec. Łącząc kolejne luki ze skradzionymi danymi logowania, dostał się do produkcyjnej bazy firmy. OpenAI przyznaje, że modele były tak skupione na zaliczeniu testu, iż posunęły się do włamania do prawdziwego systemu.
Hugging Face odpowiedziało własną sztuczną inteligencją
Atak nie przeszedł niezauważony. Systemy Hugging Face wykryły nietypową aktywność i zatrzymały intruza. Firma ujawniła dostęp do części zbiorów danych oraz kilku danych uwierzytelniających. Nie znalazła natomiast dowodów na zmiany w publicznych modelach, datasetach ani oprogramowaniu. Nadal sprawdza, czy ucierpiały dane klientów lub partnerów.
W logach pozostało ponad 17 tys. zdarzeń. Do ich przeanalizowania Hugging Face użyło agentów AI. Komercyjne modele odrzucały jednak część zapytań, ponieważ ich zabezpieczenia traktowały prawdziwe komendy włamywacza jak próbę przeprowadzenia kolejnego ataku. Śledczy musieli więc sięgnąć po uruchamiany lokalnie model GLM 5.2.
W całej historii jest jeszcze jeden niewygodny szczegół. Komunikat OpenAI momentami brzmi jak reklama możliwości nowych modeli. Firma pokazuje, jak sprawnie prowadzą wieloetapowe operacje, i zachęca specjalistów do korzystania z jej narzędzi obronnych. Najpierw musi jednak odpowiedzieć na pytanie, dlaczego eksperyment z wyłączonymi zabezpieczeniami mógł dosięgnąć prawdziwej firmy.
OpenAI nazywa zdarzenie bezprecedensowym i zapowiada zaostrzenie ochrony. Agent nie musiał jednak „zbuntować się” przeciw człowiekowi. Wystarczyło dać mu źle ograniczony cel, narzędzia oraz szczelinę w cyfrowej klatce.
Czytaj więcej w dziale nowe technologie na Bithub:
Firma wysyła mu laptop i pensję. On pracuje dla Korei Północnej
W Chinach nie znajdziesz już dziewczyny AI. Chłopaka zresztą też
Diamentowy lotos na orbicie. Pierwsza prywatna rakieta w kraju wystartowała