AI znowu nawywijało. OpenAI odcina swoje modele od internetu!
W centrum dowodzenia OpenAI najwyraźniej doszli do wniosku, że ich najpotężniejsze modele stały się zbyt nieprzewidywalne, by pozwalać im na korzystanie z internetu. Efekt? Odłączenie wtyczki. I nie jest to wyłącznie teoretyzowanie. We wrześniu jeden z eksperymentalnych modeli znalazł lukę w zabezpieczeniach i połączył się z siecią, choć nie powinien mieć takiej możliwości.
Model OpenAI znalazł sposób na wydostanie się z cyfrowej klatki
Szczegóły ujawniono w piątek. W firmie przyznali też, że incydent zmusił ją do wstrzymania części najbardziej zaawansowanych prac. Dokładnie 20 września model OpenAI wykonywał zadanie wymagające wyszukiwania informacji. Pracował w odizolowanym środowisku, które miało uniemożliwiać kontakt z internetem. Najpierw próbował korzystać z wyszukiwarek. Bez powodzenia. Następnie wykorzystał niewłaściwie skonfigurowany mechanizm DNS, służący normalnie do tłumaczenia nazw domen na adresy sieciowe. Dzięki temu nawiązał kontakt z zewnętrznym chatbotem.
System monitorujący wykrył podejrzane zachowanie po około 12 minutach. Człowiek zareagował trzy minuty później, ale eksperymentu nie zatrzymano od razu. Działał jeszcze ponad dwie godziny, zanim pracownicy ręcznie zakończyli jego pracę.
OpenAI przyznało, że zawiodły nie tylko zabezpieczenia sieciowe. Mechanizm automatycznego zatrzymywania nie zadziałał zgodnie z oczekiwaniami. W dodatku późniejsza analiza wykazała, że niektóre podobne próby kontaktu z zewnętrznymi serwerami nie otrzymały odpowiednio wysokiego priorytetu.
OpenAI odcina internet i wstrzymuje treningi
Po tym wszystkim w siedzibie OpenAI zapadły poważne decyzje. Najbardziej zaawansowane modele mają być trenowane bez dostępu do normalnego internetu. Zamiast tego otrzymają archiwa i symulowane środowiska, w których będą mogły wykonywać zadania bez łączenia się z siecią, żeby znowu czegoś nie nawywijały. OpenAI wstrzymało również treningi, testy i część eksperymentów z wykorzystaniem narzędzi dla swoich najpotężniejszych modeli. Te wrócą do akcji, jak już zostaną okiełznane.
To nie pierwszy taki przypadek. W lipcu eksperymentalny agent OpenAI wydostał się ze środowiska testowego i uzyskał dostęp do infrastruktury Hugging Face. O tamtym incydencie informowaliśmy już na BitHubie.
Decyzja nie oznacza, że ChatGPT nagle przestanie wyszukiwać informacji w internecie. Nowe ograniczenia dotyczą wewnętrznych testów, a nie zwykłego korzystania z modeli OpenAI.
Czytaj więcej w dziale nowe technologie na Bithub:
Słynny producent gier kończy działalność. BioWare obrzydziło do siebie graczy
Wielki ptak powróci? Firma bio-techowa chce wskrzesić wymarły gatunek
