Lider zespołu bezpieczeństwa w OpenAI rzucił papierami! „Kultura firmy jest niebezpieczna”

Problemów największych firm z branży sztucznej inteligencji ciąg dalszy. Lider zespołu bezpieczeństwa w OpenAI podjął decyzję o opuszczeniu firmy, wskazując, że działanie OpenAI jest nieostrożne.

Wygląda na to, że wszelkie wypowiedzi ekspertów i byłych pracowników zarówno OpenAI, jak i Anthropic, jakoby te firmy nie przejmowały się bezpieczeństwem swoich modeli AI, nie są dalekie od prawdy. Taka myśl nasuwa się, gdy czytamy w zagranicznej prasie, że lider zespołu ds. systemów bezpieczeństwa OpenAI, David Robinson, postanowił rozstać się z firmą. A jeszcze bardziej do tej myśli przybliżają nas jego słowa, które przekazał w opublikowanym przez siebie artykule. Robinson pisze w nim, że zgadza się ze słowami byłych pracowników, jakoby firmy opracowujące tę technologię nie były wystarczająco ostrożne.

Szef zespołu bezpieczeństwa w OpenAI odchodzi! Jego słowa potwierdzają wcześniejsze głosy o podejściu firmy do bezpieczeństwa AI

Dodał również, że wraz z wypuszczaniem kolejnych modeli, OpenAI nie jest w stanie osiągnąć odpowiedniej formy ochrony. Jego zdaniem, to wina tego, że firma jedyne na czym się skupia, to na jak najszybszym wypuszczaniu kolejnych produktów, a bezpieczeństwo przez to zostaje daleko w tyle. Jak twierdzi, takie podejście oznacza w praktyce ciągłe poprawianie zabezpieczeń dopiero po wykryciu kolejnych problemów. A wraz ze wzrostem możliwości modeli rośnie również skala potencjalnych zagrożeń, dlatego jego zdaniem taki sposób działania może wkrótce okazać się niewystarczający.

Były już lider zespołu ds. bezpieczeństwa proponuje dwie rzeczy, które zapewnią większe bezpieczeństwo przy rozwijaniu sztucznej inteligencji. Według niego, firmy zajmujące się sztuczną inteligencją muszą w większym stopniu polegać na wiedzy specjalistycznej w zakresie bezpieczeństwa. Drugą propozycją jest rozwój nowych metod badań nad bezpieczeństwem AI, które pozwolą upewnić się, że znacznie potężniejsze modele będą podejmować bezpieczne decyzje również wtedy, gdy człowiek nie będzie ich bezpośrednio nadzorował.

To ważny głos w dyskusji o bezpieczeństwie AI. Problem może naprawdę być poważny

Robinson w OpenAI był odpowiedzialny m.in. za przygotowywanie raportów bezpieczeństwa publikowanych przy dużych premierach modeli. Dla twórców Chatu GPT pracował przez 3.5 roku, a więc niemal od samego początku wielkiego sukcesu OpenAI. Dlatego jego apel jest niezwykle istotny dla wszystkich obserwatorów rozwoju AI, zwłaszcza że jest to głos osoby z centrum rozwijania sztucznej inteligencji, w dodatku pracującej przy bezpieczeństwie modeli.

Przeczytaj także:

Micron z kolejnym rekordem przychodów w IV kwartale operacyjnym 2026 r.

Gigant AI idzie na giełdę i ostrzega przed zagładą ludzkości

AI zabrało niektórym zdolność przewidywania zagrożeń. A będzie jeszcze gorzej