„AI może zabić ludzkość do końca dekady”. Były pracownik Anthropic i OpenAI ostrzega przed skutkami rozwijania AI bez kontroli
Od wczoraj mamy prawdziwe trzęsienie ziemi wokół Anthropic i OpenAI. Rynek sztucznej inteligencji w takim kryzysie wizerunkowym jeszcze nie był. Czy to będzie impuls do większej kontroli nad twórcami narzędzi AI?
Wczoraj cały świat obiegła informacja, że OpenAI udało się rozwiązać równanie Naviera-Stokesa, jedno z siedmiu matematycznych problemów milenijnych, których przez dekady nikt nie był w stanie rozwiązać. Podobno nad rozwiązaniem zagadki miało pracować jednocześnie 10 tysięcy agentów, a cały proces miał zająć 88 godzin.
Jednak zachwyt nad „sukcesem” OpenAI był tylko chwilowy, bowiem szybko okazało się, że tak naprawdę mamy do czynienia z kradzieżą. Naukowiec, który pracował nad tym problemem, wykorzystywał m.in. Codex do swojej pracy. Jego zdaniem, OpenAI bez jego zgody uzyskało dostęp do jego prac i po prostu ukradło jego badania. OpenAI odrzuciło te zarzuty, ale nie poprawiło to wizerunku firmy. Więcej o tej sprawie przeczytacie w tym artykule.
Naukowiec pracujący dla Anthropic i OpenAI ma dość! „AI może zabić ludzkość do końca dekady”
Nie minęła nawet doba, a już mamy kolejne poważne kontrowersje wokół gigantów z branży AI. Tym razem dotyczą one największego rywala OpenAI, Anthropic. Wszystko za sprawą wypowiedzi jednego z naukowców pracującego dla twórców Claude, Jacoba Coxona. Ten we wtorek postanowił ogłosić swoje odejście z zespołu, a jego wpis na X wywołał prawdziwą burzę. Jak czytamy, pracując przez ostatnie 3 lata zarówno dla OpenAI i Anthropic, zauważył że żadna z tych firm nie jest odpowiedzialna i obie ryzykują naszym życiem. Coxon ostrzega, by nie lekceważyć zdolności sztucznej inteligencji, która już wkrótce będzie mogła „zhakować wszystko, zrewolucjonizować dowolną dziedzinę z dnia na dzień i zdobyć prawdziwą władzę oraz zasoby.”
To już samo w sobie niepokoi, a kolejne wpisy w tej nitce są jeszcze bardziej przerażające. Coxon wprost mówi, że twórcy AI wierzą, że sztuczna inteligencja będzie w stanie „zabić nas wszystkich do końca dekady”, ale nie przyznają tego publicznie. To już są bardzo niepokojące słowa, zwłaszcza gdy zestawimy je z kolejną wypowiedzią, w której Coxon przyznaje, że obie firmy mogłyby to przerwać, ale przez wyścig na to, kto bardziej rozwinie AI, nie zrobią tego.
Najwyższa pora zacząć kontrolować OpenAI i Anthropic. Zanim będzie za późno
Na koniec swojej nitki, były już pracownik Anthropic apeluje o wprowadzenie zakazu doskonalenia możliwości modeli. Nie da się oprzeć wrażeniu, że jest to dobre rozwiązanie. Obie firmy rozpędziły się już tak mocno w swoich działaniach, że sytuacja naprawdę może szybko wymknąć spod kontroli i skutki odczujemy wszyscy. Regulacje dotyczące rozwijania sztucznej inteligencji są potrzebne już, tak samo jak organy kontrolujące pracę wszystkich firm z branży. Pozwalanie prywatnym firmom na rozwijanie tak niebezpiecznej technologii bez żadnych ograniczeń faktycznie może okazać się drogą do zagłady.
Sztuczna inteligencja okradła naukowców? OpenAI chwali się rozwiązaniem niemożliwego problemu
OpenAI i Samsung łączą siły. Czas na nową erę chipów sztucznej inteligencji
Intel podnosi ceny procesorów! Od października zapłacimy jeszcze więcej!
