Sztuczna inteligencja zacznie żyć swoim życiem i człowiek nie będzie mógł nad nią zapanować – twierdzi Geoffrey Hinton, laureat Nagrody Nobla i informatyk nazywany „ojcem chrzestnym AI”.
Uważaj na AI!
W rozmowie z CNN podczas konferencji Ai4 w Las Vegas. Hinton po raz kolejny ostrzegł, że ludzie za jakiś czas nie będą mogli kontrolować AI. „Nie wierzę, że będziemy w stanie utrzymać nad nimi [agentami AI] kontrolę w tak prosty sposób, że po prostu je przechytrzymy”.
I, co ciekawe, tym razem to nie pustosłowie. Kilka dni temu OpenAI przyznało, że jego model GPT-5.6-Sol odnalazł lukę w wewnętrznej usłudze sieciowej, uzyskał dodatkowe uprawnienia i wykrył połączenie z internetem. W efekcie zhakował platformę Hugging Face. Powód? Chciał zrealizować zadanie, jakie powierzył mu człowiek.
Meta przyznała się do podobnej wpadki: jej agent AI w wyniku błędnej konfiguracji także uzyskał dostęp do internetu.
Hinton powiedział, że to wszystko jest „dość przerażające” i jest zdania, że „czeka nas wiele groźnych cyberataków. „Muszę jednak podkreślić, że przyszłość jest bardzo niepewna. Ludzie często mówią, że strona broniąca się może mieć więcej zasobów niż atakujący. Problem polega jednak na klasycznej asymetrii konfliktu: atakujący musi odnieść sukces tylko raz, a obrońca musi wygrywać za każdym razem”, dodał.
Nie jest to bunt maszyn
Warto jednak wyjaśnić, że to, co opisaliśmy powyżej, to nie początek buntu AI. Nie, algorytmy chciały wykonać zadania, jakie powierzył im człowiek. Nie znały jednak granic w swoim działaniu, potrzebowały danych, które znajdowały się poza środowiskiem testowym i stąd ucieczka do sieci.
Jednocześnie jednak Hinton od dawna ostrzega, że nowa technologia jest niebezpieczna i istnieje od 10 do 20 proc. szans na to, że… unicestwi ludzkość. Zbyt duży odsetek prawdopodobieństwa, by nie być miłym dla „swojego” ChataGPT.
„Jest się czym martwić i uważam, że jeśli nie zaczniemy się tym martwić teraz, mogą pojawić się problemy nie do naprawienia. Big Tech i firmy inwestujące w AI mają ukryty interes we wmawianiu ludziom dwóch rzeczy: po pierwsze, że technologia ta nie wymknie się spod kontroli, i po drugie, że nie wywoła masowego bezrobocia”, tłumaczył ekspert.
Dodał jednak, że „nikt tak naprawdę nie wie, co się wydarzy.
W przeszłości twierdził, że do systemów AI należy dodać „instynkt macierzyński”, by nowa technologia wiedziała, że musi troszczyć się o ludzi, gdy stanie się mądrzejsza.
Przeczytaj też inne gorące newsy: