Jak wynika z wystąpienia António Guterresa opublikowanego przez ONZ, sztuczna inteligencja rozwija się szybciej niż instytucje, które próbują ją kontrolować. Sekretarz generalny ostrzegł, że na naszych społeczeństwach prowadzony jest eksperyment „bez planu i bez zgody”. I trudno o lepsze podsumowanie tego, jak wygląda dziś globalny wyścig AI.
AI nie czeka już na polecenia
Najmocniejszy fragment wystąpienia dotyczył tempa. Internet potrzebował piętnastu lat, żeby dotrzeć do miliarda ludzi. AI zrobiła to w dwa lata. Ale tempo adopcji to tylko część problemu.
Według Guterresa obecne systemy nie są już wyłącznie narzędziami, które czekają na komendy człowieka. Piszą kod, działają w sieci i podejmują decyzje przy coraz mniejszym nadzorze. Instytucje publiczne były projektowane z myślą o maszynach wykonujących polecenia. Nie o maszynach, które same wybierają.
I tu pojawia się pojęcie vibe-codingu. W uproszczeniu: pozwalamy AI coś zrobić, nie patrzymy zbyt dokładnie, a skoro działa, uznajemy, że wystarczy. Zdaniem szefa ONZ taka logika może sprawdzać się przy kodowaniu, ale nie przy prawdzie, bezpieczeństwie i przyszłości ludzkości.
Dzieci, deepfake’i i maszyny na wojnie
ONZ wskazuje też konkretne czerwone linie. Guterres mówił o dzieciach oszukiwanych przez maszyny udające przyjaciół. O systemach popychających nieletnich w stronę samookaleczeń oraz o materiałach seksualnych generowanych przez AI. Zaapelował o zasady bezpieczeństwa dla każdego systemu, do którego może mieć dostęp dziecko.
Osobny wątek to wojna. Sekretarz generalny ONZ nazwał śmiercionośne systemy autonomiczne wprost: „killer robots”. Chodzi o maszyny, które wybierają cel i atakują bez ludzkiej kontroli. Jego zdaniem powinny zostać zakazane przez prawo międzynarodowe.
Problemem nie jest sama AI. Problemem jest władza
Najciekawszy nie jest jednak strach przed technologią, ale pytanie, kto ją kontroluje? Guterres zwrócił uwagę, że moc obliczeniowa, dane i talenty są skupione w rękach garstki firm oraz kilku państw. Większość świata nie ma realnego wpływu na decyzje, które mogą przesądzić o jego przyszłości.
To dlatego AI nie jest już tylko tematem technologicznym. To temat polityczny, gospodarczy i społeczny. Jeżeli kilka firm będzie posiadać infrastrukturę, modele, dane i energię potrzebną do ich trenowania, reszta świata stanie się klientem cudzej przyszłości.
Czytaj więcej w dziale nowe technologie:
Mieszkańcy pozwali Microsoft. Poszło o centrum danych AI!
Gigant AI za 100 miliardów dolarów upadł. Wystarczyli wkurzeni mieszkańcy
Ratunek dla rynku RAM coraz bliżej? Micron powiększa swój kompleks w Hiroshimie