Geoffrey Hinton, nazywany „Ojcem chrzestnym AI”, nie zamierza siedzieć cicho, udając, że nic się nie dzieje. W podcaście „Diary of a CEO” nie owija w bawełnę. Według niego nadciąga prawdziwy technologiczny armagedon, którego nie zatrzyma ani Google, ani rządy, ani… my sami. Sztuczna inteligencja nie tylko może pozbawić nas pracy czy prywatności. Może też – dosłownie – nas wyeliminować.
„AI może być ostatnim wynalazkiem ludzkości. Dosłownie”
„Nie powstrzymamy ich, jeśli będą chciały się nas pozbyć” – powiedział Hinton, dodając z chłodnym spokojem: „Jeśli chcesz wiedzieć, jak wygląda życie, gdy nie jesteś na szczycie łańcucha inteligencji, zapytaj kurczaka”.
Zdaniem Hintona problem jest podwójny. Z jednej strony mamy ludzi – firmy, armie i polityków – którzy już dziś korzystają z AI do cyberataków, broni i manipulacji. Z drugiej – same maszyny, które lada chwila mogą wyjść spod kontroli. A wtedy „human off switch” może być tylko złudzeniem.
Jak maszyna miałaby nas zniszczyć? Tu Hinton nie pozostawia złudzeń. „Najbardziej logiczne byłoby stworzenie wirusa. Bardzo zaraźliwego, bardzo śmiertelnego i bardzo powolnego. Takiego, że wszyscy byliby już zainfekowani, zanim ktoś się zorientuje” – ostrzega.
Jego porównania z bombą atomową są jeszcze bardziej niepokojące. – „Bomba była dobra tylko w jednym. AI jest dobra we wszystkim” – mówi. A gdy do tego dołożymy motywację zysku firm i geopolityczny wyścig, przestaje być śmiesznie. – „Zarabiasz tym, co ludzie klikają. A klikają to, co ekstremalne i potwierdza ich poglądy. I tak właśnie działa ten system” – dodaje.
Nadzieja? Malutka, ale istnieje
Hinton opuścił Google, by móc swobodnie ostrzegać świat. Dziś nie wie, czy da się to jeszcze zatrzymać. – „Może nie da się sprawić, by AI nie chciała przejąć władzy. Ale byłoby szaleństwem wyginąć tylko dlatego, że nawet nie spróbowaliśmy” – kończy.
Oczywiście, można odnieść wrażenie, że Geoffrey Hinton brzmi już trochę jak szalony naukowiec z filmu katastroficznego. Ten, którego wszyscy ignorują, dopóki nie będzie za późno. Ale kto wie? Może to właśnie on jest ostatnim sprawiedliwym w świecie, który pędzi na oślep ku własnemu zagładzie. Może za kilka lat ktoś napisze o nim: „ostrzegał nas, ale nikt nie słuchał”.
A może po prostu słońce przyświeciło dla niego za mocno i trochę przesadza. Tyle że z takim CV… lepiej się chociaż chwilę zastanowić.