Gigant AI idzie na giełdę i ostrzega przed zagładą ludzkości
Dokumenty złożone w ramach przygotowań do pierwszej oferty publicznej spółki Anthropic rzucają całkiem nowe światło na wyzwania, z jakimi mierzą się obecnie liderzy branży zaawansowanych technologii.
W najnowszym prospecie emisyjnym spółki ostrzega, że nastawienie organów państwowych oraz administracji rządowych wobec jej samej, jak i jej technologii, może wywrzeć drastyczny wpływ na całość jej działalności komercyjnej. Ewentualne napięcia na linii rząd i przedsiębiorstwo mogą nie tylko uderzyć w bezpośrednie kontrakty z sektorem publicznym, ale również poważnie zaszkodzić relacjom z kluczowymi partnerami biznesowymi oraz inwestorami prywatnymi.
Zaskakujące ostrzeżenia
Zazwyczaj spółki giełdowe w dokumentach prospektowych rutynowo sygnalizują ryzyka regulacyjne, zwłaszcza gdy znaczna część ich przychodów pochodzi z zamówień obronnych lub rządowych. Klasycznym przykładem jest sytuacja spółek takich jak SpaceX, które wprost wskazują, że utrzymanie dobrych relacji z agencjami federalnymi Stanów Zjednoczonych jest absolutnym warunkiem przetrwania biznesu. W przypadku Anthropic sytuacja wygląda jednak zupełnie inaczej i budzi znacznie większe emocje. Zastrzeżenia zawarte w prospekcie sięgają znacznie dalej niż standardowa formułka prawna o ryzyku regulacyjnym. Przedstawiciele firmy sugerują wprost, że postrzeganie spółki przez rządzących może wywołać efekt domina, wpływając na zaufanie klientów komercyjnych, a w skrajnym scenariuszu niosąc konsekwencje dla całej cywilizacji. W dokumencie znalazło się wręcz niezwykłe ostrzeżenie, wskazujące, że wysoce zaawansowane systemy sztucznej inteligencji mogą stwarzać katastrofalne lub wręcz egzystencjalne zagrożenia dla ludzkości.
Tego rodzaju deklaracja ze strony podmiotu, który planuje debiut giełdowy pokazuje wyjątkowe pęknięcie między komercyjnym optymizmem a obawami o bezpieczeństwo publiczne. Co istotne, bezpośrednie umowy z agencjami rządowymi odpowiadają obecnie za mniej niż 1% corocznych przychodów Anthropic, co dowodzi, że głównym źródłem niepokoju nie jest ewentualna utrata państwowych zamówień, ale utrata reputacji na rynku cywilnym.
Pojawienie się tak mocnych sformułowań w dokumencie emisyjnym jest konsekwencją narastających kontrowersji wokół wyścigu technologicznego i braku spójnych ram prawnych. Anthropic od dawna przyciąga uwagę opinii publicznej jako podmiot alarmujący o zagrożeniach związanych z niekontrolowanym rozwojem autonomicznych modeli. Dyskusja na temat bezpieczeństwa sztucznej inteligencji przybrała na sile w obliczu doniesień o powtarzających się atakach hakerskich przeprowadzanych przez tak zwane samowolne autonomiczne agenty. Szef firmy, Dario Amodei, wielokrotnie wzywał całą branżę do celowego spowolnienia tempa prac deweloperskich, aby umożliwić stworzenie skutecznych mechanizmów kontroli. Jego stanowisko spotkało się z olbrzymim odzewem w sieciach społecznościowych.
Narastające napięcie
Atmosfera wokół spółki zagęściła się jeszcze bardziej po spotkaniu, które odbyło się w minioną niedzielę. To właśnie wtedy Amodei rozmawiał przy kolacji z prezydentem Stanów Zjednoczonych Donaldem Trumpem. Choć apele o wprowadzenie twardych regulacji państwowych stają się coraz głośniejsze, Trump konsekwentnie odrzuca większość propozycji narzucania sztywnych gorsetów prawnych dla sektora innowacji.
Najbliższe miesiące pokażą, czy Anthropic zdoła przekonać do siebie akcjonariuszy i bezpiecznie przeprowadzić ofertę publiczną mimo niesprzyjającego otoczenia politycznego. Inwestorzy będą skrupulatnie analizować każdy kolejny ruch Federalnej Komisji Handlu oraz decyzje Departamentu Obrony. Jeśli spółce uda się udowodnić, że potrafi skutecznie chronić swoje interesy i kontynuować komercjalizację modeli przy zachowaniu najwyższych standardów bezpieczeństwa, może to otworzyć nową erę w historii światowej giełdy. W przeciwnym razie przypadek ten stanie się dotkliwą przestrogą dla wszystkich entuzjastów nieograniczonego rozwoju sztucznej inteligencji, pokazując, że nawet wycena na poziomie 2 bln USD nie daje pełnej odporności na decyzje podejmowane w gabinetach polityków.
Przeczytaj również:
Rekordowy rajd na Bitcoinie i potężny cios hakerów. Z sieci zniknęło 1,26 mld USD
Incydent bezpieczeństwa w MetaMask. Gigant ewakuuje setki tysięcy Ethereum
