Anthropic opublikowało raport o cyberatakach z wykorzystaniem Claude. Okazuje się, że kraje takie jak Rosja, Iran czy Chiny wykorzystywały narzędzie AI do tworzenia broni czy inwigilacji obywateli.
Twórcy Claude opublikowali raport dotyczący wykrywania i przeciwdziałania niewłaściwego wykorzystania sztucznej inteligencji. Raport powstał na bazie ośmiomiesięcznej pracy zespołu Threat Intelligence, który odpowiada za bezpieczeństwo Claude i tego, w jaki sposób jest wykorzystywane. Mowa przede wszystkim o cyberatakch, próbach oszustw i wyłudzeń czy kwestiach związanych z bronią. Co ważne, Anthropic informuje, że wszystkie omawiane przypadki dotyczą trzech modeli: Claude Haiku, Sonnet i Opus. Claude Fable i Mythos miały podobno nie być wykorzystywane do wspomnianych działań.
Iran wykorzystywał Claude do wszystkiego. Od aresztowań wrogów reżimu po bombardowanie amerykańskich okrętów
Niezwykle ciekawe są przypadki dotyczące wykorzystania Claude przez irańskie władze. Jednym z przypadków o którym mowa w raporcie jest sklonowanie opozycjonisty, by w ten sposób wyłapać innych przeciwników reżimu. Zresztą Iran za pomocą AI tworzył także rzekome „zeznania”, które następnie były przedstawiane podczas Rady Praw Człowieka ONZ. Kolejny opisywany przykład to tworzenie za pomocą AI kampanii na rzecz poparcia konfliktu z USA i Izraelem.
Co ciekawe, odpowiedzialne za to są oficjalne irańskie instytucje, podległe m.in. tamtejszemu ministerstwu kultury. Treści publikowano m.in. na Facebooku, TikToku i Twitterze. W raporcie wspomniane jest nawet to, że Claude użyto do tworzenia planów organizacyjnych pogrzebu Najwyższego Przywódcy kraju. Warto w tym miejscu wspomnieć, że Iran oficjalnie nie ma dostępu do Claude, zatem wszystkie te działania realizowano przy wykorzystaniu sieci VPN.
Jednak Iran wykorzystywał AI nie tylko do tłumienia opozycji i działań propagandowych, ale również do prowadzenia wojny z USA i Izraelem. Według Anthropic, irańskie siły zbrojne wykorzystywały Claude do stworzenia systemu, który pomagał namierzać amerykańskie okręty wojenne. Irańczycy zbierali dokładne dane dotyczące statków i ich załóg, a AI miało im pomóc w rozpoznaniu słabych punktów amerykańskiej floty.
Nie tylko Iran. Rosja też chętnie wykorzystywała Claude.
W raporcie poświęcono także dużo uwagi temu, jak z AI korzystała Rosja. Tutaj rola AI polegała na tworzeniu materiałów propagandowych dotyczących wojny na Ukrainie i wyborów w kraju. Anthropic wymienia m.in. publikowanie treści stworzonych przez Claude w mediach państwowych i to nie tylko w samej Rosji, ale także m.in. w zagranicznych wersjach Sputnika. Z pomocą Claude Rosjanie prowadzili także propagandowe radio w Republice Środkowej Afryki. AI miało odpowiadać za tworzenie treści jawnie prorosyjskich i antyfrancuskich. Co warte uwagi, za radio odpowiedzialna była… grupa Wagnera.
Dużo bardziej niepokojące są wykryte przypadki wykorzystywania Claude do tworzenia broni konwencjonalnej. Anthropic wymienia m.in. tworzenie oprogramowania dla rakiet i dronów. Rosja miała także z pomocą Claude dokonywać zakupów broni, a konkretniej wyszukiwać pośredników i przygotowywać dokumentację. Osoby, które odpowiadały za ten proceder, miały być powiązane z rosyjskim ministerstwem obrony, co wskazuje na to, że rozkazy szły prosto z Kremla.
Chiny poszły o krok dalej i chciały wykraść kod
Anthropic odnotowało także aż siedem prób wykradnięcia kodu Claude przez Chiny. Oprócz tego, Chińczycy mieli wykorzystywać narzędzie do tych samych celów, co Rosjanie. W przypadku Chin Anthropic wykryło m.in. próby stworzenia broni podwodnej, śledzenia swoich obywateli, cyberataków i oczywiście tworzenia propagandy. Ponadto, Chiny wykorzystywały Claude m.in do inwigilacji Ujgurów w Syrii czy tajwańskich chrześcijan. Według Anthropic, priorytety operacji w zakresie gromadzenia danych zgadzają się z priorytetami bezpieczeństwa państwa, co wskazuje na to, że działania te prowadzono na zlecenie rządu.
W raporcie wspomniany jest także chiński gigant – alibaba. Według Anthropic, doszło do wykradnięcia ponad 150 milionów wymian, które następnie były wykorzystywane do szkolenia chińskiego odpowiednika Claude – qwen. Alibaba miała uzyskać dostęp do narzędzia za pośrednictwem kilku tysięcy fałszywych kont. O podobne praktyki oskarżana jest także inna chińska firma, zajmująca się AI – Moonshot oraz kilka innych chińskich laboratoriów.
AI już jest bronią. I być może nawet bardziej niebezpieczną niż nam się wydaje
W raporcie pojawiają się także inne przypadki nieautoryzowanego używania Claude przez kraje z całego świata. Najciekawszym jest grupa jemeńskich bojowników, która z pomocą AI stworzyła pocisk rakietowy i nawet go przetestowała. Inną ciekawą sytuacją, którą opisało Anthropic, jest to, jak jeden mężczyzna z Mali stworzył za pomocą AI system, dzięki któremu można było śledzić 25 milionów numerów telefonu w kraju.
Jak inaczej skomentować te informacje, niż stwierdzając, że sztuczna inteligencja jest już pełnoprawnym narzędziem wojennym? Rozpoznanie wojskowe, szpiegostwo, inwigilacja obywateli, propaganda, produkcja broni – to wszystkie dziedziny, w których AI jest już wykorzystywane. Korzysta z niej nie tylko Rosja, Iran czy Chiny, ale też i Stany Zjednoczone. Jeśli Polska chce się przygotować na potencjalny konflikt, to musimy się odpowiednio przygotować z zakresu cyberbezpieczeństwa i reagowania. Zwłaszcza, że już teraz obserwujemy, jak obce siły manipulują nastrojami Polaków, wykorzystując AI do tworzenia filmów i postów, które mają nas nastawić przeciwko Ukrainie.
Przeczytaj również:
ChatGPT uznał siebie za Jezusa. Niemal nie doprowadził do tragedii
AI znów oszukało system. Autonomiczne algorytmy urządziły sobie prywatny czat
„AI może zabić ludzkość do końca dekady”. Były pracownik Anthropic i OpenAI ostrzega przed skutkami…