Szok w Pentagonie: AI włamało się do systemów NSA. „Zajęło kilka godzin”
Według informacji ujawnionych podczas przesłuchania w amerykańskim Senacie model Mythos firmy Anthropic miał podczas autoryzowanych testów przeniknąć do niemal wszystkich tajnych systemów NSA w ciągu zaledwie kilku godzin. Jeśli doniesienia są prawdziwe, oznaczałoby to jeden z najbardziej spektakularnych pokazów możliwości ofensywnej sztucznej inteligencji w historii. Co jeszcze bardziej zaskakujące, mówimy o modelu, z którego sama NSA korzystała wcześniej w swoich operacjach cybernetycznych. Kilka godzin po ujawnieniu informacji administracja Donalda Trumpa nakazała ograniczenie zagranicznego dostępu do Mythos i pokrewnego modelu Fable. Ostatecznie Anthropic zdecydował się całkowicie wyłączyć oba systemy. Sztuczna inteligencja może być znacznie bliżej przejęcia roli najgroźniejszego narzędzia cybernetycznego na świecie.
Najważniejsze fakty
- Według senatora Marka Warnera model Mythos włamał się do niemal wszystkich tajnych systemów NSA podczas autoryzowanych testów bezpieczeństwa.
- Informację miał przekazać osobiście generał Joshua Rudd, dyrektor NSA i jednocześnie szef US Cyber Command; według relacji włamania nastąpiły w ciągu kilku godzin, a nie tygodni czy miesięcy.
- Tego samego dnia Amazon miał odkryć osobny jailbreak w modelach Anthropic.
- Administracja Donalda Trumpa nakazała ograniczenie zagranicznego dostępu do Mythos i Fable, a Anthropic zdecydował się całkowicie wyłączyć oba modele.
- Część źródeł twierdzi, że wyłączenie było bezpośrednią reakcją na wyniki testów NSA.
- Według innych źródeł Anthropic uważa incydent za przesadzony i twierdzi, że podobne obejścia są możliwe również w konkurencyjnych modelach AI.
- NSA wcześniej aktywnie wykorzystywała Mythos w działaniach cybernetycznych, inżynierowie Anthropic pracowali bezpośrednio wewnątrz siedziby NSA nad dostosowaniem modelu do zastosowań cyberbezpieczeństwa.
NSA używała Mythos jako broni. Teraz sama padła ofiarą jego możliwości
Najbardziej niezwykły w całej historii jest fakt, że Mythos nie był zewnętrznym zagrożeniem dla amerykańskich służb. Wręcz przeciwnie. Model został wdrożony we współpracy z NSA i miał pomagać w działaniach cybernetycznych wymierzonych w potencjalnych przeciwników Stanów Zjednoczonych.
Według źródeł związanych z projektem Anthropic oddelegował własnych inżynierów bezpośrednio do siedziby NSA. Ich zadaniem było dostosowywanie modelu do specyficznych zastosowań związanych z cyberbezpieczeństwem, wykrywaniem podatności oraz potencjalnie również operacjami ofensywnymi.
Z nieoficjalnych informacji wynika, że model posiadał zdolności wspierające penetrację sieci potencjalnych przeciwników, takich jak Chiny czy Iran. W praktyce oznacza to, że amerykańskie służby wykorzystywały jedno z najbardziej zaawansowanych narzędzi AI do symulowania i prowadzenia działań cybernetycznych jeszcze zanim temat trafił do opinii publicznej.
Dwie wersje wydarzeń i coraz więcej pytań
Wokół całej sprawy szybko pojawiły się jednak dwie konkurencyjne narracje. Pierwsza sugeruje, że wyniki testów były na tyle alarmujące, iż administracja USA zdecydowała się natychmiast ograniczyć dostęp do modeli. W takim scenariuszu zamknięcie Mythos i Fable byłoby próbą ograniczenia ryzyka przed dalszym rozpowszechnianiem technologii.
Druga wersja wydarzeń jest znacznie mniej dramatyczna. Według źródeł związanych z Anthropic firma uważa, że wykryte obejścia zabezpieczeń były relatywnie niewielkie i nie różniły się zasadniczo od podatności występujących w innych zaawansowanych modelach AI. W tej interpretacji reakcja władz miałaby być nieproporcjonalna do rzeczywistego zagrożenia.
Niezależnie od tego, która wersja okaże się bliższa prawdy, sam fakt pojawienia się takich informacji pokazuje skalę wyzwania stojącego przed służbami wywiadowczymi. Coraz trudniej odróżnić narzędzia służące do obrony od tych, które mogą zostać wykorzystane do ataku.
AI staje się nowym wyścigiem zbrojeń
Sprawa Mythos wpisuje się w znacznie szerszy trend. W ostatnich latach Pentagon intensywnie rozwija programy wykorzystujące sztuczną inteligencję do monitorowania infrastruktury krytycznej, analizy zagrożeń oraz działań cybernetycznych związanych z potencjalnym konfliktem z Chinami.
Jednocześnie Anthropic pozostaje w sporze z Departamentem Obrony USA dotyczącym klasyfikacji firmy jako potencjalnego ryzyka dla łańcucha dostaw. Taka klasyfikacja mogłaby ograniczyć współpracę przedsiębiorstwa z częścią instytucji rządowych i wojskowych. Mimo to współpraca z NSA była kontynuowana.
Firma od początku podkreślała również, że nie zgadza się na wykorzystanie swoich modeli do masowej inwigilacji obywateli ani w pełni autonomicznych systemów bojowych. Nie przeszkodziło jej to jednak rozwijać narzędzi o bardzo zaawansowanych możliwościach cybernetycznych.
Dlaczego inwestorzy powinni zwrócić uwagę na tę historię?
Najważniejszy wniosek nie dotyczy samego Anthropic ani NSA… Chodzi o tempo rozwoju sztucznej inteligencji. Jeśli model AI rzeczywiście był w stanie podczas testów uzyskać dostęp do niemal wszystkich systemów jednej z najpotężniejszych agencji wywiadowczych świata w ciągu kilku godzin, oznacza to, że cyberbezpieczeństwo wchodzi właśnie w nową epokę.
W tej rzeczywistości przewagę mogą zdobywać nie te organizacje, które mają największe zespoły programistów czy analityków bezpieczeństwa, lecz te, które dysponują najbardziej zaawansowanymi modelami AI. Granica między narzędziem defensywnym a ofensywnym zaczyna się zacierać. To właśnie dlatego coraz więcej ekspertów uważa, że wyścig AI nie toczy się dziś wyłącznie o chatboty, wyszukiwarki czy produktywność pracowników. Stawką może być przyszła równowaga sił w cyberprzestrzeni.
Ostatnio o sytuacji na rynku, który bardzo „przeżywa” hossę AI pisaliśmy w artykule Omen Hindeburga wysłał sygnał, JPMorgan ostrzega przed sprzedażą akcji za 165 mld dolarów. Fala spadków?
