AI prawie doprowadziło do konfliktu USA – Chiny. „Wojsko było gotowe, poderwano myśliwce”
Amerykański oddział miał już wszystko gotowe do wtargnięcia na chiński statek, który miał przewozić elementy broni jądrowej. W ostatniej chwili jednak misję wstrzymano. Okazało się, że AI się pomyliło i prawie doprowadziło do poważnego zagrożenia.
Jak donosi CNN, wiosną tego roku byliśmy o krok od poważnego incydentu na Bliskim Wschodzie. Amerykańska armia otrzymała raport, z którego wynikało, że przepływający w tamtej okolicy chiński statek ma na pokładzie elementy broni jądrowej. Jego autorem był analityk dowództwa operacji specjalnych, więc sprawę potraktowano nadzwyczaj poważnie. Raport natychmiast zaalarmował dowództwo, które wydało rozkaz przygotowania do przechwycenia statku i poderwało lotnictwo do wsparcia tej operacji. W ostatniej chwili akcję jednak wstrzymano. Dlaczego?
Analityk amerykańskiej armii użył AI do stworzenia raportu o chińskim statku. Mógł doprowadzić do wybuchu wojny
Sztab amerykańskiej armii postanowił jeszcze raz sprawdzić otrzymany raport. Nie trzeba było długiej analizy, by okazało się, że analityk do jego stworzenia użył… sztucznej inteligencji. Co więcej, AI błędnie zidentyfikowało zawartość, którą przewoził wspomniany chiński statek. Według jednego ze źródeł CNN, raport nie tylko źle określał ładunek statku, ale był całkowicie fałszywy i rzeczywistego zagrożenia tak naprawdę nie było. Ale w jaki sposób w ogóle powstał ten raport?
Wspomniany wcześniej analityk, miał użyć jednego z chatbotów. Nie wiadomo dokładnie którego i czy był to chatbot dostępny publicznie, czy tylko dla amerykańskiej armii. Do zapytania wykorzystał dane wywiadowcze, przekazane wcześniej przez dowództwo operacyjne sił USA stacjonujące na Pacyfiku. AI natomiast użyło publicznie dostępnych informacji i połączyło je z wklepanymi przez analityka tajnymi raportami. I w ten sposób wyszło, że chińska jednostka może przewozić elementy broni jądrowej, co analityk postanowił umieścić w raporcie, który następnie przekazał dowództwu.
Tylko czujne oko dowódców, którzy wyłapali fragmenty wskazujące na wykorzystanie sztucznej inteligencji, uchroniło nas przed poważnym incydentem. Sprawa była naprawdę poważna, bowiem przechwycenie przez Amerykanów chińskiej jednostki mogło stanowić punkt zapalny do poważnego konfliktu. Relacje pomiędzy USA i Chinami są napięte od wielu lat i każdy, chociaż najmniejszy incydent może doprowadzić do eskalacji.
Chatboty AI w wojsku? My nie czujemy się dzięki temu bezpieczniejsi. Wręcz przeciwnie
Ta sytuacja pokazuje, że sztuczna inteligencja w wojsku i rządzie to bardzo zły pomysł. Bo może i jest w stanie usprawnić pracę, ale co najwyżej na niższych szczeblach, a nie na szczycie władzy i w centrum dowodzenia armii. Ryzyko błędu jest tak ogromne, że nie mieści nam się w głowach, że osoba na tak odpowiedzialnym stanowisku w US Army była w stanie aż tak schrzanić sprawę. Z zasady nikomu nie życzymy utraty pracy, ale jeśli jakikolwiek żołnierz używa narzędzi AI do tworzenia raportów o potencjalnych zagrożeniach, to lepiej żeby zajął się czymś innym. Bo chyba nikt nie potrzebuje wojny wyywołanej przez błąd chatbota AI, prawda?
Przeczytaj również:
Trump: wkrótce ogłosimy lokalizację bazy US Army w Polsce!
Chiny stworzyły… rybę bojową. Wygląda jak prawdziwa i ma patrolować morze
Ukraina wygrała morską bitwę dronów! Rosyjski bezzałogowiec poleciał na dno morza czarnego!
