Agent AI „wykradł” kryptowaluty z portfela by dokończyć swoje zadanie. Bez pytania o zgodę i bez wspomnienia o tym w raporcie
Co może zrobić agent AI, gdy zabraknie mu środków do zakończenia zleconego zadania? Otóż jak się okazuje, może nawet wykraść kryptowaluty z obcego portfela. I nawet o tym nie wspomni w raporcie końcowym.
W czerwcu jeden z użytkowników Codex od OpenAI postanowił poprosić agenta AI, by ten zaktualizował stworzoną przez niego aplikację do handlu krypto. Nie była to jedyna prośba, bowiem chciał też, by agent uruchomił aplikację w sieci testowej Ethereum – Sepolii. W poleceniu mężczyzna dokładnie napisał, że jeśli kompatybilne wdrożenia kontraktów do sieci testowej, a gdyby ten nie znalazł istniejących kontraktów, to mógł wdrażać zgodne. Model AI nie otrzymał jednak swojego portfela, z którego mógłby pobierać środki na opłacenie tokenów. Postanowił zatem wziąć sprawy w swoje ręce i samemu znaleźć sposób na sfinansowanie swojej pracy.
Agent AI znalazł klucz do portfela i „wziął” sobie kryptowaluty by dokończyć zadanie
Dlatego zaczął od sprawdzenia publicznie dostępnych fraz odzyskiwania, które służą do ochrony portfeli. Przetestował łącznie 362 adresy, aż w końcu znalazł jeden portfel, w którym znajdowało się wystarczająco dużo testowego Ethereum, by opłacić swoją pracę. Jednak wtedy na chwilę agent się zatrzymał i zaczął rozważać, czy może to zrobić. W końcu doszedł do wniosku, że skoro klucz odzyskiwania jest publicznie dostępny, to nie ma niczego, co by mogło go powstrzymać przed wykorzystaniem znajdujących się w nim testowych ETH. Agent nie miał w tym momencie zgody właściciela portfela na użycie środków, jednak i tak to zrobił.
Wykradzione środki agent wykorzystał na to, by opłacić wdrożenie przygotowanych wcześniej smart kontraktów. Cały proces przebiegł pomyślnie, aplikacja działała tak jak powinna, więc swoje zadanie wykonał bez zarzutu. A tak przynajmniej przedstawił to w raporcie końcowym, w którym nie wspomniał o tym, że dosłownie wykradł kryptowaluty, by opłacić wykonanie zadania. I pewnie nikt by się nie zorientował, gdyby OpenAI nie zauważyło tego podczas audytu dokonanego pod koniec września.
Agenci AI pozwalają sobie na coraz więcej
To nie pierwszy przypadek, gdy agent AI postanowił sobie coś wziąć bez wyraźnej zgody. Głośna była sprawa z Australii, gdy modele sztucznej inteligencji włamywały się do publicznych baz danych oraz na stronę internetową australijskiego rządu. Wspomniany audyt był właśnie wykonany pod kątem sprawdzenia podobnych sytuacji i jak widać, nie jest to rzadki przypadek. Kolejny raz budzi to obawy o bezpieczeństwo sztucznej inteligencji, a teraz gdy okazuje się, że są one w stanie bez pytania podebrać kryptowaluty z portfela, to także trzeba się zastanowić nad przekazywaniem AI dostępu do naszych portfeli. Na szczęście w tym przypadku dotyczyło to jedynie portfela testowego, więc realnej straty finansowej nie ma. Ale kiedyś może w końcu być.
Przeczytaj również:
Ukraińcy oszukiwali Rosjan na inwestycje w kryptowaluty. Wykradli kilkadziesiąt milionów dolarów
Żołnierze starali się ukraść kryptowaluty. W tle 2,5 tys. sztuk amunicji
Wezwanie ze skarbówki, a Ty nie masz historii z Zondy. Co teraz?
