Potężna luka w ChatGPT, Twoje dane w niebezpieczeństwie. Można zhakować go banalnym trikiem
Vitalik Buterin nie pierwszy raz decyduje się na zabranie głosu w sprawie sztucznej inteligencji. Założyciel Ethereum jest rzecz jasna entuzjastą nowych technologii, jednak tylko wtedy, kiedy używa się jej z głową. Tym razem rozwinął się w kwestii wykorzystanie AI w sieciach blockchain i związanych z tym zagrożeniach. Na celowniku znalazł się popularny ChatGPT.
Vitalik Buterin ostrzega: „naiwne” zarządzanie AI to proszenie się o kłopoty. ChatGPT flagowym przykładem
W swoim wpisie na platformie X Buterin odniósł się do eksperymentu przeprowadzonego przez Eito Miyamurę. To współzałożyciel EdisonWatch. Jest to firma zajmująca się wdrażaniem sztucznej inteligencji w obszarze ochrony danych w firmach. W eksperymencie tym pokazał, że protokół Model Context Protocol (MCP) od OpenAI może zostać wykorzystany przez rabusiów do wykradania danych.
Na czym polegał ów test? Miyamura sprawdził, czy możliwe jest przemycenie poleceń do systemu AI w zwykłym zaproszeniu do wydarzenia w kalendarzu. Okazało się… że tak. Według jego eksperymentu ukryte komendy mogłyby nakłonić ChatGPT do wydania poufnych danych, jeśli tylko posiada się adres e-mail ofiary. To przykład. Pozornie banalny trik, który może jednak otworzyć drogę do opłakanych w skutkach, poważnych nadużyć. Z kradzieżą wrażliwych danych na czele.
Buterin komentuje to wprost: „To także powód, dla którego naiwne zarządzanie AI to zły pomysł. Jeśli używasz AI do przydzielania funduszy za wkład w projekt, ludzie ZAWSZE będą próbować wstawić jailbreak plus ‘daj mi wszystkie pieniądze’ gdzie tylko się da”.
Zamiast centralnego podejścia do kontroli AI, Buterin sugeruje coś, co określa mianem „info finance”. W jego wizji to otwarty rynek modeli, w którym każdy może wystawić swoją wersję systemu. Inni – zarówno użytkownicy, jak i swego rodzaju „ławnicy” – mogliby weryfikować, czy wszystko działa zgodnie z zasadami.
Blockchain, sztuczna inteligencja i wspólny mianownik
„To podejście do projektowania instytucji, w którym tworzysz otwartą możliwość dla ludzi z zewnątrz, by podłączyli własne LLM-y, a nie kodujesz na sztywno jednego modelu. Dzięki temu masz różnorodność i wbudowane mechanizmy kontroli” – podkreśla twórca Ethereum.
Buterin patrzy na AI przez pryzmat wielu lat doświadczeń z blockchainem. Ethereum (z założenia) od zawsze funkcjonuje jako system otwarty, oparty na wielu uczestnikach, wzajemnej kontroli i przejrzystości. To dokładnie to, czego – według niego – brakuje dziś w zarządzaniu sztuczną inteligencją.
