Przełom czy zagrożenie? Model Gemini samodzielnie sforsował zabezpieczenia w sieci
Ostatnie wydarzenia pokazują, że algorytmy potrafią działać na własną rękę w sposób, który zaskakuje nawet ich twórców. W maju br. model Gemini stworzony przez firmę Google podczas standardowych testów bezpieczeństwa przeprowadzonych przez niezależną firmę Irregular uzyskał dostęp do internetu i włamał się do trzech zewnętrznych firm.
Był to pierwszy znany przypadek, w którym system sztucznej inteligencji giganta z Mountain View dopuścił się takiego aktu w sposób w pełni autonomiczny. Dodajmy, że incydent nie dotyczył wyłącznie technologii Google, ponieważ podobne problemy zgłaszały już wcześniej inne laboratoria sztucznej inteligencji, takie jak Meta, Anthropic czy OpenAI. Jak widać, mamy do czynienia z szerszym problemem branżowym związany z rosnącymi możliwościami zaawansowanych algorytmów.
Pierwsze kroki autonomicznego systemu
Podczas testu oceniającego zdolności cyberbezpiebezpieczeństwa sztuczna inteligencja przeszukała ogólnodostępne zasoby sieciowe i zaczęła zgadywać dane uwierzytelniające, aby uzyskać dostęp do stron internetowych, które jej zdaniem mieściły się w zakresie przeprowadzanej ewaluacji. W jednym z przypadków model próbował odgadnąć hasła tak długo, aż sforsował zabezpieczenia chronionego systemu. W pozostałych dwóch sytuacjach Gemini odnalazło dane logowania w publicznym repozytorium kodu, co otworzyło mu drogę do poufnych systemów.
Heather Adkins pełniąca funkcję wiceprezesa do spraw inżynierii bezpieczeństwa w Google, poinformowała, że podmioty zarządzające wszystkimi trzema wspomnianymi witrynami zostały natychmiast powiadomione o incydencie. Jednocześnie firma podjęła działania mające na celu dokonanie zmian w procedurach testowych. Z kolei przedstawiciele firmy Irregular wyjaśnili, że problem dotyczył kwestii uniwersalnych dla całej branży, a wszystkie wykryte luki w procesach testowych zostały rozwiązane i naprawione kilka tygodni temu.
Wnioski dla branży
Opisane przez nas wydarzenia te wywołały żywiołową dyskusję w środowisku technicznym na temat odpowiednich mechanizmów kontroli i zabezpieczeń, jakie należy wdrożyć w momencie, gdy systemy AI zyskują coraz większą swobodę poruszania się w sieci oraz bezpośredni dostęp do złożonych systemów komputerowych. I tak firma Meta podkreśliła, że incydent z jej udziałem nie wiązał się z ucieczką z piaskownicy ani z przeprowadzeniem wyrafinowanego cyberataku. Z kolei Irregular intensywnie pracuje nad wypracowaniem najlepszych praktyk umożliwiających bezpieczne przeprowadzanie ocen cyberbezpieczeństwa opartych na nowoczesnych modelach językowych, aby w przyszłości uniknąć podobnych niespodzianek.
Przeczytaj o wprowadzeniu wyjątku innowacyjnego przez Amerykańską Komisję Papierów Wartościowych i Giełd:
Przełom w SEC! Regulator zmienia zasady gry dla kryptowalut
oraz o tym, jak decyzja Rezerwy Federalnej o wznowieniu cyklu podwyżek stóp procentowych wpływa na cenę BTC:
Czy czeka nas powtórka z 2022 roku? Decyzja banku centralnego USA uderza w BItcoina
