Anthropic wstrzymuje wydanie Claude Mythos – „jest zbyt potężny”
Claude Mythos nie zostanie upubliczniony. Taką decyzję podjęło Anthropic, według którego ich nowy model sztucznej inteligencji jest po prostu zbyt potężny.
Amerykańska firma Anthropic przez ostatnie miesiące pracowała nad swoim kolejnym modelem sztucznej inteligencji – Claude Mythos. Nowy model miał być prawdziwym przełomem w świecie sztucznej inteligencji, a sama firma mocno kryła się z pracami nad nim. Jednak pod koniec marca doszło do wycieku, w wyniku którego społeczeństwo dowiedziało się o pracach nad Claude Mythos. Poznaliśmy także szczegóły, czego można się spodziewać po nowym modelu od Anthropic.
Firmie nie pozostało zatem nic innego, jak oficjalnie potwierdzić, że trwają prace nad nowym modelem. Zapowiadano, że to prawdziwy przełom w świecie AI i najpotężniejszy model, jaki firma kiedykolwiek zbudowała. Okazuje się, że jest on tak potężny, że Anthropic postanowiło w ogóle nie upubliczniać go. Jakie są powody tej decyzji i czy jest ona słuszna?
Anthropic chce chronić najważniejsze oprogramowania
We wtorek Anthropic opublikowało komunikat, w którym przedstawiło projekt Glasswing. Jak czytamy, inicjatywa ta ma na celu pomoc w zabezpieczeniu najważniejszych oprogramowań na świecie. Ciekawiej się jednak robi, gdy wczytamy się głębiej w komunikat firmy i dojdziemy do momentu, w którym Anthropic informuje, że nowe modele AI osiągnęły już taki poziom programowania, że są w stanie obejść niemal wszystkie zabezpieczenia. Dzięki temu, mogą już przewyższać ludzi w wykrywaniu luk w systemach bezpieczeństwa, sprawiając tym samym ogromne ryzyko cyberataków.
Claude Mythos okazał się zbyt potężny – dostęp dostaną tylko giganci
Anthropic uważa, że Claude Mythos Preview jest tak dobry w znajdowaniu i exploitowaniu podatności, że nie może on zostać udostępniony publicznie. Jak czytamy, mogłoby to mieć katastrofalne skutki dla cyberbezpieczeństwa. I właśnie by temu przeciwdziałać, powołała inicjatywę Glasswing, który ma być formą przygotowania największych firm na ewentualną utratę kontroli nad AI. Do inicjatywy zaproszono ponad 40 różnych firm i organizacji, w tym Amazon Web Services (AWS), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA czy Palo Alto Networks. Całe te grono otrzymało dostęp do Mythos Preview, ale tylko w celach tzw. defensive security work.
Claude Mythos Previev ma pomóc wspomnianym firmom w znalezieniu luk w ich systemach bezpieczeństwa oraz naprawieniu ich. Już na samym etapie testów nowego modelu udało się wyłapać kilka błędów, w tym m.in. 27-letni bug w OpenBSD czy 16-letnia luka w FFmpeg. Co ciekawe, inne narzędzia przez wiele lat nie były w stanie wykryć tych błędów, a Claude Mythos poradził sobie z tym bez problemu. To tylko pokazuje, jak bardzo upublicznienie tego modelu mogłoby pomóc hakerom. Dlatego też na ten moment decyzja Anthropic wydaje się być uzasadniona.
