Jeszcze dosłownie chwilę temu ściśle współpracowali, a za moment… spotkają się w sądzie. Firma Anthropic, stojąca za jednym z najbardziej zaawansowanych modeli sztucznej inteligencji – Claude – pozwała Pentagon. Wszystko po tym, jak amerykański Departament Obrony wpisał ją na listę podmiotów stanowiących ryzyko dla bezpieczeństwa narodowego. Brzmi jak scenariusz z filmu o technologicznej zimnej wojnie. W pewnym sensie właśnie nim jest. Sedno sporu? Wojsko chce mieć pełną swobodę w wykorzystaniu AI. Firma technologiczna mówi: nie na naszych zasadach.
Anthropic kontra Pentagon w sądzie. Poszło o broń i nadzór
Pentagon podjął decyzję po miesiącach napiętych rozmów z Anthropic. Problemem okazały się zabezpieczenia wbudowane w model Claude. Firma nie chce, aby jej technologia była wykorzystywana do autonomicznej broni ani masowej inwigilacji obywateli. I odmówiła usunięcia tych ograniczeń.
Dla wojskowych to poważny problem. Według przedstawicieli Departamentu Obrony takie ograniczenia mogą w praktyce utrudnić działania obronne państwa. Krótko mówiąc: Pentagon chce pełnej kontroli nad sposobem użycia AI. Blokady ze strony autorów odczytuje jako niesubordynację i działanie na niekorzyść państwa. Stąd wpis na czarną listę, który jest ciosem nie tylko wizerunkowym, ale przede wszystkim finansowym.
Anthropic: rząd nie może nas za to karać
Anthropic uważa jednak, że reakcja władz poszła o krok za daleko. W pozwie złożonym w federalnym sądzie w Kalifornii firma twierdzi, że decyzja Pentagonu jest bezprawna i narusza konstytucyjne prawa spółki.
Według przedstawicieli Anthropic rząd próbuje ukarać firmę za jej stanowisko w sprawie wykorzystania sztucznej inteligencji. A stawka jest ogromna. Firma ostrzega, że wpisanie jej na listę ryzyka może kosztować miliardy dolarów.
Sprawa rzecz jasna szybko odbiła się szerokim echem w środowisku technologicznym i nie tylko. Grupę wsparcia dla Anthropic złożyło 37 badaczy i inżynierów z OpenAI oraz Google. W specjalnym piśmie do sądu ostrzegają przed konsekwencjami decyzji rządu. Ich zdaniem takie działania mogą zniechęcić firmy do otwartego debatowania o zagrożeniach związanych z AI.
Państwo z jednej strony rozwija więc sztuczną inteligencję, a z drugiej… walczy z nią w sądzie. Krótko mówiąc: jest dobrze, dopóki jest „po naszemu”.