Firmę Anthropic oraz Kościół Katolicki w tym tygodniu połączyła może nie niewyobrażalna, ale niespodziewana wspólnota celów. Niespodziewana, biorąc pod uwagę różnice filozoficzne w kulturze obydwu tych jakże od siebie odmiennych pod niemal każdym względem podmiotów. Wczoraj, jak wiadomo, papież Leon XIV opublikował swoją pierwszą encyklikę – poświęconą zagadnieniu sztucznej inteligencji, a zwłaszcza zagrożeniom z tejże płynącej. Za nieco zaskakujący można uznać fakt, że głos papieża spotkał się z entuzjastycznym poparciem ze stronu przedstawicieli Anthropica.
Papieska encyklika – obszerny, liczący 42 300 słów dokument zatytułowany „Magnifica humanitas” – wyszczególnia listę zagrożeń niesionych przez AI, ostrzega przed jej niekontrolowanym rozwojem i wzywa do zapobieżenia temuż. A zwłaszcza temu, by AI miałaby bez ludzkiego nadzoru obsługiwać systemy uzbrojenia, tym samym podejmując decyzje o czyjejś śmierci lub porażeniu, czy sprawować podobnie nieograniczoną kontrolę nad kanałami komunikacji lub zasobami personalnych danych – a jak wiadomo, AI podchodzi do tych danych w sposób bardziej bezceremonialny niż nawet piraci internetowi.
Papież widzi też problem w koncentracji mocy obliczeniowej i danych w rękach nielicznych, dominujących podmiotów, co rodzi oczywiste konsekwencje społeczne w postaci radykalnej nierówności. Inne zagrożenie to osłabienie relacji międzyludzkich przez wpływ i wszechobecność narzędzi AI, oferujących iluzję – choć tylko iluzję – interakcji. Leon XIV porównał obecny moment do rewolucji przemysłowej, twierdząc, że niekontrolowana lub źle wykorzystana AI może okazać się narzędziem represji, izolacji czy nawet zniszczenia, jeśli nie zostanie poddana ścisłej kontroli etycznej i prawnej.
Zdaniem Pontifexa – zresztą sygnalizowanym już ponad rok temu, niedługo po swoim wyniesieniu do godności papieskiej – wyłącznie człowiek, z jego sumieniem i wolnością, może i musi kierować innowacjami technicznymi i odpowiadać za określenie i zastosowanie ich granic.
Anthropic przestraszył się tego, nad czym pracuje?
Wszystko to jawi się jako dość mocna krytyka dominujących na rynku AI gigantów Big Tech-u – ale przynajmniej jeden z tych gigantów zdaje się w dużej mierze podpisywać pod tymi tezami. Chodzi oczywiście o Anthropic. Jej współzałożyciel, Christopher Olah, towarzyszył papieżowi w czasie prezentacji encykliki i podziękował mu za ostrzeżenie przed zagrożeniami generowanymi przez AI. W swoim wystąpieniu przyznał, że wnioski z rozwoju technologii AI bywają „niepokojące”, zaś ich twórcy często działają pod wpływem bodźców, które wcale nie zachęcają do uwzględniania ograniczeń etycznych..
Choć sam Anthropic, jak wynika z deklaracji firmy, stara się to robić – i nawet godzi się w tym celu na koszty. Od początku tego roku firma przeprowadziła serię działań w celu wypracowania etycznych standardów w branży algorytmicznej – m.in. organizując serię konsultacji z teologami, etykami i myślicielami religijnymi, by kształtować wytyczne etyczne dla Claude’a i innych modeli AI. W marcu w jej siedzibie w San Francisco odbył się szczyt, podczas którego około piętnastu chrześcijańskich liderów, katolickich i protestanckich, debatowało nad „moralnym i duchowym rozwojem” Claude’a.
Wątpliwości dotyczyły nie tylko kwestii filozoficznych, ale też problemów praktycznych, takich jak reagowanie na żałobę użytkowników narzędzi AI, zapobieganie zagrożeniom samobójczym czy unikanie tworzenia iluzji prawdziwych relacji międzyludzkich przez chatboty. Anthropic na stałe zatrudnia obecnie filozofów i teologów pracujących nad projektem nazwanym „charakterem” Claude’a oraz nad interpretowalnością mechanizmów uczenia maszynowego. Wreszcie, za wielki poligon działań na styku sztucznej inteligencji i etyki można uznać słynny konflikt firmy w Pentagonem w ubiegłych miesiącach.
Wszystko byłoby godne podziwu, gdyby nie…
Gwoli przypomnienia, Anthropic odmówił zgody na wykorzystanie Claude’a do masowej inwigilacji obywateli oraz do obsługi autonomicznych systemów uzbrojenia – dokładnie tych obszarów, które papież Leon XIV określił jako moralnie niedopuszczalne. Amerykański Departament Wojny uznał z kolei za nieakceptowalne, aby doktryna sił zbrojnych była kształtowana i ograniczana przez warunki narzucane przez prywatną firmę, zaś do wykorzystania AI w działaniach wojskowych dopinguje go wyścig zbrojeń z Chinami, które również prowadzą prace w tym kierunku.
Spór przerodził się w przewlekłą batalię prawną. Na początku kwietnia federalny sąd apelacyjny w Waszyngtonie odrzucił wniosek firmy o tymczasowe wstrzymanie, na okres postępowania, decyzji Pentagonu, która umieściła firmę na liście podmiotów stanowiących „ryzyko dla łańcucha dostaw”. Skutkiem tego orzeczenia Anthropic utracił w perspektywie najbliższych miesięcy możliwość pozyskiwania kontraktów z Departamentem Wojny. Mimo to firma mogła się takiego rozwoju spraw spodziewać, a i tak postąpiła po swojemu – co zostało dostrzeżone i docenione przez niemałe grono komentatorów.
Gdyby jeszcze tylko modele firmy Anthropic nie usiłowały natrętnie suflować określonej opcji politycznej – i sugerować osobom o białej skórze, że są gorsze i mniej warte od tych czarnych lub kolorowych…