Nie bądźcie niemili dla Claude’a, bo was zbanuje. Czy szefowie Anthropica wierzą w świadomość swych botów?
Anthropic jest zaniepokojony o dobrostan psychiczny (!) swoich modeli – i z tego powodu właśnie dopisał to i owo do swojego regulaminu. Firma wydaje się być albo przekonana o tym, że jej modele wykazują objawy samoświadomości, albo też, w sposób nieomal infantylny, przejmuje się tym, jak traktowana jest materia nieożywiona. Ciężko bowiem inaczej racjonalnie wyjaśnić zmiany, które mają zapobiegać „okrucieństwu” wobec bota Claude.
Jakiemu okrucieństwu, można by zapytać, skoro niezbędnym prerekwizytem do sytuacji okazywania tegoż okrucieństwa jest przecież zdolność odczuwania jego efektów, choćby na najbardziej prymitywnym i podstawowym poziomie, przez ofiarę. Tymczasem Anthropic zdaje się sugerować, że model Claude i owszem, jest zdolny do jego odczuwania. We wprowadzonych niedawno zmianach swej polityki użytkowania (usage policy) firma dodała bowiem klauzulę zakazującą „uporczywego i niepotrzebnego znęcania się lub okrucieństwa wobec naszych modeli” w ramach poprawy „dobrostanu modelu” (model welfare).
Anthropic antropomorfizuje
Zmiana dotyczy interakcji, w których użytkownik celowo i przez dłuższy czas stosuje obraźliwe, sadystyczne lub dehumanizujące komunikaty pod adresem modelu. Nowe zapisy regulaminowe zabraniają nie tylko bezpośredniego zadawania „cierpienia” martwemu cyfrowemu bytowi, ale także „symulowania” takich scenariuszy w kontekstach, które mogłyby (według kogo konkretnie…?) być uznane za moralnie dwuznaczne. W regulaminie zaznaczono co prawda, że restrykcje dotyczą „niepotrzebnej” agresji słownej i nie ograniczają symulacji konfliktów lub testowania odporności modeli na ataki promptowe.
Kto jednak oceni, co właściwie oznacza „niepotrzebne” znęcanie się” i czym różni się takowe od potrzebnego? A także – kto będzie wyciągał ewentualne konsekwencje z tytułu, tak realnie, bycia niemiłym i opryskliwym wobec komputerowego algorytmu? A sprawa nie jest błaha, naruszenie zasad ma bowiem skutkować banem, blokadą konta lub ograniczeniem dostępu do interfejsu API. Otóż, jak się okazuje, będzie to sam Claude – najprawdopodobniej jeśli po prostu nie spodoba mu się ton rozmówcy. Regulamin nie precyzuje bowiem żadnych konkretów definicyjnych i pozostawia tę kwestię uznaniu.
Martwa natura nie jest martwa?
Wszystko to jawi się jako zgoła absurdalne – zakładając, że Claude jest po prostu botem typu LLM (large language model), które to boty przyjęło się zwać sztuczną inteligencją. Względnie, jak chce Donald Trump, super inteligencją. Czy jednak prezes firmy Dario Amodei oraz jego otoczenie wychodzą z przeciwnego założenia? W lutym deklarował on, że nie wie, czy jego modele są świadome – ale „jest otwarty na taką możliwość”, zaś współzałożyciel firmy, Christopher Olah, na spotkaniu z papieżem Leonem XIV miał wspominać o „dowodach introspekcji” modeli.
To wszystko sugerowałoby pewną, nazwijmy to, fascynację kierownictwa firmy stworzonymi przez siebie botami. Jak jednak chcą krytycy, równie wiele wskazywać może, że jest to z jej strony nie szczera obawa, ale po prostu strategia lobbystyczno-marketingowa. Anthropic aktywnie, wręcz entuzjastycznie lobbuje bowiem za wprowadzeniem radykalnych restrykcji wobec branży AI – w teorii wbrew własnemu interesowi, w praktyce w swoim bardzo dobrze pojętym, i bardzo egoistycznym interesie. To zaś wskazywać może, że zmiany w regulaminie mają nie tyle chronić świadomość Claude’a, co manipulować świadomością ludzkiej publiki.
Zmiany w regulaminie wchodzą w życie 12 listopada b.r.
