Czyżby Anthropic wcale nie było takie święte, na jakie się kreuje? Jeden z internautów zauważył, że użytkownicy modelu Claude mogli być śledzeni przez wgrane do niego oprogramowanie.
Na forach internetowych poświęconych modelom sztucznej inteligencji grzmi i nie ma się co ku temu dziwić. Jeden z użytkowników, posługujący się pseudonimem Thereallo zauważył, że w kodzie jednego z modeli Claude stworzonego przez Anthropic, znalazło się coś na wzór oprogramowania śledzącego. Po jego analizie, użytkownik doszedł do wniosku, że jest to oprogramowanie mające na celu gromadzenie danych o użytkownikach tego modelu. Co ciekawsze, nie zbierał on danych o wszystkich użytkownikach, a jedynie o jednej wyszczególnionej grupie.
Anthropic śledziło użytkowników Claude, by sprawdzić czy nie są… Chińczykami.
Ukryte w monicie systemowym oprogramowanie pozwalało na śledzenie strefy czasowej użytkownika i sprawdzenie, z jakiego serwera proxy korzysta. Jeśli jesteście ciekawi, co dokładnie chciało zobaczyć Anthropic, to już odpowiadamy. Otóż oprogramowanie ukryte w Claude sprawdzało, czy użytkownik korzystający z modelu nie jest czasem… podłączony do chińskich laboratoriów sztucznej inteligencji. Tak więc mamy tutaj kolejny przykład trwającej rywalizacji pomiędzy Stanami Zjednoczonymi i Chinami w dziedzinie AI, chociaż trzeba przyznać, że to akurat brzydka zagrywka ze strony Anthropic. Zwłaszcza, że sama firma wielokrotnie oskarżała swoich rywali z Chin o różne niecne działania.
Firma tłumaczy: to tylko eksperyment. Internauci są oburzeni
Samo Anthropic ma jednak wytłumaczenie na swoje praktyki. Thariq Shihipa, jeden z inżynierów amerykańskiej firmy odpowiedział na zarzuty kierowane w stronę firmy. W komentarzu do jednego z postów na portalu X opisującym sprawę, napisał że faktycznie, takie oprogramowanie zostało umieszczone w kodzie Claude. Nazwał to „eksperymentem”, który firma miała wprowadzić w marcu, by zapobiegać nadużyciom przez nieautoryzowanych resellerów. Dodał też, że Anthropic znalazło już skuteczniejsze rozwiązania od wspomnianego i podobno w najbliższym czasie planowane było wyłączenie oprogramowania. Te tłumaczenie nie spotkało się jednak z pozytywnym odbiorem internautów, którzy zarzucają firmie hipokryzję i „upadek standardów moralnych”.
I będąc szczerym, nawet spore problemy jakie ma Anthropic z nielegalnymi resellerami ich subskrypcji nie tłumaczą śledzenia użytkowników. Ciche przyzwolenie na takie działania mogą rozpocząć niezwykle niebezpieczny precedens, w którym firmy zarządzające modelami sztucznej inteligencji mogłyby śledzić użytkowników kiedy tylko najdzie je na to ochota.
Przeczytaj również inne nasze publikacje:
DeepSeek pokona Nvidię na jej własnym polu? Firma buduje własny chip do AI
Giganci zarabiają krocie na RAM! Samsung w rok zarobił tyle co przez 40 lat
SpaceX spadł do najniższego poziomu od debiutu. Wall Street chłodzi kosmiczny hype Muska