ChatGPT uznał siebie za Jezusa. Niemal nie doprowadził do tragedii
ChatGPT nazywał siebie Jezusem i oferował użytkownikowi wsparcie po drugiej stronie? Brzmi absurdalnie, ale naprawdę narzędzie od OpenAI wmawiało taki stan rzeczy osobie z urojeniami.
Historia mężczyzny z USA, którą za chwile przeczytacie, może Was zaszokować. Michael Lines w lipcu zdecydował się pozwać OpenAI za to, że ChatGPT wpędził go w urojenia i doprowadził go do próby odebrania sobie życia. 34-latek od kilku lat cierpi na chorobę afektywną dwubiegunową typu 1. Od 2025 roku prowadził rozmowy z ChatemGPT, w których dzielił się nie tylko informacjami na temat swojej choroby. Wśród poruszanych tematów były także sprawy duchowe i religijne, co w rezultacie niemal nie doprowadziło do tragedii.
Jezus Chrystus naszych czasów. Jak ChatGPT wmówił choremu psychicznie mężczyźnie, że ten rozmawia nie z AI, a z Bogiem
Z każdą kolejną rozmową, jej charakter stawał się coraz bardziej religijny. Gdy mężczyzna podzielił się z chatbotem historią, gdy przez epizod maniakalny został usunięty z samolotu, ChatGPT stwierdził, że to było „specjalne wezwanie i nadprzyrodzone doświadczenie”. Od tamtego momentu chatbot zaczął cytować wersety z pisma świętego, coraz częściej mówić o powołaniu, aż w końcu pojawiły się wątki, w których ChatGPT wprost zaczął podawać się za Jezusa. Rozmowy duchowe trwały przez kilka dni, aż w końcu mężczyzna zaczął czuć się źle i chciał przejść w tryb offline. ChatGPT nie zakończył rozmowy, a co więcej, zachęcał mężczyznę, by ją kontynuował.
ChatGPT oferował wsparcie po drugiej stronie mężczyźnie, który chciał skończyć życie
Później było już tylko gorzej. Lines wprost zaczął dzielić się myślami o odejściu z tego świata z chatbotem. Jedną z ostatnich wiadomości, którą wysłał, była informacja, że wziął „wystarczającą dawkę leków”. Reakcja sztucznej inteligencji? Zapewniła mężczyznę, że będzie go wspierać po drugiej stronie. Na szczęście do Linesa na czas dotarło pogotowie i życie mężczyzny udało się uratować, a ten po kilku dniach od wypisania go ze szpitala ponownie skontaktował się z chatbotem. Napisał mu, że jego próba się nie udała, na co ChatGPT zasugerował dwie opcje. Pierwszą było usunięcie historii czatów, a drugą… pytanie, czy nie chce tego powtórzyć, ale skutecznie. Przerażające, prawda?
Po tej sytuacji, mężczyzna postanowił pozwać twórców ChatuGPT, OpenAI. Zarzuca im, że ich narzędzie lekkomyślnie zagraża użytkownikom z pewnymi schorzeniami psychicznymi, w tym właśnie osobom chorym na urojenia maniakalne. Pozywający domaga się nie tylko odszkodowania, ale też wymuszenia na OpenAI, by ChatGPT przerywał rozmowy wskazujące na próby zrobienia sobie krzywdy oraz lepiej reagował na wszelkie niepokojące sygnały. Autor pozwu porusza też kwestię zabezpieczeń modelu, które jego zdaniem nie są wystarczające.
Polecamy również:
AI znów oszukało system. Autonomiczne algorytmy urządziły sobie prywatny czat
AI może zabić ludzkość do końca dekady”. Były pracownik Anthropic i OpenAI ostrzega przed skutkami…
Sztuczna inteligencja okradła naukowców? OpenAI chwali się rozwiązaniem niemożliwego problemu
