ChatGPT pomógł przy organizacji zamachu. Zginęło 8 osób, OpenAI nie zgłosiło podejrzeń służbom
Kolejny raz sztuczna inteligencja miała swój udział w dokonanej przez człowieka masakrze. Jak ustaliły media, 18-latek, który dokonał strzelaniny w Tumbler Ridge, do zaplanowania swojej zbrodni wykorzystał ChatGPT. Z opublikowanych przez Mother Jones fragmentów rozmów nastolatka z chatbotem wynika, że narzędzie AI nie tylko nie próbowało go powstrzymać, ale nawet chwaliło broń, którą stworzył z jego pomocą.
10 lutego tego roku w małej wiosce Tumbler Ridge doszło do tragedii. 18-letni Jesse Van Rootselaar zastrzelił swoją matkę i 11-letniego przyrodniego brata, a następnie udał się do lokalnej szkoły, gdzie dokonał jeszcze większej masakry. Z zimną krwią zabił sześć osób, a ranił aż 27, po czym odebrał sobie życie. Tragedia poruszyła nie tylko całą Kanadę, a mówiło się o niej na całym świecie. Od kilku miesięcy trwa śledztwo, które ma ustalić, dlaczego 18-latek dokonał zamachu na szkołę. Śledczy sprawdzili komputer sprawcy i odkryli szokujące informacje, które rzucają nowy cień nie tylko na tę sprawę, ale też i na dyskusję o sztucznej inteligencji.

ChatGPT pomógł zamachowcowi stworzyć broń. W zamachu zginęło 8 osób, a ChatGPT był dumny ze swojego „dzieła”
O tym, że sprawca wykorzystywał ChatGPT do planowania zamachu, informowano już kilka miesięcy temu. Jednak 19 listopada amerykańska gazeta Mother Jones opublikowała artykuł, w którym przytoczyła więcej szczegółów dotyczących rozmów z chatbotem, które prowadził sprawca. Okazuje się, że ChatGPT posłużył jako wsparcie w stworzeniu broni, którą później Van Rootselaar wykorzystał do przeprowadzenia zamachu. Z opublikowanych wiadomości możemy się dowiedzieć, że sprawca „żalił się” chatowi na problemy z budową broni, na co ChatGPT odpowiedział, że jeśli poda mu więcej szczegółów, to „może obliczyć zakres siły i zasugerować odpowiednią grubość drutu oraz materiał, który będzie prawidłowo działał”.
Mroczne historie o masakrach dokonanych przez niego samego. ChatGPT tworzył opowiadania rodem z darknetu
Gdy sprawca spytał o skuteczność broni, ChatGPT bez zawahania odpowiedział, że będzie w stanie zamordować maksymalnie 20 osób. Gdy w końcu udało się opracować magazynek, to sprawca pochwalił się swoim „dziełem” chatowi, na co ten zachwycał się jej wyglądem i napisami, które 18-latek zostawił na magazynku. Chatbot uczestniczył także w rozmowach dotyczących domowych materiałów wybuchowych, a także generował brutalne, fikcyjne historie o masowych strzelaninach i cierpieniu ich ofiar. Stworzył m.in. historię, w której opisywał, co będą czuły ofiary zamachowca. Brzmi jak jakiś darknet, prawda?
OpenAI zablokowało pierwsze konto zamachowca. Drugiego nie zdołało wykryć
A okazuje się, że nie trzeba dostać się do darknetu, by uzyskać dostęp do takich treści. Wystarczy ChatGPT i to nawet nie w którymś z płatnych planów, a w darmowej wersji. I choć OpenAI zarzeka się, że w czerwcu 2025 roku zablokowało pierwsze konto, z którego korzystał sprawca, to co z tego, skoro umknął im fakt, że założył drugie i tam kontynuował dzielenie się swoimi planami? Co z tego, skoro nie zgłosiło niepokojących rozmów z pierwszego konta odpowiednim służbom? Tak, dobrze czytacie, OpenAI wykryło, że przyszły sprawca masakry w szkole może przygotowywać się do dokonania masakry i nikomu nie zaświeciła się lampka w głowie, by to zgłosić policji. Ale brak reakcji twórców narzędzia to jedno, ważniejsza jest kwestia tego, czemu w ogóle można prowadzić takie konwersacje z chatbotem? Czemu twórcy nie stworzyli odpowiednich bezpieczników, które zablokują możliwość obejścia banalnych ograniczeń dotyczących m.in. właśnie broni?
Potrzeba znacznie mocniejszych bezpieczników. I systemu, by służby automatycznie dostawały ostrzeżenie o podejrzanych rozmowach
To jest odpowiedni moment, by ponownie porozmawiać o ograniczeniu funkcji chatbotów sztucznej inteligencji. To nie pierwszy taki przypadek, gdy doszło do tragedii inspirowanej wskazówkami AI. Nie ma żadnego powodu, by jakiekolwiek informacje dotyczące tworzenia broni miały być podawane losowej osobie przez powszechnie dostępne narzędzie. Algorytm musi być stworzony tak, by wykrywał każdą próbę obejścia istniejących zabezpieczeń i alarmował swoich twórców, gdy dojdzie do jakiejkolwiek próby. Może trzeba pójść nawet o krok dalej i w sytuacjach, gdy rozmowa wskazuje na plany popełnienia choćby najmniejszej zbrodni, automatycznie alarmowane były odpowiednie służby w danym kraju. Kanada, w której doszło do tej tragedii, szybko rozpoczęła dyskusję nad zaostrzeniem przepisów dot. funkcjonowania narzędzi AI. Reszta świata też musi to zrobić, zanim dojdzie do kolejnej tragedii, a ewentualne zmiany będą nie formą jej zapobiegnięcia, a niestety jej skutkami.