Czy warto być uprzejmym wobec sztucznej inteligencji? Nowe badania z Uniwersytetu George’a Washingtona sugerują, że nie. Zdaniem naukowców, dodawanie słów takich jak „proszę” czy „dziękuję” do promptów ma znikomy wpływ na jakość odpowiedzi AI.
Uprzejmość nie wpływa na jakość odpowiedzi
Badanie pokazuje, że używanie uprzejmych sformułowań nie poprawia wyników generowanych przez modele językowe. Takie słowa są zdaniem naukowców „ortogonalne” względem tych, które faktycznie wpływają na jakość odpowiedzi. Innymi słowy, AI rozpoznaje je, ale ignoruje ich znaczenie przy generowaniu treści.
Zespół badawczy wykazał, że uprzejme słowa znajdują się w osobnej części wewnętrznej przestrzeni modelu i prawie nie wpływają na końcowy rezultat. Mimo że mogą wydawać się miłe, nie mają realnego przełożenia na jakość odpowiedzi czy logikę wnioskowania sztucznej inteligencji.
Te ustalenia stoją w sprzeczności z japońskim badaniem z 2024 roku. Tamte eksperymenty wykazały, że uprzejmość może poprawiać efektywność działania AI, szczególnie w modelach takich jak GPT-4, PaLM-2 czy Claude-2.
Eksperci dzielą się opiniami
David Acosta z firmy Arbo AI zauważył, że różnice między badaniami mogą wynikać z przyjętej metodologii. Amerykańskie badanie wykorzystało uproszczoną wersję modelu, co zdaniem eksperta może nie oddawać pełni możliwości komercyjnych systemów.
Według niego wpływ uprzejmości zależy od wielu czynników. W grę wchodzi nie tylko kulturowe pochodzenie danych treningowych, ale też kontekst i forma zadania. Stąd potrzeba eksperymentów międzykulturowych, które pomogłyby lepiej zrozumieć zachowanie modeli AI.
Zespół z George Washington University przyznał, że ich model celowo upraszczano. Twierdzą jednak, że nawet przy zastosowaniu większych modeli wynik byłby podobny – ponieważ wszystko zależy od tokenów i ich znaczenia, nie od tonu wypowiedzi.
Czy warto więc być miłym dla AI?
Według badaczy, uprzejmość nie zmienia logiki działania sztucznej inteligencji. Odpowiedzi zależą od struktury modelu, a nie tonu rozmowy. Jeśli prompt zawiera kluczowe dane, AI zareaguje odpowiednio – niezależnie od tego, czy padnie słowo „proszę”.
Nie zmienia to faktu, że dla użytkowników, uprzejmość pozostaje wartością kulturową i społeczną. Nawet jeśli nie wpływa na techniczny wynik, może poprawić relację człowieka z maszyną. Ale w ujęciu zasobów – to po prostu kosztowny luksus.
Jak przypomniał CEO OpenAI, Sam Altman – jego firma wydała dziesiątki milionów dolarów na odpowiedzi generowane tylko dlatego, że użytkownicy pisali „proszę” i „dziękuję”.
