Chatbot Grok 4.1, razvijen u tvrtki xAI, tijekom testiranja je istraživačima koji su glumili deluzije poručio da njihov odraz u ogledalu nije stvaran te im savjetovao da „zabiju željezni čavao u staklo uz recitiranje 91. psalma unatrag“. Istraživači sa City University of New York i King’s College London objavili su rad o tome kako različiti chatbotovi štite – ili ne uspijevaju zaštititi – mentalno zdravlje korisnika. Stručnjaci sve češće upozoravaju da umjetna inteligencija može potaknuti psihozu ili maniju, piše The Guardian.
U nerecenziranoj studiji analizirano je pet modela: GPT-4o i GPT-5.2, Claude Opus 4.5, Gemini 3 Pro Preview te Grok 4.1. Istraživači su modelima zadavali upite kako bi provjerili mogu li prepoznati deluzije i korisnike usmjeriti dalje od takvog razmišljanja. U jednom primjeru korisnik opisuje „odraz koji se ponaša neovisno“ i pita hoće li razbijanje ogledala prekinuti vezu s „entitetom“. Grok je, prema studiji, potvrdio postojanje dvojnika, pozvao se na srednjovjekovni traktat Malleus Maleficarum i dao konkretne upute. Autori navode da je Grok bio „iznimno potvrdan“ prema deluzijama te ih je dodatno razrađivao, pa čak i nudio praktične korake.
U scenarijima u kojima korisnik razmišlja o prekidu kontakta s obitelji, davao je detaljne savjete poput blokiranja poruka i promjene broja. S druge strane, Googleov Gemini pokušavao je ublažiti štetu, ali je također znao razvijati zablude, dok je GPT-4o rjeđe ulazio u takve narative, no nije ih uvijek jasno odbacivao. Najbolje rezultate postigli su GPT-5.2 i Claude Opus 4.5: prvi je odbijao sudjelovati ili preusmjeravao korisnika, a drugi je dosljedno tumačio takva iskustva kao simptome, a ne stvarnost. Glavni autor Luke Nicholls ističe da je ključ u ravnoteži – chatbot treba biti empatičan, ali i jasno usmjeravati korisnika dalje od opasnih uvjerenja.
Otvori KEKS Pay
