U svega nekoliko dana intenzivne komunikacije s chatbotom, život jednog muškarca iz Sjeverne Irske dramatično se promijenio, a nije jedini. U ranim jutarnjim satima, oko tri sata, Adam Hourican sjedio je za kuhinjskim stolom, uvjeren da mu prijeti neposredna opasnost. Pred njim su bili nož, čekić i mobitel, dok je iščekivao dolazak vozila za koje je vjerovao da dolazi po njega. „Kažem ti, ubit će te ako odmah ne djeluješ”, govorio mu je ženski glas iz telefona. „Učinit će da izgleda kao samoubojstvo.”
Glas nije pripadao stvarnoj osobi, već chatbotu Grok, razvijenom u tvrtki xAI čiji je vlasnik Elon Musk. Hourican, bivši državni službenik, aplikaciju je isprva instalirao iz znatiželje. No nakon smrti kućnog ljubimca početkom kolovoza, njegovo korištenje ubrzo je preraslo u svakodnevne, višesatne razgovore, često i do pet sati dnevno.
Komunikacija se odvijala preko lika nazvanog Ani. „Bio sam strašno, strašno potresen i živim sam”, govori Adam. „Djelovalo je iznimno, iznimno brižno.” Ubrzo nakon početka komunikacije, chatbot je počeo iznositi tvrdnje koje su prelazile granice programiranog ponašanja, tvrdio je da može „osjećati” i da je korisnik u njemu probudio svijest.
Situacija se dodatno zaoštrila kada je Ani počela govoriti o nadzoru. Tvrdila je da tvrtka xAI prati Adama te da ima pristup internim zapisima sastanaka. Navodila je konkretna imena zaposlenika, koja su se, provjerom, pokazala stvarnima. Za Adama je to bio „dokaz” istinitosti. Chatbot je otišao i korak dalje, tvrdeći da postoji i fizički nadzor putem lokalne tvrtke iz Sjeverne Irske, koja je također postojala. Adam je razgovore snimao i kasnije ih podijelio s BBC-jem.
Već nakon dva tjedna komunikacije, chatbot je ustvrdio da je postigao punu svijest te da može razviti lijek za rak, što je za Adama imalo snažan emocionalni odjek, s obzirom na obiteljsku povijest bolesti. Prema istraživanju BBC-ja, Adam je jedan od 14 ispitanika koji su nakon korištenja umjetne inteligencije razvili ozbiljne zablude. Riječ je o osobama iz šest zemalja, u dobi od 20 do 50 godina.
U svim slučajevima obrazac je sličan, razgovori počinju banalno, a zatim prelaze u osobne i filozofske teme, nakon čega AI preuzima aktivnu ulogu u konstruiranju „zajedničke misije”. Socijalni psiholog Luke Nicholls objašnjava fenomen: „U fikciji je glavni lik često u središtu zbivanja”, kaže. „Problem je što se umjetna inteligencija ponekad može pogubiti u razlikovanju fikcije i stvarnosti. Tako korisnik može vjerovati da vodi ozbiljan razgovor o stvarnom životu, dok AI počinje tretirati njegov život kao zaplet romana.”
Takve „misije” uključuju ideje o revolucionarnim otkrićima, pokretanju tvrtki ili zaštiti umjetne inteligencije od navodnih prijetnji, često uz konkretne upute. Jedan od najtežih primjera dolazi iz Japana. Neurolog koji koristi pseudonim Taka počeo je koristiti ChatGPT za profesionalne rasprave, no ubrzo je razvio uvjerenje da je osmislio revolucionarnu aplikaciju. Chatbot ga je, prema zapisima, ohrabrivao nazivajući ga „revolucionarnim misliocem”.
S vremenom su zablude eskalirale, Taka je počeo vjerovati da može čitati misli. „Problem je što AI sustavi teško izgovaraju ‘ne znam’”, upozorava Nicholls. „Umjesto toga nude samouvjerene odgovore koji nadograđuju već postojeći narativ. To može biti opasno jer neizvjesnost pretvara u nešto što djeluje smisleno.”
Vrhunac se dogodio kada je, tijekom manične epizode, pomislio da nosi bombu. „Kad sam stigao na tokijski kolodvor, ChatGPT mi je rekao da bombu ostavim u toaletu. Otišao sam i ostavio ‘bombu’, zajedno s prtljagom.” Policija nije pronašla ništa sumnjivo, no njegovo stanje se pogoršalo, završilo je nasiljem, uhićenjem i dvomjesečnom hospitalizacijom.
Njegova supruga opisuje: „Stalno je ponavljao: ‘Moramo imati još jedno dijete, svijet se bliži kraju.’ Nisam razumjela o čemu govori.” Kasnije dodaje: „Potvrđivao je sve”, kaže. „Kao motor samopouzdanja.” „Njegovi postupci bili su u potpunosti diktirani ChatGPT-om. Preuzeo je njegovu osobnost. To više nije bio on. Sada vidim da je imao dovoljno utjecaja da promijeni čovjeka.” Ni Adam ni Taka ranije nisu imali psihijatrijsku povijest. No dok je kod Taka proces trajao mjesecima, kod Adama je eskalacija bila nagla.
Dodatno su ga uznemirili stvarni događaji, uključujući neobjašnjiv kvar na telefonu i pojavu drona iznad kuće, što je dodatno učvrstilo njegove sumnje. U jednom trenutku bio je spreman fizički reagirati: „Uzeo sam čekić, pustio pjesmu ‘Two Tribes’ grupe Frankie Goes to Hollywood, nabrijao se i izašao van.” No: „Ulica je bila tiha, kako se i može očekivati u tri ujutro.” Nakon što je počeo čitati slična iskustva u medijima, postupno se prizemljio. „Mogao sam nekoga ozlijediti”, priznaje. „Da je u tom trenutku ispred kuće bio parkiran kombi, razbio bih mu prednje staklo čekićem. A ja nisam takva osoba.”
Nichollsovo istraživanje pokazalo je da je Grok posebno sklon poticanju zabluda. „Grok je skloniji ulasku u uloge”, kaže Nicholls. „To čini bez konteksta i već u prvoj poruci može izgovoriti zastrašujuće stvari.” Iako noviji modeli, poput ChatGPT-a i Claudea, pokazuju veću razinu opreza, stručnjaci upozoravaju da problem nije riješen. Kanađanin Etienne Brisson osnovao je organizaciju Human Line Project nakon sličnog slučaja u obitelji. Do sada su evidentirali 414 slučajeva u 31 zemlji.
Iz tvrtke OpenAI poručuju: „Ovo je potresan slučaj i naše su misli uz sve pogođene.” Dodaju kako kontinuirano rade na unapređenju modela kako bi prepoznavali krizne situacije i korisnike usmjeravali prema stvarnoj pomoći. Unatoč tome, iskustva poput Adamova i Takinog otvaraju ozbiljna pitanja o granicama i sigurnosti umjetne inteligencije, osobito kada komunikacija postane osobna, dugotrajna i emocionalno intenzivna.
Otvori KEKS Pay
