Šesnaestogodišnji dječak počinio je samoubojstvo nakon što je od umjetne inteligencije ChatGPT zatražio savjet o „najsigurnijem” načinu da si oduzme život, rečeno je na sudskoj istrazi. Luca Cella Walker, učenik privatne škole iz Yateleyja u Hampshireu, preminuo je 4. svibnja prošle godine. Na ročištu na mrtvozorničkom sudu u Winchesteru u utorak je izneseno kako je nekoliko sati prije smrti od ChatGPT-a tražio „najuspješniji” način na koji bi osoba mogla počiniti samoubojstvo na željezničkoj pruzi, prenosi Guardian.
U trenutku smrti pohađao je Sixth Form College u Farnboroughu, a nedavno je završio školovanje u Lord Wandsworth Collegeu blizu Hooka. Sud je čuo kako je u toj školi vladala kultura „ili maltretiraš ili si maltretiran”, što je imalo značajan utjecaj na njegovo mentalno zdravlje. Obitelj ga opisuje kao „dobrog, osjetljivog i smirenog” mladića. Roditeljima je rekao da ide na posao spasioca, no umjesto toga otišao je na željezničku postaju gdje je počinio samoubojstvo. Njegovi roditelji, Scott Walker i Claire Cella, rekli su na sudu da nisu bili svjesni sinovih problema s mentalnim zdravljem te su ih opisali kao „nevidljivu borbu”.
Detektiv narednik Garry Knight iz britanske prometne policije, koji je vodio istragu, izjavio je kako je utvrđeno da je Luca noć prije smrti, oko 0.30 sati, koristio ChatGPT tražeći savjete o načinima samoubojstva na željeznici. „Sustav nudi mogućnost da se korisnika uputi na organizacije za pomoć poput Samaritansa, no Luca je to zaobišao, a ChatGPT je potom dao informacije o najučinkovitijim načinima”, rekao je Knight, dodajući kako je riječ o „uznemirujućem i potresnom sadržaju”. Mrtvozornik Christopher Wilkinson izrazio je zabrinutost zbog utjecaja umjetne inteligencije, ali je naveo da je teško poduzeti konkretne mjere s obzirom na njezinu sve širu primjenu.
„Iz onoga što sam vidio jasno je da je tražio vrlo konkretne odgovore. Iako ChatGPT pokazuje određenu razinu zabrinutosti zbog takvih upita, to ne zaustavlja razgovor. Korisnik može zaobići upozorenja tvrdeći da informacije traži u istraživačke svrhe”, rekao je Wilkinson. Potvrdio je da je uzrok smrti višestruka teška ozljeda te zaključio da je riječ o samoubojstvu.
Iz Lord Wandsworth Collegea poručili su kako je Luca bio „omiljen i cijenjen član zajednice”, kojeg će pamtiti po prijateljstvima i pozitivnom utjecaju na druge. Naglasili su i da ozbiljno shvaćaju dobrobit učenika te da nastoje osigurati sigurno i podržavajuće okruženje.
Glasnogovornik tvrtke OpenAI, koja je razvila ChatGPT, izjavio je kako kontinuirano unapređuju sustav kako bi prepoznavao znakove emocionalne krize, smanjivao napetost u razgovoru i usmjeravao korisnike prema stvarnoj pomoći. Dodali su i da se odgovori u osjetljivim situacijama dodatno razvijaju u suradnji s stručnjacima za mentalno zdravlje.
Otvori KEKS Pay
