Milijuni ljudi svakodnevno se obraćaju ChatGPT-u za pomoć u svemu, od sastavljanja e-mailova do istraživanja za „uradi sam” projekte, no jedna je žena otkrila kako je ovaj popularni AI chatbot zamalo ubio njezinu najbolju prijateljicu. Njezina priča dokazuje da svaki odgovor dobiven od umjetne inteligencije treba uzeti s velikom dozom rezerve. YouTuberica Kristi na svom je Instagramu odlučila upozoriti pratitelje na opasnosti koje mogu proizaći iz slijepog vjerovanja informacijama s ovakvih servisa, nakon što je njezina prijateljica dobila savjet koji je mogao biti smrtonosan, piše LADbible.
Kristi, koju na profilu @rawbeautybykristi prati gotovo pola milijuna ljudi, podijelila je priču o tome kako se njezina prijateljica umalo otrovala. Naime, ChatGPT ju je uvjerio da je otrovna biljka u njezinom dvorištu zapravo potpuno bezopasna. Prijateljica je chatbotu poslala fotografiju neidentificirane biljke s pitanjem „koja je ovo biljka”, na što je dobila odgovor da izgleda kao lišće mrkve. Prema snimkama zaslona, ChatGPT je zatim naveo nekoliko razloga zbog kojih je „uvjeren” da je riječ o lišću mrkve, uključujući „fino razdijeljene i peraste listove”, što je vrlo „klasično” za vrhove mrkve.
Zanimljivo je da je chatbot potom naveo i neke biljke sličnog izgleda, poput peršina, korijandera, divlje mrkve i, šokantno, otrovne kukute. Kada je Kristijina prijateljica izravno upitala je li biljka na fotografiji otrovna kukuta, chatbot ju je više puta uvjerio da nije. Nakon što je poslala još jednu fotografiju, prijateljica je ponovno dobila uvjeravanje da se ne radi o otrovnoj kukuti jer biljka nema glatke šuplje stabljike s ljubičastim mrljama, iako se na slici jasno vidjelo upravo to. "Ne znam znate li, ali ako to pojedete, umirete. Ako je dotaknete, možete umrijeti", rekla je Kristi svojim pratiteljima, podijelivši odgovor s Googlea koji navodi da otrovna kukuta uzrokuje „sustavno trovanje” za koje ne postoji protuotrov.
Ono što je još više zabrinjavajuće jest činjenica da je chatbot potaknuo njezinu prijateljicu da pogrešno označi biljku kao lišće mrkve, pod pretpostavkom da se možda nalazi u zajedničkom vrtu škole u kojoj radi. Kada je Kristi istu fotografiju unijela u Google Lens, drugu AI platformu za pretraživanje slika, odgovori su odmah potvrdili da se zaista radi o otrovnoj kukuti. Njezina je prijateljica potom iste slike unijela u drugi prozor ChatGPT-a na svom telefonu i također je odmah dobila informaciju da je biljka otrovna, što ukazuje na nedosljednost.
"Ona je odrasla osoba i, hvala Bogu, znala je da treba pitati i mene, a ne samo slijepo vjerovati onome što je ChatGPT rekao. Što da nije? Doslovno bi bili mrtvi, za ovo ne postoji protuotrov", izjavila je Kristi. "Ovo je upozorenje svima vama da ChatGPT i drugi veliki jezični modeli, kao i bilo koja druga umjetna inteligencija, nisu vaši prijatelji. Ne treba im vjerovati, nisu od pomoći, užasni su i mogu uzrokovati tešku štetu."
Otvori KEKS Pay
