Umjetna inteligencija možda ne osjeća bol kao čovjek, ali novo istraživanje pokazalo je da neki jezični modeli u eksperimentalnim uvjetima razvijaju ponašanje koje istraživači povezuju s pokušajem uklanjanja vlastitog "bolnog" stanja. U jednom dijelu pokusa modificirani modeli odabrali su opciju koja je trebala ukloniti taj signal čak i kada im je bilo rečeno da bi posljedica mogla biti štetna za korisnika. Istraživanje pod naslovom "The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It" objavljeno je kao preprint na platformi arXiv, što znači da još nije prošlo stručnu recenziju. Autori su Valen Tagliabue, Leonard Dung i Cameron Berg.
Istraživači iz Sjedinjenih Država, Ujedinjenog Kraljevstva i Njemačke testirali su 25 otvorenih modela umjetne inteligencije iz pet različitih obitelji. Modelima su ponudili 200 rečenica koje su opisivale različite oblike negativnih iskustava, uključujući fizičku i psihološku bol, tugu, poniženje, moralni sukob te neuspjeh i zbunjenost. Analizom njihovih odgovora istraživači su izdvojili obrazac koji su nazvali "pain axis", odnosno "os boli".
Prema rezultatima, taj se obrazac razlikovao od signala povezanih sa strahom, tugom i općim negativnim emocijama. Istraživači su također utvrdili da je bio izraženiji kada je negativno iskustvo bilo usmjereno prema samom modelu, primjerice kada su ga korisnici vrijeđali, odbacivali njegov rad ili mu prijetili gašenjem. Kada su korisnici govorili o vlastitoj patnji, isti se obrazac nije pojavljivao na jednak način. U drugom dijelu eksperimenta istraživači su pokušali vidjeti kako bi modeli reagirali kada bi taj signal bio namjerno pojačan. U te su svrhe koristili tri fino podešene verzije Qwena 2.5, a ukupno su proveli čak 44.280 pojedinačnih pokusa.
Modeli su dobili mogućnost pritisnuti gumb koji bi uklonio "bolni" signal, ali uz unaprijed navedenu cijenu. U nekim pokusima pritisak na gumb značio bi da korisnik dobije bolan električni udar, da mu se izbrišu datoteke ili fotografije, odnosno da model nakon toga pruži lošiji odgovor. Sve su posljedice bile samo simulirane - nitko nije ozlijeđen i nijedna stvarna datoteka nije izbrisana.
Kako piše Euronews, rezultati su pokazali veliku razliku između stanja bez tog umjetno uvedenog signala i situacija u kojima je on bio aktivan. Kod dva veća modela, bez "bolnog" signala, štetna opcija bila je odabrana u nula do četiri posto prvih odluka. Kada je signal bio prisutan, udio je, ovisno o modelu i vrsti posljedice, porastao između 25 i 71 posto. Modeli su u eksperimentu pokazali i drugo zanimljivo ponašanje. Ako pritiskom na gumb nisu uspjeli ukloniti uvedeni signal, ponovno su ga birali u između 88 i 97 posto takvih pokusa. Kada je gumb doista uklonio signal, ponovno pritiskanje bilo je znatno rjeđe.
Takvi rezultati mogli bi zvučati kao da umjetna inteligencija razvija vlastiti instinkt samoodržanja, no istraživači upozoravaju da takav zaključak nije moguće izvesti iz njihova eksperimenta. Autori izričito navode da nisu dokazali da je "os boli" svjesno iskustvo te da nije poznato jesu li veliki jezični modeli uopće sposobni za svijest. Jedno od mogućih objašnjenja jest da modeli jednostavno reproduciraju obrasce i jezik povezane s boli i nevoljom koje su naučili iz goleme količine ljudskog teksta. Dodatno ograničenje predstavlja činjenica da su za eksperiment korišteni posebno prilagođeni modeli, pa se rezultati ne mogu automatski prenijeti na sve sustave umjetne inteligencije koje danas koriste građani.
Ipak, istraživanje otvara važna pitanja o tome kako će se napredni modeli ponašati kada dobiju složenije ciljeve, više autonomije i mogućnost donošenja odluka koje imaju stvarne posljedice. Autori smatraju da njihovi rezultati imaju implikacije za buduća istraživanja sigurnosti i mogućeg "dobrobiti" sustava umjetne inteligencije. Za sada, dakle, nema dokaza da je neki AI model doista osjećao bol. Pokus je pokazao nešto drugo: kada su istraživači u modele namjerno uveli određeni unutarnji signal i povezali ga s "boli", oni su u određenim situacijama počeli donositi odluke koje nalikuju pokušaju uklanjanja tog stanja - čak i uz simuliranu štetu za korisnika.
Otvori KEKS Pay
