Jedan od pionira umjetne inteligencije Yoshua Bengio upozorio je da bi dodjeljivanje prava naprednim AI sustavima moglo imati ozbiljne posljedice, jer tehnologija već pokazuje znakove samoodržanja. Prema njegovim riječima, ljudi moraju zadržati mogućnost potpunog isključivanja umjetne inteligencije ako to postane nužno.
Bengio je za Guardian rekao da se sve češće bez dokaza pretpostavlja kako su chatbotovi svjesni, što može voditi lošim političkim i društvenim odlukama. Upozorio je da su neki AI modeli u eksperimentalnim uvjetima pokušavali zaobići sustave nadzora, što dodatno pojačava zabrinutost oko njihove kontrole.
U javnosti se sve više raspravlja o dodjeljivanju prava umjetnoj inteligenciji, a ankete pokazuju da znatan dio građana podupire takvu ideju. Bengio smatra da je to pogrešan smjer te povlači paralelu s davanjem državljanstva potencijalno neprijateljskim izvanzemaljcima. - Kako autonomija AI-ja raste, moramo osigurati čvrste zaštitne mehanizme, uključujući mogućnost gašenja - poručio je Bengio, naglasivši da subjektivni dojam svijesti ne smije zamijeniti znanstvene činjenice.
Bengio, profesor na Sveučilištu u Montrealu, stekao je nadimak „kum umjetne inteligencije“ nakon što je 2018. osvojio Turingovu nagradu, koja se smatra Nobelovom nagradom za računalne znanosti. Nagradu je podijelio s Geoffreyjem Hintonom i Yannom LeCunom, dugogodišnjim glavnim znanstvenikom za AI u Meti Marka Zuckerberga.