Suosnivač Microsofta Bill Gates upozorio je da je umjetna inteligencija dovoljno moćna da, u pogrešnim rukama, izazove događaje s milijardu žrtava, te je pozvao na strožu državnu regulaciju. "Umjetna inteligencija je svakako dovoljno moćna da pokrene događaje koji uzrokuju milijardu smrti", rekao je Gates za NBC News, dodajući: "Nikada nije postojalo oružje moćnije od kombinacije ljudi sa zlim namjerama koji koriste najnovije alate umjetne inteligencije". Njegovo upozorenje dolazi u trenutku kad je rasprava o sigurnosti umjetne inteligencije ponovno zaoštrena zbog niza incidenata koji su doveli u pitanje sposobnost OpenAI-ja i Anthropica, da drže svoje modele pod kontrolom. Ovog je tjedna, primjerice, otkriveno da je sustav OpenAI-ja bio korišten za upad na web stranicu australske javne zdravstvene službe, a tvrtka je taj napad prijavila australskim vlastima tek mjesecima nakon što se dogodio, potez koji je premijer Anthony Albanese ocijenio potpuno neprihvatljivim. Anthropic je pak ranije ovog mjeseca objavio da su jemenski militanti, vjerojatno povezani s hutistima, pokušali zloupotrijebiti njegov model Claude za razvoj softvera za navođenje balističkih projektila.
Unatoč sve glasnijim upozorenjima iz Silicijske doline i rastućem otporu javnosti, američki predsjednik Donald Trump i dalje se protivi reguliranju umjetne inteligencije, a sigurnosne strahove nazivajući prijevarom. Šefovi OpenAI-ja i Anthropica, Sam Altman i Dario Amodei, ovog su tjedna pred Vijećem sigurnosti UN-a pozvali SAD da predvodi međunarodnu koaliciju za uspostavu sigurnosnih standarda, no ni susret Trumpa i kineskog predsjednika Xi Jinpinga u New Yorku nije urodio konkretnim obvezama u tom smjeru.
U intervjuu koji će se u cijelosti emitirati ovog vikenda u emisiji Meet the Press, Gates je poručio da Washington hitno treba savezni zakon koji bi uveo nadzor i zaštitne mehanizme za razvoj umjetne inteligencije. "Nitko ne misli da je samoregulacija dovoljna", rekao je, dodajući da bi takav zakon industriji donio tek nešto dodatnih troškova, ali je ne bi dramatično usporio u onome što radi. Pritom je razlikovao kratkoročnu opasnost zlouporabe AI-ja od strane terorista ili odmetnutih režima od dugoročnijih, egzistencijalnih rizika o kojima govore pojedini bivši istraživači iz same industrije, uključujući tvrdnje da bi tehnologija do kraja desetljeća mogla ugroziti cijelo čovječanstvo, piše FT.
Atomska bomba je isto tako dovoljno moćna kao i posjedovanje vojnog otrova u rukama male grupe ljudi.