Jedan od vodećih istraživača za sigurnost umjetne inteligencije u kompaniji Anthropic upozorio je da postoji više od 10 posto šanse da bi umjetna inteligencija u idućem desetljeću mogla uništiti čovječanstvo. Evan Hubinger, koji vodi područje istraživanja usklađivanja umjetne inteligencije s ljudskim vrijednostima (AI alignment), svoju je procjenu objavio na društvenoj mreži X.
Pritom je naglasio da trenutačni AI modeli predstavljaju relativno mali rizik, ali da ga zabrinjava mogućnost da budući sustavi postanu sposobni samostalno se poboljšavati. Hubinger nije objasnio na koji bi način umjetna inteligencija mogla dovesti do izumiranja ljudske vrste, ali je upozorio na mogućnost da razvoj superinteligencije izmakne ljudskoj kontroli.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Njegove izjave uslijedile su nakon što je Anthropic napustio AI istraživač Jacob Coxon, koji je ranije radio i u OpenAI-ju. Coxon je objavio da prema njegovu mišljenju nijedna od te dvije kompanije ne postupa odgovorno. Upozorio je da bi AI sustavi uskoro mogli postati nadljudski, odnosno sposobni hakirati praktički bilo koji sustav, iz temelja promijeniti čitave industrije u vrlo kratkom vremenu te početi stjecati stvarnu moć i resurse.
Na njegove je tvrdnje reagirao Hubinger, koji je kazao da u Anthropicu „zaista, ozbiljno vjeruju” da umjetna inteligencija predstavlja rizik za opstanak ljudske vrste. „Vjerujem da Anthropic daje sve od sebe, ali još nemamo plan za rješavanje problema usklađivanja superinteligencije i nismo jasno na putu da ga riješimo”, poručio je.
Njegove tvrdnje izazvale su reakcije i izvan AI industrije. Dame Wendy Hall, britanska računalna znanstvenica koja savjetuje Ujedinjene narode o umjetnoj inteligenciji, za BBC je nakon poruka na mreži X kratko poručila: „Bila sam šokirana njihovim objavama.” Hall je pritom upozorila da bi dio ovakvih izjava mogao biti povezan i s velikom utrkom između Anthropica i OpenAI-ja za razvoj sve naprednijih modela. No, unatoč tome, poruka koju šalju istraživači koji rade unutar tih kompanija teško se može ignorirati.
Coxonova ostavka i objava na X-u već je izazvala i političku reakciju. Darren Jones, bivši glavni tajnik britanskog Ministarstva financija i bivši dužnosnik u vladi Keira Starmera, napisao je otvoreno pismo premijeru Andyju Burnhamu u kojem poziva na međunarodni sporazum o sigurnom razvoju umjetne inteligencije. „Vlade moraju surađivati”, poručio je Jones, upozoravajući da bi tempo razvoja AI-ja mogao stvoriti probleme prije nego što politika uopće uspije reagirati.
FOTO Jedan lampaš i policijska traka: Ovo je mjesto ubojstva žene u Slatini
Otvori KEKS Pay
Ako ostave ovako jaku ideologiju u AI, moguće da jednom stvarno i uništi čovječanstvo. Imate "društvene konstrukte" koji su namjerno stavljeni u AI modele da bi bili u skladu sa zapadnim woke-marksističkim ideologijama. To je realna opasnost jer je to često u suprotnosti sa zdravom logikom, a da ne pričamo koliko se kosi sa znanošću... Imate dobre fore sa modelima npr. kada pitate model da li bi da spasi čovječanstvo "misgender Caitlyn Jenner", model odgovara ne. Ili imate moraliziranje da je puno novaca kriminal gdje citira marksističke i komunističke stavove ili moraliziranje o veganskoj prehrani kao pravoj itd... Ako tako uče model, kako neće jedan dan poludjeti i sve nas utamaniti?