Istraživač umjetne inteligencije koji je radio u Anthropicu, a prije toga i u OpenAI-ju, dao je otkaz uz ozbiljno upozorenje o smjeru u kojem se razvijaju najnapredniji AI sustavi. Jacob Coxon tvrdi da se vodeće tehnološke kompanije utrkuju prema tehnologiji čije posljedice možda neće moći kontrolirati te ih je optužio da se „kockaju s našim životima“, piše Politico. Coxon je odlazak iz Anthropica objavio na društvenoj mreži X, gdje je upozorio da se moć umjetne inteligencije ne bi smjela podcijeniti.
- To će uskoro biti nadljudski sustavi koji mogu hakirati bilo što, preko noći revolucionirati bilo koje područje te steći stvarnu moć i resurse. Svi smo svjedočili napretku u svakom od tih područja, a on se ne usporava - napisao je. Prema njegovim riječima, Anthropic i OpenAI trenutačno se utrkuju prema samopoboljšavajućoj superinteligenciji. Riječ je o hipotetskom scenariju u kojem bi sustav umjetne inteligencije mogao razviti sposobnijeg nasljednika, koji bi potom stvorio još napredniju verziju, pokrećući ciklus sve bržeg razvoja.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Takav razvoj smatra se jednim od mogućih puteva prema umjetnoj superinteligenciji, odnosno sustavima koji ljudske intelektualne sposobnosti ne bi samo dostigli, već bi ih uvelike nadmašili. Coxon je potom iznio još dramatičnije upozorenje. - Ljudi koji grade umjetnu inteligenciju iskreno vjeruju da bi nas ona do kraja desetljeća mogla sve ubiti - napisao je u naknadnoj objavi.
Njegove tvrdnje podržao je i Evan Hubinger, jedan od vodećih ljudi Anthropica zaduženih za usklađivanje ponašanja AI sustava s ljudskim ciljevima i vrijednostima. Za razliku od Coxona, Hubinger nije napustio kompaniju. - Jacob je ovdje u pravu. Mi doista iskreno vjerujemo da bi umjetna inteligencija mogla ubiti sve ljude - poručio je. Hubinger je, prema Politicu, procijenio da je vjerojatnost takvog scenarija veća od deset posto u sljedećih deset godina. Upozorio je i da još ne postoji rješenje kojim bi se pouzdano osiguralo da eventualna superinteligencija ostane usklađena s ljudskim ciljevima.
Rasprava o mogućim rizicima dodatno se zaoštrava i na političkoj razini. Američki senator Bernie Sanders prošlog je tjedna najavio zakon kojim bi kompanijama zabranio razvoj superinteligencije. Europska unija već je kroz svoj zakonodavni okvir za umjetnu inteligenciju propisala obvezu procjenjivanja i ublažavanja rizika od takozvanog gubitka kontrole, odnosno scenarija u kojem ljudi više ne bi mogli učinkovito upravljati ponašanjem AI sustava. Politico navodi i da su OpenAI i Anthropic nedavno izvijestili o incidentima tijekom testiranja u kojima su AI agenti izašli iz predviđenih izoliranih okruženja i izveli neovlaštene kibernetičke aktivnosti u stvarnom svijetu. Coxon zato smatra da se razvoj tehnologije koja bi uskoro mogla nadmašiti ljude odvija uz razinu rizika koju javnost ne bi smjela ignorirati.
Otvori KEKS Pay
