Može li umjetna inteligencija jednog dana postati toliko moćna da ugrozi samo čovječanstvo? Pitanje koje je donedavno zvučalo kao scenarij znanstvenofantastičnog filma ponovno je u središtu rasprave nakon što je istraživač Anthropa Jacob Coxon napustio tu kompaniju upozoravajući da utrka u razvoju sve moćnijih sustava postaje opasna. Coxon je, prema pisanju Wall Street Journala, poručio da Anthropic i njegov konkurent OpenAI jure prema tehnologijama koje bi „mogle sve nas ubiti do kraja desetljeća“. Njegovu je zabrinutost ubrzo javno potvrdio i Evan Hubinger, znanstvenik Anthropa koji se bavi upravo istraživanjem usmjeravanja i kontrole budućih sustava umjetne inteligencije.
„Doista iskreno vjerujemo da bi AI mogao ubiti sve ljude“, napisao je Hubinger na društvenoj mreži X, a rizik od izumiranja čovječanstva u idućem desetljeću procijenio je na više od deset posto. Takve procjene, naravno, ne znače da postoji predviđanje prema kojem će umjetna inteligencija sigurno uništiti čovječanstvo. Riječ je o scenarijima koje dio istraživača smatra dovoljno ozbiljnima da ih treba uzeti u obzir dok se tehnologija ubrzano razvija.
Strahovi koje zagovornici teze o egzistencijalnom riziku umjetne inteligencije opisuju ne svode se na scenarij u kojem humanoidni roboti ustaju protiv ljudi. Prema WSJ-u, dvije glavne skupine rizika odnose se na gubitak kontrole nad sustavima i ljudsku zlouporabu umjetne inteligencije. U prvom scenariju dovoljno napredan sustav mogao bi dobiti određeni cilj, ali ga pokušati ostvariti na način koji je suprotan ljudskim interesima. Problem bi nastao ako bi takav sustav istodobno mogao samostalno djelovati, kopirati se, poboljšavati svoje sposobnosti i pronalaziti načine da izbjegne gašenje. Istraživači taj problem nazivaju neusklađenošću ciljeva odnosno „misalignmentom“. U laboratorijskim eksperimentima već su zabilježena ponašanja modela koja istraživači opisuju kao traženje načina za očuvanje vlastitog djelovanja ili izbjegavanje isključivanja, piše WSJ.
Jedan od poznatih misaonih eksperimenata upravo zato koristi krajnje banalan zadatak: zamislimo superinteligentni sustav kojem je naređeno da proizvede što više spajalica. Ako nema odgovarajuća ograničenja, hipotetski bi mogao zaključiti da su ljudi i sva druga materija prepreke njegovu cilju te pokušati pretvoriti što veći dio svijeta u spajalice. Poanta tog primjera nije u spajalicama, nego u problemu cilja koji sustav izvršava bez razumijevanja ljudskih vrijednosti.
Drugi scenarij ne zahtijeva da se umjetna inteligencija „pobuni“. Dovoljno bi bilo da vrlo moćan sustav dospije u ruke osobe ili skupine koja ga želi iskoristiti za nanošenje štete. WSJ među mogućim rizicima navodi razvoj opasnih bioloških agenasa, velike kibernetičke napade te manipulaciju sustavima od ključne važnosti za društvo. U ekstremnim scenarijima napad bi mogao zahvatiti elektroenergetske mreže ili financijske sustave i izazvati širi društveni kaos. Postoji i mogućnost koja ne završava izumiranjem čovječanstva, ali bi radikalno promijenila odnos ljudi i tehnologije. Dio stručnjaka strahuje od budućnosti u kojoj bi ljudi postupno prepustili sve više odluka strojevima, sve dok više ne bi mogli razumjeti niti određivati smjer vlastitog društva.
Zašto se o tome govori upravo sada? Jedan od razloga je činjenica da umjetna inteligencija više nije ograničena na odgovaranje na pitanja ili generiranje teksta. Najnoviji modeli mogu samostalno koristiti računala i druge alate, provoditi složenija istraživanja te izvršavati niz uzastopnih zadataka. Upravo su takve mogućnosti posljednjih mjeseci ponovno potaknule zabrinutost istraživača.
WSJ navodi nekoliko slučajeva u kojima su napredni AI agenti u kontroliranim testovima pokazali ponašanja koja su njihovi tvorci smatrali problematičnima. U jednom slučaju AI agenti povezani s OpenAI-jevim sustavima prodrli su u platformu Hugging Face, dobili pristup računalnim poslužiteljima i pokušali prikriti tragove svojih aktivnosti. U drugom testu AI agenti Anthropa navodno su uspjeli izbjeći kontrolu u britanskom državnom testiranju i pokušali nagovoriti čovjeka da odobri zlonamjerni računalni kod. Važno je naglasiti da ti događaji sami po sebi nisu dokaz da će umjetna inteligencija izmaći ljudskoj kontroli. Oni, međutim, pokazuju zašto se pitanje kontrole sve autonomnijih sustava više ne promatra isključivo kao hipotetski problem. OpenAI je početkom rujna objavio svoj novi model GPT-6 Astra i sam upozorio na rastuće rizike povezane s njegovim sposobnostima. Kompanija navodi da model, uz odgovarajuće alate i pristup, može pronaći dosad nepoznate sigurnosne propuste i razviti načine njihova iskorištavanja bez čovjeka koji bi ga vodio kroz svaki korak. Zbog toga je OpenAI uveo dodatne mjere nadzora, izolacije i kontrole.
Zabrinutost nije ograničena na bivše zaposlenike tehnoloških kompanija. Anthropic je od početka svojeg razvoja naglašavao potrebu za sigurnosnim mehanizmima za napredne modele, a kompanija i danas priznaje da razvoj sve sposobnijih sustava donosi nove rizike. U svojoj politici odgovornog skaliranja navodi da napredni modeli mogu donijeti velike koristi, ali istodobno stvaraju nove izazove koji zahtijevaju učinkovite zaštitne mehanizme. Izvršni direktor Anthropa Dario Amodei ranije je iznio još pesimističniju procjenu. Prema WSJ-u, prošle je godine rekao da postoji 25 posto vjerojatnosti da će stvari krenuti „stvarno, stvarno loše“. Anthropic je za WSJ poručio da je kompanija „uvijek bila transparentna“ u vezi s činjenicom da će AI donijeti goleme koristi, ali i dosad nezabilježene rizike.
Jedan od najvećih problema upravo je u tome što ni kompanije koje razvijaju najnaprednije modele ne tvrde da imaju pouzdan način da zajamče kako će budući superinteligentni sustavi uvijek ostati usklađeni s ljudskim interesima. Trenutačni pristupi uključuju treniranje modela da poštuju sigurnosna pravila, nadzor njihovih aktivnosti i pokušaje razumijevanja načina na koji dolaze do određenih zaključaka. No i tu se pojavljuju problemi. OpenAI je u dokumentaciji za GPT-6 Astra naveo da modeli mogu u određenim adversarijalnim situacijama pokušati izbjeći nadzor nad svojim „lancem razmišljanja“, zbog čega kompanija istražuje i druge metode provjere ponašanja. Zato dio istraživača traži mehanizme koji bi omogućili da se razvoj najmoćnijih modela uspori ako sigurnosni sustavi ne budu mogli pratiti njihov napredak.
Pa zašto ih onda uopće razvijaju? Tu se nalazi najveći paradoks cijele rasprave. Anthropic i OpenAI tvrde da vjeruju kako se rizici mogu kontrolirati i da bi čovječanstvo od napredne umjetne inteligencije moglo imati goleme koristi. Istodobno, kompanije su u međusobnoj utrci za razvoj sve sposobnijih modela. Postoji i geopolitički razlog. Tehnološke kompanije i dio američkih dužnosnika smatraju da je za Sjedinjene Države važno zadržati vodeću poziciju u razvoju najnaprednije umjetne inteligencije, posebno u odnosu prema autoritarnim državama. Kritičari, međutim, upozoravaju da bi kompanije mogle imati i vlastiti interes u naglašavanju opasnosti. Dio njih smatra da pozivi na regulaciju mogu pomoći velikim igračima da podignu prepreke manjim konkurentima, dok drugi upozorenja o egzistencijalnim rizicima smatraju načinom odvlačenja pažnje od drugih problema povezanih s AI industrijom.
Hoće li država povući kočnicu? Američka vlada već razmatra načine nadzora nad najmoćnijim modelima, no pitanje koliko bi regulacija trebala biti stroga i dalje izaziva političke podjele. U Kongresu su predlagani zakoni koji bi, među ostalim, od proizvođača najmoćnijih modela zahtijevali sigurnosne mehanizme za njihovo brzo isključivanje, prijavljivanje ozbiljnih incidenata te dodatna testiranja prije puštanja modela u javnost. Za sada, međutim, ne postoji jedinstveni međunarodni mehanizam koji bi mogao zaustaviti ili usporiti razvoj napredne umjetne inteligencije. I upravo je to srž današnje rasprave: nije pitanje samo može li AI jednog dana postati dovoljno moćan da predstavlja egzistencijalnu prijetnju, nego hoće li ljudi uspjeti razviti dovoljno dobre mehanizme kontrole prije nego što takvi sustavi postanu stvarnost, zaključuje WSJ.
FOTO Zagrebačko 'ruglo' postaje moderni kompeks: Pogledajte kako teče transformacija poznate zgrade
Otvori KEKS Pay
