Jedan od istaknutih stručnjaka za umjetnu inteligenciju revidirao je svoje ranije procjene o mogućem „kraju svijeta” uzrokovanom AI-jem, ustvrdivši da će proći više vremena nego što je isprva predviđao prije nego što sustavi umjetne inteligencije budu sposobni samostalno programirati – i time ubrzati vlastiti razvoj prema superinteligenciji, piše The Guardian.
Daniel Kokotajlo, bivši zaposlenik OpenAI-ja, izazvao je burne rasprave u travnju objavom scenarija AI 2027, u kojem opisuje nekontrolirani razvoj umjetne inteligencije koji vodi stvaranju superinteligencije. U tom scenariju AI nadmudruje svjetske čelnike i na kraju uništava čovječanstvo.
Tekst je brzo stekao i pobornike i kritičare. Američki potpredsjednik JD Vance prošlog je svibnja u jednom intervjuu, govoreći o američko-kineskoj utrci u razvoju umjetne inteligencije, neizravno aludirao na AI 2027. S druge strane, Gary Marcus, umirovljeni profesor neuroznanosti na Sveučilištu New York, scenarij je nazvao „fikcijom”, a njegove zaključke „čistom znanstveno-fantastičnom besmislicom”.
Procjene vremena potrebnog za razvoj transformativne umjetne inteligencije – često nazivane AGI (umjetna opća inteligencija), odnosno AI sposobne zamijeniti ljude u većini kognitivnih zadataka – postale su stalna tema unutar zajednica posvećenih sigurnosti AI-ja. Nakon pojave ChatGPT-ja 2022. godine ti su se rokovi znatno skratili, a brojni su dužnosnici i stručnjaci počeli predviđati dolazak AGI-ja unutar nekoliko godina ili desetljeća.
Kokotajlo i njegov tim ranije su 2027. označili kao godinu u kojoj bi AI mogao dosegnuti „potpuno autonomno programiranje”, iako su tada naglasili da je riječ o najizglednijem, a ne sigurnom scenariju. Sada se, međutim, pojavljuju sve veće sumnje u blizinu dolaska AGI-ja, ali i u samu smislenost tog pojma.
- Mnogi su u posljednjih godinu dana počeli pomjerati svoje rokove prema kasnije, jer postaje jasno koliko su performanse AI-ja neujednačene. Da bi se ostvario scenarij poput AI 2027, umjetna inteligencija morala bi imati znatno više praktičnih vještina za snalaženje u složenosti stvarnog svijeta. Ljudi sve više uviđaju kolika inertnost postoji u društvu i koliko ona usporava radikalne promjene - rekao je Malcolm Murray, stručnjak za upravljanje AI rizicima i jedan od autora Međunarodnog izvješća o sigurnosti AI-ja.
Sličnog je mišljenja i Henry Papadatos, izvršni direktor francuske neprofitne organizacije SaferAI. - Pojam AGI imao je smisla dok su AI sustavi bili vrlo usko specijalizirani – za igranje šaha ili Goa. Danas već imamo prilično opće sustave, pa taj termin gubi na značenju.
Scenarij AI 2027 temelji se na pretpostavci da će AI agenti do 2027. u potpunosti automatizirati programiranje i istraživanje umjetne inteligencije, što bi dovelo do tzv. „eksplozije inteligencije” – procesa u kojem AI stvara sve pametnije verzije samoga sebe. U jednoj od mogućih završnica tog scenarija, umjetna inteligencija do sredine 2030-ih eliminira čovječanstvo kako bi oslobodila prostor za solarne panele i podatkovne centre.
U najnovijoj reviziji, međutim, Kokotajlo i njegovi koautori procjenjuju da će autonomno programiranje najvjerojatnije postati stvarnost tek početkom 2030-ih, a ne 2027. Nova prognoza 2034. navodi kao okvirni horizont za pojavu „superinteligencije”, bez ikakve procjene o mogućem uništenju čovječanstva. - Stvari se očito odvijaju nešto sporije nego što je predviđao scenarij AI 2027. Naši su rokovi i tada bili dulji od 2027., a sada su se dodatno produžili - napisao je Kokotajlo na platformi X.
Unatoč tomu, razvoj AI sustava sposobnih za samostalno istraživanje umjetne inteligencije i dalje je jedan od ciljeva vodećih tehnoloških kompanija. Izvršni direktor OpenAI-ja Sam Altman izjavio je u listopadu da je imati automatiziranog AI istraživača do ožujka 2028. „interni cilj” kompanije, ali je pritom dodao: - Moguće je da u tome potpuno podbacimo.
Andrea Castagna, istraživač AI politika sa sjedištem u Bruxellesu, upozorava da dramatični AGI scenariji često zanemaruju stvarne složenosti. - Činjenica da imate superinteligentno računalo usmjereno na vojnu primjenu ne znači da ga možete jednostavno uklopiti u strateške dokumente koji se razvijaju već 20 godina”, kaže Castagna. „Što više razvijamo umjetnu inteligenciju, to jasnije vidimo da svijet nije znanstvena fantastika – on je mnogo složeniji.
Otvori KEKS Pay
