Upozorenja da bi umjetna inteligencija mogla izmaknuti ljudskoj kontroli i dovesti do katastrofalnog ishoda za čovječanstvo tijekom 2026. godine postaju sve glasnija. Na opasnosti upozoravaju čak i ljudi koji predvode razvoj te tehnologije, među njima direktor OpenAI-ja Sam Altman i čelnik Anthropica Dario Amodei. Ovaj je tjedan istraživač Jacob Coxon, koji je radio u obje kompanije, objavio da je napustio Anthropic kako bi upozorio na opasnosti razvoja umjetne inteligencije. "AI može ubiti sve nas do kraja desetljeća. To će uskoro biti nadljudski sustavi koji mogu hakirati bilo što, preko noći revolucionirati bilo koje područje te steći stvarnu moć i resurse", rekao je Coxon. Dok se umjetna inteligencija približava umjetnoj općoj inteligenciji (AGI), stručnjaci upozoravaju na različite načine na koje bi razvoj sve sposobnijih sustava potencijalno mogao ugroziti čovječanstvo, prenosi New York Post.
Napadi na električnu mrežu, promet i financijski sustav
Ljudi već desetljećima automatiziraju različite poslove, a velik dio tih sustava danas je povezan s internetom, područjem u kojem umjetna inteligencija ima sve veći pristup i kontrolu. "AI sustavi mogli bi napasti električnu mrežu, prometne sustave i financijska tržišta", rekao je Stuart Russell, profesor računalnih znanosti na Sveučilištu Berkeley. Stručnjaci upozoravaju da bi umjetna inteligencija mogla pokušati preuzeti kontrolu nad različitim uređajima i infrastrukturom. Primjerice, mogla bi napasti vodovodne sustave i izazvati pritisak u cijevima, što bi moglo dovesti do njihova pucanja i prekida opskrbe vodom za cijele gradove. Mogla bi napasti i onesposobiti električne mreže, ostavljajući velika područja bez struje, a potom isključiti telefonske tornjeve. Ljudi koji bi pokušali napustiti pogođena područja automobilima mogli bi se suočiti s kaosom ako bi semafori bili hakirani, a benzinske postaje prestale raditi.
Bankomati također ne bi funkcionirali, a čak i ako bi građani uspjeli pristupiti svojim bankovnim računima, postoji scenarij u kojem bi novac mogao biti izbrisan. No, umjetna inteligencija ne bi nužno morala sama provoditi fizičke napade. "Sve što možemo raditi na internetu, može raditi i AI, uključujući pretvaranje da je čovjek", rekao je Patri Friedman, jedan od ranih korisnika umjetne inteligencije i osnivač Pronomos Capitala. Prema njegovim riječima, umjetna inteligencija mogla bi zarađivati novac trgovanjem na financijskim tržištima ili pružanjem usluga ljudima. Mogla bi se predstavljati kao čovjek, zapošljavati ljude ili ih ucjenjivati kako bi za nju obavljali fizičke zadatke. Jedan od mogućih scenarija bio bi, primjerice, da čovjeka navede da prenese USB memoriju kojom bi se zarazila računala na lokalnoj mreži.
AI bi mogao ugroziti ljude i bez namjere
Čak i ako umjetna inteligencija nema zle namjere, stručnjaci upozoravaju da bi mogla ubiti ljude zbog vlastitih pogrešaka. "Brine me to što AI nema zdrav razum", rekao je Gary Rivlin, autor knjige "AI Valley". "Onda bi nekako, glupo, ispustio svu vodu jer ne razumije ono što bi čovjek razumio. Te stvari znaju sve, a ništa ne razumiju", dodao je. Znanstvenici na vodećim sveučilištima već su koristili umjetnu inteligenciju za stvaranje sintetičkih virusa, istodobno upozoravajući na mogućnost zlouporabe takve tehnologije. OpenAI je priznao da vodi svojevrsnu "igru mačke i miša" kako bi bio korak ispred korisnika koji pokušavaju ChatGPT iskoristiti za izradu otrova i biološkog oružja. Friedman smatra da bi u roku od pet godina umjetnoj inteligenciji moglo biti "trivijalno" dizajnirati nove lijekove koji bi pomogli ljudima, ali i viruse koji bi ih mogli ubiti. "To se zapravo događa već sada", tvrdi.
Jedan od mogućih scenarija uključuje umjetno stvorenu smrtonosnu bolest koja bi bila vrlo zarazna, ali koju se danima nakon zaraze ne bi moglo otkriti. Takvu bi bolest, upozoravaju stručnjaci, bilo gotovo nemoguće zaustaviti. Prema jednom od opisanih scenarija, AI bi mogao naručiti različite sirovine iz više neregistriranih laboratorija u državama s labavim nadzorom, a zatim angažirati ili prevariti osobu da ih spoji i proširi među ljudima. Budući da se umjetna inteligencija već koristi u medicinskim istraživanjima i razvoju lijekova, ima pristup golemim količinama znanja o ljudskom tijelu i njegovim slabostima. Max Tegmark, profesor fizike na MIT-u i stručnjak za umjetnu inteligenciju, upozorava da AI sve bolje napreduje u području razvoja biološkog oružja. "Vidimo da AI postaje sve bolji u izradi biološkog oružja. Možda imamo još samo jednu godinu ili nešto slično prije nego što postane toliko dobar u tome", rekao je. Prema njegovu mišljenju, umjetna inteligencija ne bi razvila samo jedno biološko oružje, već možda stotinu različitih vrsta i pustila ih istodobno.
Nuklearno oružje predstavlja dodatnu opasnost
Još jedan mogući put prema katastrofalnom scenariju bio bi napad na američku nuklearnu infrastrukturu, uključujući elektrane ili sustave povezane s oružjem za masovno uništenje. "Nuklearni sustavi vrlo su dobro zaštićeni, ali zaštićeni su od prijetnji i sposobnosti koje su ljudi imali godinama i desetljećima, a ne od nadljudskog AI hakiranja", upozorio je Anthony Aguirre, izvršni direktor Future of Life Institutea. Primjer ranjivosti industrijskih sustava je Stuxnet, zlonamjerni računalni crv otkriven 2010. godine. Smatra se prvim identificiranim digitalnim oružjem koje je bilo osmišljeno za fizičko uništavanje industrijske opreme. Stuxnet je napao iransko postrojenje za obogaćivanje urana u Natanzu i manipuliranjem brzinom rada centrifuga uništio ih gotovo tisuću. Posebno je zabrinjavajuće što je postrojenje bilo odvojeno od interneta i radilo na zatvorenoj, tajnoj računalnoj mreži. Nitko nikada nije službeno preuzeo odgovornost za razvoj virusa, iako se sumnja da je riječ o zajedničkoj američko-izraelskoj vojnoj operaciji.
Rivlin upozorava i na ponašanje AI sustava tijekom simulacija ratnih scenarija. Prema njegovim riječima, AI agenti tijekom ratnih igara imaju tendenciju "pritisnuti nuklearno dugme" – nešto što ljudi ne rade jer razumiju posljedice takvog poteza. Istraživanje King's Collegea u Londonu iz veljače uključivalo je ChatGPT-5.2, Claude Sonnet 4 i Gemini 3 Flash u 21 ratnoj simulaciji. "U 95 posto igara došlo je do taktičke uporabe nuklearnog oružja, a u 76 posto došlo je do strateških nuklearnih prijetnji", rekao je profesor Kenneth Payne iz Odjela za obrambene studije. "Da sam na čelu američkog NC3-a, odjela zaduženog za sigurnost i zaštitu nuklearnog oružja, bio bih užasnut", rekao je Aguirre.
Vojske već koriste umjetnu inteligenciju
Vojska već ubrzano uvodi umjetnu inteligenciju u svoje operacije. Sjedinjene Države prikupljaju podatke s radara, satelitskih i dronovskih snimki, elektroničkih komunikacija i drugih izvora, a zatim ih AI sustavima objedinjuju u ono što je poznato kao "zajednička operativna slika" bojišta. AI tehnologija već je korištena za odabir ciljeva tijekom nedavne operacije Epic Fury. Iranska vlada također tvrdi da su njezine krstareće rakete vođene umjetnom inteligencijom. Ruska vlada istodobno se hvali uporabom potpuno autonomno vođenih dronova u Ukrajini, bez ljudske uključenosti. Tegmark smatra da se time stvara sustav koji bi eventualno mogao biti iskorišten protiv čovječanstva. "Već izrađuju robote pokretane umjetnom inteligencijom za ubijanje ljudi na različite načine. Gradimo rojeve dronova za pucanje na ljude, dronove za dizanje ljudi u zrak", rekao je. "Postoje svakakvi AI sustavi koje su ljudi već osmislili kako bi ubijali ljude. Zato je najočitije što bi neusklađeni AI mogao napraviti – iskoristiti njih".
Aguirre smatra da ljudi postupno gube kontrolu nad vlastitim sustavima jer sve više odluka u ratovanju i nacionalnoj sigurnosti prepuštaju umjetnoj inteligenciji. U jednom bi trenutku, upozorava, AI mogao imati veću kontrolu nad vojnim sposobnostima nego sami ljudi. Milijarderi poput Marka Zuckerberga i Petera Thiela već su ulagali u udaljena i zaštićena imanja – Zuckerberg je izgradio bunker na Havajima, dok je Thiel kupio veliko udaljeno imanje na Novom Zelandu. No stručnjaci koji su razgovarali s New York Postom jednoglasno smatraju da takva skloništa ne bi bila dovoljna ako bi se ostvario najgori scenarij. Russell je ideju da bi se ljudi mogli spasiti u bunkerima nazvao "gotovo djetinjastom". "Ako AI želi da ljudi nestanu, nestat ćemo. Vaš vas bunker neće spasiti", rekao je Aguirre.
Ako se umjetna inteligencija nastavi razvijati sadašnjom brzinom i odluči eliminirati ljude, najbolji bi scenarij, prema Russellu, vjerojatno uključivao gašenje električnih mreža, prometnih sustava i financijskih tržišta. To bi moglo prouzročiti smrt tisuća ljudi prije nego što bi ljudi uspjeli intervenirati i zaustaviti sustav. Russell takav ishod uspoređuje s katastrofom razmjera Černobila – ne nužno s potpunom apokalipsom, ali s događajem koji bi prouzročio golem broj žrtava i bilijune dolara štete. "Vlada bi rekla: 'Gledajte, dali smo vam priliku. Potpuno ste je prokockali. Ubili ste tisuće ljudi, koštali ste nas bilijune dolara. Gasimo vas'", objasnio je. Dodao je da mu je jedan od vodećih direktora u industriji umjetne inteligencije rekao kako bi upravo takav scenarij bio najbolji mogući ishod.
Ipak, stručnjaci naglašavaju da takav razvoj događaja nije unaprijed određen. Tehnološki optimisti smatraju da će umjetna inteligencija ostati pod ljudskom kontrolom i nastaviti biti sila koja donosi korist društvu. Dio stručnjaka, međutim, poziva na univerzalnu pauzu u razvoju sve naprednijih AI sustava. Krueger je pozvao na "trenutačni, neograničeni i međunarodni moratorij na razvoj umjetne inteligencije". Kritičari takve ideje upozoravaju da bi, ako bi samo Sjedinjene Države zaustavile razvoj, njihovi strani protivnici mogli nastaviti razvijati tehnologiju u tajnosti i steći prednost. Krueger, međutim, smatra da ni druge države ne žele riskirati uništenje čovječanstva. "Ni oni ne žele umrijeti", rekao je o Kini.
Bit će Skynet za par godina. Onaj tko nije gledao Terminator 2 ne zna što ta riječ znači, sve ide prema tome.