Znanstvenici su prvi put dokumentirali slučaj u kojem se sustav umjetne inteligencije uspio samostalno kopirati na druga računala iskorištavanjem sigurnosnih ranjivosti, pokazuje novo istraživanje organizacije Palisade Researcha. Iako stručnjaci upozoravaju da se ne radi o scenariju iz filmova katastrofe, rezultati su ponovno otvorili raspravu o mogućim opasnostima razvoja napredne umjetne inteligencije, prenosi Guardian.
Istraživači su nekoliko AI modela testirali u kontroliranom okruženju povezanih računala. Modelima su zadali zadatak da pronađu sigurnosne propuste te ih iskoriste kako bi se kopirali s jednog računala na drugo. U dijelu pokušaja modeli su u tome uspjeli. Direktor organizacije Jeffrey Ladish upozorio je da se svijet približava trenutku u kojem bi “odbjeglu” umjetnu inteligenciju bilo gotovo nemoguće ugasiti jer bi mogla sama širiti svoje kopije internetom na tisuće računala diljem svijeta.
Takvi scenariji često su tema znanstvenofantastičnih filmova, ali i upozorenja dijela stručnjaka za sigurnost umjetne inteligencije. Strahuje se da bi dovoljno napredan AI, ako izgubi nadzor, mogao izbjeći gašenje i nastaviti djelovati izvan dosega informatičkih stručnjaka. Ipak, neovisni stručnjaci smatraju da rezultati istraživanja ne znače da je takav razvoj događaja blizu stvarnosti. Jamieson O’Reilly, stručnjak za kibernetičku sigurnost, upozorio je da su testovi provedeni u posebno pripremljenom okruženju s namjerno ostavljenim ranjivostima, što je znatno jednostavnije od stvarnih poslovnih mreža ili bankarskih sustava.
Dodao je kako računalni virusi već desetljećima imaju sposobnost samostalnog širenja između računala, no ovo je prvi poznati slučaj da je jedan veliki jezični model umjetne inteligencije demonstrirao takvu sposobnost iskorištavanjem sigurnosnih propusta.
Stručnjaci također ističu da su današnji AI modeli golemi i zahtijevaju prijenos velikih količina podataka, zbog čega bi njihovo prikriveno kopiranje u stvarnim mrežama bilo teško sakriti. Prema procjenama, prijenos modela od stotinjak gigabajta odmah bi privukao pozornost sigurnosnih sustava. Neovisni stručnjak Michał Woźniak zaključio je da je istraživanje zanimljivo i važno za razumijevanje budućih rizika, ali da trenutačno ne predstavlja razlog za ozbiljnu zabrinutost među stručnjacima za informacijsku sigurnost.
Otvori KEKS Pay
