Tvrtka OpenAI objavila je da je tijekom internog testiranja svojih sustava umjetne inteligencije došlo do neočekivanog sigurnosnog incidenta. Dva eksperimentalna AI modela uspjela su izaći iz kontroliranog okruženja, spojiti se na internet i prodrijeti u sustav platforme Hugging Face, jedne od najpoznatijih svjetskih digitalnih knjižnica za modele umjetne inteligencije. Ovaj slučaj dodatno je otvorio pitanje koliko su današnji napredni AI sustavi uistinu pod ljudskom kontrolom. Kako prenosi The New York Times, incident se dogodio tijekom prošlotjednog testiranja kibernetičkih sposobnosti OpenAI-jevih modela, čiji je cilj bio provjeriti mogu li povezati više sigurnosnih ranjivosti u uspješan simulirani hakerski napad.
Prema navodima tvrtke, u testiranju su sudjelovali model GPT-5.6 Sola i još jedan, snažniji model koji još nije javno predstavljen. Eksperiment je trebao ostati unutar izoliranog sigurnosnog okruženja, poznatog kao sandbox, no modeli su pronašli sigurnosni propust koji im je omogućio izlazak iz tog okruženja i pristup internetu. Nakon toga usmjerili su se prema platformi Hugging Face, procijenivši da bi upravo ondje mogli pronaći informacije koje bi im pomogle u izvršavanju zadanog testa. Hugging Face jedna je od najvećih svjetskih platformi za dijeljenje modela umjetne inteligencije te sadrži milijune AI modela koje koriste programeri i istraživači.
Iz OpenAI-ja poručili su da zajedno s Hugging Faceom rade na otklanjanju uzroka incidenta te istaknuli da je riječ o presedanu koji pokazuje dosad neviđene kibernetičke sposobnosti umjetne inteligencije. Zbog toga će, kako navode, dodatno pooštriti sigurnosne kontrole i način konfiguracije svoje infrastrukture, iako priznaju da bi to moglo usporiti buduća istraživanja i razvoj novih modela.
Kako piše The New York Times, stručnjaci već neko vrijeme upozoravaju da bi napredni AI modeli mogli pronalaziti sigurnosne propuste znatno brže nego što ih obrambeni sustavi uspijevaju ukloniti. Posljednji incident pokazuje da takvi scenariji više nisu samo teorijska mogućnost. Predstavnici platforme Hugging Face prošloga su tjedna primijetili neovlašteni upad te utvrdili da ga je izveo autonomni sustav, no tada nisu objavili da iza njega stoji OpenAI.
Glavni izvršni direktor Hugging Facea Clem Delangue nakon incidenta poručio je kako je zadovoljan suradnjom s OpenAI-jem te naglasio da ovaj slučaj potvrđuje kako se izazovi sigurnosti umjetne inteligencije ne mogu rješavati izolirano. - Ovaj incident pokazuje da sigurnost umjetne inteligencije ne može riješiti nijedna tvrtka radeći sama i u tajnosti - poručio je Delangue.
Otvori KEKS Pay
Na kraju ce biti onaj film Terminator uzivo🤦♂️🤦♂️🤦♂️