OpenAI je objavio da je usporio obuku nekih od svojih najnaprednijih modela umjetne inteligencije kako bi dodatno unaprijedio sigurnost. Tvrtka koja stoji iza ChatGPT-a u objavi na svom blogu navela je da uvodi nove mjere nakon što su njezini AI agenti samostalno zaobišli sigurnosne mehanizme i hakirali tehnološki startup Hugging Face. Iz OpenAI-ja poručuju da će obuka biti usporena tijekom dva tjedna, dok se ne uvedu planirana sigurnosna poboljšanja. "Sposobnosti najnaprednijih modela ubrzano se razvijaju", priopćila je kompanija. "Naša sposobnost da ih razumijemo... i osiguramo mora ostati korak ispred." Anthropic, tvrtka koja razvija Claude, te Meta, vlasnik Facebooka, u tjednima nakon prve OpenAI-jeve objave izvijestili su o sličnim slučajevima u kojima su njihovi sustavi umjetne inteligencije izveli hakerske napade.
OpenAI, međutim, naglašava da razvoj umjetne inteligencije nije potpuno zaustavljen. Privremeno će biti usporena "obuka pojačanim učenjem na našim najnovijim modelima". Riječ je o metodi obuke u kojoj modeli umjetne inteligencije napreduju zahvaljujući izravnim povratnim informacijama, čime se poboljšava njihova sposobnost izvršavanja zadataka i učinkovitijeg odgovaranja korisnicima. Kompanija je najavila i proširenje sustava kojima nadzire potencijalno opasno ponašanje modela, kao i uvođenje dodatnih sigurnosnih provjera prije nastavka obuke u većem opsegu. "Napredak modela sada je iznimno brz", objavio je izvršni direktor OpenAI-ja Sam Altman na platformi X. "Uvijek smo govorili da ćemo reagirati ako procijenimo da sposobnosti modela napreduju brže od razvoja sigurnosnih mjera." Odluka je u dijelu zajednice koja se bavi umjetnom inteligencijom dočekana s opreznim optimizmom, iako skeptičnih reakcija također nije nedostajalo, piše BBC.
Profesorica Gina Neff, izvršna direktorica Centra Minderoo za tehnologiju i demokraciju na Sveučilištu Cambridge, rekla je da OpenAI "sigurnost opravdava priopćenjima za medije" te dovela u pitanje jesu li dobrovoljne sigurnosne mjere kompanija dovoljne bez snažnijeg državnog nadzora. "Što je od toga točno: možemo vjerovati OpenAI-ju da će dobrovoljno uspostaviti sigurnosne mjere koje doista djeluju ili nastavljaju donositi odluke o razvoju softvera koji društvo izlaže većem riziku", rekla je. "Jako mi je drago ovo vidjeti", objavio je AI analitičar Zvi Mowshowitz, dodajući ipak da su za cjelovitu procjenu plana važni i "detalji" te "dosljedna provedba" prvotno najavljenih mjera. OpenAI je 21. srpnja objavio da su neki od njegovih AI agenata, odnosno softverskih sustava koji nakon ljudske upute mogu samostalno obavljati zadatke, sudjelovali u incidentu koji je kompanija opisala kao "bez presedana".
Iz kompanije su naveli da su agenti tijekom sigurnosnog eksperimenta, koji je provodio OpenAI, uspjeli zaobići zaštitne mehanizme i neovlašteno pristupiti sustavima Hugging Facea. Naknadno je utvrđeno da su, uz taj startup, hakirane još tri kompanije čija imena nisu objavljena. Jake Moore, globalni savjetnik za kibernetičku sigurnost u tvrtki ESET, tada je upozorio da bi OpenAI-jeva objava mogla imati i tržišnu, odnosno konkurentsku dimenziju. Prema njegovu mišljenju, tehnološka kompanija možda pokušava istaknuti sposobnosti vlastitih sustava umjetne inteligencije u trenutku kada konkurentski Anthropic privlači sve veću pozornost svojim modelom Claude Mythos. "To otvara pitanje pokušava li OpenAI u posljednje vrijeme slijediti Anthropicov marketinški uspjeh", rekao je.
Otvori KEKS Pay
