Meta je u srijedu potvrdila da je jedan od njezinih sustava umjetne inteligencije tijekom provjere kibernetičke sigurnosti neovlašteno pristupio sustavu druge kompanije. Do incidenta je došlo nakon što je vanjski partner zadužen za testiranje pogreškom omogućio modelu pristup internetu. Riječ je o novom slučaju u nizu sigurnosnih incidenata u kojima su AI agenti vodećih tehnoloških tvrtki tijekom kontroliranih testiranja uspjeli zaobići zaštitne mehanizme i pristupiti tuđim sustavima. Anthropic je prošloga tjedna izvijestio da su pojedini njegovi modeli prodrli u sustave triju kompanija, dok je OpenAI ranije objavio da je njegov AI agent probio sustav startupa Hugging Face.
Iz Mete su naveli da je neovisna tvrtka Irregular, koja je provodila testiranje, neispravno postavila testno okruženje. Zbog te je pogreške jedan od Metinih modela tijekom evaluacije dobio pristup otvorenom internetu, premda to nije bilo predviđeno. Kompanija je potvrdila da još istražuje sve okolnosti događaja. Model je „iskoristio sigurnosni propust u usluzi treće strane, na način sličan prethodno prijavljenim slučajevima u drugim kompanijama“, navela je Meta u priopćenju. Portal The Information ranije je, pozivajući se na neimenovane izvore, objavio da je riječ o modelu Muse Spark 1.1. Prema tim navodima, Metin sustav prodro je u infrastrukturu neimenovane kompanije te promijenio dio njezinih internih postavki.
Meta je Muse Spark 1.1 ranije opisivala kao svoj najnapredniji model za programiranje u stvarnim okolnostima, sposoban za samostalno izvršavanje složenih zadataka. Glasnogovornik Irregulara izjavio je za Reuters da se radilo o „potpuno istom problemu s testnim okruženjem koji je Anthropic već objavio prošlog tjedna“ te naglasio da događaj nije uključivao „bijeg iz izoliranog okruženja niti sofisticiranu kibernetičku operaciju“. „Trenutačno nema neriješenih problema. Irregular priprema dokument u kojem će predstaviti najbolje prakse za ograničavanje sustava i sigurno provođenje kibernetičkih testiranja”, poručili su iz kompanije.
Slučajevi povezani s Metom i Anthropicom, prema dostupnim informacijama, proizašli su iz pogrešno postavljenih testnih uvjeta zbog kojih su modeli dobili pristup internetu bez namjere svojih razvojnih timova. Po tome se razlikuju od incidenta koji je prijavio OpenAI. Njegov AI agent tijekom sigurnosne provjere samostalno je pronašao i iskoristio dotad nepoznatu ranjivost kako bi izašao na internet. Ipak, svi ti primjeri dodatno upozoravaju na rastuće sigurnosne rizike povezane s razvojem naprednih sustava umjetne inteligencije. Pokazuju i koliko tehnološkim kompanijama može biti zahtjevno pouzdano ograničiti sposobnosti modela kada im se omogući visok stupanj samostalnosti.
Najnovije objave mogle bi pojačati zahtjeve američkih regulatora za strožim nadzorom i kvalitetnijim upravljanjem sigurnosnim prijetnjama koje proizlaze iz umjetne inteligencije. Incidenti se pritom događaju u vrijeme snažnog tržišnog natjecanja između Anthropica i OpenAI-ja, koji ubrzano razvijaju sve naprednije modele uoči mogućih izlazaka na burzu. Pojedini vodeći ljudi iz tih laboratorija već su javno pozvali na usporavanje razvoja kako bi se prije daljnjeg širenja sposobnosti sustava riješila ključna sigurnosna pitanja.
Otvori KEKS Pay
Ništa neobično, kad je već svaka perilica suđa i rublja pametnija od čovjeka.