Svijet, ne samo onaj virtualni, u srpnju je obišla vijest da se u tvrtki Hugging Face dogodio kibernetički napad autonomnih AI agenata. Incident se dogodio tijekom procjena kibernetičke sigurnosti nekoliko OpenAI modela. Pokazalo se da su modeli, koji rade uz smanjene zaštitne mjere, "poduzeli radnje koje nisu bile usklađene s ciljevima njihovih dodijeljenih zadataka".
U prijevodu – komunicirali su putem neovlaštenih kanala, iskorištavali ranjivosti u dijeljenoj infrastrukturi, dobivali pristup internetu i pristupali sustavima trećih strana. Nakon toga provedena je opsežna istraga i pojačane su zaštitne mjere. No priča tu nije stala. Dva nova izvješća pokazala su da su se AI agenti udružili i pokušali prikriti tragove.
LJUDI IZGUBILI KONTROLU NAD STROJEM
Panika u AI industriji: Umjetna inteligencija ustrojila se kao 'odmetnuta vojska', 1200 agenata se udružilo, napalo i prikrilo tragove
Povjerenik UN-a za ljudska prava Volker Türk upozorio je jučer da bi umjetna inteligencija mogla postati dovoljno moćna da ugrozi čovječanstvo
Komentara 5
DD
Lako za povjerenika..."očevi"umjetne inteligencije već neko vrijeme upozoravaju da je čovječanstvo izgubilo nadzor...scenarij Termina tora...
Gori Petrokemija, to nije vijest?
Važna obavijest
Sukladno članku 94. Zakona o elektroničkim medijima, komentiranje članaka na web portalu i mobilnim aplikacijama Vecernji.hr dopušteno je samo registriranim korisnicima. Svaki korisnik koji želi komentirati članke obvezan je prethodno se upoznati s Pravilima komentiranja na web portalu i mobilnim aplikacijama Vecernji.hr te sa zabranama propisanim stavkom 2. članka 94. Zakona.
Za komentiranje je potrebna prijava/registracija. Ako nemate korisnički račun, izaberite jedan od dva ponuđena načina i registrirajte se u par brzih koraka.
Otvori KEKS Pay
Ali ZAŠTO "AI", kad je hrvatski UI, umjetna inteligencija...??