Obavještajni dokument koji je ovog proljeća počeo kružiti među američkim vojnim zapovjedništvima izazvao je dramatičnu reakciju u trenutku kada su napetosti na Bliskom istoku bile na vrhuncu zbog rata s Iranom. Prema informacijama navedenima u izvješću, kineski teretni brod koji se nalazio u bliskoistočnim vodama navodno je prevozio ključne dijelove povezane s tajnim razvojem nuklearnog oružja, izvijestio je CNN. Američka vojska reagirala je gotovo trenutačno. Pokrenuta je izrada plana za presretanje i preuzimanje nadzora nad brodom, a prema riječima četiriju neimenovanih izvora upoznatih sa slučajem, operacija je već bila u završnoj fazi pripreme. Naoružani pripadnici specijalnih postrojbi pripremali su se za ukrcaj, dok su borbeni zrakoplovi kružili iznad plovila kako bi osigurali zračnu potporu.
No neposredno prije nego što je trebala započeti akcija, visoki dužnosnici odlučili su dodatno provjeriti informacije na kojima se temeljilo cijelo izvješće. Upravo je ta naknadna analiza spriječila potencijalno iznimno opasan incident. Utvrđeno je, naime, da je dokument koji je sastavio analitičar Specijalnog zapovjedništva izrađen uz pomoć umjetne inteligencije. AI alat pritom je pogrešno protumačio dostupne informacije i potpuno netočno identificirao teret koji se nalazio na kineskom brodu. Naknadnom istragom ustanovljeno je da je analitičar putem AI sustava kombinirao javno dostupne podatke iz otvorenih izvora s povjerljivim, presretnutim signalnim informacijama pohranjenima u vladinim bazama. Umjetna inteligencija iz tih međusobno nepovezanih podataka izvukla je pogrešan zaključak prema kojem je riječ o iznimno osjetljivom i opasnom teretu.
Analitičar je potom ponovno upotrijebio isti alat kako bi dobivene zaključke oblikovao u standardni format službenog obavještajnog dokumenta. Takvo je izvješće bez dovoljno dodatnih provjera poslano dalje kroz zapovjedni lanac, što je pokrenulo pripreme za vojnu operaciju. Ispostavilo se da su ključne tvrdnje iz izvješća bile netočne. Jedan visoki obavještajni izvor upozorio je da je pogrešna procjena mogla imati dalekosežne posljedice jer bi nasilno zauzimanje kineskog broda u međunarodnim vodama moglo izazvati ozbiljnu eskalaciju između Sjedinjenih Država i Kine. Slučaj je tako otvorio pitanje rizika koji prati sve brže uvođenje umjetne inteligencije u vojne i obavještajne sustave, osobito kada se njezini zaključci prihvaćaju bez neovisne provjere. Posebno zabrinjava mogućnost da se operativne odluke počnu donositi na temelju netočnih ili takozvanih haluciniranih informacija koje generiraju AI modeli.
Pentagon i američki ministar obrane Pete Hegseth posljednjih mjeseci snažno zagovaraju ubrzano uključivanje umjetne inteligencije u različite razine vojnog odlučivanja kako bi SAD zadržao tehnološku konkurentnost u odnosu na Kinu. Istodobno, način na koji se ti sustavi koriste unutar američke vojske i dalje je izrazito neujednačen. Pojedini rodovi vojske i različite agencije koriste različite programe i modele, dok jedinstveni standardi za provjeru vjerodostojnosti i točnosti rezultata još nisu u potpunosti uspostavljeni. Upravo takva decentralizirana primjena dodatno povećava mogućnost da se netočna informacija probije do razina na kojima može utjecati na konkretne vojne odluke.
Dok se u Washingtonu i tehnološkim krugovima Silicijske doline raspravlja o dugoročnim prijetnjama koje bi umjetna inteligencija jednoga dana mogla predstavljati čovječanstvu, ovaj slučaj pokazuje da ozbiljni problemi već postoje u sadašnjosti. Poseban problem predstavlja i pritisak na analitičare da informacije obrade i proslijede što brže. U takvom okruženju postoji opasnost da se alati umjetne inteligencije počnu koristiti kao prečac, osobito među mlađim zaposlenicima naviknutima na svakodnevno oslanjanje na digitalne sustave. Kako je to slikovito zaključio jedan obavještajni dužnosnik: umjetna inteligencija ne čini vas pametnijima, ona vam samo omogućuje da do katastrofalno loše ideje stignete znatno brže nego ikada prije, zaključuje CNN.
Otvori KEKS Pay
ajde ne s erite