Ogroman uspjeh prve sezone serije "Fallout", adaptacije kultne franšize videoigara, postavio je visoka očekivanja za njezin nastavak. Dok milijuni gledatelja s nestrpljenjem iščekuju nove epizode, Amazonov streaming servis Prime Video odlučio je iskoristiti trenutak za promociju svoje nove tehnologije. U studenom su predstavili eksperimentalnu značajku nazvanu "Video Recaps", zamišljenu kao alat koji uz pomoć umjetne inteligencije stvara kratke, dinamične sažetke prethodnih sezona. Tvrtka je obećavala "vizualni sažetak filmske kvalitete" koji koristi naraciju, dijaloge i glazbu kako bi gledatelje podsjetio na ključne točke radnje. Gérard Medioni, potpredsjednik tehnologije u Prime Videu, opisao je alat kao "revolucionarnu primjenu generativne umjetne inteligencije za streaming" i dokaz njihove predanosti inovacijama.
Međutim, umjesto divljenja, inovacija je izazvala podsmijeh i bijes. Obožavatelji igre i serije, poznati po svojem detaljnom poznavanju svijeta "Fallouta", brzo su uočili da je AI sažetak prepun grubih pogrešaka koje u potpunosti mijenjaju smisao radnje. Jedna od najapsurdnijih grešaka odnosila se na scene iz prošlosti koje prate lik Coopera Howarda, poznatog kao The Ghoul. Iako se te scene, unatoč retro estetici, odvijaju u futurističkoj 2077. godini, Amazonov AI narator ih je samouvjereno smjestio u 1950-e, promašivši vremenski okvir za više od stotinu godina. Time je potpuno zanemaren ključni element priče o retrofuturističkom svijetu koji je doveo do nuklearne kataklizme.
Problemi se tu nisu zaustavili. Umjetna inteligencija je također pogrešno protumačila jedan od ključnih trenutaka na kraju sezone, onaj između The Ghoula i protagonistice Lucy MacLean. Prema AI sažetku, The Ghoul je Lucy postavio ultimatum "umri ili pođi sa mnom" u lovu na njezina oca. U stvarnosti, njihov je odnos kompleksniji; oni dijele slične motive i svjesno udružuju snage, a nikakve smrtne prijetnje nije bilo. Ova pogrešna interpretacija u potpunosti iskrivljuje dinamiku među glavnim likovima i motivacije koje ih pokreću, što bi nove gledatelje dovelo u nepopravljivu zabludu.
Reakcija publike bila je brza i oštra. Na društvenim mrežama poput Reddita korisnici su izrazili nevjericu i kritizirali Amazon zbog očitog nedostatka ljudskog nadzora. "Bila je potrebna samo jedna osoba koja poznaje priču prve sezone da pogleda video od početka do kraja i shvati da nije točan", napisao je jedan korisnik, ističući kako se radi o nemaru koji vrijeđa inteligenciju gledatelja i trud uložen u produkciju serije. Suočen s lavinom negativnih komentara i medijskih napisa, Amazon je tiho uklonio sporni sažetak, ne samo za "Fallout", već i za druge serije poput "Tom Clancy's Jack Ryan" i "Upload", potvrđujući da problem nije bio izoliran.
Ovaj fijasko nije prvi Amazonov posrtaj s generativnom umjetnom inteligencijom. Ranije ovog mjeseca, tvrtka je morala povući AI generirane engleske sinkronizacije za nekoliko popularnih anime serija, uključujući "Banana Fish", nakon što su ih obožavatelji opisali kao "beživotne" i "urnebesno loše". Taj potez izazvao je i bijes glasovnih glumaca, koji su optužili Amazon da korištenjem nedovršene tehnologije pokušava smanjiti troškove i ugroziti njihova radna mjesta.
Štoviše, ovakvi incidenti dio su šireg trenda u kojem tehnološki divovi prebrzo implementiraju nepouzdane AI alate. Početkom 2025. godine Apple je morao suspendirati značajku za sažimanje notifikacija nakon što je lažno izvijestila da se optuženik u poznatom slučaju ubojstva sam ubio. Slično tome, Googleov alat "AI Overviews" postao je predmet ismijavanja zbog davanja apsurdnih i netočnih odgovora na upite korisnika. Slučaj "Fallouta" još je jedan podsjetnik da, unatoč velikim obećanjima, umjetna inteligencija još uvijek nije sposobna zamijeniti ljudsku kreativnost, razumijevanje konteksta i osnovnu provjeru činjenica, pogotovo kada je riječ o umjetničkim djelima u koja su uloženi strast i godine ljudskog rada.
Otvori KEKS Pay
