Umjetna inteligencija posljednjih godina ubrzala je razvoj internetskih prijevara do razine koju je prije samo nekoliko godina bilo teško zamisliti. Prema istraživanju koje je proveo The Associated Press-NORC Center for Public Affairs Research, čak 98 posto Amerikanaca navodi da su bili meta prevaranata, a mnogi se s pokušajima prijevare susreću gotovo svakodnevno. Kako piše AP, Razvojem umjetne inteligencije nestaju i neki od znakova koji su ranije odavali lažne sadržaje. Neprirodno treptanje, savršeno oblikovana lica ili robotski glasovi nekada su bili upozorenja da je riječ o manipulaciji, no današnja tehnologija te nedostatke sve uspješnije uklanja.
Zbog toga stručnjaci upozoravaju da više nije dovoljno vjerovati samo onome što vidimo ili čujemo na internetu. Prevaranti diljem svijeta sve češće koriste alate umjetne inteligencije za stvaranje lažnih fotografija, videa, glasova i poruka kojima pokušavaju prevariti korisnike.Američki Associated Press i televizijska emisija "FRONTLINE" analizirali su koliko je napredovala tehnologija stvaranja lažnog sadržaja, uz pomoć stručnjaka za generativnu umjetnu inteligenciju iz organizacija ForenSwiss i GetReal Security. Njihova analiza pokazuje koliko je danas teško razlikovati stvarne i manipulirane snimke.
Stručnjaci ističu da sitni detalji još uvijek mogu otkriti deepfake sadržaj, odnosno snimke nastale uz pomoć umjetne inteligencije, ali upozoravaju da ti znakovi postaju sve manje pouzdani. "Usta su i dalje najbolji pokazatelj", Rekla je Ines Pinton iz ForenSwissa. Umjetnoj inteligenciji i dalje je posebno teško precizno uskladiti pokrete usana i izgovor kod riječi koje zahtijevaju potpuno zatvaranje usana, poput glasova "b", "p" ili "m". Kod takvih riječi moguće je primijetiti nesklad između zvuka i pokreta usta, a ponekad se mogu uočiti i zamućeni zubi ili unutrašnjost usne šupljine.
Slični tragovi mogu se pojaviti i kod glasa. Deepfake snimke još uvijek često nemaju potpuno prirodan ritam govora, promjene u disanju ili emocionalne nijanse koje su karakteristične za stvaran ljudski govor. Stručnjaci upozoravaju i na nepravilnosti u sjenama i odrazima na fotografijama, no naglašavaju da nijedan pojedinačni detalj nije dovoljan kao konačan dokaz. Neobične ruke ili pogrešno oblikovani prsti mogu ukazivati na lošu manipulaciju, ali normalan izgled ruku ne znači nužno da je fotografija stvarna.
Kako se tehnologija bude razvijala, čak će i današnji znakovi upozorenja postajati sve manje vidljivi. "Kod najboljih primjera možda će uskoro biti gotovo nemoguće samo pogledom utvrditi je li nešto stvarno", upozorila je Pinton. Zbog toga će najvažnija obrana protiv lažnih sadržaja biti provjera izvora. Stručnjaci ističu da nije dovoljno vjerovati sadržaju samo zato što izgleda uvjerljivo, nego treba provjeriti tko ga je objavio, odakle dolazi i postoji li potvrda iz pouzdanih izvora.