Razvoj umjetne inteligencije otvorio je prostor za brojne inovacije, ali je istodobno negativno utjecao na sigurnost, povjerenje i zaštitu digitalnog identiteta. O tome kako prepoznati i spriječiti zloupotrebu AI tehnologija te kako izgraditi sigurnije digitalno okruženje razgovarat će se na ovogodišnjem Tech.Weekendu powered by Telemach, koji će se od 24. do 27. rujna održati u sklopu Weekenda.19 u Rovinju.
Od zabave do prijetnje
Deepfake tehnologija stvara ili mijenja videozapise, fotografije i audiosnimke tako da izgledaju kao istiniti prikazi stvarnih ljudi i događaja. U početku se najčešće povezivala sa zabavnom industrijom, no danas se sve više koristi za financijske prijevare, krađu identiteta i širenje dezinformacija. Pitanje više nije samo što umjetna inteligencija može napraviti, nego kako izgraditi sustave i navike koji nam pomažu razlikovati autentičan sadržaj od umjetno generiranog, kroz alate za provjeru autentičnosti, sigurniju digitalnu identifikaciju i odgovorniji razvoj proizvoda.
Glasovi koji donose iskustvo, ne floskule
Među stručnjacima na ovogodišnjem Weekendu.19 bit će i Igor Strejček, direktor Microblinka, tvrtke koja razvija rješenja za digitalnu identifikaciju i provjeru dokumenata, koja koriste korisnici diljem svijeta. Uz njega dolazi i Izet Ždralović, partner u fondu Silicon Gardens Fund III i suosnivač Microblinka i Photomatha, tehnoloških kompanija koje su iz Hrvatske izgradile globalno prepoznatljive proizvode, a danas svoje iskustvo usmjerava na ulaganja i mentoriranje nove generacije tehnoloških poduzetnika.
"Prije nekoliko godina bila je potrebna visokokvalitetna krivotvorena osobna te maskiranje lica stvarnog fraudstera da se netko uspješno lažno predstavi. Danas je dovoljna slika i glas od pet sekundi osobe za koju se želi lažno predstaviti. Pitanje 'je li ovo pravi dokument' postaje pitanje 'je li ovo uopće pravi čovjek' i to je razlika koja mijenja cijelu industriju identifikacije. Problem je što se AI koja stvara lažni sadržaj razvija brzinom kojoj teško možemo pratiti korak, a to znači da AI koja sprječava prijevaru mora uvijek biti korak ispred, ne korak iza. Znači fokus mora biti ne na izgradnji alata koji jednom provjere identitet i zaborave na njega, nego na sustavima koji stalno prate je li osoba s kojom poslujete zapravo ta za koju se predstavlja. Jer u svijetu gdje je lažiranje jeftinije nego ikad, povjerenje se mora dokazivati kontinuirano, ne samo jednom na ulasku", izjavio je Strejček.
"AI danas radi ono što je prije trebalo tim ljudi i tjedne rada, uključujući i krivotvorenje identiteta. To ne znači da treba stati, znači da moramo brže učiti razlikovati stvarno od lažnog. Startupi koji to riješe prvi neće samo zaraditi, oni će odrediti pravila igre za cijelu industriju", rekao je Ždralović.
Tehnologija nije jedini odgovor
Osim tehnološkog aspekta, deepfake otvara i šira društvena pitanja. Budućnost zahtijeva alate koji potvrđuju autentičnost sadržaja, ali i veću razinu digitalne pismenosti kako bi korisnici lakše prepoznali manipulacije. Borba protiv zloupotrebe umjetne inteligencije neće se temeljiti samo na novim algoritmima, nego i na edukaciji, jasnijim pravilima i suradnji tehnološke zajednice.
Tech.Weekend powered by Telemach nije mjesto na kojem se govori samo o novim tehnologijama, nego i o njihovom utjecaju na društvo, gospodarstvo i svakodnevni život. Ako više ne možete vjerovati ni glasu, ni slici, ni videu - kome ćete vjerovati? Odgovore tražimo na Tech.Weekendu.
Više informacijama o programu i ulaznicama potražite na službenoj stranici festivala te na profilima festivala na Instagramu, TikToku, LinkedInu i Facebooku.
Otvori KEKS Pay
