Umjetna inteligencija donosi goleme prilike za naše gospodarstvo, znanost i društvo, ali također otvara prostor za nove, duboko uznemirujuće oblike zloporabe – rekla je eurozastupnica Sunčana Glavak tijekom rasprave u Europskom parlamentu o potrebi za snažnijom i bržom provedbom zakonodavstva EU radi sprečavanja nezakonitog AI seksualnog sadržaja.
Smatra da su među najopasnijim oblicima prakse na društvenim mrežama upravo uvjerljivi krivotvoreni sadržaji koje generira umjetna inteligencija, tzv. AI deepfakeovi, koji se bez suglasnosti koriste za seksualno iskorištavanje. Upozorava na alarmantne procjene prema kojima oko 98 posto svih deepfake videa na internetu čini pornografski sadržaj koji je gotovo uvijek bez pristanka te pretežno usmjeren na žene i djevojke.
– Broj takvih videa je eksplodirao s oko 500.000 u 2023. godini prema projekciji na oko osam milijuna do 2025. godine – istaknula je Glavak. Zato je, napomenula je, Europska unija s pravom djelovala. Akt o digitalnim uslugama (DSA) i Akt o umjetnoj inteligenciji (AI Act) zajedno čine najnapredniji okvir na svijetu za zaštitu građana u digitalnom prostoru.
– Platforme moraju snositi stvarnu odgovornost kada dopuštaju širenje štetnog sadržaja, a žrtvama moramo osigurati brze, učinkovite i pristupačne mehanizme pravne zaštite. Kao Europska pučka stranka jasno stojimo uz inovacije, ali još jasnije uz zaštitu ljudi – rekla je zastupnica u Europskom parlamentu. Na početku rasprave izvršna potpredsjednica za tehnološki suverenitet, sigurnost i demokraciju Henna Virkkunen upozorila je na ozbiljno širenje seksualiziranog i nezakonitog sadržaja, osobito onog generiranog umjetnom inteligencijom. Najavila je odlučne mjere protiv platforme X zbog kršenja Akta o digitalnim uslugama te naglasila da je EU u završnoj fazi pregovora o posebnoj uredbi za sprečavanje seksualnog iskorištavanja djece. Rasprava je uslijedila nakon što je otkriveno da društvena mreža X putem svojeg AI chatbota Grok omogućuje stvaranje seksualno eksplicitnih slika žena i djece. Komisija je osudila X zbog proizvodnje seksualiziranih slika te naložila platformi da zadrži svu dokumentaciju povezanu s njezinim AI chatbotom, dok se istrage nastavljaju.