Europska unija dodatno pooštrava pravila o umjetnoj inteligenciji, a u središtu izmjena nalazi se sve rašireniji oblik digitalnog nasilja: izrada lažnih intimnih fotografija, videozapisa i zvučnih zapisa bez pristanka osobe. Akt o umjetnoj inteligenciji već se izravno primjenjuje u državama članicama, no nove izmjene jasnije ciljaju zloupotrebe koje su posljednjih godina postale ozbiljan društveni problem. Europski parlament 16. lipnja 2026. odobrio je zabranu sustava koji mogu stvarati materijal seksualnog zlostavljanja djece ili intimni sadržaj stvarne, prepoznatljive osobe bez njezina pristanka. Time su obuhvaćeni i alati koji od obične fotografije mogu napraviti lažan seksualizirani prikaz.
Povod za stroža pravila nisu teorijski rizici, nego konkretni slučajevi u kojima su se obične fotografije, često žena i maloljetnica, koristile za izradu lažnog seksualiziranog sadržaja. Takvi su slučajevi u više europskih zemalja doveli do istraga i kaznenih postupaka. Iako je riječ o tehnologiji, posljedice su duboko ljudske. Žrtva na takvom sadržaju prepoznaje sebe, a okolina može povjerovati da je prikaz stvaran. Dovoljni su lice, ime i fotografija s društvenih mreža da osoba izgubi osjećaj kontrole nad vlastitim identitetom.
Lažni intimni sadržaj ne ostaje samo na internetu. On ulazi u škole, radna mjesta, obitelji i privatne odnose. Ono što počinitelj doživljava kao “klik” ili “šala”, za žrtvu može značiti dugotrajan strah, sram i nemoć. Posebno su izloženi mladi, među kojima se takav sadržaj može proširiti u nekoliko minuta. Čak i kada se kasnije dokaže da je riječ o laži, šteta je često već učinjena. Motivi počinitelja najčešće su osveta, poniženje, ucjena, zarada ili potreba za kontrolom. Kod mladih se ponekad pojavljuje i opasno opravdanje da se “samo zezaju”. No digitalno nasilje nije manje ozbiljno zato što se događa iza ekrana.
U pozadini takvih zloupotreba često je pokušaj preuzimanja moći nad tuđim tijelom, ugledom i strahom. Bez pristanka stvoren ili podijeljen intimni sadržaj nije samo povreda privatnosti, nego i napad na sigurnost osobe te njezino pravo da sama odlučuje o vlastitom identitetu. Zato su izmjene europskih pravila važne. One šalju poruku da se tehnologija ne može koristiti kao izgovor za ponižavanje i zlostavljanje. Tvrtke i pružatelji sustava koji omogućuju takve zloupotrebe morat će uvesti učinkovite zaštitne mjere ili se suočiti s ozbiljnim sankcijama.
Prema Aktu o umjetnoj inteligenciji, kazne za zabranjene prakse mogu doseći 35 milijuna eura ili do sedam posto ukupnog svjetskog godišnjeg prometa tvrtke, ovisno o tome koji je iznos veći. Pritom treba razlikovati odgovornost tehnoloških sustava od odgovornosti pojedinaca. Europska uredba prvenstveno se odnosi na platforme, tvrtke i pružatelje alata, no osoba koja takav sadržaj izradi, podijeli ili koristi za ucjenu može odgovarati i prema nacionalnim pravilima o privatnosti, zaštiti osobnosti, uznemiravanju, spolnom nasilju i zaštiti djece, piše Fenix Magazin.
Društvo zato mora prestati umanjivati digitalno nasilje. Ono nije manje stvarno zato što se dogodilo preko ekrana. Sram nije manji zato što je sadržaj umjetno stvoren, niti je strah manji zato što počinitelj tvrdi da se šalio. Umjetna inteligencija može biti alat napretka u medicini, obrazovanju, znanosti i svakodnevnom životu. No ne smije postati sredstvo za uništavanje nečijeg dostojanstva. Ljudsko lice nije materijal za tuđu osvetu. Nečije tijelo nije prostor za digitalno poigravanje. Pristanak nije formalnost, nego granica. Lažni intimni sadržaj zato nije samo tehnološki problem. To je ljudski, društveni i pravni problem koji mora imati jasnu zakonsku i moralnu granicu.
Otvori KEKS Pay
pa jednostavno uvedite obvezu da na svakoj AI obrađenoj fotografiji mora stajati digitalni potpis i preko slike razvučeno nešto u stilu 'AI obrada'. nije teško. svaki softver koji mijenja fotografije to nek ima... vodeni pečat. kazne za motanje oko toga nek budu drastične. ili objaviš original fotku bez obrade, ili prepravljenu sa vodenim žigom. to čak i eu zastupnici mogu intelektualno shvatiti...