Umjetna inteligencija omogućuje stvaranje sve većeg broja materijala koji prikazuju seksualno zlostavljanje djece, a njihov je broj već u prvoj polovici ove godine premašio ukupnu količinu zabilježenu tijekom cijele 2025. godine, piše The Guardian. Prema podacima britanske Internet Watch Foundation (IWF), organizacije koja globalno prati takav ilegalni sadržaj, analitičari su u prvih šest mjeseci 2026. procijenili 6310 AI-generiranih fotografija koje zadovoljavaju zakonsku definiciju seksualnog zlostavljanja djece. To je čak 40 posto više nego tijekom cijele prošle godine, kada ih je evidentirano više od 4500.
Većina analiziranih fotografija prikazivala je djevojčice u dobi od sedam do 13 godina. Iako se bilježi i snažan porast AI-generiranih videa, najnoviji podaci IWF-a odnose se samo na fotografije. IWF upozorava da je nužna stroža zakonska regulacija umjetne inteligencije. Voditeljica politike te organizacije Hannah Swirsky pozvala je tehnološke kompanije da razvijaju sigurnije modele koji se ne mogu tako lako zloupotrijebiti.
Britanske vlasti već su zabranile stvaranje i distribuciju takvog sadržaja, kao i razvoj modela posebno namijenjenih njegovoj proizvodnji. Istodobno, AI sve češće koriste i internetski predatori za izradu lažnih eksplicitnih fotografija djece. Služba Report Remove ove je godine zaprimila 420 prijava djece zbog takvih manipuliranih fotografija, više nego tijekom cijele 2025.
IWF i britanska Nacionalna agencija za kriminal roditeljima stoga savjetuju da fotografije djece ne objavljuju javno na društvenim mrežama te da profile postave privatnima.