Novo izvješće otkriva da su videozapisi generirani umjetnom inteligencijom, koji prikazuju djevojčice u provokativnoj odjeći i različitim pozama, ostvarili milijune lajkova i dijeljenja na TikToku, unatoč izričitoj zabrani takvog sadržaja na platformi. Španjolska organizacija za provjeru činjenica Maldita identificirala je više od 20 računa na TikToku koji su objavili preko 5200 videozapisa s djevojčicama u bikinijima, školskim uniformama i uskoj odjeći. Ovi računi zajedno broje više od 550.000 pratitelja i gotovo šest milijuna lajkova.
Daljnja analiza otkrila je da se u komentarima ispod spomenutih videozapisa nalaze poveznice koje vode na vanjske platforme, uključujući Telegram zajednice, gdje se navodno prodaje dječja pornografija. Maldita je izvijestila da je 12 takvih grupa, identificiranih tijekom istraživanja, prijavljeno španjolskoj policiji.
Prema izvješću, ti računi također ostvaruju financijsku dobit prodajom AI generiranih videozapisa i slika putem TikTokove pretplatničke usluge, koja korisnicima uz mjesečnu naknadu omogućuje pristup sadržaju kreatora. Prema ugovorima s autorima, TikTok zadržava otprilike 50 posto prihoda ostvarenih ovim modelom.
Ovo izvješće dolazi u trenutku kada brojne zemlje, uključujući Australiju, Dansku i države Europske unije, već uvode ili razmatraju ograničenja korištenja društvenih mreža za osobe mlađe od 16 godina, s ciljem zaštite djece i mladih na internetu. TikTok od kreatora zahtijeva jasno označavanje sadržaja generiranog umjetnom inteligencijom, a sadržaj se može ukloniti ako se procijeni štetnim za pojedince, navodi se u pravilima zajednice. Međutim, Maldita je utvrdila da većina analiziranih videozapisa nije imala nikakvu oznaku, vodeni žig ili drugu naznaku da je riječ o AI-em generiranom sadržaju.
Iako je dio videozapisa sadržavao oznaku 'TikTok AI Alive', koja se automatski koristi kada se statične slike unutar aplikacije pretvaraju u video, izvješće upozorava da takve oznake nisu bile dosljedno prisutne.U izjavama za Euronews Next, i Telegram i TikTok naglasili su svoju 'potpunu predanost' sprječavanju širenja materijala seksualnog zlostavljanja djece na svojim platformama.
Telegram navodi da sav medijski sadržaj učitan na javne dijelove platforme skenira i uspoređuje s već uklonjenim materijalima kako bi spriječio njihovo daljnje širenje. Dodaju kako činjenica da se kriminalne aktivnosti odvijaju u privatnim grupama i oslanjaju na algoritme drugih platformi pokazuje učinkovitost njihove vlastite moderacije. Prema navodima tvrtke, tijekom 2025. godine uklonjeno je više od 909.000 grupa i kanala povezanih s takvim sadržajem.
S druge strane, TikTok tvrdi da se 99 posto sadržaja štetnog za maloljetnike uklanja automatski, a 97 posto spornih AI-em generiranih sadržaja uklanja se proaktivno. Platforma navodi da odmah reagira uklanjanjem ili gašenjem računa koji dijele seksualno eksplicitan sadržaj s maloljetnicima te da takve slučajeve prijavljuje američkom Nacionalnom centru za nestalu i zlostavljanu djecu. Prema podacima koje je TikTok dostavio CNN-u, između travnja i lipnja 2025. uklonjeno je više od 189 milijuna videozapisa, a zabranjeno je više od 108 milijuna računa.
Otvori KEKS Pay
