Prema najnovijem izvještaju Internet Watch Foundationa (IWF) za 2026. godinu, umjetna inteligencija sve se češće koristi za stvaranje materijala seksualnog zlostavljanja djece, a razmjeri tog problema rastu alarmantnom brzinom. Tijekom 2025. godine identificirana su 3.443 AI generirana videozapisa seksualnog zlostavljanja djece, dok ih je godinu ranije bilo svega 13.
Ukupno je IWF procijenio 8.029 AI generiranih slika i videozapisa kao realistične prikaze seksualnog zlostavljanja djece. Posebno zabrinjava podatak da je čak 65 posto videozapisa svrstano u Kategoriju A, najtežu kategoriju prema britanskom zakonodavstvu, koja uključuje silovanje, seksualno mučenje i bestijalnost. Kod “tradicionalnog” CSAM-a taj udio iznosi 43 posto, što pokazuje da se AI koristi upravo za stvaranje najekstremnijih oblika sadržaja.
Izvještaj navodi i da djevojčice čine 97 posto žrtava na nezakonitim AI generiranim slikama. Među najraširenijim oblicima zlouporabe ističu se tzv. nudify aplikacije, alati koji pomoću umjetne inteligencije “uklanjaju” odjeću s fotografija, a sve češće se koriste i u slučajevima vršnjačkog zlostavljanja u školama.
Kao primjere, IWF izdvaja slučajeve iz više zemalja. U Španjolskoj je 2023. prijavljeno 20 djevojčica u dobi od 11 do 17 godina kao žrtava takvih aplikacija. U Rumunjskoj je jedan srednjoškolac deepfake tehnologijom seksualizirao 11 svojih kolegica, dok je u Južnoj Koreji 2024. koordinirana mreža na Telegramu proizvela tisuće deepfake slika koje su zahvatile više od 200 škola i sveučilišta.
Da je riječ o prijetnji koju djeca i mladi itekako prepoznaju, potvrđuje i istraživanje UK Safer Internet Centra. Prema tim podacima, 60 posto mladih strahuje da bi netko mogao uz pomoć AI-ja izraditi neprimjerene slike njih samih, a isti strah dijeli i 63 posto djece u dobi od osam do 12 godina.
IWF-ovi analitičari upozoravaju da je AI generirani sadržaj danas gotovo nemoguće razlikovati od stvarnih snimki zlostavljanja. Dok su raniji materijali bili vidljivo umjetni i tehnički slabiji, današnji sadržaji prikazuju složene scene, više osoba i estetiku koja oponaša amaterske fotografije karakteristične za stvarni CSAM. U nekim slučajevima analitičari mogu prepoznati da je riječ o sintetičkom sadržaju tek zato što prepoznaju žrtvu i znaju da se prikazana situacija nikada nije dogodila.
Dodatni problem je dostupnost tehnologije. Tehnika poznata kao LoRA omogućuje da se uz svega 20 do 30 postojećih fotografija djeteta, na običnom prijenosnom računalu i u samo 15 minuta, izradi model koji generira fotorealistične deepfake slike te žrtve. Na jednom dark web forumu koji je IWF pregledao u prosincu 2025. bilo je dostupno 202 takva modela, uključujući one trenirane na slikama identificiranih žrtava seksualnog zlostavljanja, dječjih glumaca, influencera i mladih sportaša.
Izvještaj posebno naglašava da AI generirani CSAM ne zamjenjuje “tradicionalno” zlostavljanje, nego ga dodatno produbljuje. Počinitelji koriste stvarne slike zlostavljanja za treniranje generativnih modela, čime se žrtve ponovno viktimiziraju godinama nakon počinjenog nasilja. Kao primjer navodi se slučaj djevojke pod pseudonimom “Olivia”, koja je bila zlostavljana između treće i osme godine života, a čije su slike kasnije iskorištene za izradu modela dostupnih za daljnje dijeljenje.
Na dugoročne posljedice upozoravaju i druga istraživanja. Prema podacima kanadskog C3P-a, gotovo 70 posto preživjelih živi u stalnom strahu da bi ih netko mogao prepoznati sa slika, dok 87 posto trpi dodatnu štetu poput uhođenja, seksualnih prijedloga i ucjena. Finska organizacija Protect Children navodi kako je 44 posto ispitanika izjavilo da ih je gledanje CSAM-a potaknulo na razmišljanje o izravnom kontaktu s djecom, a 37 posto je takav kontakt i potražilo.
Istodobno, alati za zlouporabu postaju sve jednostavniji. Neki servisi danas na jednoj platformi objedinjuju generiranje slika, simulaciju seksualiziranih razgovora s “AI djetetom” i čak upute za grooming ponašanje. IWF-ovi analitičari pronašli su i chatbot platforme na otvorenom webu koje korisnike potiču na odigravanje scenarija seksualnog nasilja nad djecom, dok se pojavljuju i AI generirani videozapisi sa sintetičkim glasovima djece, što dodatno pojačava realizam i potencijalnu štetu.
Zakonski odgovor na ovu prijetnju još se razvija. Ujedinjeno Kraljevstvo je kroz Crime and Policing Bill uvelo nova kaznena djela za izradu, prilagodbu, posjedovanje i distribuciju alata za generiranje CSAM-a te za nudify aplikacije. U Europskoj uniji traje prerada Direktive o seksualnom zlostavljanju djece, kojom bi se AI generirani CSAM trebao izričito kriminalizirati. U SAD-u 45 saveznih država ima zakone koji kriminaliziraju AI generirani CSAM, ali na saveznoj razini još nema jedinstvenog zakona.
Na međunarodnoj razini Europol je u veljači 2025. u operaciji “Cumberland” podržao uhićenje 25 osumnjičenih iz 19 zemalja koji su distribuirali potpuno AI generirani CSAM, uz upozorenje da nedostatak nacionalnih zakona u pojedinim državama dodatno otežava istrage.
U Hrvatskoj Centar za nestalu i zlostavljanu djecu, kao nositelj projekta Centar za sigurniji internet i član INHOPE mreže hotline linija, kontinuirano prati razvoj ovih prijetnji. Kroz projekt Škola pismenosti III provode se edukacije za djecu, roditelje i nastavnike o digitalnim rizicima, uključujući i nove oblike AI potpomognutog zlostavljanja.
Ovaj izvještaj dodatno potvrđuje da umjetna inteligencija ne otvara samo novo tehnološko pitanje, nego i prostor za nove, ozbiljne oblike nasilja nad djecom, na koje sustavi zaštite, zakonodavci i tehnološke platforme moraju odgovoriti brzo i odlučno.
Cijeli izvještaj: iwf.org.uk/aireport
#ŠkolaPismenosti #ŠkolaPismenostiIII #DigitalnaPismenost #SigurnijiInternet #ZaštitaDjece #CNZD #CSIhr #INHOPE #IWF #AIzlouporaba
