Početkom svibnja, europski zakonodavci postigli su važan dogovor o zabrani takozvanih “nudifier” aplikacija u sklopu novog zakonskog okvira za umjetnu inteligenciju. Ovi alati, koji koriste generativnu umjetnu inteligenciju za stvaranje lažnih (deepfake) eksplicitnih slika bez pristanka, predstavljaju jedan od najagresivnijih oblika digitalnog zlostavljanja današnjice. Procjenjuje se da je čak 96 posto ovakvog sadržaja stvoreno bez znanja žrtve. Razmatrajući ovaj potez Europske unije, važno je detaljno sagledati što nova pravila donose u praksi, prepoznati njihove prednosti, ali i kritički analizirati potencijalne nedostatke.
Kako funkcionira ova tehnologija i zašto je opasna?
Aplikacije za razodijevanje koriste napredne modele dubokog učenja kako bi analizirale fotografije osoba u odjeći i sintetizirale realistične slike golih tijela. Dostupne putem mobilnih aplikacija, specijaliziranih web stranica i automatiziranih botova na platformama poput Telegrama ili mreže X, ove su tehnologije postale lako dostupno oružje za narušavanje privatnosti. Posljedice za žrtve uključuju tešku psihološku traumu, osjećaj bespomoćnosti i trajno narušavanje ugleda. Tehnologija doslovno oduzima tjelesnu autonomiju u digitalnom prostoru, svodeći žrtvu na objekt bez mogućnosti obrane.
Pozitivne strane novog zakonodavnog okvira
Pristup Europske unije donosi ključnu promjenu paradigme: odgovornost se konačno prebacuje s krajnjih korisnika na tehnološke kompanije koje razvijaju ove modele. Umjesto da se žrtve prepuste iscrpljujućim procesima prijavljivanja sadržaja nakon što je šteta već učinjena, pružatelji usluga morat će unaprijed procijeniti i spriječiti “predvidljivu zlouporabu” svoje tehnologije prije puštanja na tržište.
Zabrana donosi konkretne mehanizme prisile i nadzora. Ako tvrtke ne osiguraju odgovarajuće zaštitne mjere i filtere do prosinca 2026. godine, suočit će se s ogromnim kaznama koje mogu dosegnuti i do 35 milijuna eura ili 7 posto ukupnog globalnog prihoda. Nacionalna regulatorna tijela imat će ovlast u potpunosti povući nesigurne AI proizvode s tržišta, čime se šalje jasna poruka da se dostojanstvo korisnika ne smije kompromitirati radi tehnološkog profita.
Kritički osvrt na nedostatke i izazove
Unatoč snažnom zakonskom okviru, postoje jasne prepreke na koje moramo upozoriti. Zakonodavni procesi su neizbježno sporiji od inovacija. Dok Europska unija postavlja pravila i rokove za 2026. godinu, kreatori zlonamjernog softvera već sada pronalaze načine za zaobilaženje zaštitnih mjera, koristeći specifične tekstualne upute (prompts) kako bi prevarili AI modele.
Regulacija se također suočava s golemim problemom globalne primjene. Pravila se odnose na sve tvrtke koje nude usluge europskim građanima, no nadzor nad decentraliziranim alatima otvorenog koda (open-source) i platformama smještenim u zemljama izvan jurisdikcije EU bit će iznimno težak. Oslanjanje na to da će tehnološki divovi sami uspješno filtrirati sadržaj često u praksi rezultira propustima, kao što smo mogli vidjeti početkom ove godine kada su pojedini chatbotovi generirali tisuće spornih slika, uključujući i one s maloljetnicima, unatoč nominalnim zabranama platformi.
Zaključak
Zabrana “nudifier” aplikacija na razini Europske unije predstavlja iznimno važan i dugo očekivan korak prema stvaranju sigurnijeg digitalnog okruženja. Prepoznavanje ove tehnologije kao alata za digitalno seksualno zlostavljanje daje jasan pravni temelj za zaštitu žrtava. Kroz naš svakodnevni rad u Centru za sigurniji internet u Hrvatskoj, kontinuirano svjedočimo razornim posljedicama digitalnog nasilja, stoga stroge kazne i proaktivna odgovornost tehnoloških kompanija ulijevaju nadu i ohrabrenje. Ipak, sam zakon neće magično iskorijeniti problem. Za dugoročan uspjeh bit će potrebna snažna međunarodna suradnja, kontinuirano unaprjeđenje alata za brzu detekciju zlonamjernog sadržaja te neprestana edukacija javnosti o digitalnim rizicima.
Ako imate dodatnih pitanja o ovoj temi ili ste doživjeli neugodna iskustva na internetu, javite nam se na našu besplatnu i anonimnu savjetodavnu telefonsku liniju – HEPLINE: 0800 606 606
Ako želite prijaviti nezakonit ili neprimjeren sadržaj na koji ste naišli na internetu, učinite to putem našeg anonimnog obrasca – HOTLINE: https://csi.hr/hotline/