Brzi razvoj generativne umjetne inteligencije donosi brojne inovacije, ali i otvara vrata novim, iznimno opasnim oblicima digitalnog nasilja. Najnoviji potez španjolske vlade, koja je zatražila od tužitelja pokretanje istrage protiv platformi X, Meta i TikTok zbog širenja materijala seksualnog zlostavljanja djece (CSAM) generiranog umjetnom inteligencijom, predstavlja veliku eskalaciju u europskim naporima za regulaciju velikih tehnoloških kompanija.
Španjolski premijer Pedro Sánchez oštro je osudio praksu na ovim platformama, ističući kako one narušavaju mentalno zdravlje, dostojanstvo i prava djece te poručio da se dosadašnja “kultura nekažnjivosti” mora zaustaviti.
Ovaj potez Španjolske dio je šireg europskog vala pritisaka na tehnološki sektor. Uz ranije izrečenu kaznu platformi X od 120 milijuna eura temeljem europskog Akta o digitalnim uslugama (DSA), svjedočimo i policijskim racijama u francuskim uredima iste tvrtke te istragama koje provode britanska i irska regulatorna tijela za zaštitu podataka, prvenstveno zbog eksplicitnih slika koje generira AI chatbot Grok.
Kao stručnjaci posvećeni sigurnosti na internetu, ovakve događaje moramo sagledati kroz kritičku prizmu, analizirajući njihove pozitivne aspekte, ali i potencijalne izazove koje donose.
Pozitivni pomaci u zaštiti djece
Odlučnost europskih država da se suprotstave tehnološkim gigantima donosi nekoliko ključnih prednosti za globalnu sigurnost na internetu:
- Tehnološke tvrtke više ne mogu funkcionirati isključivo kao pasivni poslužitelji sadržaja. Od njih se aktivno zahtijeva preuzimanje odgovornosti za štetu koju njihovi algoritmi i AI alati mogu prouzročiti, posebno kada je riječ o najranjivijoj populaciji – djeci.
- Povezivanje akcija u Španjolskoj, Francuskoj, Velikoj Britaniji i Irskoj pokazuje da Europa gradi jedinstven, čvrst front. Umjesto izoliranih incidenata, stvara se koherentan pritisak koji velike korporacije teže mogu ignorirati.
- Fokusiranje istraga na alate umjetne inteligencije poput Groka postavlja važan presedan. Umjesto pukog reagiranja na već stvoreni ilegalni sadržaj, naglasak se stavlja na same mehanizme koji omogućavaju njegovu laku kreaciju i distribuciju.
Izazovi i kritički osvrt na regulaciju
S druge strane, pristup oštrih zabrana i pravnih istraga nosi sa sobom određene rizike i složenosti koje zahtijevaju oprez:
- Ovaj sukob naglašava duboke razlike između europskog i američkog pristupa digitalnim pravima. Dok Europa prioritet stavlja na sigurnost i zaštitu građana, američki tehnološki sektor i dio političara ove poteze često tumače kao udar na slobodu govora, što otežava postizanje globalnog konsenzusa.
- Oštra retorika ponekad može poslužiti u političke svrhe. Španjolska najava zabrane društvenih mreža za mlađe od 16 godina (“zaštita od digitalnog Divljeg zapada”) izazvala je burne, pa i vulgarne reakcije vlasnika platformi. Postoji rizik da se ozbiljna tema zaštite djece pretvori u osobne političke obračune, čime se gubi fokus sa stvarnog problema.
- Pronalazak balansa između filtriranja ilegalnog CSAM sadržaja i očuvanja privatnosti korisnika iznimno je tehnički zahtjevan. Postoji realna opasnost da preširoko postavljeni filteri dovedu do neopravdanog uklanjanja legitimnog sadržaja ili zadiranja u privatnu komunikaciju građana.
Pogled unaprijed
Razvoj događaja u Španjolskoj i ostatku Europe jasan je pokazatelj da era nereguliranog interneta polako završava. Zaštita djece od AI generiranog zlostavljanja zahtijeva odlučnost, ali i sofisticiran, tehnološki pismen pristup koji neće ugroziti temeljna demokratska prava.
Naša zadaća ostaje kontinuirano educirati djecu, roditelje i stručnjake kako bi razvili otpornost i kritičko razmišljanje u digitalnom okruženju, istovremeno zagovarajući zakonodavne okvire koji tehnološke divove drže odgovornima za sigurnost platformi koje kreiraju.