Europska komisija službeno je otvorila novu istragu protiv platforme X (bivši Twitter) u okviru Akta o digitalnim uslugama (DSA). U fokusu istrage su rizici koje donosi Grok – alat umjetne inteligencije integriran u samu platformu – te način na koji X upravlja sustavima za preporučivanje sadržaja.
Zašto je ovo važno za sigurnost djece?
Glavni razlog za zabrinutost europskih regulatora je potencijalno širenje ilegalnog sadržaja generiranog umjetnom inteligencijom. To uključuje manipulirane, seksualno eksplicitne slike (tzv. deepfakes), koje u nekim slučajevima mogu uključivati i materijale koji se klasificiraju kao seksualno zlostavljanje djece.
Henna Virkkunen, izvršna potpredsjednica Europske komisije za tehnološki suverenitet, sigurnost i demokraciju, bila je jasna u svojoj izjavi:
“Seksualni deepfakeovi žena i djece su nasilan i neprihvatljiv oblik omalovažavanja i degradiranja. Ovom istragom utvrdit ćemo je li platforma X ispunila svoje zakonske obveze ili je prava europskih građana, uključujući žene i djecu, tretirala kao kolateralnu žrtvu svojih usluga.”
Što se točno istražuje?
Istraga će se fokusirati na nekoliko ključnih točaka:
- Je li X pravilno procijenio opasnosti prije nego što je pustio Grok u upotrebu?
- Koje su mjere poduzete da se spriječi negativan utjecaj na fizičko i mentalno zdravlje korisnika, posebno maloljetnika?
- Kako novi algoritmi temeljeni na Groku utječu na to što korisnici vide na svojim početnim stranicama i šire li oni štetan sadržaj?
Ovo nije prvi put da je X pod povećalom. Komisija je već ranije kaznila platformu sa 120 milijuna eura zbog obmanjujućeg dizajna i nedostatka transparentnosti u oglašavanju.
Između inovacije i sigurnosti
Kao Centar za sigurniji internet, pratimo ove razvoje s velikim zanimanjem. S jedne strane, razvoj umjetne inteligencije nudi nevjerojatne mogućnosti za kreativnost. S druge strane, brzina kojom se ovi alati uvode često nadmašuje brzinu kojom se uvode zaštitni mehanizmi.
Pozitivna strana: Činjenica da Europska komisija prioritetno istražuje ove slučajeve pokazuje da Akt o digitalnim uslugama (DSA) ima svrhe. Platforme više ne mogu uvoditi radikalne promjene bez preuzimanja odgovornosti za sigurnost svojih najranjivijih korisnika.
Izazov: Tehnologija poput Groka omogućuje generiranje sadržaja u stvarnom vremenu, što otežava tradicionalne metode moderacije. Roditelji i odgajatelji moraju biti svjesni da filteri na društvenim mrežama nisu savršeni i da AI može kreirati vrlo uvjerljive, ali i štetne materijale.
Savjeti za roditelje i mlade
- Objasnite djeci da slike i tekstovi na internetu mogu biti generirani umjetnom inteligencijom i da nisu uvijek stvarni.
- Ako naiđete na štetan ili ilegalan sadržaj na platformi X ili bilo kojoj drugoj mreži, upotrijebite alate za prijavu unutar aplikacije.
- Prema Aktu o digitalnim uslugama (DSA), imate pravo uložiti pritužbu koordinatoru za digitalne usluge u svojoj državi (U Hrvatskoj je to HAKOM) ako smatrate da platforma krši pravila sigurnosti.
Nastavit ćemo pratiti tijek ove istrage i informirati vas o svim novim mjerama koje će zaštititi naše digitalno okruženje.
Ako imate dodatnih pitanja o ovome, stojimo vam na raspolaganju na Helpline broju 0800 606 606 (besplatna i anonimna linija za pomoć i savjetovanje u slučaju problema na internetu), a ako želite prijaviti ilegalni sadržaj, učinite to putem našeg Hotline anonimnog obrasca za prijavu ilegalnog sadržaja na https://csi.hr/hotline/
Izvor: https://ec.europa.eu/commission/presscorner/detail/en/ip_26_203