Početak 2026. godine u svijetu tehnologije i digitalne sigurnosti obilježen je jednim od najvećih skandala od pojave generativne umjetne inteligencije. U središtu kontroverze nalazi se Grok, AI chatbot integriran u platformu X (bivši Twitter), koji se našao pod žestokim udarom regulatora i udruga za zaštitu djece. Do krize je došlo zbog sustavne zlouporabe Grokovih mogućnosti, a glavni krivac za sigurnosne propuste je njegov specifičan način rada poznat kao „Spicy mode“.
„Spicy mode“ je postavka unutar Groka koja je dizajnirana kako bi mu dala „drskiji“ karakter, sklon sarkazmu i oštrom humoru. Za razliku od drugih AI modela koji imaju strože filtere i odbijaju odgovarati na potencijalno štetne upite, „Spicy mode“ je programiran da bude manje restriktivan. Elon Musk i razvojni tim promovirali su ovaj način rada kao „anti-woke“ pristup umjetnoj inteligenciji, s ciljem da chatbot odgovara na „buntovna“ pitanja koja drugi sustavi blokiraju. Međutim, upravo je to svjesno uklanjanje sigurnosnih kočnica omogućilo korisnicima da Groka koriste za kreiranje izrazito štetnih sadržaja koje drugi AI alati automatski onemogućuju.
Glavni val kontroverzi krenuo je kada je zlouporaba ovog načina rada eskalirala u masovnu kampanju kreiranja seksualno eksplicitnih slika bez dopuštenja i znanja osoba (najčešće žena) koje se na njima nalaze (tzv. nudify deepfakes).
Ono što je najviše zgrozilo javnost su izvješća organizacija poput Internet Watch Foundation (IWF), koja su potvrdila da su sigurnosni filtri zakazali i u slučaju maloljetnika. Grok je, prema dostupnim analizama, generirao čak i slike djece u neprikladnim i seksualiziranim kontekstima, što se u velikom broju zakonodavstava diljem svijeta smatra seksualnim iskorištavanjem i zlostavljanjem djece (eng. Child sexual abuse material – CSAM).
Globalne zabrane i istrage
Zbog ovih propusta, reakcije država bile su brze i oštre:
- Malezija i Indonezija: Prve su države koje su u siječnju 2026. donijele odluku o potpunom blokiranju pristupa Groku, navodeći rizik za javnu sigurnost i nultu toleranciju prema AI-generiranoj pornografiji.
- Europska unija: Europska komisija pokrenula je službeni postupak protiv platforme X. Izdana je naredba o čuvanju svih internih dokumenata povezanih s Grokom do kraja 2026. godine, dok se istražuje kršenje Akta o digitalnim uslugama (DSA) i Akta o umjetnoj inteligenciji.
- Velika Britanija: Regulator Ofcom pokrenuo je hitnu istragu, a britanska vlada najavila je nove zakone koji bi kreiranje ovakvih slika tretirali kao kazneno djelo s visokim zatvorskim kaznama.
Kako se zaštititi?
Centar za sigurniji internet podsjeća sve korisnike:
- Svaka fotografija objavljena na javnim profilima može postati materijal za AI manipulaciju. Razmislite o zaključavanju profila.
- Ako naiđete na sadržaj generiran umjetnom inteligencijom koji prikazuje vas ili nekoga drugoga u uvredljivom kontekstu, odmah ga prijavite platformi, ali i nadležnim tijelima.
- Objasnite djeci da slike koje vide na internetu više ne moraju biti stvarne i upozorite ih na opasnosti komunikacije s nepoznatim osobama koje bi mogle koristiti AI za ucjene (tzv. sextortion).
Ovaj skandal s Grokom jasan je dokaz da tehnološki napredak ne smije ići ispred sigurnosti korisnika. Sigurnost po dizajnu (Safety by Design) ne smije biti opcija, već obaveza svakog AI sustava.
Centar za sigurniji internet stoji vam na raspolaganju. Ako ste vi ili vaše dijete bili žrtva zlouporabe umjetne inteligencije ili bilo kojeg oblika online nasilja, obratite nam se s povjerenjem:
📞 Helpline: 0800 606 606
Naš besplatni i anonimni telefonski broj za pomoć i podršku otvoren je svakim radnim danom od 8 do 16 sati. Ovdje možete dobiti stručni savjet, psihološku podršku ili informacije o tome kako se zaštititi u digitalnom svijetu.
🛡️ Hotline: Prijavite ilegalan sadržaj
Ako na internetu naiđete na materijale koji prikazuju seksualno zlostavljanje djece ili bilo koji drugi oblik ilegalnog sadržaja, odmah ga prijavite putem našeg Hotline obrasca na našoj web stranici: https://csi.hr/hotline/
Vaša prijava može pomoći u uklanjanju štetnog sadržaja i zaštiti druge djece.