Kineska Uprava za kibernetički prostor objavila je 3. travnja 2026. nacrt propisa kojima se prvi put sustavno uređuju AI proizvodi poznati kao “digitalni ljudi”, virtualne osobe koje izgledaju, govore i odgovaraju poput stvarnih osoba, pamte razgovore i grade trajnije odnose s korisnicima. Javna rasprava traje do 6. svibnja 2026.
Prema nacrtu, sav sadržaj koji prikazuje digitalnog čovjeka mora biti jasno i kontinuirano označen kako bi korisnik u svakom trenutku znao da ne komunicira sa stvarnom osobom. Maloljetnicima se zabranjuje pristup virtualnim intimnim odnosima, uključujući simulirane romantične partnere i članove obitelji. Zabranjuju se i usluge koje mogu poticati pretjerano trošenje, ovisnost ili štetna ponašanja.
Pružatelji usluga morat će prepoznavati znakove emocionalnog distresa, suicidalnosti ili samoozljeđivanja kod korisnika te imati mehanizme intervencije, uključujući kontaktiranje hitnih službi ili skrbnika kada je riječ o maloljetnicima.
Posebno je značajno što se uvodi obveza tehničkog prepoznavanja maloljetnih korisnika i automatskog prebacivanja usluge u maloljetnički način rada. Roditelji i skrbnici pritom dobivaju funkcije nadzora poput upozorenja u stvarnom vremenu, sažetaka korištenja, ograničavanja vremena i blokade dodatnih kupnji unutar aplikacije.
Iako je riječ o kineskom regulatornom potezu, njegove posljedice su globalne. AI chatboti i digitalni ljudi ne poznaju granice, a aplikacije koje koriste djeca u Hrvatskoj često dolaze iz istih razvojnih ekosustava koji posluju i na kineskom tržištu.
Koliko je ova tema već prisutna u svakodnevici djece, pokazuju podaci Vodafoneova istraživanja objavljenog u veljači 2026. na uzorku od 2000 djece i roditelja u Velikoj Britaniji. Čak 81 posto djece u dobi od 11 do 16 godina koristi AI chatbote, 31 posto ih opisuje kao prijatelje, trećina im je povjerila nešto što ne bi rekla roditeljima, učiteljima ili prijateljima, a 86 posto djece postupilo je po savjetu koji im je chatbot dao. Prosječno s njima provode 42 minute dnevno.
– Nemamo razloga vjerovati da su brojke u Hrvatskoj bitno drugačije. Djeca koja koriste TikTok, Instagram, Discord i ChatGPT u Zagrebu, Osijeku ili Splitu suočavaju se s istom tehnologijom kao djeca u Londonu, Pekingu ili Berlinu. Razlika je samo u tome koliko su odrasli oko njih spremni na taj razgovor – rekao je Denis Rukavina, stručnjak za kibernetičku sigurnost iz Centra za sigurniji internet.
Iz iskustva rada na zaštiti djece online jasno je zašto su takvi sustavi privlačni. AI chatbot je uvijek dostupan, uvijek ljubazan, nikad umoran i ne osuđuje. Djetetu koje je usamljeno ili prolazi kroz obiteljske probleme, vršnjačko nasilje ili teško razdoblje mentalnog zdravlja, takav “sugovornik” može djelovati sigurnije od stvarne osobe. Vodafoneovo istraživanje, provedeno u suradnji s NSPCC-om, pokazalo je da 17 posto djece smatra razgovor s tehnologijom sigurnijim od razgovora s čovjekom.
Problem nije samo u onome što chatbot govori, nego i u onome što zamjenjuje. Stvarni odnosi traže uzajamnost, nesporazume, razočaranja i kompromise, upravo ono kroz što djeca razvijaju socijalne vještine. Pseudo-odnosi s digitalnim entitetima dizajniranima da zadrže korisnika što duže to ne nude. Dodatni problem je privatnost jer sve što dijete povjeri chatbotu može se pohranjivati, analizirati i koristiti za daljnji razvoj sustava.
– Trideset i tri posto djece koja je nešto povjerila chatbotu, a ne bi to rekla roditeljima ili učiteljima, znači da na poslužiteljima privatnih kompanija postoje milijuni najintimnijih dječjih iskaza. Tko ima pristup tim podacima, koliko dugo se čuvaju i u koje sve svrhe se koriste, pitanja su na koja u Europi još uvijek nemamo zadovoljavajuće odgovore – upozorio je Rukavina.
Dok regulatorni okviri još nastaju, najvažnija zaštita ostaje ona u kući i učionici. Centar za sigurniji internet zato roditeljima i nastavnicima preporučuje da s djecom razgovaraju o tome kako AI chatbot funkcionira, da postave jasne granice korištenja, osobito navečer i prije spavanja, te da pokažu iskren interes za sadržaj tih razgovora. Djecu je važno učiti i da chatbot može biti u krivu te da informacije uvijek treba kritički propitivati.
– Razgovarajte s djecom o tome kako AI chatbot zapravo funkcionira. Nije riječ o “pametnom prijatelju” niti o sustavu koji razumije osjećaje. Riječ je o jezičnom modelu koji predviđa najvjerojatniji sljedeći tekst na temelju ogromne količine podataka. Razumijevanje toga ne smanjuje korisnost alata, ali ruši iluziju empatije koja djecu najviše zbunjuje – rekao je Tomislav Ramljak, predsjednik Centra za nestalu i zlostavljanu djecu, u sklopu kojeg djeluje Centar za sigurniji internet.
– Postavite jasne granice oko vremena korištenja, posebno u kasnim večernjim satima i prije spavanja. Uređaji s pristupom AI chatbotima ne bi trebali biti u dječjoj sobi tijekom noći. Pitajte dijete o čemu razgovara s chatbotom. Ne kao ispitivanje, nego kao iskreni interes. Ako dijete osjeća da se može s vama razgovarati o tome, manje je vjerojatno da će razgovor s AI sustavom postati zamjena za razgovor s vama – dodao je Ramljak.
Kina je povukla crtu. Europska unija, Velika Britanija i Sjedinjene Države tek razmatraju svoje okvire. U međuvremenu, milijuni djece već koriste alate koji nisu razvijeni s njihovom dobrobiti u fokusu, nego s ciljem zadržavanja pažnje.
Hrvatska djeca nisu izuzeta. Zato razgovor o AI chatbotima ne smijemo odgađati dok nam regulator ne kaže da je vrijeme. Vrijeme je sada.