Zamislite tinejdžera koji je previše sramežljiv da bi prišao djevojci koja mu se sviđa u školi. Dok pregledava društvene mreže, iskače mu oglas: “Napravi svoju idealnu AI djevojku” ili “Skini odjeću s bilo koje fotke jednim klikom”. Zvuči kao scenarij iz distopijskog filma, ali prema nedavnim izvješćima, ovo je stvarnost s kojom se dječaci diljem svijeta, pa tako i kod nas, svakodnevno susreću.
Najnoviji podaci otkrivaju zabrinjavajući trend agresivnog marketinga usmjerenog na dječake, nudeći im alate za stvaranje pornografskog sadržaja koristeći lica stvarnih osoba – njihovih vršnjakinja.
Što se točno događa?
Aplikacije i web stranice koriste umjetnu inteligenciju na dva opasna načina:
- AI djevojke: Platforme koje omogućuju stvaranje virtualnih partnerica koje su programirane da budu podložne i hiperseksualizirane.
- Nudification (aplikacije za razodijevanje): Alati koji omogućuju korisniku da učita običnu fotografiju (npr. s Instagrama kolegice iz razreda), a AI zatim “skine” odjeću s te osobe, stvarajući lažnu, ali realističnu golišavu sliku (deepfake).
Ono što je posebno opasno jest dostupnost. Ovi se alati ne skrivaju na mračnim dijelovima interneta. Oni se reklamiraju na TikToku, Snapchatu, Instagramu i YouTubeu – mjestima gdje naša djeca provode najviše vremena.
Nisu krivi dječaci – oni su meta
Lako je upasti u zamku i okriviti tinejdžere za korištenje ovih alata. No, moramo biti svjesni jedne stvari – djeca su ovdje mete.
Tehnološka industrija koristi vrlo napredne algoritme kako bi iskoristila tinejdžersku znatiželju i nesigurnost. Dječacima se šalje poruka da je ovakvo ponašanje normalno, pa čak i poželjno. Nude im se “besplatne probe”, sustavi nagrađivanja ako pozovu prijatelje, i sadržaj koji postaje sve ekstremniji što ga više koriste.
Cilj ovih kompanija je jasan: profit. A cijena koju mi svi zajedno plaćamo je iskrivljena percepcija partnerskih i seksualnih odnosa kod dječaka i strah kod djevojčica.
Stvarne posljedice virtualnog nasilja
Iako su slike “lažne”, trauma je stvarna. Za djevojčice čija se lica koriste u ovim aplikacijama, osjećaj poniženja i izloženosti jednak je kao da je objavljena stvarna fotografija. To je oblik seksualnog zlostavljanja.
S druge strane, dječaci koji “odrastaju” uz AI djevojke koje bespogovorno izvršavaju svaku naredbu, riskiraju razviti potpuno pogrešnu sliku o ženama i odnosima. Uče da su djevojke objekti za manipulaciju, a ne ravnopravne osobe.
Što roditelji mogu učiniti?
Kao roditelji i odrasle osobe, naš zadatak nije samo zabraniti ekrane, već razumjeti svijet u kojem naša djeca žive.
- Razgovarajte otvoreno, bez osuđivanja. Pitajte djecu jesu li vidjela takve oglase. Objasnite im da te reklame nisu slučajne, već da netko pokušava zaraditi na njima.
- Objasnite pojam pristanka. Razgovarajte o tome zašto je korištenje nečije slike bez dopuštenja, pogotovo u seksualnom kontekstu, nasilje, a ne igra.
- Prijavite sadržaj! Ako primijetite takve oglase ili aplikacije, prijavite ih platformi i nama u Centru.
Ovo je bitka za mentalno zdravlje i sigurnost naše djece. Tehnologija napreduje brže od zakona, stoga je naša roditeljska i stručna dužnost da budemo prva linija obrane – kroz razgovor, edukaciju i podršku.
Trebate li savjet ili želite prijaviti neprimjeren sadržaj?
Nazovite Helpline – besplatnu i anonimnu liniju Centra za sigurniji internet na 0800 606 606 ili prijavite neprimjeren i nezakonit sadržaj slanjem poveznice na naš anonimni obrazac – Hotline: https://csi.hr/hotline/.