Digitalno okruženje u kojem naša djeca odrastaju neprestano se mijenja, a platforme koje dominiraju njihovom pažnjom pod stalnim su povećalom javnosti i stručnjaka. Novo izvješće organizacije za ljudska prava Global Witness, koje je prenio i BBC, baca ozbiljnu sumnju na učinkovitost sigurnosnih mjera jedne od najpopularnijih platformi, TikToka. Nalazi ukazuju na zabrinjavajući propust gdje se čini da sam algoritam platforme aktivno usmjerava maloljetne korisnike prema seksualno sugestivnom, pa čak i eksplicitnom sadržaju, unatoč uključenim zaštitnim postavkama.
Istraživanje je provedeno na metodičan način: istraživači su kreirali četiri lažna TikTok računa, registrirajući ih kao trinaestogodišnjake. Odmah po kreiranju, na svakom je računu aktiviran “Restricted Mode” (Ograničeni način rada). Riječ je o sigurnosnoj značajci koju sam TikTok promovira kao alat za filtriranje “zrelih ili složenih tema”, uključujući seksualno sugestivan sadržaj. Logična pretpostavka bila bi da će ti računi biti zaštićeni od najgorih aspekata internetskog sadržaja.
Međutim, dogodilo se suprotno. Istraživači nisu trebali ni započeti s pretragom. Sam algoritam platforme, kroz svoju funkciju “Možda će vam se svidjeti”, počeo je nuditi sugestije za pretrage koje su bile izrazito seksualne prirode. Ti algoritamski generirani prijedlozi vodili su korisnike prema videima koji prikazuju simulaciju masturbacije, izlaganje donjeg rublja ili grudi. U najozbiljnijim slučajevima, prijedlozi su vodili do eksplicitnih pornografskih filmova. Istraživanje je primijetilo da su takvi videozapisi često bili vješto skriveni unutar naizgled bezazlenog sadržaja, što je poznata taktika za izbjegavanje automatskih sustava moderiranja sadržaja.
Ovo izvješće nije alarmantno samo zbog prisutnosti takvog sadržaja, već zbog činjenice da ga je aktivno preporučivao sustav dizajniran za zadržavanje pažnje korisnika. Problem nije bio u tome što je dijete moglo pronaći neprikladan sadržaj ako ga traži, već u tome što mu ga je platforma sama nudila.
Dodatnu zabrinutost unosi činjenica da ovo nije prvi put da se ukazuje na problem. Global Witness je, prema navodima, obavijestio TikTok o sličnim propustima još u travnju. Iako je kompanija tada izjavila da je poduzela mjere, ponovljeni eksperiment krajem srpnja i u kolovozu dao je identične, zabrinjavajuće rezultate. Kao odgovor na najnovije izvješće, TikTok je ponovio svoju potpunu predanost pružanju sigurnog i dobno primjerenog iskustva i naveo da poduzima korake za uklanjanje spornog sadržaja i poboljšanje sustava preporuka.
Kao Centar za sigurniji internet, ove nalaze smatramo izuzetno ozbiljnima. Oni naglašavaju ključnu razliku između reaktivne moderacije sadržaja i proaktivne, strukturne sigurnosti ugrađene u sam dizajn platforme. Kada algoritam za preporuke, koji je srce poslovnog modela platforme, zakaže na ovaj način, to potkopava povjerenje roditelja u sigurnosne alate koji su im ponuđeni.
Ovaj slučaj jasno pokazuje da oslanjanje isključivo na ugrađene sigurnosne postavke, poput “Restricted Mode-a”, jednostavno nije dovoljno. Ti alati mogu smanjiti rizik, ali ga, očito, ne eliminiraju. Stoga, odgovornost ne može biti samo na roditeljima da pronađu i aktiviraju te postavke.
Umjesto toga, naglasak se mora vratiti na medijsku pismenost i otvorenu komunikaciju unutar obitelji. Ključno je da roditelji i skrbnici redovito razgovaraju sa svojom djecom. Taj razgovor ne bi trebao biti samo o tome što gledaju, već i o tome zašto im platforma nešto preporučuje. Djeca trebaju razumjeti da algoritam nije neutralni prijatelj, već složen sustav čiji ciljevi nisu uvijek usklađeni s njihovom dobrobiti.
Istovremeno, najveća odgovornost mora ostati na samim platformama. One moraju osigurati da njihovi temeljni sustavi budu dizajnirani tako da štite najranjivije korisnike po principu “sigurnosti po dizajnu”, a ne da ih, makar i nenamjerno, izlažu rizicima. Pozivamo na stalni oprez i proaktivan pristup digitalnom roditeljstvu, jer alati koje koristimo nisu besprijekorni.
Za više pitanja o temama sigurnosti na internetu javite se na besplatnu savjetodavnu telefonsku liniju Centra za sigurniji internet dostupne na broju 0800 606 606.
Ako ste na internetu naišli na neprimjeren ili nezakonit sadržaj, prijavite ga na HOTLINE obrazac Centra za sigurniji internet potpuno anonimno: www.csi.hr/hotline
