U prvoj polovici 2025. godine, tvrtka OpenAI uputila je Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC) u SAD-u čak 80 puta više prijava vezanih uz slučajeve iskorištavanja djece nego u istom razdoblju prethodne godine. Ovaj podatak, objavljen u najnovijem izvješću tvrtke, pali zvono za uzbunu, ali istovremeno zahtijeva dublju analizu sigurnosti djece u eri naglog razvoja umjetne inteligencije.
NCMEC-ova linija za prijave (CyberTipline) središnja je točka koju je ovlastio američki Kongres za prikupljanje prijava o materijalima seksualnog zlostavljanja djece (CSAM) i drugim oblicima iskorištavanja. Tehnološke tvrtke zakonski su obvezne prijaviti svaki sumnjivi sadržaj, nakon čega Centar te podatke prosljeđuje nadležnim tijelima kaznenog progona.
Statistika koja zahtijeva kontekst
Statistički podaci vezani uz ove prijave često su slojeviti. Nagli skok u brojkama ne mora nužno značiti isključivo porast kriminalnih aktivnosti, već često ukazuje na promjene u automatiziranim sustavima moderiranja sadržaja ili strože kriterije same platforme.
Usporedba je jasna:
- Prva polovica 2025.: OpenAI je poslao 75.027 prijava koje se odnose na gotovo jednak broj pojedinačnih komada sadržaja (74.559).
- Prva polovica 2024.: Poslano je svega 947 prijava koje su se odnosile na 3.252 komada sadržaja.
Važno je napomenuti da se isti sadržaj može prijaviti više puta, kao što i jedna prijava može obuhvaćati više datoteka. OpenAI, za razliku od nekih drugih platformi, transparentno prikazuje obje metrike kako bi pružio cjelovitiju sliku.
Uzroci porasta: Rast korisnika i nove mogućnosti
Gaby Raila, glasnogovornica OpenAI-a, pojasnila je kako je tvrtka krajem 2024. godine značajno uložila u kapacitete za pregled i obradu prijava kako bi mogla pratiti ubrzani rast broja korisnika. Nick Turley, potpredsjednik zadužen za ChatGPT, potvrdio je da aplikacija bilježi četverostruki porast tjednih aktivnih korisnika u odnosu na godinu ranije.
Osim same baze korisnika, ključni su i tehnološki faktori:
- Nove funkcionalnosti: Uvođenje mogućnosti učitavanja (postavljanja) slika te napredno generiranje vizualnog sadržaja otvorilo je, nažalost, i nove puteve za zlouporabu.
- Poboljšana detekcija: Sustavi sada preciznije prepoznaju nedopušteni sadržaj, što rezultira većim brojem automatskih prijava.
Ovaj trend prati širi uzorak koji NCMEC primjećuje s usponom generativne umjetne inteligencije – u razdoblju od 2023. do 2024. godine, prijave povezane s ovim tehnologijama porasle su za nevjerojatnih 1.325 posto.
Pritisak regulatora i odgovor industrije
Izvješće dolazi u trenutku kada se tehnološki divovi, uključujući OpenAI, Google i Metu, suočavaju s pojačanim nadzorom regulatora i pravnim pritiscima. Državni odvjetnici i zakonodavci upozoravaju na opasnosti “predatorskih proizvoda umjetne inteligencije”, dok se tvrtke suočavaju s tužbama obitelji koje smatraju da su chatboti doprinijeli tragičnim ishodima za njihovu djecu.
Kao odgovor, OpenAI je implementirao niz sigurnosnih mjera:
- Roditeljski nadzor: Povezivanje računa roditelja i djece, uz mogućnost ograničavanja određenih funkcija poput glasovnog načina rada.
- Plan sigurnosti za tinejdžere: Objavljen je strateški dokument (Teen Safety Blueprint) u kojem se tvrtka obvezuje na stalno unaprjeđenje detekcije zlostavljanja.
- Intervencija u stvarnom vremenu: Razvijeni su mehanizmi koji mogu obavijestiti roditelje ili čak policiju ako sustav prepozna neposrednu opasnost po život ili znakove samoozljeđivanja.