Na ovogodišnje Valentinovo, *Privacy Not Included – vodič za kupce kojeg vodi Mozilla Foundation, objavio je rezultate analize privatnosti romantičnih chat botova. Njihov zaključak – Privatnost nije uključena.
Radi se o aplikacijama koje se koriste umjetnom inteligencijom kako bi s korisnicima razgovarali baš kao da su njihovi prijatelji i romantični partneri. Barem u teoriji.
Kako objašnjava jedan od istraživača, Misha Rykov:
“AI djevojke nisu vaši prijatelji. Iako se reklamiraju kao nešto što će poboljšati vaše mentalno zdravlje i dobrobit, specijalizirani su za ovisnost, usamljenost i toksičnost, dok istovremeno od vas pokušavaju izvući što je više moguće podataka.”
Svaka od 11 aplikacija uključenih u analizu zaslužila je oznaku *Privatnost nije uključena, pri čemu su svrstane među jedne od najgorih kategorija proizvoda koje su stručnjaci spomenutog vodiča do sada analizirali.
Vrlo kratko – radi se o aplikacijama koje nikako ne želite na svojim uređajima, a kako je analiza provedena te na koje načine ove aplikacije krše vašu privatnost pročitajte u nastavku.
Na što sve pristaju korisnici?
Prva domena koju istraživači ove organizacije provjeravaju prilikom analize proizvoda su njegova dopuštenja.
Dopuštenja nam mogu pružiti informaciju o tome kojim se mjerama putem aplikacije, ukoliko je ona hakirana ili zlouporabljena, može pratiti ili prisluškivati korisnika.
Ovaj podatak neće vam pružiti informaciju o tome hoće li se to zaista dogoditi, već predstavlja informaciju koju biste prilikom preuzimanja trebali imati na umu- u kontekstu svih ostalih pitanja privatnosti koje nam otkrivaju istraživači. U nekim slučajevima samim korištenjem aplikacije i pristajanjem na njihova pravila korištenja i privatnosti (Terms of service, Privacy policy) dajete dopuštenja aplikaciji da koristi, primjerice vaš mikrofon, kako bi prikupili informacije o vama.
Osim toga, informacija o dopuštenjima ponekad nam može biti prva crvena zastavica ukoliko aplikacija zahtjeva dopuštenja koja nemaju smisla za njenu svrhu. Primjerice, dopuštenje za mikrofon i pristup kameri u aplikaciji za kalendar.
U ovom području, većina analiziranih aplikacija zahtjeva dopuštenja za korištenje kamere, mikrofona i geolokacijskih podataka. Ova informacija sama po sebi ne govori puno – važno pitanje jest za što će aplikacija koristiti podatke koje prikupi tim putem te koliko se brine o tome da vaši podaci nisu izloženi prijetnji.
Što je s privatnosti?
Po pitanju privatnosti analiziraju se iduće stavke:
(1) kakvu vrstu podataka općenito prikuplja proizvod
(2) kako se koriste vaši podaci
(3) kako možete kontrolirati svoje podatke, uključujući kako možete pristupati i brisati vaše podatke
(4) dosadašnja povijest djelovanja proizvođača aplikacije u zaštiti privatnosti svojih korisnika
(5) može li se proizvod koristiti izvan mreže
(6) jesu li pravila o privatnosti napisana pristupačno i prilagođeno korisniku
Počevši od prve stavke, vrste podataka koje analizirane aplikacije prikupljaju o korisnicima zaista su brojne, a uključuju osobne identificirajuće podatke, tjelesne podatke te društvene podatke.
Samo neki od zabrinjavajućih primjera su: izgled, glas, činjenice o vama i vašem životu, osobe koje spominjete u razgovoru, teme koje vas zanimaju, biometrijski podaci, zdravstveno stanje i korištenje lijekova. Ove aplikacije stvorene su da kroz razgovor (ali i drugim načinima), prikupe što je više moguće informacija o vama.
Što aplikacije rade s tim podacima?
Analiza je pokazala da njih 90% može dijeliti ili prodavati prikupljene podatke. Svaka aplikacija osim jedne, navodi kako imaju dopuštenje ili prodavati prikupljene podatke, dijeliti ih u svrhe poput marketinga ili ne navode dovoljno informacija kojima bi se moglo potvrditi da to neće napraviti.
Nadalje, samo 54% analiziranih aplikacija navodi da pružaju korisniku mogućnost brisanja prikupljenih podataka, pri čemu sami razgovori s chatbotom nisu uvijek dio podataka koji će se moći izbrisati.
Čak i u slučaju da aplikacije svojim pravilima garantiraju određenu razinu privatnosti i sigurnosti, stručnjaci provjeravaju i njihovu dosadašnju povijest u tom pogledu kako bi vam pružili informacije o mogućnosti kršenja istih. Po tom pitanju, stručnjaci navode kako je većina proizvođača nova na tržištu, stoga je njihovu pouzdanost nemoguće zaključiti.
Može li se proizvod koristiti izvan mreže, odnosno offline, kako bi se izbjeglo prikupljanje podataka? Vrlo kratko, ne. Interes aplikacija za vaše podatke prilično je jasan. Kako bi podijelile podatke koje prikupe o vama, u analitičke ili komercijalne svrhe, aplikacije se koriste trackerima. Dok prosječna aplikacija pošalje nekoliko stotina trackera u minuti, ove su aplikacije u prosjeku slale njih 2663.
Pravila o privatnosti trebala bi biti jasna, razumljiva te pristupačna korisnicima koji na njih pristaju. Obzirom da neka od pravila ovih aplikacija nisu bila jasna samim stručnjacima iz tog područja, lako je zaključiti da ista ne mogu biti jasna niti prosječnom korisniku- koji zbog toga neće moći prepoznati spomenute rizike na njegovu privatnost. MINIMALNI STANDARDI SIGURNOSTI
Stručnjaci koji su radili ovu analizu koriste se terminom minimalni standardi sigurnosti. Radi se o provjeri sigurnosti aplikacije protiv zlouporabe i napada koja uključuje 5 domena – enkripciju, sigurnosna ažuriranja, snažne zaporke, sustav upravljanja ranjivostima te postojanje pravila privatnosti i kontakta za pitanja privatnosti.
Samo jedna od aplikacija ima osigurane minimalne standarde sigurnosti. Obzirom na količinu i vrstu osobnih podataka koje se dijele s ovim aplikacijama, izuzetno je opasno to što se korisnike ne štiti od mogućih prijetnji.
UMJETNA INTELIGENCIJA – Chatbot nije odgovoran, developeri nisu odgovorni…pa tko jest?
Na pitanja kako umjetna inteligencija koja se koristi u aplikacijama funkcionira, kojim podacima se trenira te postoje li sigurnosne mjere za neprimjeren sadržaj, istraživači nisu dobili odgovor.
Jedini aspekt u kojem su se vlasnici aplikacija izjasnili jest taj da nemaju odgovornost za ono što chatbot govori. Pitanje odgovornosti važno im je obzirom da prema svemu sudeći, sadržaj koji chatbot podijeli može biti izrazito neprimjeren, uznemirujuć i opasan.
Iako se neke od aplikacija promoviraju kao aplikacije za poboljšanje mentalnog zdravlja i dobrobiti, za isto predstavljaju potpunu suprotnost. One mogu sadržavati teme poput nasilja, samoubojstva i seksualnog uznemiravanja, a sam chatbot može se ponašati veoma hostilno. Podatak o tome potvrđuje nam i tragičan slučaj poticanja na samoubojstvo kod korisnika jedne od aplikacija.
Osim rizika za privatnost, upozoravamo vas na ozbiljan rizik za mentalno zdravlje koje dolazi s korištenjem ovih aplikacija. Umjetna inteligencija nije zamjena za ljudski kontakt, a za probleme mentalnog zdravlja uvijek se možete obratiti stručnjacima.
Imate dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji Internet vam stoje na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svaki radni dan od 08:00 do 16:00 sati.
Powered by A1 Hrvatska.