Alati umjetne inteligencije (AI) svakim danom postaju sve kreativniji. Osim što veliki broj ljudi već naveliko koristi ChatGPT, svjedoci smo toga kako sve češće možemo naići na replike stvarnih ljudi koje su namijenjene zavaravanju drugih i stvorene od strane umjetne inteligencije, te je s porastom istih došlo i do porasta sigurnosnih rizika. Radi se o takozvanim Deepfake-ovima, odnosno računalno generiranim videozapisima, audiozapisima ili slikama ljudi sa stvarnim ili djelomično stvarnim značajkama. Drugim riječima, deepfake-ovi čine sadržaj gdje se neka osoba prikazuje kako radi ili govori nešto što nije radila ili rekla. Korištenje stvarnih subjekata omogućuje deepfake-ovima da simuliraju stvarno ljudsko kretanje i izraze lica.
Odakle potječe?
Riječ „deep“ (dubok) dolazi od izraza „deep leraning“ (eng. duboko učenje), metode obuke računala na ogromnim količinama podataka kako bi izvodilo zadatke slične ljudskima. Riječ „fake“ ukazuje na to da je sadržaj računalno generiran i da ga je teško razlikovati od medijskog sadržaja stvorenog od strane ljudi.
Deepfake-ovi su danas sve realističniji te postaju toliko dobro napravljeni da nam postaje sve teže prepoznati radi li se o prikazima stvarnih ljudi ili ne. Sada čak i dobro informirani odrasli ljudi mogu imati problem s ovom obmanjujućom tehnologijom, stoga je važno podizati svijest o ovoj temi. Roditelji su ranije učili djecu, na primjer, kako izraditi sigurnu lozinku, a danas će imati malo teži zadatak – učiti djecu kako prepoznati je li određeni sadržaj deepfake ili ne.
Neki deepfake-ovi koriste se u muzejima, galerijama ili filmovima u svrhu uljepšavanja scena ili oživljavanja povijesnih ličnosti. Deepfake-ovi se koriste i za zabavu, poput filtera sa zamjenom lica na Snapchat-u ili Instagram-u. Nažalost, ove pozitivne primjere zasjenili su deepfake-ovi koji su stvoreni u svrhu zavaravanja ljudi, koji se u tim slučajevima mogu smatrati digitalnim krivotvorinama.
Opasnosti koje donosi deepfake
Najveća opasnost koju deepfake-ovi predstavljaju jest njihova sposobnost širenja lažnih informacija koje izgledaju kao da dolaze iz pouzdanih izvora. Isto tako, izražene su zabrinutosti zbog mogućnosti miješanja u izbore i politiku. Posebno su ugrožene slavne osobe jer je na internetu dostupan veliki broj njihovih slika i videozapisa.
Deepfake videozapisi mogu se stvarati na dva načina:
- Može se koristiti originalni videozapis te napraviti da osoba govori ili radi stvari koje nikada nije rekla/radila.
- Može se zamijeniti lice osobe na videozapisu s licem druge osobe – zamjena lica.
Primjeri zlonamjerne upotrebe deepfake-ova
- Lažni dokazi – Izrada lažnih fotografija, audiozapisa ili videozapisa koji se mogu koristiti kao dokazi implicirajući nečiju krivnju.
- Misinformacije i politička manipulacija – Na primjer, deepfake-ovi političara koriste se kako bi utjecali na javno mnijenje. Ovo može utjecati na način na koji će ljudi glasati ili hoće li vjerovati određenim liderima.
- Prijetnje i šteta za reputaciju – Na primjer, kada se slika stavi u ilegalnu, neprimjerenu ili kompromitirajuću situaciju poput sudjelovanja u eksplicitnim seksualnim radnjama. Može se koristiti za ucjenjivanje žrtve, uništavanje nečije reputacije, osvetu, odnosno za elektroničko nasilje.Deepfake može jednostavno prikazivati osobu i kako izgovara nešto što je suprotno njenim vrijednostima te štetiti njenoj reputaciji.
- Prijevara – Deepfake-ovi se mogu koristiti za impersonaciju pojedinca radi dobivanja osobnih informacija. Na primjer, netko se može praviti da je direktor firme u kojoj radite te tražiti da prebacite novac firme na određeni račun. Povjerenje i odnosi mogu se iskoristiti protiv ljudi kada se suočavaju s deepfake-ovima.
- Manipulacija dionicama – Deepfake-ovi se mogu koristiti i kako bi utjecali na cijenu dionica tvrtke. Na primjer, deepfake o tehnološkom otkriću ili lansiranju proizvoda mogao bi povećati cijenu dionica tvrtke.
Kako prepoznati deepfake?
Prepoznavanje deepfakea nije nimalo lak zadatak, čak ni za stručnjake koji ih proučavaju. Neki od znakova koji nam mogu ukazati da se radi o nevjerodostojnom sadržaju su:
- Neobične sjene
- Nesrazmjerni pokreti usnama
- Mrlje između pozadine i lica
- Pokreti – robotski pokreti i nedostatak pokreta jezikom
- Neobično treptanje
- Zamagljeni ili nejasni rubovi osobe
- Neujednačene ili nesrazmjerne nijanse kože
- Ne ljudski ili robotični vokalni obrasci
Što se tiče legalnosti deepfake-ova, oni općenito jesu legalni, osim u slučajevima kada krše postojeće zakone poput dječje pornografije, govora mržnje ili klevete. Svega nekoliko država ima zakone koji se odnose na deepfake-ove. Nedostatak zakona o deepfake-ovima može se pripisati tome što do nedavno tehnologija još nije bila toliko razvijena, te je bilo relativno lakše raspoznati kada se radi o deepfake-ovima. S vremenom postaje sve teže prepoznati stvarne videozapise od deepfake-ova, te vjerujemo kako će ljudi postati sve svjesniji opasnosti i posljedica do kojih oni mogu dovesti, a vjerujemo kako će sve više država uvoditi zakone koji se odnose na deepfake-ove.
Imate dodatnih pitanja o ovoj temi? Stručnjaci Centra za sigurniji Internet vam stoje na raspolaganju za sva pitanja i nedoumice na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svaki radni dan od 08:00 do 16:00 sati.
Powered by A1 Hrvatska.