Scroll Top

Zloupotreba umjetne inteligencije za stvaranje deepfake golotinje kao nova prijetnja

deepfake nasl

Web stranice za stvaranje deepfake intimnih slika postoje već godinama, no uvođenjem umjetne inteligencije njihov broj se uvelike povećao. Posebno je zabrinjavajuća činjenica da neki tinejdžeri stvaraju deepfake intimne slike svojih kolegica iz škole. S napretkom tehnologije ovaj bi problem mogao postati sve veći i rasprostranjeniji, a generirane slike sve realnije. U samo nekoliko sekundi, nečija fotografija na taj način postaje eksplicitna slika.

Velike tehnološke kompanije, Apple, Google i Discord, pružale su mogućnost ljudima da brzo pristupe štetnim web stranicama koje sadržavaju golotinju, a koje koriste umjetnu inteligenciju kako bi uklonile odjeću s pravih fotografija, i na taj način žrtve prikazuju bez odjeće bez njihovog pristanka. Više od desetak tih deepfake web stranica već mjesecima koristi gumb za pristup/prijavu od navedenih tehnoloških kompanija. Te stranice također se oglašavaju na društvenim mrežama. Od početka ove godine, zabilježen je porast od 2.400% u oglašavanju aplikacija ili stranica za nudifikaciju na društvenim mrežama.

WIRED (američki medij iz područja razvojnih tehnologija, informatičke tehnologije, međumrežja, međumrežnog poduzetništva i cyber kulture) analiza pronašla je 16 najvećih web stranica za „skidanje odjeće“ koristeći infrastrukturu za prijavu od Apple-a, Google-a, Discord-a, Line-a i drugih tehnoloških kompanija. Ovaj pristup omogućuje ljudima da vrlo lako kreiraju profile na stranicama za stvaranje deepfake-ova, pružajući im privid vjerodostojnosti prije nego što generiraju slike. Nakon što je WIRED kontaktirao Apple i Discord, njihovi glasnogovornici su izjavili da su uklonili račune developera koji su povezani s tim web stranicama. Iz Google-a su naveli kako će poduzeti mjere protiv developera kada utvrde da su prekršeni njihovi uvjeti.

Kada se netko na navedene web stranice prijavljuje kroz opciju „Prijava s Google-om“, developeri moraju pristati na njihove Uvjete korištenja, a koji zabranjuju promociju seksualno eksplicitnog sadržaja, kao i ponašanje ili sadržaj koji kleveće ili uznemirava druge. Odgovarajuće mjere trebale bi biti poduzete ukoliko se ti uvjeti prekrše.

Iako su umjetno generirane intimne slike lažne, one mogu ozbiljno naštetiti reputaciji osobe, njezinoj karijeri i imati ozbiljne posljedice na mentalno i fizičko zdravlje.

Tehnološke kompanije mogu učiniti mnogo kako bi zaustavile širenje takvih fotografija. Društvene mreže mogu zabraniti ili ukloniti oglase za nudifikaciju, blokirati ključne riječi, ali i izdati upozorenja ljudima koji koriste takve pojmove u pretraživanju. Kompanije koje stoje iza razvoja alata za generiranje slika pomoću umjetne inteligencije trebaju ugraditi ograničenja kako bi spriječile stvaranje štetnog i ilegalnog sadržaja. Važno je i označavanje sintetičkog sadržaja koji je generiran pomoću umjetne inteligencije, no ipak nije toliko učinkovito ukoliko su slike već dijeljene. Vlade bi također trebale uvesti zakone i regulatorne okvire kako bi se bavile zloupotrebom deepfake tehnologije.

Iznimno važnu ulogu imaju i svi korisnici interneta i društvenih mreža. Želimo istaknuti važnost prijavljivanja takvih sadržaja – jer na taj način možemo spriječiti širenje umjetno generiranih intimnih slika i videozapisa. Takve sadržaje možete prijaviti i putem našeg Hotline obrasca za prijavu ilegalnog sadržaja.

Izvori:

https://www.wired.com/story/undress-app-ai-harm-google-apple-login

https://theconversation.com/ai-nudify-sites-are-being-sued-for-victimising-people-how-can-we-battle-deepfake-abuse-237043