Deepfake tehnologije: vodič kroz rizike, prepoznavanje i zaštitu od cyber prijetnji

Zamislite da gledate video u kojem poznati političar izgovara nešto što nikada nije rekao. Zvuk je savršen, pokreti usana potpuno usklađeni s riječima, a izraz lica uvjerljiv do te mjere da biste se mogli zakleti da je snimka autentična.

Opisali smo primjer deepfake tehnologije. Radi se o jednoj od najozbiljnijih cyber prijetnji suvremenog digitalnog doba.

Deepfake je termin nastao spajanjem riječi deep learning (duboko/detaljno učenje) i fake (lažno).

Označava sintetički medijski sadržaj ( video, audio ili fotografiju) stvoren ili manipuliran pomoću naprednih algoritama umjetne inteligencije.

Termin je prvi put stekao široku prepoznatljivost krajem 2017. godine, kada je anonimni korisnik platforme Reddit počeo objavljivati manipulirane video sadržaje stvorene pomoću algoritama dubokog učenja.

Od tog trenutka, ova tehnologija razvijala se munjevitom brzinom i postala neizostavan dio rasprave o cyber sigurnosti.

Danas deepfake tehnologije više nisu rezervirane za istraživačke laboratorije ili filmske studije.

Broj deepfake videa na internetu udvostručuje se otprilike svakih šest mjeseci, što jasno ukazuje na eksponencijalni rast ove pojave i potrebu za ozbiljnom zaštitom od cyber napada.

U ovom tekstu objašnjavamo kako deepfake funkcionira, koje vrste sadržaja postoje, kako prepoznati lažne AI generirane materijale te koje konkretne korake možete poduzeti za digitalnu sigurnost u svakodnevnom životu.

Kako deepfake tehnologije funkcioniraju

U srži svake deepfake kreacije nalazi se umjetna inteligencija, točnije grana poznata kao duboko učenje.

Ove tehnologije oslanjaju se na neuronske mreže. Konkretnije, na matematičke modele inspirirane načinom na koji ljudski mozak obrađuje informacije.

Ključna inovacija koja je omogućila stvaranje uvjerljivih deepfake sadržaja jesu generativne suparničke mreže, poznatije pod akronimom GAN (Generative Adversarial Networks).

GAN tehnologiju predložio je istraživač Ian Goodfellow 2014. godine, a njezin koncept temelji se na elegantnom principu natjecanja dviju mreža.

Prva mreža, generator, stvara lažne sadržaje s ciljem da izgledaju što autentičnije.

Druga mreža, diskriminator, pokušava razlikovati stvarne od generiranih sadržaja. Kroz tisuće iteracija ovog procesa, generator postaje sve bolji u stvaranju uvjerljivog sadržaja.

Krajnji rezultat je sintetički materijal koji je iznimno teško razlikovati od pravog, što predstavlja ozbiljan izazov za sigurnost na internetu.

Proces stvaranja deepfake sadržaja odvija se u nekoliko faza.

1. Najprije se prikuplja što više vizualnog i audio materijala ciljane osobe. U eri društvenih mreža, gdje ljudi svakodnevno objavljuju fotografije i video zapise, ovaj korak postao je zabrinjavajuće jednostavan.
2. Potom algoritam analizira svaku sliku, identificira ključne točke na licu i stvara trodimenzionalni model.
3. Slijedi treniranje modela koje može trajati od nekoliko sati do nekoliko tjedana.
4. Završna faza uključuje generiranje konačnog sadržaja sa suptilnim stapanjem generiranog lica s izvornim materijalom.

Deepfake koji ugrožava digitalnu sigurnost

Deepfake tehnologije obuhvaćaju više vrsta sintetičkog medijskog sadržaja, a svaka od njih nosi specifične rizike za zaštitu osobnih podataka online.

Video deepfake sadržaji najpoznatiji su oblik ove tehnologije. Zamjena lica (face swap) podrazumijeva prenošenje lica jedne osobe na tijelo druge u postojećem video zapisu.

Manipulacija pokreta usana (lip sync) sofisticiranija je tehnika koja omogućuje promjenu onoga što osoba na videu naizgled govori, što ju čini posebno opasnom za širenje dezinformacija.

Audio deepfake, poznat i kao kloniranje glasa, koristi algoritme za reprodukciju nečijeg glasa. Suvremeni modeli sposobni su na temelju svega nekoliko minuta audio zapisa stvoriti sintetički glas koji vjerno replicira ton, tempo i intonaciju govora ciljane osobe.

Ova tehnologija predstavlja posebno visok rizik u kontekstu phishing napada i telefonskih prijevara, gdje napadač može oponašati glas rukovoditelja tvrtke ili člana obitelji kako bi izvukao povjerljive informacije ili financijska sredstva.

Deepfake fotografije uključuju generiranje potpuno novih lica osoba koje ne postoje ili manipulaciju postojećih fotografija.

Full body deepfake sadržaji omogućuju manipulaciju cijeloga tijela, uključujući pokrete i geste.

Krađa identiteta i phishing napadi

Rizici deepfake tehnologija predstavljaju ozbiljnu prijetnju pojedincima, organizacijama i društvu u cjelini, a njihovo razumijevanje ključno je za učinkovitu zaštitu od cyber napada.

Dezinformacije i politička manipulacija možda su najalarmantniji aspekt. Manipulirani video zapisi političara koji izgovaraju kontroverzne izjave mogu se viralno proširiti prije nego što itko stigne verificirati njihovu autentičnost.

Prema istraživanju Sveučilišta Oxford, organizirane kampanje dezinformacija koje uključuju sintetičke medije zabilježene su u više od 80 zemalja svijeta.

Prijevara na internetu pomoću deepfake tehnologije poprima sve sofisticiranije oblike.

Krađa identiteta postaje znatno opasnija kada kriminalci mogu klonirati nečiji glas ili izgled.

Jedan od najpoznatijih slučajeva financijske prijevare dogodio se 2019. godine kada su kriminalci pomoću audio deepfake tehnologije oponašali glas generalnog direktora britanske energetske tvrtke i uvjerili zaposlenika da izvrši hitnu uplatu od 243.000 dolara.

Zaposlenik je bio uvjeren da razgovara sa svojim nadređenim jer je prepoznao ton, naglasak i način govora. Klasičan primjer kako phishing napadi evoluiraju uz pomoć umjetne inteligencije.

Neovlašteni pornografski sadržaj čini više od 90 posto svih deepfake videa na internetu, a žrtve su u ogromnoj većini slučajeva žene.

Ova zloupotreba nanosi duboku emocionalnu štetu i uništava reputacije, dok zakonski okviri za zaštitu žrtava još uvijek zaostaju za tehnološkim mogućnostima.

Paradoksalno, sama činjenica da deepfake sadržaji postoje potkopava povjerenje u sve medijske sadržaje.

Ova pojava poznata kao dividenda lažljivca znači da se stvarni, autentični zapisi mogu odbaciti kao lažni, što dodatno erodira povjerenje javnosti i otežava zaštitu osobnih podataka online.

Prepoznajte deepfake

Navest ćemo nekoliko metoda pomoću kojih možete prepoznati ovaj kriminal:

Vizualni znakovi pokazuju neuobičajeni ritam treptanja. Tad se algoritmi bore s vjernom reprodukcijom prirodnog treptanja.

Obratite pozornost na neusklađenost osvjetljenja, odnosno sjene i refleksije na licu koje se ne poklapaju s ostatkom scene.

Artefakti oko rubova lica, posebno duž linije čeljusti i oko ušiju pokazuju manipulacije. Neprirodni pokreti glave i ograničena mimika također mogu odati sintetički sadržaj.

Audio znakovi pokazuju neuobičajenu intonaciju, nedostatak prirodnih pauza i oklijevanja u govoru te sterilnu kvalitetu zvuka bez uobičajene ambijentalne pozadine.

Kako prepoznati phishing koji koristi klonirani glas? Obratite pozornost na emocionalne nijanse govora.Suptilnosti poput sarkazma ili nježnosti posebno su teške za algoritam.

Kontekstualni znakovi jednako su važni.

Uvijek provjerite dolazi li sadržaj iz pouzdanog izvora, je li prikazano ponašanje u skladu s poznatim stavovima osobe, postoje li drugi izvori koji potvrđuju isti događaj te je li sadržaj dizajniran da izazove snažnu emocionalnu reakciju.

Tu taktiku možemo naći u phishing napadima i širenju dezinformacija.

Među alatima za detekciju ističu se Microsoftov Video Authenticator, Intelov FakeCatcher koji koristi analizu protoka krvi u licu te InVID ekstenzija za preglednik.

Akademske institucije nisu nimalo ravnodušne. MIT i Stanford kontinuirano razvijaju nove metode digitalne forenzike, a NIST provodi sustavne evaluacije alata za detekciju.

Zakonska regulativa prepoznaje deepfake

Europska unija napravila je značajne korake kroz AI Act koji zahtijeva jasno označavanje AI generiranog sadržaja i klasificira deepfake tehnologije prema razini rizika.

U SAD-u je nekoliko saveznih država donijelo specifične zakone, a Kalifornija je bila među prvima, zabranjujući distribuciju deepfake videa političkih kandidata u periodu blizu izbora.

Kina je implementirala jednu od najstriktnijih regulativa, zahtijevajući da sav sintetički medijski sadržaj bude jasno označen.

Velike platforme poput Mete, YouTubea i TikToka uvele su vlastite politike protiv manipuliranih medija stvorenih s namjerom obmane, no provedba ostaje izazov s obzirom na ogromne količine sadržaja koji se svakodnevno objavljuju.

Što možete vi poduzeti?

Dok se institucije bore s izazovima na sistemskoj razini, postoje konkretni koraci koje možete poduzeti za zaštitu od cyber napada povezanih s deepfake tehnologijom.

Pojedinci bi trebali biti skeptični prema šokantnom video ili audio sadržaju, osobito ako dolazi iz neprovjerenih izvora.

Provjeravajte informacije koristeći više neovisnih izvora prije nego što povjerujete kontroverznim tvrdnjama ili ih podijelite dalje.

Ograničite količinu osobnog vizualnog materijala koji javno dijelite na društvenim mrežama jer svaka fotografija potencijalno može poslužiti kao materijal za deepfake.

Koristite dostupne alate za detekciju kada sumnjate u autentičnost sadržaja i kontinuirano se obrazujte o novim oblicima cyber prijetnji.

Organizacije trebaju implementirati višestruku autentifikaciju za financijske transakcije i važne odluke.

Zatim, nikada se ne oslanjajte isključivo na telefonski poziv ili video poruku. Donosimo još nekoliko prijedloga. Na primjer, uspostavite kodne riječi ili verifikacijske procedure za osjetljive komunikacije, što znatno otežava uspjeh deepfake prijevara.

Redoviti treninzi zaposlenika o prepoznavanju deepfake sadržaja i pravilnim protokolima reakcije trebali bi postati standardni dio programa cyber sigurnosti.

Posebno je važno razumjeti kako prepoznati phishing koji koristi deepfake elemente: ako primite neočekivani poziv ili video poruku s hitnim zahtjevom za prijenos novca ili dijeljenje osjetljivih podataka, uvijek verificirajte identitet pozivatelja putem alternativnog komunikacijskog kanala.

Kako dalje?

Stručnjaci predviđaju da ćemo do 2030. godine živjeti u okruženju gdje će razlikovanje stvarnog od sintetičkog sadržaja pukim promatranjem biti gotovo nemoguće.

Fokus će se nužno pomaknuti na tehničku verifikaciju podrijetla sadržaja.

Medijska pismenost postaje jedna od temeljnih vještina 21. stoljeća. Moramo znati kako deepfake funkcionira. Svatko bi trebao poznavati indikator lažnog sadržajaa, li i znati koristiti dostupne alate za verifikaciju.

Često postavljana pitanja

Može li bilo tko stvoriti deepfake sadržaj?

Osnovne deepfake sadržaje danas može stvoriti gotovo svatko s pristupom internetu i prosječnom računalu. Međutim, stvaranje visokokvalitetnog sadržaja još uvijek zahtijeva značajne računalne resurse i tehničko znanje.

Je li stvaranje deepfake sadržaja ilegalno?

Samo stvaranje u većini zemalja nije ilegalno. Međutim, korištenje za prijevaru, ucjenu, stvaranje neovlaštenog pornografskog sadržaja ili izbornu manipulaciju kažnjivo je prema postojećim zakonima u mnogim jurisdikcijama.

Kako deepfake ugrožava moju digitalnu sigurnost?

Deepfake tehnologija omogućuje sofisticirane oblike krađe identiteta, phishing napada i prijevara na internetu. Kriminalci mogu klonirati vaš glas ili izgled za financijske prijevare, a vaše javno dostupne fotografije mogu poslužiti kao materijal za stvaranje kompromitiranog sadržaja.

Što učiniti ako postanem žrtva deepfake zloupotrebe?

Odmah dokumentirajte sadržaj snimkama zaslona i URL adresama, prijavite ga platformi na kojoj je objavljen, kontaktirajte policiju i razmotrите angažiranje odvjetnika specijaliziranog za digitalno pravo.

U Europskoj uniji, GDPR vam daje pravo zahtijevati uklanjanje sadržaja koji koristi vaše osobne podatke bez pristanka.