Zapovjedništvo za specijalne operacije Sjedinjenih Država (JSOC) istražuje mogućnosti korištenja deepfake tehnologije za stvaranje uvjerljivih, ali potpuno lažnih internetskih persona, prema dokumentu o nabavi koji je pregledao The Intercept. Plan je dio šireg nastojanja da se unaprijede vojne operacije na polju digitalnih dezinformacija i manipulacije, omogućujući stvaranje profila koji izgledaju kao stvarni ljudi, ali zapravo ne postoje. Ti bi lažni profili mogli uključivati više slojeva informacija, uključujući slike, videozapise i audiozapise, kako bi djelovali dovoljno uvjerljivo da prevare i ljude i računalne algoritme.
Prema dokumentu, JSOC želi razviti sposobnost generiranja online korisničkih profila koji izgledaju kao jedinstvene osobe s uvjerljivim “izražajima” i “kvalitetnim fotografijama državne identifikacije”. Ovi profili bili bi plasirani na društvenim mrežama i drugim platformama, koristeći složene vizualne i zvučne elemente kako bi stvorili dojam autentičnosti. Dokument također navodi da bi tehnologija trebala omogućiti generiranje videozapisa u kojima se lažni korisnici prikazuju u različitim okruženjima, s pozadinama koje su također generirane kako bi stvorile iluziju realnog virtualnog okruženja.
JSOC se nada da će ovom tehnologijom moći kreirati deepfake “selfie” videozapise, gdje lažni profili ne bi samo izgledali kao stvarni ljudi, već bi se i kretali, govorili i komunicirali kao stvarne osobe, što bi omogućilo sofisticirane operacije utjecaja. Plan uključuje korištenje slike i pozadine koje algoritmi društvenih mreža ne bi mogli otkriti kao umjetno generirane. Ova vrsta operacija mogla bi biti korištena za prikupljanje informacija s javnih internetskih foruma, kao i za vođenje psiholoških operacija i dezinformacijskih kampanja u cilju postizanja vojnih i političkih ciljeva.
“Ova osoba ne postoji”
Zabrinutost izaziva činjenica da Pentagon već nekoliko godina koristi slične metode u propagandnim kampanjama. Godine 2022. Meta i Twitter uklonili su mrežu lažnih računa kojima je upravljalo Središnje zapovjedništvo SAD-a (CENTCOM), a neki od tih računa koristili su tehnologije za stvaranje profilnih slika na temelju umjetne inteligencije. Reutersova istraga iz 2024. otkrila je da je Zapovjedništvo za specijalne operacije koristilo lažne korisnike društvenih mreža kako bi umanjilo povjerenje u kinesko cjepivo protiv COVID-a, koristeći slične tehnike.
Također, prošle godine je Zapovjedništvo za specijalne operacije (SOCOM) izrazilo interes za korištenje deepfakeova u “operacijama utjecaja, digitalnim prijevarama, komunikacijskim poremećajima i dezinformacijskim kampanjama”. U tim aktivnostima deepfake tehnologija koristi strojno učenje kako bi sintetizirala audiovizualne podatke koji se ne mogu razlikovati od stvarnih snimaka. Ove slike, videozapisi i glasovne snimke koriste se za stvaranje uvjerljivih lažnih osoba koje mogu obmanuti ciljne publike.
JSOC-ov dokument o nabavi iz 2024. spominje alat poput StyleGAN-a, tehnologije koju je Nvidia razvila 2019. godine, koja je pokretala popularnu internetsku stranicu “Ova osoba ne postoji”, poznatu po generiranju hiperrealističnih lica. Ova tehnologija već je naišla na zabrinutost unutar industrije društvenih medija. Facebook je samo godinu dana nakon lansiranja StyleGAN-a uklonio mrežu računa koji su koristili tehnologiju za stvaranje lažnih profilnih slika. Od tada, istraživači iz akademske zajednice i privatnog sektora pokušavaju nadmašiti jedni druge u utrci za stvaranje neprepoznatljivih deepfakeova i razvijanju sustava za njihovo otkrivanje.
Ubrzivač zloćudnog utjecaja
Iako američki obavještajni i sigurnosni dužnosnici redovito upozoravaju na opasnosti deepfake tehnologije u rukama stranih protivnika, poput Rusije, Kine i Irana, sada se pokazuje da i američke vlasti razvijaju istu tehnologiju. Američka obavještajna zajednica upozorila je da su deepfakeovi “ubrzivač zloćudnog utjecaja” i da ih strane sile koriste kako bi dezinformirale i polarizirale društva. U travnju 2024., Institut za strateške studije američke vojske upozorio je da zlonamjerna upotreba umjetne inteligencije i deepfakeova prijeti destabilizaciji globalne sigurnosne arhitekture, uz potencijalno dramatične posljedice za povjerenje u međunarodni poredak.
Unatoč ovim zabrinutostima, plan JSOC-a ukazuje na temeljne napetosti unutar američke vlade. Dok su neki dijelovi vlasti zaduženi za informiranje javnosti i izgradnju povjerenja u vladine institucije, drugi sektori, poput vojnih zapovjedništava, otvoreno istražuju alate za obmanu i dezinformacije. Profesor sigurnosnih studija s Georgetowna, Daniel Byman, ističe da bi širenje takvih tehnologija moglo ugroziti povjerenje ne samo u američku vladu, već i u sve globalne institucije. “Ako se američka vlada upusti u ovu vrstu aktivnosti, druge zemlje će to slijediti, a to će stvoriti svijet u kojem će biti sve teže razlučiti istinu od laži”, upozorava Byman.
Evo kakve rizike predstavljaju napredni AI modeli u krivim rukama
