Amerikanci su izgubili blizu milijardu dolara zbog AI prijevara u jednoj godini – a stručnjaci za kibernetičku sigurnost strahuju da je ovo samo početak.
Gotovo 900 milijuna dolara ukradeno je u prijevarama koje su uključivale umjetnu inteligenciju 2025. godine, navodi se u prvom izvješću te vrste FBI-a. Ured je također primio više od 22.000 prijava o takvim shemama svom Centru za žalbe na internetski kriminal.
Jedna je žena u Kaliforniji izgubila više od 5000 dolara kada je prevarant upotrijebio umjetnu inteligenciju da oponaša glas njezine kćeri. Još jedna žena u Ohiju izgubila je 1,5 milijuna dolara nakon što su je lažni agenti FBI-a uvjerili da isprazni svoje bankovne račune.
Internetske prijevare nisu novost; postoje sve dok se ljudi prijavljuju. Lažna e-pošta nigerijskog princa, sheme krađe identiteta i sve vrste zlonamjernog softvera dugo su bile digitalne mine za ljude koji surfaju webom. Ali umjetna inteligencija sada mijenja igru cyber prijevara i pritom Amerikance košta milijune — broj koji će samo rasti kako se AI bude poboljšavao, a to čini svake nanosekunde.
Michael Mactinger, zamjenik pomoćnika direktora FBI-evog Cyber odjela, rekao je za Wall Street Journal da lažna komunikacija koju je stvorila umjetna inteligencija “može izgledati vrlo službeno i vrlo legitimno čak i najtreniranijim pojedincima.”
‘Današnja umjetna inteligencija je najgora umjetna inteligencija koju ćete ikada koristiti’
Dok tvrtke s umjetnom inteligencijom govore javnosti o hitnosti usvajanja njihove tehnologije, kriminalci su više nego spremni poslušati taj savjet.
Kao i svi ostali koji se igraju s Claudeom, Geminijem, Grokom i ChatGPT-om, prevaranti još uvijek shvaćaju što točno mogu izvesti pomoću chatbota, prema Jakeu Braunu, izvršnom direktoru Cyber Policy Initiative na Harris School of Public Policy Sveučilišta u Chicagu.
Rekao je WSJ da će, kako se umjetna inteligencija bude poboljšavala, način na koji je kriminalci mogu koristiti kako bi ljudima izvukli novac vjerojatno postati još sofisticiraniji.
“Tvrtke koje se bave umjetnom inteligencijom vole reći da je današnja umjetna inteligencija najgora umjetna inteligencija koju ćete ikada koristiti. Istina je i da je ovo najmanji broj pritužbi na umjetnu inteligenciju koji ćemo ikada vidjeti”, rekao je novinama.
Bob Sullivan, voditelj AARP podcasta Savršena prijevaraobjasnio je u ožujku da je umjetna inteligencija pomogla prevarantima da preplave internet lažnim ponudama i zlonamjernim shemama.
“Potopljeni smo”, rekao je Sullivan. “Prije nekoliko godina mogli ste se susresti s jednom ili dvije prijevare koje je generirala umjetna inteligencija godišnje. Sada pozivni centri za prevare šalju desetke tisuća prijevarnih poruka u minuti.”
Širok raspon griftova
Agencije za zaštitu potrošača prikupile su dugačke popise svih načina na koje prevaranti koriste AI kako bi pokušali prevariti ljude. I kalifornijski Odjel za financijsku zaštitu i inovacije i agencija za zaštitu potrošača iz New Yorka sastavili su popise metoda koje koriste kriminalci.
Novi zaokret na staroj prijevari je upotreba deepfakeova kako bi se ljudi uvjerili da razgovaraju s nekim kome vjeruju — ili s nekim kome žele vjerovati, poput slavne ili javne osobe — kako bi ih se uvjerilo da im pošalju novac. Prevaranti AI mogu duboko lažirati fotografiju ili videozapis rođaka u teškoj situaciji ili slavne osobe kao sredstvo uspostavljanja vjerodostojnosti.
Ljubavne sheme slijede sličan pristup, koristeći lažne slike ili videozapise — ili čak glasove — privlačnih ljudi ili slavnih osoba kako bi uvjerili žrtvu da su zainteresirani za njih. Jednom kada je povjerenje osigurano, tada dolazi do prijevare. Račun će tada od osobe tražiti novac ili pomoć, a s obzirom na to da im emocije pomućuju prosudbu, poznato je da su platili tisuće dolara.
Dok neki kriminalci nastoje iskoristiti brigu za voljene osobe ili želju za romantikom, drugi se pozivaju na pohlepu.
Prema agencijama za provođenje zakona, neki su prevaranti stvorili potpuno izmišljene utjecajne osobe kako bi uvjerili ljude da ulažu u lažne tvrtke ili podržali njihov nepostojeći rad.
Ranije ove godine, otkrilo se da je MAGA influencerica Emily Hart — atraktivna mlada žena koja je podržavala krajnje desničarske teme na internetu — stvorena od 22-godišnje indijske studentice medicinskog sestrinstva koja želi brzo zaraditi od ideologa.
Učenik je rekao Ožičeno da je upotrijebio Googleov Gemini AI za stvaranje fiktivnog influencera i zgrabio tisuće “super glupih” — prema njegovim riječima — MAGA gomile koja je pojela retoriku.
Ali ne nasjedaju samo takozvani “super glupi” ljudi na prijevare s umjetnom inteligencijom. Savjeti, posebno online, obično su bili usmjereni na starije Amerikance koji možda manje poznaju tehnologiju i nisu svjesni opasnosti povezanih s prijevarom. Međutim, novo izvješće FBI-a sugerira da bi šire poruke mogle biti potrebne kako bi se mnogo mlađa skupina Amerikanaca naučila kako držati kriminalce izvan svojih novčanika.
Ciljanje na tinejdžere
Prema FBI-u, tinejdžeri su posljednjih godina postali glavna meta prevaranata. Ured izvješćuje da je prošle godine zaprimio 31.000 pritužbi u svoj centar za pritužbe o kriminalu od osoba mlađih od 20 godina. To je 74 posto više u odnosu na 2024. i gotovo je trostruko više od broja pritužbi koje je primio od iste demografske skupine 2015.
Ade Clewlow, pridružena direktorica i viša savjetnica u konzultantskoj tvrtki za kibernetičku sigurnost NCC Group, rekla je za WSJ da je vjerojatnije da će tinejdžeri koji su odrasli na internetu vjerojatnije vjerovati onome što naiđu na internetu i “podložni su prijevari kao i svi drugi”.
Mjesta društvenih medija posebno su korisna za prevarante jer im omogućuju da zavire u ciljnu mrežu prijatelja i obitelji i potraže ranjivosti koje mogu iskoristiti.
Usredotočenost na obitelj mete bila je upravo način na koji su prevaranti uspjeli ukrasti više od 5000 dolara od Deborah Del Mastro iz San Francisca.
Ranije ovog mjeseca, Del Mastro je odgovorio na telefonski poziv i dobio zastrašujuće vijesti; glas s druge strane poziva rekao joj je da su oteli njezinu kćer Sarah i zatražili otkupninu.
Rekla je za Good Morning America da joj je glas rekao da je “ovdje netko s kim moraš razgovarati” prije nego što je čula uspaničeni glas svoje kćeri.
“Čujem glas svoje kćeri – jeca, pokušava disati, ima napad panike”, rekao je Del Mastro. “I [the voice] kaže: ‘Tako mi je žao, mama. Tako se bojim. Tako mi je žao.'”
Otmičari su od nje tražili da pošalje 5400 dolara na više lokacija u Meksiku ako želi ponovno vidjeti svoju kćer. Pristala je, bojeći se za sigurnost svoje kćeri. Nakon što je prekinula vezu s otmičarima, nazvala je kćer samo da bi ustanovila da je dobro.
Del Mastro je tada shvatila da je prevarena, vjerojatno od strane AI klona glasa njezine kćeri.
Erin West, osnivačica Operation Shamrock, organizacije usmjerene na borbu protiv prevaranata, rekla je za KGO da se čak i sekundni audio isječci nečijeg glasa – poput onoga što bi moglo biti uključeno u video koji se dijeli na Facebooku ili Instagramu – mogu koristiti za stvaranje vjerodostojnih glasovnih klonova.
“Što mogu učiniti sa samo nekoliko sekundi vašeg glasa [is] oni ga mogu klonirati, i oni u biti mogu proizvesti zvuk koji zvuči točno kao vi,” rekla je televizijskoj kući, dodajući da kloniranje glasa AI-om “samo postaje sve gore, i samo će se pogoršavati korištenjem AI-a i tehnologije deepfake.”
Još jedna žena u Kaliforniji postala je žrtva slične prijevare. Kada je Abigail – bez navedenog prezimena – primila Facebook poruku od nekoga tko tvrdi da je Steve Burton, dugogodišnja zvijezda legendarne sapunice “Opća bolnica”, spremno je prihvatila poruku.
Njih dvoje su razgovarali, prebacivši razgovor s Facebooka na WhatsApp. Njihovi razgovori su se nastavili i na kraju je Abigail dobila video od osobe koja tvrdi da je Burton. Muškarac u videu – koji je izgledao i zvučao baš kao zvijezda sapunice – nazvao je Abigail “mojom kraljicom” i obećao da će je voljeti.
Abigailina kći, Vivian Ruvalcaba, rekla je za Fox News da je vidjela video i upozorila majku da je riječ o umjetnoj inteligenciji, ali je majka bila uvjerena da je stvaran.
Prije nego što je shvatila da je sve laž, Abigail je lažnom Burtonu poslala 81.000 dolara i prodala svoj stan – za 200.000 dolara ispod njegove procijenjene vrijednosti – uz obećanje da će ona i lažna slavna osoba zajedno pobjeći i živjeti u kući na plaži.
Ako lažno predstavljanje voljenih osoba ili slavnih nije dovoljno loše, prevaranti su također koristili umjetnu inteligenciju kako bi uvjerljivije glumili državne službenike.
Lažni državni službenici
Izvješće FBI-a pokazalo je da vladine sheme lažnog predstavljanja postaju ne samo sve raširenije nego i sve sofisticiranije. Centar za pritužbe ureda primio je više od 32.000 poziva prošle godine u vezi s vladinim shemama lažnog predstavljanja, što je porast u odnosu na oko 17.000 2024. godine.
“Ono što je započelo kao nespretni telefonski pozivi lažnih agenata Porezne uprave koji su zahtijevali darovne kartice, razvilo se u nešto mnogo sofisticiranije i daleko teže odbaciti”, rekao je Judson Dressler, direktor centra za operacije rizika u tvrtki Resilience za kibernetičke rizike. WSJ.
Prevaranti koriste lažiranje kako bi njihovi pozivi izgledali legitimni u sustavima za identifikaciju pozivatelja; skinuti službene pečate i logotipe s web stranica agencija; i upotrijebiti AI deepfake audio i video kako bi stvorili uvjerljive krivotvorine javnih dužnosnika, rekao je Dressler.
Jedna 93-godišnja žena u Ohiu navodno je izgubila 1,5 milijuna dolara zbog vladine prijevare lažnog predstavljanja kada je lažni službenik FBI-a uvjerio ženu da kriminalci ciljaju na njezinu imovinu. Upozorili su je da mora isprazniti svoje bankovne račune i položiti novac na kripto bankomate radi sigurnosti. Lopovi su uzeli novac, a ona nije mogla vratiti svoju ušteđevinu.
Godine 2025. Consumer Reports predao je peticiju koju je potpisalo 75 000 Amerikanaca Saveznoj komisiji za trgovinu tražeći da tvrtke koje proizvode proizvode sposobne za kloniranje glasa AI-jem pozove na odgovornost za prijevare koje je omogućila ta tehnologija.
Ostati siguran u doba umjetne inteligencije
Kako se AI poboljšava, bit će sve teže znati ne samo koje su informacije stvarne, nego i postoje li ljudi s kojima razgovarate online.
U nastojanju da bolje educira javnost o najnovijim metodama koje koriste prevaranti, FBI je pojačao svoje resurse dostupne na IC3.gov.
Jedan od načina na koji se Amerikanci mogu zaštititi od digitalnih prijevara jest da uvijek provjeravaju je li osoba s kojom komuniciraju legitimna. Ako netko nazove ili pošalje poruku od državne agencije, na primjer, dobra je praksa nazvati agenciju izravno kako biste potvrdili identitet osobe.
Gotovo nikada ne postoji trenutak kada agenciji ili tvrtki treba odmah plaćanje. Ako vas netko odmah kontaktira tražeći novac, to je dobar trenutak za pauzu i provjeru, prema FBI-u.
Prema Navy Federal Credit Unionu, koji je ranije ove godine objavio smjernice za izbjegavanje AI prijevara, Amerikanci bi također mogli ograničiti koliko sebe dijele na internetu. AI treba vrlo malo – nekoliko fotografija, nekoliko sekundi glasa – da stvori uvjerljiv klon koji se može koristiti protiv vaših voljenih.
Ako sumnjate da ste bili žrtva prijevare, trebali biste brzo djelovati i obavijestiti svoju banku, kao i podnijeti prijavu na IC3.gov. Mactinger je rekao WSJ da je prijava ključna za zaustavljanje prevaranata.
“To bi vam moglo pomoći i spriječiti brojne druge pojedince da postanu žrtve sličnih vrsta kriminalnih aktivnosti”, rekao je.
