Telefon zvoni. To je državni tajnik koji zove. Ili je?
Za Washingtonske insajdere, viđenje i saslušanje više ne vjeruje, zahvaljujući nizu nedavnih incidenata koji su uključivali Deepfakes koji predstavljaju glavne dužnosnike u administraciji predsjednika Donalda Trumpa.
Digitalni lažirani također dolaze u korporativnu Ameriku, jer kriminalne bande i hakeri povezani s protivnicima, uključujući Sjevernu Koreju, koriste sintetički video i zvuk za lažno predstavljanje izvršnih direktora i kandidata za posao na niskoj razini kako bi dobili pristup kritičnim sustavima ili poslovnim tajnama.
Zahvaljujući napretku u umjetnoj inteligenciji, stvaranje realističnih deepfakesa lakše je nego ikad, uzrokovati sigurnosne probleme vladama, tvrtkama i privatnim pojedincima i postavljajući povjerenje najvrjednijom valutom digitalnog doba.
Odgovaranje na izazov zahtijevat će zakone, bolju digitalnu pismenost i tehnička rješenja koji se bore protiv AI s više AI.
“Kao ljudi, izuzetno smo osjetljivi na obmanu”, rekao je Vijay Balasubramaniyan, izvršni direktor i osnivač tehnološke tvrtke Pindrop Security. Ali vjeruje da su rješenja za izazov DeepFakesa možda nadohvat ruke: “Mi ćemo se uzvratiti.”
AI Deepfakes postaju prijetnja nacionalnoj sigurnosti
Ovog ljeta, netko je koristio AI da stvori duboku snagu državnog sekretara Marca Rubioa u pokušaju da se obrati ministrima vanjskih poslova, američkom senatoru i guverneru zbog teksta, glasovne pošte i aplikacije za razmjenu signalnih poruka.
U svibnju je netko lažno predstavljao Trumpovu šeficu osoblja, Susie Wiles.
Još jedan lažni Rubio pojavio se u Deepfakeu početkom ove godine, rekavši da želi prekinuti Ukrajinsku pristupu internetskoj usluzi Elona Musk -a. Ukrajinska vlada kasnije je pobijala lažnu tvrdnju.
Posljedice nacionalne sigurnosti su ogromne: ljudi koji misle da razgovaraju s Rubioom ili Wilesom, na primjer, mogu razgovarati o osjetljivim informacijama o diplomatskim pregovorima ili vojnoj strategiji.
“Ili pokušavate izvući osjetljive tajne ili konkurentne informacije ili idete nakon pristupa, na poslužitelj e -pošte ili drugu osjetljivu mrežu”, rekao je Kinny Chan, izvršni direktor tvrtke za cyber -sigurnost QID, rekao je o mogućim motivacijama.
Sintetički mediji također mogu imati za cilj izmijeniti ponašanje. Prošle godine, demokratski birači u New Hampshireu dobili su robocal koji ih je nagovarao da ne glasaju u predstojećem osnovnom državi. Glas na pozivu zvučao je sumnjivo poput tadašnjeg predsjednika Joea Bidena, ali je zapravo stvoren pomoću AI.
Njihova sposobnost prevare čini AI Deepfakes moćnim oružjem za strane aktere. I Rusija i Kina koristile su dezinformacije i propagandu usmjerene prema Amerikancima kao način podrivanja povjerenja u demokratske saveze i institucije.
Steven Kramer, politički savjetnik koji je priznao da je slao lažne Biden Robocalls, rekao je da želi poslati poruku o opasnostima koje Deepfakes predstavljaju američkom političkom sustavu. Kramer je prošlog mjeseca oslobođen optužbi za suzbijanje birača i lažno predstavljanje kandidata.
“Učinio sam ono što sam učinio za 500 dolara”, rekao je Kramer. “Možete li zamisliti što bi se dogodilo kad bi kineska vlada to odlučila učiniti?”
Prevaranti ciljaju financijsku industriju s dubokim fazama
Veća dostupnost i sofisticiranost programa znače da se DeepFakes sve više koriste za prijevaru korporativne špijunaže i vrtne sorte.
“Financijska industrija je u pravu u križanju”, rekla je Jennifer Ewbank, bivša zamjenica direktora CIA -e koja je radila na cyber -sigurnosti i digitalnim prijetnjama. “Čak su i pojedinci koji se poznaju uvjereni da prenose ogromne svote novca.”
U kontekstu korporativne špijunaže, oni se mogu koristiti za lažno predstavljanje izvršnih direktora tražeći od zaposlenika da predaju lozinke ili brojeve usmjeravanja.
DeepFakes također može omogućiti prevarantima da se prijave za posao – pa čak i da ih obavljaju – pod pretpostavljenim ili lažnim identitetom. Za neke je to način pristupa osjetljivim mrežama, krađe tajne ili instaliranje ransomwarea. Drugi samo žele posao i mogu istovremeno raditi nekoliko sličnih poslova u različitim tvrtkama.
Vlasti u SAD -u priopćile su da su tisuće Sjevernokorejaca s vještinama informacijske tehnologije poslane u žive u inozemstvu, koristeći ukradene identitete za dobivanje radnih mjesta u tehnološkim tvrtkama u SAD -u i drugdje. Radnici dobivaju pristup mrežama tvrtke kao i plaće. U nekim slučajevima radnici instaliraju ransomware koji se kasnije može koristiti za iznuđivanje još više novca.
Sheme su stvorile milijarde dolara za sjevernokorejsku vladu.
U roku od tri godine očekuje se da će 1 od 4 prijave za posao biti lažna, pokazuju istraživanja tvrtke Adaptive Security, tvrtke za kibernetičku sigurnost.
“Ušli smo u doba u kojoj svatko s laptopom i pristup modelu otvorenog koda može uvjerljivo biti lažno predstavljanje prave osobe”, rekao je Brian Long, izvršni direktor Adaptive. “Ne radi se više o hakiranju sustava – već o hakiranju povjerenja.”
Stručnjaci raspoređuju AI kako bi se borili protiv AI
Istraživači, stručnjaci za javnu politiku i tehnološke tvrtke sada istražuju najbolje načine rješavanja ekonomskih, političkih i socijalnih izazova koje predstavljaju Deepfakes.
Novi propisi mogli bi zahtijevati da tehnološke kompanije učine više kako bi identificirali, označili i potencijalno uklonili duboke faze na svojim platformama. Zastupnici bi također mogli izreći veće kazne onima koji koriste digitalnu tehnologiju da prevare druge – ako ih mogu uhvatiti.
Veća ulaganja u digitalnu pismenost također bi mogla povećati imunitet ljudi na mrežnu obmanu podučavajući ih načinima kako uočiti lažne medije i izbjeći pad plijena prevaranta.
Najbolji alat za hvatanje AI može biti još jedan AI program, jedan obučen za njušenje sitnih nedostataka u DeepFakesu koji bi osoba neopažena.
Sustavi poput Pindropa analiziraju milijune podataka u govoru bilo koje osobe kako bi brzo identificirali nepravilnosti. Sustav se može koristiti tijekom intervjua za posao ili drugih video konferencija kako bi se otkrio koristi li osoba, primjerice, koristi softver za kloniranje glasa.
Slični programi mogu jednog dana biti uobičajena, trčanje u pozadini dok ljudi razgovaraju s kolegama i voljenim osobama na mreži. Jednog dana, Deepfakes može ići putem neželjene pošte putem e -pošte, tehnološkog izazova koji je jednom prijetio da će ubrzati korisnost e -pošte, rekao je Balasubramaniyan, izvršni direktor Pindropa.
“Možete preuzeti poraz i reći da ćemo biti podređeni dezinformacijama”, rekao je. “Ali to se neće dogoditi.”
