Obavještajni izvještaj, koji je ovog proljeća, usred rata s Iranom, kružio među pripadnicima američke vojske, odmah je izazvao uzbunu. Naime, tvrdio je kako kineski brod na Bliskom istoku prevozi komponente nuklearnog programa, tvrdi ekskluzivno otkriće CNN-a.
Američka vojska pokrenula je planove za presretanje broda, prema riječima četiriju izvora upoznatih s događajem. Prema dvojici izvora, naoružani pripadnici američke vojske pripremali su se ukrcati na brod. Vojni zrakoplovi već su bili u zraku, rekao je jedan od tih izvora te još jedan izvor upoznat s incidentom.
Tek neposredno prije planirane operacije dužnosnici su detaljnije provjerili izvještaj, koji je sastavio analitičar zapovjedništva za specijalne operacije, i otkrili da je pri njegovoj izradi korištena umjetna inteligencija (AI) te da je chatbot koji je analitičar koristio netočno identificirao materijal koji je brod prevozio. CNN nije uspio doznati o kakvom se teretu zapravo radilo.
Umalo izazvao rat
Izvještaj je, prema riječima jednog izvora, bio “potpuno netočan“. No istodobno je “zamalo izazvao rat“, rekao je taj izvor. Bilo kakva američka operacija protiv kineskog broda mogla je dovesti do eskalacije i oružanog sukoba između dviju zemalja.
Diljem američke vojske i obavještajne zajednice dužnosnici nastoje umjetnu inteligenciju uključiti u gotovo svaki aspekt svojeg rada — od analize golemih količina sirovih obavještajnih podataka koje SAD prikuplja i odabira ciljeva za napade, do mnogo svakodnevnijih zadataka poput upravljanja proračunom, logistikom i opskrbnim lancima.
No ovaj slučaj naglašava goleme rizike uporabe te tehnologije za određivanje ciljeva usred rata. Analitičari već dugo strahuju da bi AI mogao dovesti do katastrofalne pogrešne procjene ako se države pri donošenju odluka oslanjaju na loše ili kompromitirane podatke.
Spojio podatke i dobio kobni zaključak
Analitičar je u ovom slučaju postavio chatbotu pitanje o obavještajnim podacima vezanima uz brodski manifest, koji su potjecali iz američkog Zapovjedništva za specijalne operacije na Pacifiku. Nije jasno je li riječ bila o komercijalno dostupnom chatbotu ili alatu američke vlade.
“Interni alati uglavnom su samo kopije komercijalnih alata, s malo uljepšavanja“, rekao je bivši visoki američki dužnosnik upoznat s AI sustavima koje koriste vojni i obavještajni analitičari.
Chatbot je spojio podatke iz otvorenih izvora s tajnim signalno-obavještajnim podacima iz državnih baza te došao do kobnog zaključka o materijalu koji je brod prevozio. Analitičar je zatim ponovno upotrijebio AI kako bi te nalaze oblikovao u standardni obavještajni izvještaj — vrstu izvještaja kojoj vojni dužnosnici vjeruju te ga distribuirao. Američko Zapovjedništvo za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na zahtjev za komentar, navodi CNN.
Ne smiju izostati
Razlog ubrzanog uvođenja AI-ja jest to što ta tehnologija može pomoći vojsci da brže donosi odluke na bojištu, primjerice o tome koje ciljeve napasti ili kamo premjestiti vojne snage i sredstva. Dužnosnici tvrde da SAD ne može dopustiti da zaostane u integraciji umjetne inteligencije jer bi jednog dana mogao morati ratovati protiv Kine ili nekog drugog protivnika koji bi potencijalno mogao biti korak ispred SAD-a.
Ministar obrane Pete Hegseth objavio je u siječnju strategiju svoje agencije pod nazivom „Strategija ubrzanja umjetne inteligencije“, s ciljem ubrzavanja primjene AI-ja u vojsci.
„Oslobodit ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati način provedbe koji je potreban kako bismo osigurali da predvodimo u vojnoj umjetnoj inteligenciji“, rekao je Hegseth u govoru u kojem je predstavio strategiju.
Uvode različite AI alate
Strategija također zagovara široku primjenu umjetne inteligencije u vojsci te nalaže Ministarstvu da omogući pristup umjetnoj inteligenciji kroz nekoliko programa, s ciljem „demokratizacije eksperimentiranja s umjetnom inteligencijom i transformacije unutar Ministarstva tako što će se vodeći američki AI modeli izravno staviti u ruke tri milijuna civilnih i vojnih djelatnika, na svim razinama klasifikacije“, navodi se u memorandumu kojim je strategija predstavljena.
No napori su decentralizirani, reklo je više američkih dužnosnika upoznatih sa situacijom, pri čemu različiti dijelovi vlade koriste različite alate, različite naloge i različite sigurnosne standarde. Ne postoji jedinstven skup standarda za provjeru informacija koje generiraju ti alati. Mnoštvo različitih sustava umjetne inteligencije koji se uvode u različitim dijelovima vojske i obavještajne zajednice znači da se njihova pouzdanost i funkcionalnost znatno razlikuju.
Posljednjih tjedana kreatori politike u Washingtonu intenzivno raspravljaju o umjetnoj inteligenciji nakon niza ozbiljnih upozorenja inženjera iz Silicijske doline i tehnoloških direktora o mogućnosti da AI izmakne ljudskoj kontroli, s potencijalno katastrofalnim posljedicama za civilizaciju. No incident s kineskim brodom ukazuje na drugačiji i neposredniji rizik: ljudi bi mogli donositi katastrofalne odluke na temelju netočnih ili obmanjujućih informacija koje generira AI ili drugi automatizirani sustavi. Izvori su rekli da vojska sve intenzivnije koristi AI kako bi pomogla pri određivanju ciljeva, što očito nosi rizik smrtonosnih pogrešaka.
Nije izolirani incident
“Umjetna inteligencija u određivanju ciljeva definitivno se sve više koristi i ne postoje stvarne smjernice o tome kako će prisutnost čovjeka u procesu spriječiti civilne žrtve ili pogrešne napade na vlastite snage“, rekao je drugi izvor upoznat s trenutačnim vojnim politikama.
Prema riječima jednog od izvora, „halucinacija“ kakvu je u ovom slučaju proizveo alat nije bila izolirani incident u obavještajnoj zajednici otkako su se takvi alati počeli širiti unutar vlade.
Za neke iskusnije obavještajne dužnosnike, umjetna inteligencija povećala je pritisak na analitičare da proizvode i distribuiraju obavještajne podatke brže, čime se povećava mogućnost pogrešaka. Nekoliko izvora navodi da su mlađi analitičari, koji su odrasli uz takve alate, skloniji nekritički im vjerovati.
“Umjetna inteligencija vam omogućuje da brže dođete do loše ideje”, rekao je jedan od izvora.