Obavještajno izvješće koje je ovog proljeća izradila umjetna inteligencija zamalo je dovelo do izravnog oružanog sukoba između Sjedinjenih Američkih Država i Kine. Prema navodima više izvora upućenih u događaj, sporno izvješće tvrdilo je da kineski teretni brod na Bliskom istoku prevozi komponente namijenjene nuklearnom programu, što je u Washingtonu trenutno pokrenulo hitnu vojnu reakciju.
Američke snage bile su u punoj pripravnosti za presretanje i zauzimanje plovila. Naoružani vojnici čekali su zapovijed za upad na brod dok su vojni zrakoplovi već patrolirali u zraku. Rizična operacija obustavljena je u posljednji trenutak kada su dužnosnici dodatnom provjerom utvrdili da je analitičar Zapovjedništva za specijalne operacije sporni dokument izradio pomoću umjetne inteligencije, prenosi CNN.
Analitički chatbot pogrešno je interpretirao podatke s brodskog manifesta dostavljene iz američkog Zapovjedništva za specijalne operacije na Pacifiku. Softver je javno dostupne informacije i tajne podatke iz vladinih baza povezao u potpuno netočan zaključak o teretu te ih formatirao u standardno obavještajno izvješće. Jedan od izvora opipao je izvješće kao “potpuno lažno” te naglasio da je “zamalo izazvalo rat”.
Rizici nekontrolirane primjene AI-ja u vojne svrhe
Ovaj incident ogolio je ozbiljne opasnosti od brzog i nedovoljno ispitanog uvođenja umjetne inteligencije u vojne i obavještajne sustave. Unatoč rizicima, Pentagon i obavještajne agencije nastoje AI integrirati u gotovo sve segmente djelovanja – od analize podataka na terenu i logistike do odabira ciljeva i upravljanja proračunom.
Ubrzana primjena tehnologije temelji se na uvjerenju da AI omogućuje brže donošenje odluka na bojištu kako SAD ne bi zaostao za rivalima. Ministar obrane Pete Hegseth u siječnju je predstavio “Strategiju ubrzanja primjene umjetne inteligencije” s ciljem da se vodeći AI modeli stave na raspolaganje za tri milijuna civilnih i vojnih djelatnika.
“Potaknut ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti ulaganja i pokazati pristup potreban da osiguramo vodeću poziciju u vojnoj primjeni umjetne inteligencije”, rekao je Hegseth prilikom predstavljanja plana.
Ljudski faktor i nekritičko povjerenje tehnologiji
Unatoč ambicijama Pentagona, sustav u praksi ostaje decentraliziran i bez jedinstvenih pravila za provjeru točnosti generiranih informacija. Različiti odjeli vojske koriste različite alate s varijabilnim sigurnosnim standardima, što stvara prostor za učestale pogreške i takozvane “halucinacije” umjetne inteligencije.
Stručnjaci i viši obavještajni dužnosnici upozoravaju da se mlađi analitičari, pod pritiskom da brže obrađuju podatke, sve više nekritički oslanjaju na automatizirane sustave. Posebnu zabrinutost izaziva sve veća uloga AI-ja u odabiru vojnih meta na bojištu.
“Primjena AI-ja u odabiru meta definitivno je u porastu, a ne postoje jasne smjernice o tome kako će prisutnost čovjeka u tom procesu spriječiti civilne žrtve ili prijateljsku vatru”, upozorio je izvor upućen u vojnu politiku, dok je drugi sugovornik sažeo ključni problem opaskom da “AI omogućuje da brže dođete do loše ideje”.
