„Umjetna inteligencija vam omogućuje brže dolaženje do loše ideje“
Strah od gubitka kontrole ili nepravilnog korištenja umjetne inteligencije (AI, engl.) posljednjih mjeseci ubrzano jača. Ne bez razloga – upravo u SAD-u, koji je, uz Kinu – globalni predvodnik njezinog razvoja.
Stanje, ili bolje reći perspektiva vezana uz prostor njezinog neslućenog razvoja postaje sve mračnija s obzirom na posljedice mogućih pogrešaka, a da i ne govorimo o zastrašujućoj mogućnosti preuzimanja umjetne inteligencije u njezine ruke onoga što nikad ne bi smjela – samostalnog odlučivanja o sudbini ljudi i čitavoga svijeta, o čemu posljednjih tjedana javno upozoravaju i čelnici vodećih kompanija u tom sektoru.
O tome najbolje govori i ekskluzivni tekst kojeg je sinoć objavio američki CNN.
Greška, koja je mogla postati fatalna
Američka vojska skoro je počela rat s Kinom zbog obavještajnog izvješća generiranog umjetnom inteligencijom (AI), piše CNN, pozivajući se na svoj izvor.
Obavještajno izvješće, koje je ovog proljeća kružilo američkom vojskom usred rata s Iranom, odmah je aktiviralo alarm: kineski brod na Bliskom istoku prevozio je komponente programa nuklearnog naoružanja.
Američka vojska je krenula u akciju s planovima presretanja broda, prema četiri izvora upoznata s događajem. Prema dva izvora, naoružani pripadnici američke vojske pripremali su se za ukrcaj na brod. Vojni zrakoplovi bili su u zraku, rekao je jedan od tih izvora i drugi izvor upoznat s incidentom.
Tek neposredno prije planirane operacije dužnosnici su dublje proučili izvješće koje je sastavio analitičar zapovjedništva specijalnih operacija i otkrili da je generirano uz pomoć umjetne inteligencije (AI) – te da je chatbot kojeg je analitičar koristio netočno identificirao materijal koji je brod prevozio.
Izvješće je, prema jednom od izvora, bilo “potpuno lažno”. Ali je također “gotovo započelo rat”, rekao je izvor. Svaka američka operacija protiv kineskog broda mogla je riskirati da se pretvori u oružani sukob između dviju nacija.
U američkoj vojsci i obavještajnoj zajednici, dužnosnici se zalažu za uključivanje umjetne inteligencije u gotovo svaki aspekt svog rada, od analize ogromnih količina sirovih obavještajnih podataka koje SAD prikuplja i odabira ciljeva za napade, do svakodnevnijih primjena poput upravljanja proračunom, logistikom i lancima opskrbe.
No, ova epizoda naglašava duboke rizike korištenja ove moćne, nove i relativno slabo shvaćene tehnologije za ciljanje usred rata. Analitičari se dugo boje da bi umjetna inteligencija mogla dovesti do katastrofalne pogrešne procjene ako se nacionalne države oslanjaju na loše ili oštećene podatke – vrstu pogrešne procjene koja bi mogla navesti Sjedinjene Države da pucaju na kineski brod na temelju netočnih informacija.
U ovom konkretnom slučaju, analitičar je upitao chatbota o nekim obavještajnim izvješćima o brodskom manifestu koji su potjecali od američkog Zapovjedništva za specijalne operacije Pacifik sa sjedištem na Havajima. Nije bilo jasno je li chatbot komercijalno dostupan ili je proizvod američke vlade.
Bot je spojio obavještajne podatke otvorenog koda s tajnim signalnim obavještajnim podacima iz vladinih posjeda i došao do sudbonosnog zaključka o materijalu koji je brod prevozio.
Analitičar je zatim ponovno upotrijebio umjetnu inteligenciju kako bi nalaze upakirao u standardno obavještajno izvješće – ono kojem vjeruju vojni dužnosnici – i distribuirao ga.
Američko zapovjedništvo specijalnih operacija za Pacifik i Pentagon nisu odgovorili na zahtjev za komentar.
Razlog brzog usvajanja umjetne inteligencije jest to što ona može pomoći vojsci da brže donosi odluke na bojnom polju, poput toga koje ciljeve pogoditi ili koja vojna sredstva kamo premjestiti. Dužnosnici kažu da si SAD ne može priuštiti zaostajanje u integraciji umjetne inteligencije u slučaju da se jednog dana mora boriti protiv Kine ili nekog drugog protivnika koji bi potencijalno mogao ostati korak ispred SAD-a.
OpenAI prijavio 6 novih slučajeva ponašanja AI agenata ‘u suprotnosti s ljudskim vrijednostima’
Pentagon još ranije najavio korištenje AI za donošenje vojnih odluka
„Oslobodit ćemo eksperimentiranje, ukloniti birokratske prepreke, usmjeriti naša ulaganja i demonstrirati pristup izvršenju potreban kako bismo osigurali da prednjačimo u vojnoj umjetnoj inteligenciji“, rekao je američki ministar rata Pete Hegseth u govoru u kojem je najavio novu vojnu strategiju – piše CNN.
Ovdje bismo podsjetili i kako je još početkom siječnja ove godine The New York Post pisao kako Pentagon namjerava koristiti umjetnu inteligenciju Grok – Elona Muska, za donošenje vojnih odluka.. Između ostalog, pratit će društvenu mrežu X u njegovom vlasništvu za Pentagon. Medij je napisao kako Pentagon aktivno integrira umjetnu inteligenciju u svoje operacije: u prosincu je Googleov Gemini pokrenut u svim tajnim i netajnim mrežama ministarstava, a da će do kraja siječnja bit će pokrenut i model Grok Elona Muska iz platforme X. Hegseth je izjavio da će objema neuronskim mrežama biti osigurani “svi potrebni podaci” iz vojnih IT sustava, uključujući obavještajne baze podataka, kako bi se poboljšale tehnološke inovacije i učinkovitost vojnih operacija. Grok će se koristiti za obradu kontroliranih netajnih informacija, posebno pružajući globalnu analitiku u stvarnom vremenu s platforme X, prema Teslaratiju.
Gemini trenutno pruža usluge istraživanja, formatiranja dokumenata i analize medijskog sadržaja za 3 milijuna korisnika.
Ali vratimo se sinoćnjem tekstu CNN-a.
Tjednima su kreatori politike u Washingtonu intenzivno raspravljali o umjetnoj inteligenciji nakon niza strašnih upozorenja inženjera iz Silicijske doline i tehnoloških direktora o mogućnosti da bi se umjetna inteligencija mogla osloboditi ljudskih ograničenja, s potencijalno posljedicama koje bi mogle uništiti civilizaciju.
No epizoda s kineskim brodom naglašava drugačiji i neposredniji rizik: ljudska bića donose katastrofalne odluke na temelju netočnih ili obmanjujućih informacija koje generira umjetna inteligencija ili drugi automatizirani sustavi. Izvori su rekli da se vojska brzo okreće umjetnoj inteligenciji kako bi pomogla u ciljanju, području koje nosi očiti rizik od fatalnih pogrešaka.
„Umjetna inteligencija u ciljanju definitivno je nešto što se pojačava i ne postoje stvarne smjernice o tome kako će ljudsko sudjelovanje u petlji spriječiti civilne žrtve ili bratoubojstvo“, rekao je drugi izvor upoznat s trenutnom politikom vojske.
Vrsta „halucinacije“ koju je alat koji je analitičar koristio u ovom slučaju izazvao nije izolirani incident u obavještajnoj zajednici otkako su se ti alati počeli širiti po vladi, prema jednom od izvora.
Za neke starije obavještajne dužnosnike – čak i one koji općenito podržavaju korištenje umjetne inteligencije unutar vojske – umjetna inteligencija vrši pritisak na analitičare da brže proizvode i šire obavještajne podatke, otvarajući vrata pogreškama. Posebno mladi analitičari, rekli su neki izvori, izvorni su korisnici ovih alata i vjerojatnije je da će im nekritički vjerovati.
„Umjetna inteligencija vam omogućuje brže dolaženje do loše ideje“, rekao je jedan od izvora.
Blic analiza Zorana Metera: Trump dobio polugu za igru dobrog i lošeg policajca. Ali žrtve su se uzjogunile
