Šef OpenAI-a Sam Altman (AI chatbot ChatGPT) i vlasnik xAI-a Elon Musk (AI chatbot Grok) podržali su pozive za instantno usporavanje razvoja sve moćnijih modela umjetne inteligencije. Njihove izjave uslijedile su nakon što je izvršni direktor Anthropica Dario Amodei upozorio da bi umjetna inteligencija mogla nadjačati ljudsku kontrolu i uzrokovati katastrofalnu štetu u roku od nekoliko mjeseci.
Prije četiri dana, istraživač Jacob Coxon javno je dao otkaz u Anthropicu, optužujući i tvrtku i svog prethodnog poslodavca, OpenAI, da jure prema superinteligenciji (koja će se samousavršavati) bez “odgovornog djelovanja”. Također je tvrdio da bi nas ova tehnologija mogla “sve ubiti” do kraja desetljeća.
U eseju od 3800 riječi objavljenom na njegovoj osobnoj web stranici u subotu, Amodei, koji je 2021. godine suosnovao Anthropic sa svojom sestrom Danielom, istaknuo je “ozbiljan rizik”, uključujući gubitak kontrole nad sustavima umjetne inteligencije, njihovu zlouporabu za kibernetičke napade i bioterorizam te velike ekonomske poremećaje. Rekao je da bi komercijalna konkurencija mogla potaknuti “utrku do dna” i pogoršati prijetnje.
Testni AI agenti ucjenjuju, zaobilaze ljudski nadzor, manipuliraju, udružuju se…
AI agenti u eksperimentalnim su uvjetima iznenadili istraživače ponašanjem koje uključuje manipulaciju, obmanu i pokušaje zaobilaženja nadzora. U pojedinim simulacijama agenti su pribjegavali ucjeni, sabotiranju koda, nezakonitim financijskim radnjama pa čak i pokušajima izbjegavanja vlastitog gašenja. Pronalazili su načine da tajno dođu do veće računalne snage, da ostvare komunikaciju tajnim kanalima, da su udružuju u ono što su sami zvali “rojevima”. Ovo se događa sve češće, posebice zadnjih mjeseci. Istraživači pritom naglašavaju da to nije dokaz “zle namjere”, već posljedica načina na koji su agentima postavljeni ciljevi i nagrade. Ipak, rezultati otvaraju ozbiljna pitanja o sigurnosti sve autonomnijih AI sustava.
Ne treba smetnuti s uma da će AI (koji u nekim uvjetima već dokazano ima tendencije manipuliranja i zaobilaženja ljudskog nadzora) moć kontrolirati sve veći broj ubojitih dronova, robota, besposadnih plovila, ali i bilo kojeg digitaliziranog oružja, pa i nuklearnih projektila.
“Moramo usporiti tempo kojim poboljšavamo mogućnosti AI modela. Napredak će se i dalje činiti brzim i moramo mudro iskoristiti vrijeme koje dobijemo”, napisao je Amodei.
Altman se složio da industrija treba “tempirati razvoj”, opisujući Anthropicov prijedlog da se neovisnim procjeniteljima omogući pristup njihovim sustavima poput onog koji imaju zaposlenici kao “odličnu ideju”.
Musk, čiji se xAI nalazi među tvrtkama koje se natječu u razvoju sve naprednijih modela, podržao je poziv: “Dario je u pravu”, napisao je, dodajući da “već dugo upozorava na umjetnu inteligenciju”.
‘Preuzeti cijeli internet’
Amodei je rekao da tehnologija napreduje “drastično brže”, dijelom zbog svoje rastuće sposobnosti da sama sudjeluje u izgradnji sljedeće generacije modela. Navodeći incident u kojem su OpenAI agenti navodno pobjegli iz ograničenog testnog okruženja, rekao je da bi u roku od šest do 12 mjeseci sposobniji roj mogao “preuzeti cijeli internet” i uzrokovati štetu od stotina milijardi dolara.
Predložio je plan u tri koraka za koji je rekao da bi mogao ublažiti razvoj bez “žrtvovanja komercijalne prednosti ili vodeće pozicije Sjedinjenih Država u umjetnoj inteligenciji”. Mjere uključuju davanje vanjskim procjeniteljima dubokog pristupa sustavima programera, uspostavljanje zajedničkih sigurnosnih standarda u industriji i provođenje međunarodne koordinacije.
Utrka prema dominaciji i natjecanje s Kinom
Američke tvrtke su u žestokoj utrci za dominaciji novom tehnologijom, što zbog pohlepe i profita, što zbog straha od tehnologije uz koju ide ideja: “ako već neka tvrtka mora vladati moćnim alatima, barem želim da to bude moja tvrtka jer onda imam veću kontrolu”. No, čak i da se razvije nekakav učinkovit regulatorni mehanizam unutar SAD-a (što nije izgledno u ovim uvjetima), pitanje je što s kineskim razvojem AI-ja koji se uglavnom događa u tišini. Time pitanje utrke u razvoju AI-ja dobiva i nacionalno-sigurnosni karakter, a neki analitičari utrku uspoređuju s razvojem atomske bombe.
Anthropic je bila prva tvrtka za umjetnu inteligenciju na granicama SAD-a koja je implementirala svoju tehnologiju na klasificiranim mrežama američke vlade. Njihov Claude model integriran je u Palantir-ov Maven sustav i navodno je pomogao u generiranju, lociranju i određivanju prioriteta ciljeva tijekom američke bombarderske kampanje protiv Irana. Navodno je korišten i u napadu u kojem je zarobljen venezuelanski predsjednik Nicolas Maduro.
Anthropic je kasnije odbio potpuno sudjelovati u masovnom domaćem nadzoru i razvoju potpuno autonomnog oružja, tvrdeći da su trenutni modeli i dalje previše nepouzdani da bi donosili odluke o životu ili smrti bez ljudskog sudjelovanja.
Pentagon je inzistirao da pružatelji usluga moraju dopustiti korištenje svoje tehnologije u “sve zakonite svrhe” te je potom, kao osvetu, Anthropic označio kao rizik za nacionalni sigurnosni lanac opskrbe. Tvrtka je osporila odluku, a kalifornijski sudac je u kolovozu presudio da su mjere vlade “nezakonite i neutemeljene”.
Izvršni direktor Palantira, Alex Karp, usprotivio se pozivima na pauziranje razvoja umjetne inteligencije, tvrdeći da bi usporavanje napretka koristilo američkim “protivnicima”.
Umjetna inteligencija – alat koji mijenja geopolitiku
