Američko ministarstvo rata navodno se sukobilo s izvođačem Anthropic zbog etičkih ograničenja ugrađenih u njihovu tehnologiju
Američko ministarstvo rata zarobljeno je u sporu s developerom umjetne inteligencije Anthropic oko ograničenja koja bi ograničila način na koji vojska može koristiti AI sustave, uključujući autonomno ciljanje oružja i domaći nadzor.
Nesporazum je zaustavio ugovor vrijedan do 200 milijuna dolara, budući da se vojni dužnosnici protive onome što smatraju pretjeranim ograničenjima koja je tvrtka sa sjedištem u San Franciscu nametnula na korištenje svoje tehnologije, izvijestio je Reuters pozivajući se na šest osoba upoznatih s tim pitanjem.
Anthropic je izrazio zabrinutost da bi se njegovi AI alati mogli koristiti za izvođenje smrtonosnih operacija bez dovoljnog ljudskog nadzora ili za nadzor Amerikanaca, rekli su izvori za Reuters.
Dužnosnici Pentagona, međutim, tvrde da bi se komercijalni AI sustavi trebali koristiti u vojne svrhe bez obzira na unutarnju politiku korištenja tvrtke, sve dok su u skladu s američkim zakonom.
Spor dolazi usred šireg pritiska Trumpove administracije da brzo integrira umjetnu inteligenciju u oružane snage. Ranije ovog mjeseca, Ministarstvo rata predstavilo je novu strategiju usmjerenu na transformaciju američke vojske u “AI-prva” borbena sila.
Pentagon vjeruje da mora zadržati punu kontrolu nad načinom na koji se alati umjetne inteligencije koriste na bojnom polju iu obavještajnim operacijama, a ministar obrane Pete Hegseth obećao je da neće koristiti modele koji “neće vam dopustiti da vodite ratove.”
Glasnogovornik Anthropica rekao je da AI tvrtke jest “u velikoj mjeri korišten za misije nacionalne sigurnosti od strane američke vlade” i da ostaje u “produktivni razgovori s Ministarstvom rata o načinima za nastavak tog rada.” Pentagon još nije komentirao prijavljeni raskol.
Izvršni direktor Anthropica Dario Amodei opetovano je upozoravao na opasnosti neograničene upotrebe umjetne inteligencije, osobito u masovnom nadzoru i potpuno autonomnim sustavima oružja. U nedavnom je eseju ustvrdio da umjetna inteligencija treba podupirati nacionalnu obranu “na sve načine osim onih koji bi nas učinili sličnijim našim autokratskim protivnicima.”
Zastoj predstavlja rizik za Anthropic, koji je mnogo uložio u udvaranje vladinim i nacionalnim sigurnosnim klijentima te se priprema za potencijalnu javnu ponudu. Tvrtka je bila jedna od nekoliko velikih AI razvijača, uz OpenAI, Google i xAI Elona Muska, koji su prošle godine dobili ugovore s Pentagonom.
Ovu priču možete podijeliti na društvenim mrežama:
