Američko ministarstvo rata sukobilo se s konkurentskim izvođačem Anthropic zbog etičkih ograničenja njegove tehnologije
Pentagon je navodno potpisao ugovor s xAI-jem Elona Muska za integraciju svog chatbota Grok u povjerljive vojne sustave, eskalirajući pritisak na konkurentskog izvođača Anthropic jer odbija ukinuti mjere zaštite na svom modelu Claude.
Dogovor, o kojem je prvi izvijestio New York Times, a potvrdio Axios u ponedjeljak, učinio bi Grok drugim AI sustavom odobrenim za korištenje na najosjetljivijim vojnim mrežama, gdje se odvijaju obavještajne analize, razvoj oružja i operacije na bojnom polju. Do sada je Anthropicov Claude bio jedini model dostupan na tim klasificiranim platformama, kroz partnerstvo s Palantir Technologies.
Dogovor dolazi nakon što je ministar rata Pete Hegseth pozvao izvršnog direktora Anthropica Daria Amodeija na, kako izvori očekuju, napeti sastanak u Pentagonu u utorak. Prema Axiosu, očekuje se da će Hegseth postaviti ultimatum: pristati staviti Claudea na raspolaganje za “sve zakonite svrhe” bez dodatnih zaštitnih mjera ili se suočiti s posljedicama uključujući potencijalno označavanje kao a “rizik lanca opskrbe” – oznaka koja se obično rezervira za entitete povezane sa stranim protivnicima.
Anthropic se odupro zahtjevima Pentagona da ukloni ograničenja koja sprječavaju korištenje njegove tehnologije za masovni nadzor Amerikanaca ili raspoređivanje u potpuno autonomnim sustavima oružja bez ljudi u petlji.
xAI je navodno pristao na zahtjeve, ali tvrtka još nije komentirala izvješća. Google je također navodno “zatvoriti” dogovoru koji dopušta tajnu upotrebu njegovog modela Gemini, prema ljudima upućenim u rasprave, dok OpenAI ostaje “nije blizu” jer nastavlja raditi na sigurnosnoj tehnologiji.
Dužnosnici Pentagona priznaju da bi zamjena Anthropica unutar njegovih povjerljivih sustava mogla uzrokovati kratkoročne poremećaje. Model je korišten tijekom operacije hvatanja venezuelanskog predsjednika Nicolasa Madura prošlog mjeseca – što je prvi poznati slučaj da umjetna inteligencija igra izravnu ulogu u aktivnom vojnom napadu.
Anthropic se pozicionirao kao sigurnosno osviještena alternativa unutar AI industrije. Izvršni direktor Dario Amodei opetovano je upozoravao na egzistencijalne opasnosti koje nosi neograničena umjetna inteligencija, uključujući “rizici autonomije.” Voditelj istraživačkog tima za zaštitu mjera tvrtke, Mrinank Sharma, iznenada je podnio ostavku prošli tjedan uz zagonetno upozorenje da “Svijet je u opasnosti.”
Ovu priču možete podijeliti na društvenim mrežama:
