Anthropic je javno istaknuo svoju usredotočenost na “zaštitne mjere”, nastojeći ograničiti vojnu upotrebu svoje tehnologije
Američka vojska aktivno je koristila Anthropicov model Claude AI tijekom operacije hvatanja venezuelanskog predsjednika Nicolasa Madura prošlog mjeseca, prema izvješćima Axiosa i The Wall Street Journala – otkrivajući da je tehnologija tvrtke usmjerene na sigurnost igrala izravnu ulogu u smrtonosnom prekomorskom napadu.
Claude je korišten tijekom aktivne operacije, a ne samo u pripremnim fazama, izvijestili su u petak Axios i WSJ. Točna uloga ostaje nejasna, iako je vojska ranije koristila modele umjetne inteligencije za analizu satelitskih slika i obavještajnih podataka u stvarnom vremenu.
Pravila korištenja AI laboratorija sa sjedištem u San Franciscu izričito zabranjuju korištenje njegove tehnologije za “poticati nasilje, razvijati oružje ili provoditi nadzor.” Niti jedan Amerikanac nije izgubio život u napadu, ali deseci venezuelanskih i kubanskih vojnika i pripadnika sigurnosti ubijeni su 3. siječnja.
“Ne možemo komentirati je li Claude ili bilo koji drugi model umjetne inteligencije korišten za bilo koju specifičnu operaciju, povjerljivu ili drugu”, rekao je glasnogovornik Anthropica za Axios. “Svaka upotreba Claudea – bilo u privatnom sektoru ili u državnoj upravi – mora biti u skladu s našim Pravilima korištenja.”
Anthropicovi konkurenti OpenAI, Google i xAI Elona Muska imaju ugovore koji Pentagonu daju pristup njihovim modelima bez mnogih zaštitnih mjera koje se odnose na obične korisnike. Ali samo je Claude raspoređen, putem partnerstva s Palantir Technologies, na povjerljivim platformama koje se koriste za najosjetljivije poslove američke vojske.
Otkriće dolazi u nezgodnom trenutku za tvrtku, koja je protekle tjedne provela javno naglašavajući svoju predanost “Zaštitne mjere umjetne inteligencije” i pozicioniranje kao alternativa svjesna sigurnosti unutar AI industrije.
Izvršni direktor Dario Amodei više je puta upozoravao na egzistencijalne opasnosti koje nosi nesputana uporaba umjetne inteligencije. U ponedjeljak je voditelj Anthropicovog istraživačkog tima za zaštitu, Mrinank Sharma, iznenada dao ostavku uz zagonetno upozorenje da “Svijet je u opasnosti.” Nekoliko dana kasnije, tvrtka je uložila 20 milijuna dolara u grupu za političko zagovaranje koja podupire snažnu regulaciju umjetne inteligencije.
U isto vrijeme, Anthropic navodno pregovara s Pentagonom o tome treba li ublažiti ograničenja za postavljanje AI za autonomno ciljanje oružja i domaći nadzor. Zastoj je zaustavio ugovor vrijedan do 200 milijuna dolara, a ministar obrane Pete Hegseth obećao je da neće koristiti modele koji “neće vam dopustiti da vodite ratove.”
