“Svijet je u opasnosti”, napisao je u svojoj ostavci voditelj Anthropicovog Safeguards istraživačkog tima
Vodeći istraživač sigurnosti umjetne inteligencije, Mrinank Sharma, dao je ostavku u Anthropicu s enigmatičnim upozorenjem o globalnom “međusobno povezane krize”, najavljujući svoje planove da postane “nevidljiv neko vrijeme.”
Sharma, diplomant Oxforda koji je vodio Istraživački tim za zaštitu proizvođača chatbota Claude, objavio je svoju ostavku u ponedjeljak X, opisujući sve veće osobno obračunavanje s “naša situacija.”
“Svijet je u opasnosti. I to ne samo zbog umjetne inteligencije ili biološkog oružja, već i zbog cijelog niza međusobno povezanih kriza koje se odvijaju u ovom trenutku,” Sharma je pisao kolegama.
Odlazak dolazi usred rastućih napetosti oko laboratorija za umjetnu inteligenciju sa sjedištem u San Franciscu, koji se istovremeno utrkuje u razvoju sve moćnijih sustava, dok njegovi vlastiti rukovoditelji upozoravaju da bi te iste tehnologije mogle naštetiti čovječanstvu.
Vratit ću se u Ujedinjeno Kraljevstvo i dopustiti da postanem nevidljiv neko vrijeme.
— mrinank (@MrinankSharma) 9. veljače 2026
Također slijedi izvješća o sve većem raskolu između Anthropica i Pentagona oko želje vojske da postavi AI za ciljanje autonomnog oružja bez zaštitnih mjera koje je tvrtka nastojala nametnuti.
Sharmina ostavka, koja dolazi nekoliko dana nakon što je Anthropic objavio Opus 4.6 – moćniju iteraciju svog glavnog alata Claude – nagovijestila je unutarnje trvenje oko sigurnosnih prioriteta.
“Tijekom vremena koje sam proveo ovdje, više puta sam vidio koliko je teško doista dopustiti da naše vrijednosti upravljaju našim postupcima,” napisao je. “Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo s pritiscima da ostavimo po strani ono što je najvažnije, a i u širem društvu.”
Tim istraživača osnovan je prije nešto više od godinu dana s mandatom za borbu protiv sigurnosnih prijetnji umjetne inteligencije, uključujući “zlouporaba i neusklađenost modela,” prevencija bioterorizma, i “prevencija katastrofe”.
Sharma je s ponosom primijetio svoj rad na razvoju obrane od biološkog oružja potpomognutog umjetnom inteligencijom i njegov “konačni projekt o razumijevanju kako nas AI pomoćnici mogu učiniti manje ljudima ili iskriviti našu ljudskost.” Sada se namjerava vratiti u Ujedinjeno Kraljevstvo “istražite diplomu iz poezije” i “postanite nevidljivi na određeno vrijeme.”
Izvršni direktor Anthropica, Dario Amodei, više je puta upozoravao na opasnosti koje nosi upravo tehnologija koju njegova tvrtka komercijalizira. U prošlomjesečnom eseju od gotovo 20.000 riječi upozorio je da sustavi umjetne inteligencije “gotovo nezamisliva snaga” su “iminentno” i volja “testirajte tko smo kao vrsta.”
upozorio je Amodei “rizici autonomije” gdje je AI mogao “pođi skitnica i nadjačaj čovječanstvo,” i sugerirao da bi tehnologija mogla omogućiti “globalna totalitarna diktatura” kroz nadzor i autonomno oružje koje pokreće AI.
Ovu priču možete podijeliti na društvenim mrežama:
