Google napreduje s planovima za integraciju svojih modela umjetne inteligencije u američku vojsku, unatoč izvješćima o sve većem javnom prosvjedu zaposlenika tvrtke, koji upozoravaju da bi partnerstvo moglo riskirati opasno i nezakonito ponašanje.
Prošlog tjedna tvrtka je objavila da je potpisala ugovor s Pentagonom o korištenju svojih AI modela u povjerljivim poslovima.
“Ponosni smo što smo dio širokog konzorcija vodećih AI laboratorija i tehnoloških i cloud kompanija koje pružaju AI usluge i infrastrukturu za podršku nacionalnoj sigurnosti”, rekla je Jenn Crider, Googleova glasnogovornica The New York Times. “Ostajemo predani konsenzusu privatnog i javnog sektora da se umjetna inteligencija ne bi trebala koristiti za domaći masovni nadzor ili autonomno oružje bez odgovarajućeg ljudskog nadzora.”
Dogovor, za koji je o navodnim uvjetima izvijestila stranica za tehnološke vijesti The Information, dopušta Pentagonu da koristi Google AI za “bilo koju zakonitu svrhu”, dok propisuje da Google AI “nije namijenjen i ne bi se trebao koristiti za domaći masovni nadzor ili autonomno oružje… bez odgovarajućeg ljudskog nadzora.”
Prošlog su tjedna stotine Googleovih zaposlenika potpisale otvoreno pismo CEO-u Sundaru Pichaiju, pozivajući kompaniju da odbije povjerljive ugovore s umjetnom inteligencijom i upozoravajući da bi rad s Ministarstvom obrane mogao “prouzročiti nepopravljivu štetu Googleovoj reputaciji, poslovanju i ulozi u svijetu”.
“Želimo vidjeti da umjetna inteligencija koristi čovječanstvu, a ne da se koristi na nehumane ili izuzetno štetne načine”, tvrdi se u pismu. “To uključuje smrtonosno autonomno oružje i masovni nadzor, ali se proteže i dalje.”
Pojedini rukovoditelji također su javno izrazili svoju zabrinutost, što je rijetkost u Silicijskoj dolini.
“Ostao sam bez riječi zbog Googleovog potpisivanja ugovora o korištenju naših AI modela za tajne zadatke,” Andreas Kirsch, viši istraživač u Googleovom DeepMind AI laboratoriju, napisao je na X. “Iskreno govoreći, to je sramotno.”
The Independent je kontaktirao Google i Ministarstvo obrane za komentar.
Pentagon je inzistirao da neće koristiti AI za potpuno autonomno oružje ili masovni domaći nadzor.
Unatoč tim zabrinutostima, zaposlenici Googlea tvrde da su posljednjih godina vidjeli kako njihov utjecaj na smjer kretanja tvrtke opada.
Prethodno su zaposlenici koji su prosvjedovali i davali otkaze izgleda utjecali na odluku tvrtke iz 2018. da odustane od projekta Maven, programa vojnog ciljanja potpomognutog umjetnom inteligencijom.
Od tada, zaposlenici tvrde da im je zabranjeno raspravljati o osjetljivim temama kao što su ICE i je li rat u Gazi bio genocid na internim forumima. Ubrzo nakon što je Trump izabran, tvrtka je navodno uklonila online dio svojih načela umjetne inteligencije rekavši da neće koristiti svoju tehnologiju za razvoj oružja.
Google nije jedini u pružanju umjetne inteligencije vojsci i državnoj sigurnosti. Drugi tehnološki divovi, uključujući Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection i SpaceX, postigli su dogovore o pružanju umjetne inteligencije za korištenje u povjerljivim sustavima, objavilo je Ministarstvo obrane u petak.
Google također nije jedini koji se suočava s prosvjedima zbog ovih dogovora, od kojih su mnogi prvi put predstavljeni prošle godine.
Ranije ove godine korisnici su rekli da bojkotiraju OpenAI-jev popularni ChatGPT nakon što je tvrtka pristala na uvjete s Pentagonom.
Dogovor je razbjesnio neke kupce, s obzirom na to da je OpenAI rekao da podržava slične crvene linije oko svoje tehnologije kao Anthropic, još jedan vrhunski AI laboratorij, koji je Pentagon označio kao “rizik lanca opskrbe” nakon što nije pristao na vojne uvjete ugovora vezanog uz AI.
Vojska je navodno već koristila Anthropicov model Claude u sklopu iranskog rata.
Prošle su godine bivši zaposlenici Palantira, tvrtke za rudarenje podataka s velikim vojnim i imigracijskim kontaktima, napisali otvoreno pismo prosvjedujući zbog rada tvrtke s Trumpovom administracijom.
Silicijska dolina oduvijek je imala kompliciran odnos s establišmentom vojske i nacionalne sigurnosti. Pentagon je dugo bio jedan od ključnih klijenata i investitora tehnološke industrije, ali ovaj vojni odnos nije bio u skladu s često liberalnom kulturom Silicijske doline i utopijskim snovima o tehnologiji.
Posljednjih su godina mnogi vrhunski tehnološki rukovoditelji prešli na političku desnicu, a tehnološke tvrtke i njihovi čelnici donirali su milijune dolara drugoj Trumpovoj kampanji i inauguraciji.
