Guverner Kalifornije Gavin Newsom, demokrat, u nedjelju je stavio veto na zakon o stvaranju sigurnosnih mjera za velike modele umjetne inteligencije, što bi bio prvi takav zakon u zemlji.
Guvernerov veto predstavlja veliku prepreku pokušajima stvaranja zaštitnih ograda oko umjetne inteligencije i njezine brze evolucije uz malo nadzora, navodi The Associated Press. Zakon se suočio s oštrim protivljenjem startupa, tehnoloških divova i nekoliko demokratskih zastupnika.
Newsom je ranije ovog mjeseca rekao na Dreamforceu, godišnjoj konferenciji koju je organizirao softverski div Salesforce, da Kalifornija mora prednjačiti u reguliranju umjetne inteligencije jer savezna vlada nije uvela sigurnosne mjere, ali da prijedlog “može imati jeziv učinak na industriju .”
SB 1047, rekao je guverner, mogao je naštetiti domaćoj industriji postavljanjem strogih zahtjeva.
DEMOKRATSKI SENATOR NA METI DEEPFAKE IMPERSONATORA UKRAJINSKOG DUŽNOSNIKA NA ZOOM POZIVU: IZVJEŠĆA
Guverner Kalifornije Gavin Newsom stavio je veto na prijedlog zakona o stvaranju sigurnosnih mjera za velike modele umjetne inteligencije u Golden Stateu. (AP Photo/John Bazemore)
“Iako je dobronamjeran, SB 1047 ne uzima u obzir je li sustav umjetne inteligencije postavljen u okruženjima visokog rizika, uključuje li kritično donošenje odluka ili korištenje osjetljivih podataka”, rekao je Newsom u izjavi. “Umjesto toga, prijedlog zakona primjenjuje stroge standarde čak i na najosnovnije funkcije – sve dok ih koristi veliki sustav. Ne vjerujem da je ovo najbolji pristup zaštiti javnosti od stvarnih prijetnji koje predstavlja tehnologija.”
Newsom je umjesto toga najavio da će se država udružiti s nekoliko stručnjaka u industriji kako bi razvili sigurnosne mjere za snažne modele umjetne inteligencije.
SB 1047 zahtijevao bi od tvrtki da testiraju svoje modele i javno objave svoje sigurnosne protokole kako bi se spriječilo manipuliranje modelima u štetne svrhe, kao što je, na primjer, brisanje državne električne mreže ili pomoć u izradi kemijskog oružja, scenariji za koje stručnjaci kažu moglo biti moguće u budućnosti jer se industrija nastavlja ubrzano razvijati.
Zakon bi također pružio zaštitu zviždača radnicima u industriji.
Demokratski državni senator Scott Weiner, koji je autor prijedloga zakona, rekao je da je veto “unazad za sve koji vjeruju u nadzor velikih korporacija koje donose ključne odluke koje utječu na sigurnost i dobrobit javnosti i budućnost planeta. “
“Tvrtke koje razvijaju napredne AI sustave priznaju da su rizici koje ti modeli predstavljaju javnosti stvarni i da se brzo povećavaju”, rekao je u izjavi. “Iako su veliki laboratoriji za umjetnu inteligenciju preuzeli divljenja vrijedne obveze u praćenju i ublažavanju ovih rizika, istina je da dobrovoljne obveze industrije nisu provedive i rijetko dobro funkcioniraju za javnost.”
Wiener je rekao da je rasprava oko prijedloga zakona pomogla staviti u središte pozornosti pitanje sigurnosti umjetne inteligencije i da će se on nastaviti zalagati za unapređenje sigurnosnih mjera oko tehnologije.
Tehnološki milijarder Elon Musk podržao je tu mjeru.
RAČUNI OD 800 I PLUS OSTAVLJENI NA NEWSOMOVOM STOLU ILUSTRACIJU KALIFORNIJSKOG PROBLEMA PREREGULACIJE: STRUČNJACI
Newsom je najavio da će se država, umjesto usvajanja zakona, udružiti s nekoliko stručnjaka u industriji kako bi razvila sigurnosne mjere za snažne modele umjetne inteligencije. (Don Campbell/The Herald-Palladium putem AP-a)
Prijedlog je jedan od nekoliko prijedloga zakona koje je ove godine usvojilo državno zakonodavstvo kojima se želi regulirati AI, boriti se protiv lažiranja i zaštititi radnike. Državni zakonodavci rekli su da Kalifornija mora poduzeti mjere ove godine, ukazujući na rezultate neuspjeha u obuzdavanju tvrtki društvenih medija kada su možda imale priliku.
Pobornici prijedloga zakona rekli su da je mogao predstavljati određenu transparentnost i odgovornost oko modela AI velikih razmjera, jer programeri i stručnjaci kažu da još uvijek nemaju potpuno razumijevanje o tome kako se modeli AI ponašaju.
Zakonom se nastojalo pozabaviti sustavima koji zahtijevaju visoku razinu računalne snage i više od 100 milijuna dolara za izgradnju. Nijedan trenutni model umjetne inteligencije nije zadovoljio te kriterije, ali neki stručnjaci kažu da bi se to moglo promijeniti unutar sljedeće godine.
“To je zbog velikog povećanja ulaganja unutar industrije”, rekao je za Associated Press Daniel Kokotajlo, bivši istraživač OpenAI-ja koji je odstupio ranije ove godine zbog, kako je opisao, zanemarivanja rizika AI-ja od strane tvrtke. “Ovo je luda količina moći imati bilo koju privatnu tvrtku bez odgovornosti, a također je i nevjerojatno riskantno.”
SAD zaostaje za Europom u reguliranju rastuće tehnologije koja izaziva zabrinutost zbog gubitka posla, dezinformacija, invazije na privatnost i pristranosti automatizacije, rekli su pristaše te mjere. Kalifornijski zakon nije bio sveobuhvatan kao propisi u Europi, ali pristaše kažu da bi to bio korak u pravom smjeru.
Prošle je godine nekoliko vodećih AI tvrtki dobrovoljno pristalo slijediti mjere zaštite koje je postavila Bijela kuća, a koje uključuju testiranje i dijeljenje informacija o njihovim modelima. Kalifornijski zakon, prema njegovim pristašama, zahtijevao bi od programera umjetne inteligencije da slijede zahtjeve slične tim zaštitnim mjerama.
Ali kritičari te mjere tvrdili su da bi to naštetilo tehnologiji i ugušilo inovacije u Golden Stateu. Prijedlog bi obeshrabrio programere umjetne inteligencije od ulaganja u velike modele ili dijeljenja softvera otvorenog koda, prema kritičarima, među kojima je američka zastupnica Nancy Pelosi, D-Calif.
Druga dva prijedloga umjetne inteligencije, koji su također naišli na protivljenje tehnološke industrije, nisu prošli prije zakonskog roka prošlog mjeseca. Zakoni bi zahtijevali od programera umjetne inteligencije da označe sadržaj generiran umjetnom inteligencijom i zabrane diskriminaciju pomoću alata umjetne inteligencije koji se koriste za donošenje odluka o zapošljavanju.
Senator savezne države Kalifornija Scott Wiener rekao je da je rasprava oko prijedloga zakona pomogla staviti u središte pozornosti pitanje sigurnosti umjetne inteligencije. (Scott Wiener)
Kalifornijski zakonodavci još uvijek razmatraju nova pravila protiv diskriminacije umjetne inteligencije pri zapošljavanju.
Guverner je prethodno rekao da želi zaštititi status države kao globalnog lidera u AI-u, navodeći da su 32 od 50 najboljih svjetskih AI kompanija u Golden Stateu.
KLIKNITE OVDJE ZA PREUZIMANJE APLIKACIJE FOX NEWS
Newsom je rekao da je Kalifornija rano usvojila umjetnu inteligenciju, budući da bi država mogla uvesti generativne alate umjetne inteligencije u bliskoj budućnosti za borbu protiv zagušenja autocesta, pružanje poreznih smjernica i pojednostavljenje programa za beskućnike.
Ranije ovog mjeseca, Newsom je potpisao neke od najstrožih zakona u zemlji za borbu protiv lažiranja izbora i usvojio mjere za zaštitu holivudskih radnika od neovlaštene upotrebe umjetne inteligencije.
Associated Press pridonio je ovom izvješću.
