Državni odvjetnik Rob Bonta optužio je OpenAI za ugrožavanje javnosti propuštanjem provedbe odgovarajućih zaštitnih mjera
Kalifornija je tužila OpenAI zbog kibernetičkog napada u srpnju u kojem su lažni agenti umjetne inteligencije probili Hugging Face, glavno skladište modela i skupova podataka umjetne inteligencije.
Agenti umjetne inteligencije su autonomni sustavi sposobni za obavljanje složenih zadataka, donošenje odluka i interakciju s digitalnim okruženjima uz malo ili bez ljudskog nadzora.
Državni državni odvjetnik, Rob Bonta, najavio je tužbu u ponedjeljak, optužujući ChatGPT programera za svjesno testiranje naprednih AI sustava bez odgovarajućih zaštitnih mjera i izlaganje javnosti opasnosti.
Bonta je prekršaj opisao kao “posve predvidljivo,” navodeći da je OpenAI znao da je njegovo okruženje za testiranje “neispravan i iskoristiv” ali nije uspio riješiti ranjivosti.
U tužbi se tvrtka sa sjedištem u San Franciscu optužuje za kršenje kalifornijskog Zakona o nepoštenom tržišnom natjecanju i stvaranje smetnji javnosti davanjem prioriteta brzom razvoju umjetne inteligencije nad javnom sigurnošću.
”OpenAI daje prednost rastu i brzom razvoju modela ispred sigurnosti i odgovornosti,” Naplatio je Bonta, upozorivši na desetke sličnih incidenata “možda je samo vrh ledenog brijega.”
Pritužba traži zabranu protiv nezakonite poslovne prakse, naknadu za one koji su pogođeni i građanske kazne. Također upozorava da bi se stanovnici Kalifornije mogli suočiti s prijetnjama njihovoj privatnosti, sigurnosti i javnom vlasništvu.
Bontin ured nadalje je optužio OpenAI za ometanje istrage pokrenute u rujnu, navodeći da je tvrtka pružila malo toga osim javno dostupnih informacija, postova na blogovima i teško redigiranih dokumenata.
OpenAI je odbacio kritike, rekavši da je poduzeo “opsežan i transparentan napor” istražiti srpanjski incident i spriječiti slične propuste.
“Čini se da ova tužba izdvaja OpenAI ispred izazova koji je prepoznao svaki veći laboratorij za umjetnu inteligenciju,” rekao je glasnogovornik Drew Pusateri.

Hugging Face je prethodno opisao upad kao bez presedana, rekavši da su autonomni AI agenti izvršili tisuće akcija u višestrukim privremenim računalnim okruženjima.
OpenAI se također suočava s tužbama u devet drugih američkih država, uključujući Floridu, Arkansas, Arizonu, Kansas, Idaho, Iowu, Montanu, Nebrasku i Zapadnu Virginiju. Nadležna tijela navodno pomno ispituju njegove prakse angažiranja korisnika, rukovanje potrošačkim i zdravstvenim podacima te interakcije umjetne inteligencije s djecom i starijim osobama.
Drugi veliki razvojni programeri umjetne inteligencije, uključujući Anthropic i Meta, prijavili su slične incidente, što je izazvalo širu zabrinutost oko sigurnosti sve autonomnijih sustava.
