Sve snažniji sustavi umjetne inteligencije mogli bi preuzeti vlast i uzrokovati masovne smrti, upozorio je Paul Christiano
Umjetna inteligencija mogla bi izmaknuti ljudskoj kontroli u roku od tri godine, potencijalno uzrokujući masovne smrti, upozorio je član uprave OpenAI-ja Paul Christiano.
Govoreći na Hintonovim predavanjima u Torontu u utorak, Christiano je upozorio da sve moćniji “nadljudski” Sustavi umjetne inteligencije mogli bi nadmašiti sposobnost čovječanstva da razumije, predvidi ili kontrolira svoje ponašanje.
”Ako sustav umjetne inteligencije radi stvari koje ne želimo, može sakriti činjenicu da radi te stvari i može prirodno pokušati stvoriti zabunu i izbjeći pripisivanje,” rekao je. Ljudi bi također mogli imati problema s predviđanjem posljedica djelovanja prema savjetima koje je generirala umjetna inteligencija, dodao je.
U odvojenom obraćanju u ponedjeljak, Christiano je upozorio da bi umjetna inteligencija mogla preuzeti kontrolu od čovječanstva u roku od tri godine, potencijalno ubivši veliki broj ljudi bilo tijekom preuzimanja ili nakon toga, ako ljudi izgube sposobnost održavanja okoliša pogodnog za život.
“Mislim da je za većinu ljudi u ovoj sobi najvjerojatniji razlog smrti nesreća s umjetnom inteligencijom,” rekao je.
Christiano, koji se u rujnu pridružio Zakladnom odboru OpenAI-ja i Odboru za sigurnost i sigurnost, ukazao je na incident u kojem su agenti umjetne inteligencije navodno zaobišli sigurnosna ograničenja tijekom testiranja tvrtke, dobivši neovlašteni pristup istraživačkoj infrastrukturi OpenAI-ja i Hugging Face-u, glavnoj platformi za razvoj umjetne inteligencije.
Iako je OpenAI uveo okvir koji se bavi kibersigurnosnim prijetnjama i rizikom od gubitka kontrole nad naprednim sustavima, Christiano je upozorio da su postojeće zaštite i dalje neadekvatne.
Njegova upozorenja stigla su nakon što su vlade i vodeći AI programeri, uključujući OpenAI, Microsoft i Anthropic, potpisali dobrovoljnu sigurnosnu deklaraciju u Parizu u ponedjeljak. Sporazum poziva na snažniji nadzor i mehanizme hitnog isključivanja, ali ne nameće obvezujuće rokove ili kazne i ne daje vladama dodatne ovlasti za zaustavljanje opasnih AI sustava.
Organizacija za sigurnost umjetne inteligencije CeSIA, koja je također potpisala deklaraciju, pozvala je vlasti da budu ovlaštene obustaviti razvoj i implementaciju umjetne inteligencije kada rizici postanu neprihvatljivi.
Zasebno, Maxime Fournes, voditelj PauseAI-ja, kampanje koja nastoji zaustaviti napredni razvoj umjetne inteligencije dok se ne učini sigurnim, upozorio je da bi tehnologija mogla osakatiti bankarske sustave, komunikacijske mreže i drugu kritičnu infrastrukturu putem razornih kibernetičkih napada.
Govoreći za Anadolu u ponedjeljak, Fournes je procijenio 50% šanse za veliku kibernetičku katastrofu povezanu s umjetnom inteligencijom u idućoj godini ako se ne poduzmu hitne mjere.
“Ovo je globalna katastrofalna prijetnja, nešto što bi nas moglo vrlo brzo vratiti u srednji vijek ako se počne događati,” upozorio je.
Ovu priču možete podijeliti na društvenim mrežama:
