Direktori triju vodećih svjetskih tvrtki za razvoj umjetne inteligencije obratili su se u srijedu Vijeću sigurnosti Ujedinjenih naroda s upozorenjem da bi sve moćniji sustavi umjetne inteligencije uskoro mogli dodatno napredovati, izmaknuti ljudskoj kontroli i predstavljati ozbiljnu prijetnju međunarodnoj sigurnosti.
Među ključnim govornicima pred vijećem od 15 članova u sklopu godišnjeg skupa Opće skupštine UN-a bili su izvršni direktor OpenAI-a Sam Altman, izvršni direktor Anthropica Dario Amodei i suosnivač Hugging Facea Clément Delangue.
Upozoravajući na ozbiljnost situacije, Amodei je poručio: “Upravlja li se loše umjetnom inteligencijom, vjerujem da bi ona čak mogla predstavljati rizik za čovječanstvo u cjelini”.
Poziv na demokratska pravila
Dok vlade diljem svijeta nastoje pronaći načine za nadzor tehnologije koja se razvija brže nego što regulatori mogu pratiti, Sjedinjene Države i Kina i dalje su podijeljene oko toga treba li sustavima globalna zaštita ili ih treba prepustiti tržišnim snagama, a Altman je naglasio važnost zajedničkog djelovanja: “Ako umjetna inteligencija treba biti demokratska, najvažnije odluke ne mogu donositi samo laboratoriji u San Franciscu. Moraju se oblikovati kroz demokratske procese i moraju ih donositi vlade koje su odgovorne ljudima kojima služe”.
Dodao je i kako će na međunarodnoj razini to zahtijevati suradnju, istaknuvši: “U našoj je povijesti bilo razdoblja kada su se zemlje koje se međusobno natječu i jedna drugu baš previše i ne vole ipak udruživale zbog zajedničkih interesa i kolektivnog dobra kada su bile suočene s moćnom novom tehnologijom. Smatramo da je ovo takvo razdoblje”.
Svojim se upozorenjima pridružio i kanadski znanstvenik Yoshua Bengio, jedan od takozvanih kumova umjetne inteligencije i supredsjedatelj Neovisnoga međunarodnog znanstvenog panela, koji je okupljenima poručio: “Opasnosti su stvarne i neposredne“, dodavši kako se “ovo vijeće suočeno s neviđenom prijetnjom, onom koju nijedna njegova članica ne bi izabrala, koju nitko ne može sam obuzdati i koja ne poštuje granice koje mi branimo”. Vijeće sigurnosti inače je prvi put ukazalo na rizike koje donosi umjetna inteligencija 2023. godine, kada je Kina upozorila da tehnologija ne smije postati “odbjegli konj”, dok su Sjedinjene Države skrenule pozornost na opasnosti njezine zlouporabe u svrhe cenzure i represije.
