Sam Altman, Dario Amodei i drugi rukovoditelji rekli su da bi napredak umjetne inteligencije mogao oslabiti biosigurnosne barijere
Rukovoditelji vodećih tvrtki s umjetnom inteligencijom pridružili su se stručnjacima za biotehnologiju u hitnom pozivu da se naloži sigurnosna provjera za kupnju sintetičke DNK. U javnom pismu upućenom američkom Kongresu, potpisnici tvrde da bi brzi napredak umjetne inteligencije mogao povećati rizik od razvoja biološkog oružja.
Apel objavljen ranije ovog tjedna potpisali su Demis Hassabis iz Google DeepMinda, Sam Altman iz OpenAI-ja, Dario Amodei iz Anthropica i Mustafa Suleyman i Eric Horvitz iz Microsofta AI. Pridružili su im se deseci stručnjaka iz područja biotehnologije, sinteze DNK i nacionalne sigurnosti.
Sintetička DNK odnosi se na umjetno proizvedeni genetski materijal koji se može naručiti putem interneta i isporučiti poput drugih laboratorijskih potrepština. Iako je pismo upućeno Kongresu, potpisnici su naglasili da je problem globalan jer se sintetička DNK može kupiti i transportirati preko granica.
“Mogućnost online naručivanja sintetičke DNK ubrzala je razvoj cjepiva, potaknula temeljna istraživanja i omogućila malim timovima pristup mogućnostima koje su prije bile ograničene na velike institucije,” pismo glasi.
Iako sintetička DNK ima širok raspon legitimnih namjena, uključujući razvoj lijekova koji spašavaju živote, inženjering mikroorganizama, pa čak i pohranu golemih količina digitalnih podataka, ona također nosi rizike, navodi se u apelu. U teoriji, zlonamjerni akteri mogli bi naručiti sekvence DNK dizajnirane za ponovno stvaranje opasnih patogena, upozorili su potpisnici.
Iako neke tvrtke već dobrovoljno provjeravaju kupce i narudžbe, ne postoji zakonska obveza za to. Autori pisma te su provjere opisali kao “jedna od najbolje razumljivih i najmanje razornih dostupnih biosigurnosnih mjera.”
Također su pozvali na obvezno vođenje evidencije kako bi se lakše ušlo u trag sumnjivim aktivnostima. Osim što pomažu istragama, autori tvrde da jednostavno saznanje da se narudžbe mogu pratiti može spriječiti zlouporabu.
Autori su rekli da temeljna prijetnja nije nova, ali su ustvrdili da neviđeni tempo razvoja umjetne inteligencije mijenja jednadžbu. Današnji sustavi umjetne inteligencije, primijetili su, već mogu nadmašiti virologe na doktorskoj razini u pitanjima koja uključuju vrlo složene laboratorijske postupke.
Kako se ovi sustavi budu poboljšavali, upozorili su, prepreke u znanju i vještinama koje su povijesno ograničavale pristup biološkom oružju mogle bi biti znatno smanjene.
Ovu priču možete podijeliti na društvenim mrežama:
