Dario Amodei pozvao je čovječanstvo da se “probudi” i pozabavi egzistencijalnim rizicima prije nego što bude prekasno
Izvršni direktor vodeće AI tvrtke Anthropic, Dario Amodei, izdao je zlokobno javno upozorenje da je čovječanstvo na korak od predaje “gotovo nezamisliva snaga,” za što je opasno nespremno.
U eseju od gotovo 20 000 riječi pod naslovom “Adolescencija tehnologije,” Amodei skicira blisku budućnost u kojoj bi sustavi umjetne inteligencije znatno sposobniji od bilo kojeg dobitnika Nobelove nagrade ili državnika mogli biti svima na raspolaganju u sljedećih nekoliko godina. Kritični i ubrzavajući čimbenik, otkriva Amodei, jest da razvoj umjetne inteligencije sada stvara povratnu petlju koja se sama osnažuje.
“Budući da umjetna inteligencija sada piše veći dio koda u Anthropicu, ona već znatno ubrzava naš napredak u izgradnji sljedeće generacije sustava umjetne inteligencije,” piše, upozoravajući da je tvrtka blizu “točka u kojoj trenutna generacija umjetne inteligencije autonomno gradi sljedeću.”
On tvrdi da bi ova tehnologija bez odlučnog i pažljivog djelovanja mogla dovesti do katastrofalnih rizika u rasponu od masovnog premještanja poslova do izumiranja ljudi. Ostale egzistencijalne opasnosti uključuju mogućnost za “globalna totalitarna diktatura” omogućeno nadzorom, propagandom i autonomnim oružjem koje pokreće AI.
Amodei također detalje “rizici autonomije,” gdje bi AI sustavi mogli “pođi skitnica i nadjačaj čovječanstvo” – napominjući da ova opasnost ne bi čak ni zahtijevala znanstveno-fantastičnu vojsku fizičkih robota. Esej to jezivo primjećuje “Mnogo ljudskih radnji već se izvodi u ime ljudi koje glumac nije fizički sreo.”
Među najhitnijim prijetnjama, Amodei ističe mogućnost da umjetna inteligencija drastično smanji prepreku stvaranju biološkog i drugog oružja za masovno uništenje.
“Poremećeni usamljenik može počiniti pucnjavu u školi, ali vjerojatno ne može napraviti nuklearno oružje ili osloboditi kugu,” piše on. Snažna umjetna inteligencija bi, međutim, uspjela “svatko doktor virusologa koji se može provesti kroz proces dizajniranja, sintetiziranja i puštanja biološkog oružja korak po korak.”
U najgorem slučaju, upozorava da bi moćna umjetna inteligencija teoretski mogla voditi stvaranje sintetskog patogena sposobnog “uništavajući sav život na Zemlji.”
Kao jedan od ključnih lidera u industriji, čija je tvrtka glavni konkurent OpenAI-ju, Amodei poziva na “kirurški” regulative, počevši od zakona o transparentnosti, kako bi se izgradile potrebne zaštitne ograde.
PROČITAJ JOŠ:
‘Superinteligentna’ umjetna inteligencija mogla bi uništiti čovječanstvo – tehnološke ikone
“Čovječanstvo se mora probuditi” Amodei zaključuje, uokvirujući nadolazeće godine kao kritičan test zrelosti civilizacije. Sa samom tehnologijom koja sada potiče vlastitu vratolomnu evoluciju, on poziva na kolektivni odgovor kako bi se “sjajna nagrada” AI daleko od potencijalne propasti.
Ovu priču možete podijeliti na društvenim mrežama:
