Papa Leo XIV pozvao je u ponedjeljak na snažnu regulaciju umjetne inteligencije, pozivajući njezine programere da rade za opće dobro, a ne za profit. Izdao je opsežan manifest, Veličanstveno čovječanstvo (Magnificent Humanity), o zaštiti čovječanstva jer tehnologija utječe na sve, od rada do rata.
Željno iščekivani dokument, Leova prva enciklika, slijedi njegovu izjavu danima nakon izbora da umjetna inteligencija predstavlja najveći izazov za čovječanstvo. U tekstu je papa Leo osudio “kulturu moći” koja pokreće utrku umjetne inteligencije, posebno u razvoju sofisticiranog daljinskog ratovanja.
Leo, koji je posljednjih mjeseci usvojio snažniji ton, prethodno je navukao bijes američkog predsjednika Donalda Trumpa nakon što je kritizirao iranski rat.
Izjavio je da je “nedopustivo” povjeriti nepovratne, smrtonosne odluke sustavima umjetne inteligencije, što je stav koji stvara još jednu žarišnu točku s Trumpovom administracijom, koja je agresivno radila na deregulaciji razvoja umjetne inteligencije.
Stručnjaci iz tehnološke industrije, akademske zajednice i katoličkog morala kažu da će dokument vjerojatno postati mjerilo u raspravi o umjetnoj inteligenciji, referentna točka za kreatore politike, istraživače i obične ljude. Dolazi u trenutku kada gotovo svakodnevni razvoj tehnologije izaziva zabrinutost zbog toga što umjetna inteligencija može zamijeniti ljudske poslove, pa čak i ljudsku inteligenciju.
“Posuđuje se ljudima koji su na čelu ovih alata i koji su sposobni vidjeti nevjerojatne stvari koje mogu učiniti, da imaju pitanja o vlastitom ‘Što znači biti čovjek’,” rekao je Taylor Black, Microsoftov izvršni direktor za umjetnu inteligenciju i direktor Instituta za umjetnu inteligenciju Katoličkog sveučilišta u Americi.
Papa proziva AI tvrtke čak i dok je domaćin Anthropicu
Papa je trebao predstaviti tekst na predstavljanju u Vatikanu u ponedjeljak na kojem je predstavljen suosnivač Anthropica, koji je trenutno u pravnoj bitki s Trumpovom administracijom oko pristupa svojoj AI tehnologiji. Vatikan je odlučio uključiti Anthropic kao dio svojih desetljeća dugih napora da uključi Silicijsku dolinu u dijalog o ljudskoj cijeni umjetne inteligencije.
Pa ipak, Leo je u svom tekstu u više navrata koncentraciju moći i podataka u rukama tako malog broja ljudi u privatnom sektoru prozivao kao opasnost, posebice za djecu i one najranjivije, te pozivao na vanjsku regulaciju njihova rada.
“Nije dovoljno pozivati se na etiku apstraktno; potrebni su čvrsti pravni okviri, neovisan nadzor, informirani korisnici i politički sustav koji se ne odriče svoje odgovornosti”, napisao je. “Moralnija umjetna inteligencija nije dovoljna ako tu moralnost određuje nekolicina.”
Leo je nekoliko puta apelirao na programere umjetne inteligencije i političke vođe odgovorne za njihovo reguliranje da samo uspore i razmisle o tome što rade. Pozvao ih je da koriste etičke i duhovne smjernice kako bi odlučili raditi ne za vlastiti profit ili moć, već za boljitak čovječanstva.
Konkurenti u području umjetne inteligencije OpenAI i Anthropic druga su i treća najvrjednija američka privatna tvrtka, svaka procijenjena na stotine milijardi dolara, više od BDP-a mnogih zemalja.
Stručnjaci kažu da će tekst postati mjerilo
Papa je u metodičkom tekstu pratio povijest socijalnog učenja Katoličke crkve i primijenio njegove temeljne koncepte — pravdu, solidarnost, dostojanstvo rada i univerzalno odredište resursa — na digitalnu revoluciju.
“Uvjeren sam da će se ovo pokazati kao dokument koji definira naše doba, dubok i proročanski dokument”, rekao je Paolo Carozza, profesor prava na Pravnom fakultetu Notre Dame i predsjednik nadzornog odbora Mete.
“Papa Leo nudi jasan, sveobuhvatan i koherentan glas pozivajući nas da preuzmemo odgovornost za izgradnju svijeta u kojem će tehnologija služiti ljudima, a ne degradirati ih”, rekao je.
U svojim najsnažnijim poglavljima, Leo je osudio kako je umjetna inteligencija pomogla ubrzati “normalizaciju rata” desenzibilizirajući ljude za njegovu cijenu. Nije naveo konkretne sukobe, ali je citirao “suprotstavljene imperijalzme, između sila koje žele sačuvati svoju nadmoć i onih koje teže preuzeti tu nadmoć”.
Leo je rekao da AI “može samo brže dovesti do sukoba i učiniti ga bezličnijim.” Pozvao je na konkretne kriterije pri donošenju odluke o štrajku. To uključuje prepoznatljivi lanac odgovornosti koji se također primjenjuje na “one koji dizajniraju, obučavaju, autoriziraju i koriste tehnologiju” i mjere, tako da odabir cilja uzima u obzir razliku između boraca i neboraca, te utjecaj na bespomoćno stanovništvo.
Zahtjevi o kojima se ne može pregovarati uključuju jamstva odgovornosti i da se raspoređivanje ubojite sile ne može automatizirati. Leo je također pozvao na zajednički međunarodni okvir “kako bi se obuzdala utrka u tehnološkom naoružanju i osigurala snažna zaštita za civile”.
Izjavio je da je teorija o “pravednom ratu” Katoličke crkve, koja daje specifične kriterije kada se sila može opravdati, sada “zastarjela” s obzirom na tehnološki napredak ratovanja.
Tekst crkvene tradicije socijalne pravde
Lav je potpisao tekst 15. svibnja, 135. obljetnice objave “Rerum Novarum” (O novim stvarima), najvažnijeg poučnog dokumenta Lavova junaka i imenjaka, pape Leona XIII. Taj se dokument bavio pravima radnika, ograničenjima kapitalizma i obvezama koje su države i poslodavci imali prema radnicima dok je industrijska revolucija bila u tijeku.
Postala je temelj moderne katoličke društvene misli, a sadašnji Papa citirao ju je na početku svog pontifikata u vezi s revolucijom umjetne inteligencije, za koju vjeruje da postavlja ista egzistencijalna pitanja koja je postavila industrijska revolucija prije više od jednog stoljeća. “Magnifica Humanitas” tako postaje najnovije poglavlje u stoljetnoj povijesti papa koji prilagođavaju “Rerum Novarum” društvenim pitanjima svog vremena, često se osvrćući na dostojanstvo rada za ljudski procvat.
AI izaziva i egzistencijalne strahove i utopijsku viziju usred sve intenzivnije rasprave o tome hoće li postati katalizator koji obogaćuje čovječanstvo ili tehnološki otrov koji otupljuje ljudsku inteligenciju dok briše milijune visoko plaćenih poslova.
“Težnja za većim profitom ne može opravdati izbore koji sustavno žrtvuju radna mjesta, jer je ljudska osoba cilj, a ne sredstvo, a ekonomski poredak mora ostati podređen ljudskom dostojanstvu i općem dobru”, napisao je Leo.
Leo je proširio svoju zabrinutost za očuvanje ljudskog dostojanstva u radu kako bi izdao prvu papinsku ispriku za vlastitu ulogu Svete Stolice u ozakonjivanju ropstva.
Prijašnji pape ispričavali su se zbog umiješanosti kršćana u transatlantsku trgovinu robljem. Ali niti jedan papa nikada nije javno priznao, a još manje se ispričao za ulogu koju su same pape odigrale u davanju europskim suverenima izričite ovlasti da pokore i porobe “nevjernike”.
Desetljetni dijalog sa Silicijevom dolinom
Vatikanski dužnosnici odbili su reći tko je točno pridonio Leovoj enciklici. Ali vatikanski i crkveni dužnosnici već su desetljeće uključeni u dijalog s tehnološkim tvrtkama iz Silicijske doline. Pred kraj svog pontifikata papa Franjo počeo je više govoriti o umjetnoj inteligenciji i rizicima koje ona predstavlja za čovječanstvo.
Odluku da se Anthropic uključi u lansiranje u Vatikanu kritizirali su neki koji su to smatrali papinskim pečatom odobrenja tvrtke AI.
U veljači je Trumpova administracija naredila svim američkim agencijama da prestanu koristiti Anthropicovu tehnologiju nakon što je odbila dopustiti američkoj vojsci da je koristi neograničeno. Anthropic, koji se predstavlja kao tvrtka za umjetnu inteligenciju koja stavlja sigurnost i smanjenje rizika u prvi plan svojih istraživanja, trenutno tuži upravu.
Brian Boyd, američka vjerska veza za neprofitnu organizaciju Future of Life Institute, tumačio je uključivanje suosnivača Anthropica Christophera Olaha kao slično audijenciji s papom kod šefa države: nije odobrenje.
“Mislim da je to više kao priznanje (kako) je ovo izuzetno moćna tvrtka koja trenutno pobjeđuje u ovoj utrci da zamijeni ljudske radnike”, rekao je Boyd.
Anthropic je “ogromna korporacija koja na sebe preuzima ogroman rizik i odgovornost”, nastavio je Boyd, ali je rekao da je tvrtka “pokazala istinsku dobru volju i integritet te interes za dijalog”.
