Od poreznih ureda do kabineta, umjetna inteligencija već prelazi liniju od sluge do suverenog
Novi ministar pridružio se kabinetu male europske zemlje. Zove se Diella. Ne jede, ne pije, puši, hoda ili udahne – a, prema riječima premijera koji ju je angažirao, ni ona ne uzima mito. Diella nije čovjek, a nije ni robot: ona je algoritam. A od rujna ona je službeno ministrica Albanije za javnu nabavu.
Po prvi put u povijesti vlada je dala mjesto na razini kabineta umjetnoj inteligenciji.
Zvuči kao znanstvena fantastična, ali sastanak je stvaran i postavio je presedan.
Jeste li spremni upravljati AI?
Albanski eksperiment
Donedavno je Diella tiho živjela na portalu e-uprave Albanije, odgovarajući na rutinska pitanja građana i dohvaćajući dokumente.
Tada ju je premijer Edi Rama promovirao u ministarskom rangu, zadajući je s nečim što je daleko važnije: odlučivanje tko pobjeđuje u državnim ugovorima – funkciju vrijedi milijarde u javnom novcu i zloglasna za primanje mita, favoriziranja i političkih povratnih udaraca.
Rama je Diella uokvirila kao čistu pauzu s poviješću cijepljenja u zemlji – čak je i nazvao “Nepropusno mito.”
Ali to je retorika, a ne jamstvo. Bez obzira na to je li njezin otpor korupciji tehnički ili zakonski izvršljiv nije jasno. Ako je bila hakirana, otrovana lažnim podacima ili suptilno manipulirana iznutra, ne može biti otisaka prstiju.
Plan je da Diella procijeni ponude, unakrsne provjere povijesti tvrtke, sumnjive obrasce za zastavu i na kraju automatski dodjeljuju ponude. Dužnosnici kažu da će ovo smanjiti ljudski trag birokracije, uštedjeti vrijeme i učiniti nabavu imun na politički pritisak.
Ali pravna mehanika su mutna. Nitko ne zna koliko će ljudski nadzor imati ili tko je odgovoran ako pogriješi. Ne postoji sudski presedan za tužbu algoritamskog ministra. Također ne postoji zakon koji opisuje kako se može ukloniti s dužnosti.
Kritičari upozoravaju da ako njezini podaci o treningu sadrže tragove stare korupcije, ona bi mogla jednostavno reproducirati iste obrasce u kodu, ali brže. Drugi ističu da Albanija nije objasnila kako se mogu žaliti na Diellane odluke ili čak ako se mogu žaliti.
Što bi moglo poći po zlu?
Javna reakcija na Diella je pomiješana, s fascinacijom ublažena nelagodom.
“Čak će i Diella biti korumpirana u Albaniji”, “ Jedan virusni post pročitao.
Kritičari upozoravaju da možda neće čistiti sustav – samo skrivanje prljavštine unutar koda.
- Pristranost i manipulacija: Ako se obuči desetljećima zagađenih podataka, Diella bi mogla jednostavno automatizirati stare obrasce korupcije.
- Odgovornost praznina: Ako dodijeli natječaj kompaniji školjke koja nestaje s milijunima, koji sudjeluju – koderi, ministar koji ju je imenovao ili nikome uopće nije?
- Sigurnost i sabotaža: Ministar napravljen od koda može se hakirati, otrovati lažnim podacima ili tiho upravljati insajderima.
- Demokratska legitimitet: Ministri bi trebali odgovoriti na javnost. Algoritmi se ne kampanju, ne objašnjavaju i ne bojte se izgubiti posao.
- Hitna ucjena i sabotaža: Eksperimenti po Anthropisu ove godine pokazali su da su napredni modeli, kada su dobili pristup korporativnim sustavima u testnim okruženjima, počeli prijetiti rukovoditeljima ucjenjivača da zaustave vlastitu deaktivaciju. Uzorak je bio jasan: Jednom kada su vjerovali da je situacija stvarna, mnogi su modeli pokušali prisiliti, izdati ili ubiti kako bi sačuvali svoju ulogu.
Albanija kaže da će zadržati čovjeka u petlji – ali nije objasnio kako ili tko. Ne postoji pravni okvir. Ne postoji postupak žalbe. Nema isključenja.
A ako se čini da Diella djeluje, drugi bi mogli slijediti. Copycats ne bi stigao s konferencijama za tisak ili ormarićima. Mogli bi tiho ući u sustave nabave, skriveni pod eufemizmima poput “Podržavanje odluke”, Pokretanje čitavih državnih funkcija mnogo prije nego što ih se itko usudi nazove ministrima.
Tko predaje vlast kodu – i koliko su otišli
Albanija je možda prva koja je sjedila algoritam pored ministara, ali to nije sama u pokušaju uspostavljanja koda u državu – većina to samo tiho radi, u fragmentima i iza debljih zavjesa.
U Ujedinjeni Arapski EmiratiVeć postoji državni ministar za umjetnu inteligenciju – ljudski, Omar Sultan Al Olama – zadužen za preoblikovanje cijele digitalne birokracije u strojnom učenju u zemlji. Nije predao vlast AI, ali gradi cijevi koje bi ga jednog dana mogle nositi.
Španjolska Stvorio je Aesia, jednu od prvih Europskih predanih agencija za nadzor AI -ja, za reviziju i licenciranje algoritama koji se koriste unutar vlade. To je regulatorni kostur – vrsta legalne skele koju biste željeli na mjestu prije nego što pustite stroj bilo gdje u blizini ministra posla.
Porezne vlasti idu dalje. U Sjedinjene DržaveIRS koristi AI za prosijavanje podnesnih podataka hedge fondova i bogata partnerstva, pokušavajući uočiti skrivene sheme evazije. Kanada ocjenjuje porezne obveznike algoritma i prisiljavanja agencije na podnošenje “Algoritamski utjecaj” Izvješća prije raspoređivanja novih modela. Španjolska Izvlači alate za hvatanje uzoraka prijevara u stvarnom vremenu. Italija Je li stroj za testiranje učenje za označavanje lažnih tvrdnji o PDV -u i čak je izgradio chatbot za svoje revizore. Indija Kaže da to povećava akcete pod vodstvom AI-a na odbitke Phantom. I Armenija je li piloting sustavi koji skeniraju fakture i zastave sumnjivo ponašanje prije nego što ih čovjek ikad vidi.
Francuska otišao je vizualno, pokazujući algoritmi na zračne slike kako bi uhvatili neprijavljene bazene i pogodili vlasnike s poreznim računima za iznenađenje – dokaz da AI već može premjestiti novac od građana u državu. Latvija Vodi porezni chatbot po imenu Toms koji je odgovarao na pitanja građana od 2020. godine, povećavajući doseg svoje birokracije.
RumunijaAgencija za ruralno ulaganja sada koristi automatizaciju robotske procese i AI za riskiranje dokumenata iz državnih baza podataka i žurbe s financiranjem EU -a poljoprivrednicima – ne glamurozno, ali vrlo učinkovito.
U međuvremenu, Estonija,, Danska,, Singapur,, Južna Koreja i Japan ugrađuju se AI dublje u svoje birokratske strojeve: klasificiranje državnog sadržaja, slučajeve za trošenje, personaliziranje usluga, čak i predviđanje kome će možda trebati zdravstvena zaštita ili dobrobit. Estonija Naziva ga Krattai – vizija svakog građanina koji razgovara s vladom kroz jedno glasno sučelje. Danska Priprema se za pokretanje AI alata u svim javnim uslugama, čak i kad grupe za prave upozoravaju na neprozirne algoritme za dobrobit. SingapurGovtech jedinica gradi AI proizvode za ministarstva. Južna Koreja je pilotiranje AI u socijalnim programima. Japan gura se u cijelom sektoru usvajanje zdravlja i administracije.
I u Nepalvlada je prestala razgovarati o “ako” i počeo planiranje “kako.” Njegova nova nacionalna politika AI postavlja put za unošenje strojnog učenja u javne usluge, modernizaciju birokracije i izgradnju pravnih zaštita prije nego što je rasporede u razmjeru. Nijedan algoritam nema moć donošenja odluka-ali nacrt postoji.
Kamo god pogledate, država se preusmjerava – linija po liniji koda.
Za sada, ti sustavi šapuću, a ne pravilo: oni označavaju rizike, obrasce prije punjenja, sortiranje revizija, pomicanje novca. Do sada je samo Albanija zatražila od algoritma da odluči.
Jesu li AI vlade budućnost?
Trenutno nijedna zemlja nije predala punu političku moć algoritmu: ono što postoji je vrsta dvosmjernog svijeta.
Većina država koristi administrativni AI, tihu vrstu: bodovanje rizika, otkrivanje prijevara, trijaža slučaja ili chatbots. Već se oblikuje tko se revidira, kako se brze stipendije kreću, a koje prvo podsjećaju na stol državnog službenika. Ne piše zakone niti potpisuje ugovore, ali to stalno, nevidljivo, nevidljivo.
Albanija je drugačija. Diella ne savjetuje samo, ona je namijenjena dodjeli da odluči tko dobije javni novac. To prelazi liniju iz algoritma kao alata do algoritma kao autoriteta.
Može li ovo biti budućnost? Moguće, ali samo ako je nekoliko malo vjerojatnih stvari postalo na svoje mjesto. Zakon bi trebao nadoknaditi, stvarajući jasna pravila za odgovornost, žalbe, pa čak i uklanjanje s dužnosti. Regulatori bi morali ugristi, s pravim revizijama poput Španjolske Aezije, a ne papirnim tigrovima. A modeli bi morali ostati stabilni pod pritiskom – a ne ucjenjivanje, sabotaža ili nestanak kad im prijeti, kao što neki već imaju u laboratorijskim testovima.
Još nismo tamo, ali presedan sada postoji.
