Zaposlenici u Odjelu za učinkovitost vlade navodno su koristili manjkavi model umjetne inteligencije kako bi utvrdili potrebu ugovora u Ministarstvu za pitanja veterana, što je rezultiralo stotinama ugovora, u vrijednosti od milijuna dolara, otkazanih.
S obzirom na samo 30 dana za provedbu izvršne naredbe predsjednika Donalda Trumpa kojim se prema dogeu preispituje vladine ugovore i grantove kako bi se osiguralo da se usklade s predsjednikovim politikama, inženjer u Dogeu požurio je stvoriti AI kako bi pomogao u zadatku.
Inženjer Sahil Lavingia napisao je kod koji je AI -u rekao da otkaže, ili njegovim riječima “Munch”, sve što nije “izravno podržavala skrb o pacijentima” u agenciji.
Međutim, ni on, ni model, zahtijevali su znanje za donošenje tih odluka.‘“Siguran sam da su napravljene pogreške”, rekao je on ProPublica. “Pogreške se uvijek čine.”
Jedan od ključnih problema bio je taj što je AI pregledao samo prvih 10 000 znakova (otprilike 2.500 riječi) ugovora kako bi se utvrdilo je li to „munchabil“ – Lavistia je izraz ako bi zadatak mogao izvršiti zaposlenici VA -a, a ne outsourcing, Probluka izvijestio.
Stručnjaci koji su pregledali Kodeks također su rekli Probluka Ta LavingIa nije jasno definirala mnoge kritične pojmove, poput “jezgre medicine/koristi”, i koristila je nejasne upute, što je dovelo do toga da se više kritičnih ugovora označe kao “Munchable”.
Na primjer, modelu je rečeno da ubije DEI programe, ali upita nije uspjela definirati što je DEI, ostavljajući model da odluči.
U drugom trenutku koda, Lavingia je zamolio AI da “razmotri li cijene razumne” za ugovore o održavanju, bez definiranja što znači “razumno”.
Pored toga, AI je stvoren na starijem modelu opće namjene koji nije prikladan za komplicirani zadatak, zbog čega je halucinirao ili nadoknadio iznos ugovora, ponekad vjerujući da vrijede desetke milijuna, za razliku od tisuća.
Cary Coglianese, profesor na Sveučilištu Pennsylvania koji proučava vladinu upotrebu AI, rekao je Probluka To razumijevanje koje bi zaposlenik VA mogao obaviti zahtijevalo bi „sofisticirano razumijevanje medicinske skrbi, institucionalnog upravljanja, dostupnosti ljudskih resursa“ – sve što AI nije mogao učiniti.
LavingIa je priznao da je AI model manjkav, ali uvjeravao Probluka Da su sve „ugovorene“ ugovore provjerili drugi ljudi.
VA je u početku najavio da će u veljači otkazati 875 ugovora.
No, razni zagovornici veteranskih poslova zvučali su alarm, upozoravajući da su neki od tih ugovora vezani za sigurnosne inspekcije u medicinskim ustanovama VA, izravna komunikacija s veteranima o pogodnostima i sposobnosti VA -a za zapošljavanje liječnika.
Jedan izvor upoznat sa situacijom u odjelu rekao je Federalnoj News Network -u da su neki rezovi pokazali “slom komunikacije” između doge savjetnika, čelnika VA -a i zastupnika koji nadgledaju VA.
VA je ubrzo otišao taj broj, umjesto da u ožujku najavi da će otkazati otprilike 585 “ne-kritičnih ili duplikativnih ugovora”, ponovno usmjeravajući oko 900 milijuna dolara natrag u agenciju.
Lavistia, koja je otpuštena iz Dogea otprilike 55 dana na svoj posao nakon što je dio svog rada podijelio s novinarima, opisao je rad koji je obavio na svom blogu i objavio kôd koji je koristio u VA na Githubu.
Neovisan posegnuo je do Bijele kuće radi komentara.
