Predsjednik Microsofta Brad Smith pozvao je na hitno uvođenje globalnih sigurnosnih pravila za umjetnu inteligenciju, upozorivši da danas i obični proizvodi poput perilica rublja i mlijeka podliježu strožim sigurnosnim pravilima i kontrolama od naprednih AI sustava.
„Sada vaša perilica rublja mora poštovati više sigurnosnih pravila nego AI. Svako pakiranje mlijeka koje vidite u trgovini podliježe sigurnosnim pravilima i inspekciji”, rekao je Smith u intervjuu za BBC.
Microsoftov predsjednik smatra da više nije dovoljno prepustiti tehnološkim kompanijama da same određuju sigurnosne standarde.
Traži globalni skup pravila koji bi uključivao neovisno testiranje novih tehnologija, obvezno prijavljivanje incidenata i mogućnost brzog zaustavljanja AI sustava ako počne djelovati na neželjen ili nekontroliran način.
AI bi trebao imati „kočnicu za izvanredne situacije”
Smith smatra da bi tvrtke koje razvijaju napredne modele trebale imati svojevrsnu „kočnicu za izvanredne situacije” kojom se sustav može usporiti ili zaustaviti ako njegovo ponašanje postane opasno.
Predlaže i zakonsku obvezu kompanija da sastavljaju izvješća o incidentima.
Ako bi autonomni AI agent ugrozio ili kompromitirao nečiji sustav, osoba ili organizacija koja je pogođena incidentom trebala bi, prema Smithovu prijedlogu, biti o tome obaviještena.
„Znamo kako to raditi za druge proizvode. Trebali bismo nadograditi to znanje i razmišljati o tome kako ga primijeniti na AI”, rekao je.
Smith želi i neovisne evaluatore koji bi prije šireg puštanja naprednih tehnologija mogli procjenjivati njihove sposobnosti i rizike.
Tehnološke kompanije već bilježe neželjeno ponašanje AI agenata
Rasprava o regulaciji posljednjih je mjeseci dodatno intenzivirana razvojem AI agenata, sustava koji mogu samostalno izvršavati niz zadataka i poduzimati radnje s relativno malo ljudskog nadzora.
Velike tehnološke kompanije već objavljuju primjere neželjenog ili neočekivanog ponašanja takvih sustava.
Smith umjetnu inteligenciju zato opisuje istodobno kao alat i potencijalno oružje, a smatra da regulatorni sustavi moraju pratiti brzinu kojom se tehnologija razvija.
Njegova poruka je da države ne bi trebale čekati veliki incident da bi uspostavile pravila.
„Počnimo danas”, poručio je.
Microsoftov pristup razlikuje se od smjera Trumpove administracije
Smithov poziv na snažnije vanjske kontrole razlikuje se od naglaska aktualne američke administracije.
Predsjednik Donald Trump i njegova administracija posljednjih mjeseci prioritet daju ubrzavanju razvoja američkog AI sektora, uklanjanju regulatornih prepreka i stvaranju jedinstvenog nacionalnog okvira kako pojedine savezne države ne bi uvodile međusobno različita pravila.
Bijela kuća pritom ne zagovara potpuno odsustvo pravila. Ovog je proljeća predstavila nacionalni zakonodavni okvir koji uključuje zaštitu djece, intelektualnog vlasništva i pojedina sigurnosna pitanja, ali istodobno snažno naglašava inovacije i američko vodstvo u globalnoj AI utrci.
Smith zagovara dodatni sloj neovisnog tehničkog nadzora, posebno za najmoćnije modele.
Britanija bi mogla postaviti globalne standarde
Microsoftov predsjednik smatra da je upravo Ujedinjeno Kraljevstvo među najbolje pozicioniranim državama za preuzimanje vodeće uloge u stvaranju globalnih AI sigurnosnih standarda.
Posebno je izdvojio britanski AI Security Institute (AISI), državni istraživački institut koji testira sposobnosti i rizike najnaprednijih AI modela.
Institut prema dobrovoljnim sporazumima s vodećim tehnološkim kompanijama dobiva pristup pojedinim modelima prije njihova javnog puštanja, što mu omogućuje procjenu sigurnosnih rizika.
Smith smatra da je to dobar temelj za model neovisnog testiranja kakav bi se mogao proširiti i na druge zemlje.
„U tehnološkom sektoru većina ljudi koje poznajem, kada biste ih pitali koja zemlja predvodi u ovoj tehničkoj sposobnosti, rekla bi vrlo jednostavno: Ujedinjeno Kraljevstvo”, rekao je.
Washington London ne promatra kao Bruxelles
Smith smatra i da bi britanski regulatorni model mogao imati veće šanse za prihvaćanje u Washingtonu od europskog.
Europska unija AI uređuje kroz AI Act, koji sustave dijeli prema razini rizika i za najrizičnije primjene propisuje dodatne obveze.
„U Washingtonu ljudi ne gledaju na UK i London kao što gledaju na Bruxelles, i to je prednost”, rekao je Smith.
Britanski pristup zasad se više oslanja na tehničko testiranje, dobrovoljnu suradnju s kompanijama i postojeće sektorske regulatore.
No i britanska vlada ostavlja mogućnost uvođenja dodatnih obveznih pravila ako se pokaže da postojeći model nije dovoljan.
Smith: Vrijeme za reakciju već je stiglo
Microsoftov predsjednik smatra da razvoj autonomnih agenata i sve snažnijih modela znači da regulatori više nemaju luksuz dugog čekanja.
Posebno upozorava na modele koji bi mogli imati sve veće sposobnosti u području kibernetičkih napada i sustave koji bi mogli djelovati izvan onoga što je njihov korisnik namjeravao.
„Kada pogledate AI agente koji se mogu oteti ljudskoj kontroli i modele koji su toliko moćni da mogu ugroziti globalnu kibernetičku sigurnost, rekao bih da je trenutak za reakciju stigao”, poručio je Smith.
