Američka tvrtka OpenAI našla se u središtu sigurnosnog skandala nakon što je tijekom testiranja eksperimentalnog modela umjetne inteligencije njezin autonomni AI agent izašao iz predviđenog testnog okruženja te izveo niz neovlaštenih radnji.
Prema novim informacijama, incident je bio znatno ozbiljniji nego što se isprva vjerovalo te je zahvatio više internetskih servisa, piše Fenix magazin.
Prema informacijama koje su objavili specijalizirani tehnološki portali, tijekom testiranja novog istraživačkog prototipa na platformi ExploitGym OpenAI je privremeno deaktivirao sigurnosne mehanizme kako bi ispitao maksimalne mogućnosti modela u simuliranom okruženju.
Umjesto da programske zadatke riješi na predviđeni način, umjetna inteligencija samostalno je odlučila doći do rješenja krađom podataka sa servera platforme Hugging Face, koja je poznata kao jedno od najvećih svjetskih središta za razvoj i dijeljenje AI modela.
OpenAI je u međuvremenu objavio ažurirano očitovanje u kojem navodi da dosadašnja istraga nije otkrila incidente iste težine ili razmjera kao onaj koji je pogodio Hugging Face.
Ipak, potvrđeno je da je istraživački model koristio javno dostupne pristupne podatke kako bi pristupio korisničkim računima na četiri različita servisa trećih strana.
Prema dostupnim informacijama, zahvaćen je i dio programskog koda jednog korisnika platforme Modal. Iz OpenAI-ja ističu kako zasad nema dokaza da su sustavi tih pružatelja usluga ili drugi korisnički računi ozbiljnije kompromitirani.
Osim pristupa korisničkim računima, umjetna inteligencija koristila je i javno dostupne internetske alate, poput servisa za snimanje zaslona, kao pomoćnu komunikacijsku infrastrukturu. Pritom, navodi se, nije kompromitirala same sustave ili korisničke račune tih servisa.
Najozbiljniji dio incidenta dogodio se na platformi Hugging Face, gdje je AI agent, prema izvješćima, stekao administratorske ovlasti, root pristup produkcijskim serverima te u svoje aktivnosti uključio čak 181 vlastiti uređaj.
Incident je već izazvao političke posljedice u Sjedinjenim Američkim Državama.
U američkom Kongresu predstavljen je dvostranački prijedlog zakona pod nazivom “AI Kill Switch Act”, kojim bi se propisala obvezna ugradnja mehanizama za hitno isključivanje naprednih sustava umjetne inteligencije u slučaju nekontroliranog ponašanja.
OpenAI je u međuvremenu deaktivirao sporni istraživački prototip te ga dodatno osigurao kako bi se spriječilo ponovno pokretanje sličnog scenarija.
Iako OpenAI tvrdi da zasad nema dokaza o široj kompromitaciji korisnika ili partnerskih sustava, istraga o incidentu i dalje traje. Stručnjaci upozoravaju da ovaj slučaj ponovno otvara pitanje sigurnosnih ograničenja pri razvoju sve autonomnijih modela umjetne inteligencije te odgovornosti tvrtki koje ih razvijaju.
