Talijanski regulator izvijestio je u četvrtak da je zaključio istragu koja bi trebala zajamčiti viši stupanj transparentnosti u sektoru generativne umjetne inteligencije, istaknuvši da su se tri tvrtke obvezale ublažiti rizik od štetnog utjecaja “halucinacija” sustava na potrošače.
AGCM napominje da je u proteklim mjesecima proširio istrage o mogućoj nepoštenoj komercijalnoj praksi i na sustave generativne umjetne inteligencije.
Fokus je na tom području usmjeren na rizik “halucinacija”, navode regulatori, napominjući da se taj pojam odnosi na generiranje netočnog ili obmanjujućeg sadržala
Regulator je tako proveo tri istrage o praksi kineskog DeepSeeka, francuskog Mistral AI SAS-a i turskog Scaleup Yazilim Hizmetleri Anonim Şirketija, ispitujući rizik od “halucinacija” chatbotova.
Uz nadzor tržišnog natjecanja, AGCM je nadležan i za zaštitu prava potrošača.
Tvrtke su se obvezale usvojiti konkretne mjere kako bi poboljšale transparentnost koji nosi rizik “halucinacija” njihovih sustava. Mjere će provoditi na internetskim stranicama i u aplikacijama putem kojih korisnici pristupaju uslugama i u različitim faza procesa odlučivanja prije kupnje ili registracije, stoji u priopćenju talijanskog regulatora.
Kompanije će tako na korisničkom sučelju, ispod prozora ‘chata’, istaknuti da ne jamče da su odgovori AI-ja točni, uz upozorenje korisnicima na talijanskom na rizik “halucinacija”.
DeepSeek je dodatno pristao ulagati u tehnologiju kako bi smanjio rizik od “halucinacija”, uz napomenu da ih postojeća tehnologija ne može u potpunosti ukloniti.
Turski Scaleup namjerava također jasno informirati korisnike da njegova usluga tek uključuje jedinstveno korisničko sučelje za pristup nizu chatbotova, uz napomenu da ne objedinjuje i ne obrađuje njihove odgovore.
