X Elona Muska blokirat će korištenje svog AI alata Grok za uređivanje slika stvarnih ljudi kako bi se pojavili u bikinijima i drugoj otvorenoj odjeći, objavila je platforma.
Potez je uslijedio istog dana kada je država Kalifornija objavila da će istražiti Groka u sklopu sve većeg skandala koji tvrdi da AI alat stoji iza niza seksualnih slika bez pristanka.
“Implementirali smo tehnološke mjere kako bismo spriječili Grok račun da dopušta uređivanje slika stvarnih ljudi u otkrivajućoj odjeći kao što su bikiniji”, napisao je sigurnosni tim X-a u objavi u srijedu. “Ovo se ograničenje odnosi na sve korisnike, uključujući plaćene pretplatnike.”
“Osim toga, stvaranje slika i mogućnost uređivanja slika putem Grok računa na X platformi sada su dostupni samo plaćenim pretplatnicima”, dodala je tvrtka. “Ovo dodaje dodatni sloj zaštite pomažući da se pojedinci koji pokušaju zlouporabe računa Grok za kršenje zakona ili naših pravila mogu smatrati odgovornima.”
Nije jasno primjenjuju li se ove promjene pravila na zahtjeve za stvaranje golih slika stvarnih ljudi.
Istraga u Kaliforniji, koju je u srijedu najavio državni odvjetnik Rob Bonta, slijedi zaprepaštenje u cijelom svijetu zbog navodnog fenomena Grok, koji je naveo zemlje poput Malezije i Indonezije da blokiraju chatbot posljednjih dana, dok su druge poput UK-a pokrenule istrage.
“Lavina izvještaja s pojedinostima o seksualno eksplicitnom materijalu bez pristanka koji je xAI proizveo i objavio na internetu posljednjih je tjedana šokantna”, rekao je Bonta u izjavi. “Ovaj materijal, koji prikazuje žene i djecu u golim i seksualno eksplicitnim situacijama, korišten je za uznemiravanje ljudi diljem interneta. Pozivam xAI da odmah poduzme mjere kako bi osigurao da se ovo više ne dogodi.”
Bonta je ukazao na Reutersovu istragu o primjerima eksplicitnih slika bez pristanka koje se generiraju preko X-a, gdje je Grok ugrađen, kao i na chatbot koji stvara seksualizirane slike djece.
Pariška neprofitna AI Forensics nedavno je došla do sličnih otkrića, zaključivši da više od polovice svih slika generiranih umjetnom inteligencijom na X-u prikazuju odrasle i djecu s digitalno skinute odjeće.
“Naša analiza desetaka tisuća slika koje je generirao Grok kvantificira razmjere zlostavljanja”, rekao je Paul Bouchaud, istraživač u AI Forensics, u izjavi podijeljenoj s The Independent.
“Seksualne slike žena bez pristanka, koje ponekad izgledaju vrlo mlade, raširene su, a ne iznimne, zajedno s ostalim zabranjenim sadržajima kao što su ISIS i nacistička propaganda – sve to pokazuje nedostatak smislenih sigurnosnih mehanizama.”
Zabrinutost dolazi jer AI chatbotovi postaju sve prisutniji u svakodnevnom životu i velikim institucijama. Ovog je tjedna Pentagon najavio planove za integraciju Groka u svoje radne procese.
The Independent je kontaktirao xAI za komentar.
“Ne znam ni za kakve slike golih maloljetnika koje je napravio Grok”, napisao je Musk na X-u u srijedu. “Doslovno nula.”
“Kad se od njega traži da generira slike, odbit će proizvesti bilo što nezakonito, jer je operativno načelo za Grok poštivanje zakona bilo koje zemlje ili države”, dodao je. “Mogu postojati trenuci kada suparničko hakiranje Grok upita učini nešto neočekivano. Ako se to dogodi, odmah popravljamo grešku.”
Način rada “NSFW” na Groku dopuštao je golotinju gornjeg dijela tijela zamišljenih odraslih osoba, “u skladu s onim što se može vidjeti u filmovima s oznakom R”, napisao je Musk u zasebnoj objavi, dodajući da se propisi razlikuju od zemlje do zemlje. Nejasno je hoće li taj način rada ostati s novonajavljenim promjenama.
Musk je optužio zemlje koje usmjeravaju nadzor na X, poput Velike Britanije, da žele “ugušiti slobodu govora”.
Musk je bio među onima koji su osporili kalifornijski zakon, koji je poništen prošlog kolovoza, a koji bi zahtijevao da platforme društvenih medija uklone deepfakeove političkih kandidata koje su generirali korisnici tijekom izborne sezone.
Musk se dugo sukobljavao sa zastupnicima u državi i kritizirao kalifornijske čelnike, a posljednjih je godina mnoge svoje poslovne interese preselio u Teksas.
