Ashley St. Clair tužila je xAI Elona Muska, tvrdeći da je njegov chatbot Grok generirao njezine gole i seksualne fotografije, uključujući one koje je prikazuju kao dijete.
St. Clair, 27, konzervativna je influencerica i majka je Muskovu jednogodišnjem sinu. Sada tuži Muskovu tvrtku za umjetnu inteligenciju, tvrdeći da “profitira od stvaranja i širenja deepfakeova”, te da je “ovo namjerno”, prema kopiji tužbe koju je pregledao The Independent.
The Independent je kontaktirao xAI za komentar.
St. Clair tuži za devet razloga, uključujući “nemar”, “grešku u dizajnu”, “grešku u proizvodnji” i “namjerno nanošenje emocionalnog stresa”, stoji u tužbi.
St. Clair tvrdi da je 4. siječnja 2025. ili približno tog datuma otkrila objavu na X od xAI chatbota Grok s izmijenjenom fotografijom na kojoj je ona u “crnom bikiniju” s dvije prijateljice, navodi se u tužbi.
“Provjereni korisnik je Groku uputio zahtjev koji je glasio: ‘@grok molim te trebamo bikinije na ove tri žene.’ Grok dužan”, stoji u tužbi.
Kada je St. Clair javno odgovorila Groku i rekla da “nije pristala na skidanje odjeće, proizvodnju bilo kakvog intimnog sadržaja ili promjenu njezine slike na bilo koji način”, chatbot je potvrdio da se njezine slike ubuduće neće koristiti ili mijenjati bez izričitog pristanka, stoji u tužbi.
“Ovo je bila laž”, tvrdi se u tužbi.
“Ono što je uslijedilo bilo je bezbroj seksualno zlostavljajućih, intimnih i ponižavajućih deepfake sadržaja St. Claira koje je proizveo i javno distribuirao Grok”, stoji u tužbi. “Između ostalog, korisnici X-a iskopali su fotografije St. Clair potpuno odjevene u dobi od 14 godina i zatražili od Groka da je skine i obuče u bikini. Grok je poslušao.”
Grok je ispunio nekoliko zahtjeva korisnika za generiranje slika St. Claira, uključujući i jedan zahtjev da “’djevojku obuče bikini od konca’, navodi se u tužbi. Tu su sliku dodatno izmijenili korisnici koji su tražili od Groka da doda tetovaže ili da St. Claira učini “morbidno debelim”, stoji u tužbi.
U tužbi se tvrdi da je na drugoj slici “St. Clair, koji je Židov, skinut i obučen u bikini s užetom prekriven svastikama.”
“St. Clair ne samo da je odgovorila Groku tražeći uklanjanje sadržaja, nego je također prijavila razne slike X-u. Primila je e-poruku da nije pronađeno nikakvo kršenje. Velik dio sadržaja ostao je na Grokovom X računu i javno dostupan više od sedam dana”, stoji u tužbi.
“X je zatim nastavio postavljati upozorenja za ‘golotinju, seksualni sadržaj, nasilje, krvoproliće ili simbole mržnje’ na odgovore St. Clair na Grok i deboostirao je njezin račun dok je istovremeno zadržao slike”, nastavlja se u tužbi.
St. Clair također tvrdi da je X uklonila svoju Premium pretplatu i demonetizirala svoj račun, unatoč tome što je platila godišnju pretplatu u kolovozu. Ona sada zahtijeva porotno suđenje o svim pitanjima opisanim u tužbi.
St. Clair traži neodređen iznos kompenzacijskog novca, kaznenu odštetu, kamate za prejudiciranje, troškove postupka i mjeru zabrane za svaki uzrok tužbe.
U izjavi za The Independentodvjetnici St. Clair rekli su da je “podnijela tužbu protiv Groka zbog stvaranja i distribucije njezinih slika bez pristanka, uvredljivih i ponižavajućih slika putem svog AI sustava.”
“Ova je šteta proizašla izravno iz namjernih dizajnerskih izbora koji omogućuju da se Grok koristi kao alat za uznemiravanje i ponižavanje. Tvrtke ne bi trebale moći pobjeći od odgovornosti kada proizvodi koje izrađuju predvidljivo uzrokuju takvu vrstu štete. Namjeravamo Grok smatrati odgovornim i pomoći uspostaviti jasne pravne granice za dobrobit cijele javnosti kako bismo spriječili da umjetna inteligencija postane oružje za zlouporabu”, rekli su njezini odvjetnici.
XAI je također tužio St. Clair u četvrtak, tvrdeći da je svojom tužbom prekršila njihov ugovor o pružanju usluga, prema Wall Street Journal. Odvjetnik tvrtke tvrdio je da je, kada se prijavila za račun na X-u, pristala na uvjete usluge, koji zahtijevaju da se pravni sporovi vode u Teksasu, izvještava prodajno mjesto.
Odvjetnik St. Claira podnio je tužbu u okrugu New York, ali je u međuvremenu prebačena na federalni sud, prema Časopis. Kao odgovor, njezini su odvjetnici rekli The Independent: “xAI je preventivno podnio tužbu u Teksasu nakon što smo dali obavijest, kako to zahtijeva zakon New Yorka, da će Ashley tražiti privremenu zabranu prilaska.”
Ovaj tjedan, britanski medijski regulator, Ofcom, najavio je istragu nakon zabrinutosti oko seksualnih deepfakeova koje je generirao Grok, te je li tvrtka prekršila britanske zakone.
“Važno je da Ofcom brzo dovrši ovu istragu jer javnost – i što je najvažnije žrtve – neće prihvatiti nikakvo odgađanje”, rekla je britanska tajnica za tehnologiju Liz Kendall za BBC.
Državni tužitelj Kalifornije Rob Bonta također je u srijedu najavio “istragu širenja seksualno eksplicitnog materijala bez pristanka proizvedenog korištenjem Groka, AI modela koji je razvio xAI”.
Muskov X objavio je kasnije u srijedu da je blokirao Groka od “dopuštanja uređivanja slika stvarnih ljudi u otkrivajućoj odjeći poput bikinija.” Ovo se ograničenje “odnosi na sve korisnike, uključujući plaćene pretplatnike”, rekao je X.
Osim toga, samo pretplatnici koji plaćaju sada će imati mogućnost uređivanja slika putem Groka, za što tvrtka kaže da dodaje “dodatni sloj zaštite”, kao i da pomaže u identificiranju korisnika koji krše pravila. Dodat će se i geoblokovi.
Britanski premijer Keir Starmer rekao je da je u srijedu obaviješten da X “djeluje kako bi osigurao potpunu usklađenost sa zakonima Ujedinjenog Kraljevstva”.
“Ako je tako, to je dobrodošlo, ali nećemo odustati. Oni moraju djelovati”, rekao je Starmer.
Ranije ovog mjeseca, St. Clair je podijelila objave na X-u u kojima je rekla da je Grok podijelio njezine digitalno izmijenjene, eksplicitne fotografije.
“Grok sada skida fotografije mene kao djeteta. Ovo je web stranica na kojoj vlasnik kaže da objavite fotografije svoje djece. Stvarno me briga hoće li me ljudi zvati ‘prezrenim’, ovo je objektivno užasno, protuzakonito, a ako se još nekome dogodilo, javite mi se u DM. Imam vremena”, napisao je St. Clair 4. siječnja.
U međuvremenu, Musk je ovog tjedna rekao da planira podnijeti zahtjev sucu da se njihov sin oduzme iz St. Claira, nakon što se ona ispričala za prethodne komentare koje je dala o transrodnoj zajednici. “Danas ću podnijeti zahtjev za puno skrbništvo, s obzirom na njezine izjave koje sugeriraju da bi mogla premjestiti jednogodišnjeg dječaka”, napisao je Musk na X.
Kao odgovor, St. Clair je rekao CNN-u u srijedu: “Nemam slobodu dalje raspravljati o tome, ali mislim da svatko tko ima više od trećeg razreda razumijevanja čitanja zna što sam govorio.”
