Meta tuži kineskog proizvođača aplikacija koji koristi umjetnu inteligenciju kako bi snimio slike odjevenih ljudi i pretvorio ih u gole.
“Crushai” – tvrtku koja stoji iza aplikacije koja se koristila za stvaranje deepfake niša – upravlja Joy Timeline HK Limited. Meta je podnio tužbu protiv tvrtke u Hong Kongu kako bi je zabranio oglašavanje svojih usluga na Meta platformama, javlja CBS News.
“Ovaj pravni postupak naglašava i ozbiljnost s kojom preuzmemo ovu zlouporabu i našu opredjeljenje da učinimo sve što možemo kako bismo zaštitili svoju zajednicu od nje”, rekao je Meta u izjavi. “Nastavit ćemo poduzimati potrebne korake – koji bi mogli uključivati pravne postupke – protiv onih koji zloupotrebljavaju naše platforme.”
Prema tužbi, Joy Timeline napravio je “višestruki pokušaji” da se pokuša zaobići Meta -ov postupak pregleda oglasa.
Aplikacija Joy Timeline nije prva takva aplikacija i prethodne aplikacije koje obećavaju da će odjenuti fotografije u gole, zapravo su uspjeli zaobići filtre AD na glavnim platformama društvenih medija – uključujući Meta – kako bi savirali svoj softver.
Tvrtka je rekla da su aplikacije “Nudify” osmislile različite načine preskakanja filtra AD -a, uključujući upotrebu uvredljivih slika kako bi pokušali letjeti ispod radara.
“Surađivali smo s vanjskim stručnjacima i vlastitim specijalističkim timovima kako bismo proširili popis uvjeta, fraza i emojija koji su naši sustavi obučeni za otkrivanje tih oglasa”, navodi se u izjavi Meta.
Alexios mantzarlis, autor bloga Fakhed Up, rekao je BBC je bilo “najmanje 10 000 oglasa” promovirajući aplikacije Nudify na Meta Facebook i Instagram platformama.
“Čak i kao [Meta] objavio je ovu najavu, uspio sam pronaći desetak oglasa tvrtke Crushui Live na platformi i još stotinu od drugih ‘Nudifiers’ “, rekao je on za televizijsku upravu.” Ovaj vektor zlostavljanja zahtijeva kontinuirano nadgledanje istraživača i medija kako bi platforma bila odgovorna i smanjila doseg ovih štetnih alata. “
Prijetnja softvera je da bi svatko mogao fotografirati i, bez pristanka subjekta, pretvoriti ga u lažnu golu.
Meta je rekao da na svojim platformama zabranjuje “nekonsenzualne intimne slike”, a ranije je rekao za CBS News da uklanja sve oglase na svojim platformama za “Nudify” aplikacije.
Meta je u četvrtak priopćila kako će raditi s programom Lanterna tehnološke koalicije – usmjerenim na praćenje web mjesta koja krše pravila o sigurnosti djece – kako bi podijelile informacije s drugim tehnološkim kompanijama o aplikacijama, web lokacijama ili tvrtkama koje krše njegove politike.
