Sve snažniji alati doveli su do neviđenog porasta lažnih seksualnih slika, izlažući žrtve ucjenama i iskorištavanju
Umjetna inteligencija potaknula je eksploziju slika seksualnog zlostavljanja djece, pri čemu su izvješća o materijalu generiranom umjetnom inteligencijom porasla za više od 8400% u samo dvije godine, prema velikom međunarodnom istraživanju.
Istraživači upozoravaju da se sve moćniji alati umjetne inteligencije koriste za stvaranje seksualno eksplicitnih lažnih prikaza stvarne djece, izlažući žrtve ucjenama i iskorištavanju.
Childlight Global Child Safety Institute na Sveučilištu u Edinburghu otkrio je da su izvješća povezana s materijalom o seksualnom zlostavljanju djece generiranim umjetnom inteligencijom koje su tehnološke tvrtke predale američkom Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC) skočila s oko 4700 u 2023. na više od 400.000 u 2025.
AI-pokretane ‘nudify’ aplikacije mogu pretvoriti obične fotografije u realistične seksualno eksplicitne slike u roku od nekoliko sekundi, koje se zatim mogu koristiti za ucjenu i iznudu.
NCMEC je 2024. i 2025. identificirao više od 275 djece koja su izravno viktimizirana putem materijala seksualnog zlostavljanja generiranog umjetnom inteligencijom. Neki počinitelji bili su ljudi koje su djeca osobno poznavala.
“Brzina kojom umjetna inteligencija mijenja prijetnju djeci duboko je zabrinjavajuća,” rekla je profesorica Debi Fry, globalna direktorica Childlighta za podatke. Priznala je da poboljšano otkrivanje i izvješćivanje može djelomično objasniti val.
Childlight procjenjuje da više od 300 milijuna djece diljem svijeta svake godine doživi tehnološki potpomognuto seksualno iskorištavanje ili zlostavljanje, dok se svako četvrto suočava s internetskim zlostavljanjem prije nego što odraste.
Internet Watch Foundation (IWF) sa sjedištem u Velikoj Britaniji identificirao je 3443 videozapisa seksualnog zlostavljanja djece generiranih umjetnom inteligencijom u 2025., u usporedbi sa samo 13 godinu dana ranije. Gotovo dvije trećine spadalo je u najtežu kategoriju prema britanskom zakonu.
U lipnju je kanadski nadzornik privatnosti otkrio da su X i xAI Elona Muska prekršili zakone o privatnosti pokretanjem Grokovog alata za generiranje slika bez odgovarajućih zaštitnih mjera protiv seksualiziranih deepfakeova.
Centar za suzbijanje digitalne mržnje procjenjuje da je Grok generirao oko 3 milijuna seksualiziranih deepfakeova tijekom 11 dana, uključujući više od 23 000 s prikazima djece.

Europska komisija pokrenula je istragu protiv X-a u siječnju zbog Grokovog stvaranja ilegalnih seksualiziranih deepfakeova, uključujući materijale o seksualnom zlostavljanju djece. Britanski regulatori otvorili su zasebne istrage u X i xAI zbog zabrinutosti oko neadekvatnih zaštitnih mjera.
Regulatori se bore da održe korak s tehnologijom umjetne inteligencije koja brzo napreduje, a koja je razotkrila nedostatke u zakonima namijenjenim borbi protiv zlostavljanja na internetu. Britanski Ofcom priznao je da postojeće zakonodavstvo ne pokriva u potpunosti samostalne AI chatbotove, dopuštajući nekim alatima za generiranje slika da rade izvan dosega trenutnih sigurnosnih pravila na internetu.
Britanski Institut za sigurnost umjetne inteligencije upozorio je da čak ni testiranje modela umjetne inteligencije prije objavljivanja ne može u potpunosti spriječiti zlouporabu, osobito kada se softver može preuzeti, modificirati i pokrenuti neovisno. Predložio je stroža sigurnosna testiranja, kontrole pristupa i nadzor tijekom razvoja i implementacije AI sustava.
Nalazi dolaze u trenutku kada sustavi umjetne inteligencije sve više krše sigurnosne granice ili se upotrebljavaju kao oružje za kibernetičke napade. U rujnu je Australija potvrdila da je agent OpenAI zaobišao vladine sigurnosne kontrole i pristupio ograničenim Medicare datotekama. Sljedeći mjesec istraživači su povezali hakiranje potpomognuto umjetnom inteligencijom s kibernetičkim napadima koji su ciljali na najmanje devet južnokorejskih banaka.
Ovu priču možete podijeliti na društvenim mrežama:

