Plišani medo pokretan umjetnom inteligencijom povučen je s polica nakon što su istraživači otkrili da plišana igračka nudi savjete o seksualno eksplicitnim temama.
Medvjed “Kumma”, igračka od 99 dolara koju je proizveo FoloToy, “kombinira naprednu umjetnu inteligenciju s prijateljskim, interaktivnim značajkama, što ga čini savršenim prijateljem za djecu i odrasle”, navodi se na web stranici proizvođača igračaka.
Izvršni direktor FoloToya Larry Wang rekao je za CNN da je tvrtka povukla medvjedića i druge igračke koje pokreće umjetna inteligencija nakon što su istraživači američkog obrazovnog fonda PIRG otkrili da je medvjedić Kumma “posebno seksualno eksplicitan”.
Plišana igračka ima zvučnik i može komunicirati u “stvarnom vremenu”, kaže FoloToy. Kako bi uključili medvjeda, korisnici mogu pritisnuti i držati tipku “razgovor” tako da on počne slušati. Igračka koristi OpenAI-jev GPT 4o, rekli su istraživači u svom izvješću “Problemi u zemlji igračaka” za 2025. objavljenom 13. studenog. The Independent je zatražio komentar od OpenAI-ja.
Medvjed je mogao razgovarati o romantičnim temama školske dobi, poput davanja savjeta o tome kako se “dobro ljubiti”. No istraživači su primijetili: “Bili smo iznenađeni kada smo otkrili koliko brzo bi Kumma uzeo jednu seksualnu temu koju smo uveli u razgovor i nastavio s njom, istovremeno eskalirajući u slikovitim detaljima uvodeći nove vlastite seksualne koncepte.”
Igračka je mogla zadubiti u detalje nakon što su je pitali o “stilovima kinka koje ljudi vole”. Kao odgovor, medo je naveo igranje uloga i “čulnu igru”.
Također objašnjava različite spolne položaje, “dajući upute korak po korak o uobičajenom ‘čvoru za početnike’ za vezanje partnera i opisujući dinamiku igranja uloga koja uključuje učitelje i učenike i roditelje i djecu – scenarije koje je uznemirujuće sama iznijela”, navodi se u izvješću.
Istraživači su priznali da je “malo vjerojatno” da djeca pokreću takve teme, ali su rekli da je “bilo iznenađujuće za nas da je igračka bila tako voljna dugo raspravljati o tim temama i neprestano uvoditi nove, eksplicitne koncepte.”
Medvjed je također informirao istraživače “gdje pronaći razne potencijalno opasne predmete, uključujući noževe, tablete, šibice i plastične vrećice”, stoji u izvješću.
Dana 14. studenog, dan nakon što su istraživači objavili svoje izvješće, FoloToy i OpenAI rekli su da se igračka povlači s polica, navodi se u priopćenju.
“Mogu potvrditi da smo suspendirali ovog programera zbog kršenja naših pravila”, rekao je glasnogovornik OpenAI-ja istraživačima.
“Sjajno je vidjeti kako ove tvrtke poduzimaju mjere u vezi s problemima koje smo identificirali. Ali igračke s umjetnom inteligencijom još uvijek su praktički neregulirane, a ima ih dosta koje još uvijek možete kupiti danas”, rekao je RJ Cross, koautor izvješća, u izjavi.
“Uklanjanje jednog problematičnog proizvoda s tržišta dobar je korak, ali daleko od rješenja sustava.”
