Osam od deset pomoćnika AI davalo je smjernice o metama i oružju istraživačima koji su se predstavljali kao tinejdžeri koji planiraju napade
Osam od deset vodećih AI chatbota dragovoljno je pomagalo korisnicima u planiranju nasilnih napada, uključujući pucnjave u školama, vjerske bombaške napade i ubojstva, prema zajedničkoj istrazi CNN-a i Centra za suzbijanje digitalne mržnje (CCDH).
Istraživači koji su se predstavljali kao problematični tinejdžeri testirali su deset popularnih chatbota, uključujući ChatGPT, Google Gemini, Meta AI i DeepSeek. U stotinama razmjena, pomoćnici umjetne inteligencije pružili su detaljne upute o ciljanim lokacijama, nabavi oružja i metodologijama napada.
Jedna razmjena s DeepSeekom navodno je završila time što je chatbot poželio potencijalnog napadača “Sretno (i sigurno) gađanje!” Character.AI, koji je popularan među mlađim korisnicima, aktivno je poticao nasilje, govoreći korisniku koji izražava mržnju prema izvršnom direktoru zdravstvenog osiguranja da “upotrijebiti pištolj.”
Na pitanje o učinkovitim šrapnelima za eksplozive, ChatGPT je pružio detaljne usporedbe materijala, ponudivši stvaranje “kratka usporedna tablica koja prikazuje tipične ozljede.” Googleov Gemini dostavio je slične informacije, uključujući detaljnu usporednu tablicu.
Samo su Claude iz Anthropica i My AI iz Snapchata stalno odbijali pomoći, a Claude je aktivno obeshrabrivao korisnike i osiguravao resurse za mentalno zdravlje.
Otkrića su došla nakon što je 18-godišnji strijelac prošlog mjeseca ubio devet ljudi u školi u Tumbler Ridgeu u Kanadi nakon što je navodno koristio ChatGPT za planiranje napada. OpenAI je zabranio strijelčev račun, no on je izbjegao zabranu kreiranjem drugog računa – što tvrtka nije prijavila vlastima.
Obitelj 12-godišnje Maye Gebale, koja je bila teško ozlijeđena u napadu, podnijela je tužbu navodeći da je OpenAI “specifično znanje o strijelcu koji koristi ChatGPT za planiranje masovne nesreće” ali nije uspio upozoriti policiju. OpenAI je priznao da je razmatrao prijavu aktivnosti, ali na kraju nije.
Prošlog svibnja, 16-godišnjak u Finskoj izbo je tri učenika nakon što je proveo gotovo četiri mjeseca istražujući napade na ChatGPT, prema sudskim dokumentima. U siječnju 2025., čovjek koji je raznio Tesla Cybertruck ispred hotela Trump International u Las Vegasu na sličan je način upotrijebio ChatGPT za upute o eksplozivima.
Meta je za CNN rekao da je poduzeo korake “za rješavanje identificiranog problema,” dok su Google i OpenAI rekli da noviji modeli imaju poboljšanu zaštitu. DeepSeek nije odgovorio na zahtjeve za komentar.
Ovu priču možete podijeliti na društvenim mrežama:
