Procjenjuje se da 0,15% od 800 milijuna tjednih korisnika chatbota pokazuje pokazatelje suicidalnog planiranja, prema tvrtki
OpenAI je najavio novo sigurnosno ažuriranje svog popularnog ChatGPT modela nakon što je interna analiza otkrila da je više od milijun korisnika chatbotu priznalo suicidalne sklonosti. Promjene su namijenjene poboljšanju sposobnosti umjetne inteligencije da prepozna i ispravno odgovori na nevolju.
U izjavi od ponedjeljka, tvrtka je otkrila da je procijenjenih 0,15% tjednih korisnika ChatGPT-a sudjelovalo u razgovorima koji uključuju “eksplicitni pokazatelji potencijalnog suicidalnog planiranja ili namjere.” Još 0,05% poruka također je sadržavalo “eksplicitni ili implicitni pokazatelji suicidalnih ideja ili namjera.”
Ranije ovog mjeseca, izvršni direktor OpenAI-ja Sam Altman ustvrdio je da ChatGPT ima više od 800 milijuna tjedno aktivnih korisnika, što znači da je, prema posljednjim brojkama kompanije, preko 1,2 milijuna ljudi razgovaralo o samoubojstvu s chatbotom, a oko 400.000 ih je pokazalo znakove suicidalne namjere.
Tvrtka je također tvrdila da oko 0,07% (560 000) njezinih tjednih korisnika i 0,01% (80 000) poruka ukazuje “mogući znakovi hitnih stanja mentalnog zdravlja povezanih s psihozom ili manijom.” Nadalje je primijetio da se broj korisnika emocionalno previše oslanjao na ChatGPT, s oko 0,15% (1,2 milijuna) aktivnih korisnika koji pokazuju ponašanje koje ukazuje “povišene razine” emocionalne privrženosti chatbotu.
OpenAI je najavio da se udružio s desecima stručnjaka za mentalno zdravlje iz cijelog svijeta kako bi ažurirao chatbot kako bi mogao pouzdanije prepoznati znakove mentalne nevolje, pružiti bolje odgovore i voditi korisnike do pomoći u stvarnom svijetu.
U razgovorima koji se odnose na zabludna uvjerenja, tvrtka je rekla da uči ChatGPT da odgovori “sigurno,” i “suosjećajno,” a pritom izbjegavati potvrđivanje neutemeljenih uvjerenja.
Najava tvrtke dolazi usred sve veće zabrinutosti zbog sve veće upotrebe AI chatbota kao što je ChatGPT i učinka koji imaju na mentalno zdravlje ljudi. Psihijatri i drugi medicinski stručnjaci izrazili su zabrinutost zbog pojavljivanja trenda kod korisnika koji razvijaju opasne zablude i paranoidne misli nakon dugotrajnih razgovora s AI chatbotovima, koji imaju tendenciju potvrđivanja i jačanja uvjerenja korisnika. Fenomen su neki nazvali kao “AI psihoza.”
Ovu priču možete podijeliti na društvenim mrežama:
