Chatgpt dobiva sve veće zaštitnike nakon tragične smrti tinejdžera za čije roditelji kažu da je umrla samoubojstvo nakon komunikacije s vrhunskim chatbotom.
OpenAi, proizvođač chatgpt -a, rekao je u postu na blogu u utorak da će usluga sljedećeg mjeseca uvesti roditeljske kontrole koje će omogućiti roditeljima da postave ograničenja za način na koji njihovi tinejdžeri koriste svoj proizvod. Roditelji se također mogu odlučiti primati obavijesti od chatgpta ako otkrije da su djeca u “akutnim nevoljama”.
Tvrtka je u svom postu rekla da radi na kontrolama od početka ove godine-neizravni način sugeriranja da promjene nisu izravan odgovor na travanjsku smrt 16-godišnjeg Adama Rainea.
Stručnjaci za mentalno zdravlje glasni su u zabrinutosti kako ljudi koriste i reagiraju na chatgpt i druge proizvode AI velikog jezika AI. Chatgpt je osjetio potrebu da svoj 5.0 chatbot učini manje “sikofantičkim” nakon što je ubod izvještaja sugerirao da su neki korisnici kliznuli u psihozu nakon što su slijedili LLM dolje zablude rupe zeca.
Kao što je obećano, 5.0 je pušten i bio je manje zgušnjavajući, manje besplatan, manje osobni i izravniji u svom izlazu. Povratak korisnika koji su propustili svoje ranije chatbotove uvjeravali su Openai kako bi omogućili tim korisnicima da odaberu staru verziju LLM -a umjesto svog novog proizvoda, iako se ta značajka ukida ove jeseni.
Sada OpenAi ponovno pokušava ispraviti, ali Jay Edelson, odvjetnik koji zastupa obitelj Raine, kaže da je premalo i previše “nejasno”.
“Umjesto da poduzmete hitne akcije kako bi povukli poznati opasni proizvod izvan mreže, Openai je dao nejasna obećanja da će učiniti bolje”, rekao je u izjavi za Washington Post u utorak.
Adam, iz Rancho Santa Margarita u Kaliforniji, umro je 11. travnja. Njegovi roditelji, Matt i Maria Raine, proveli su 10 dana prenoseći preko tisuća poruka koje je dijelio s chatgptom između 1. rujna prošle godine i njegove smrti.
Bili su prestravljeni onim što su pronašli – njihov sin je razgovarao s chatbotom o okončanju života mjesecima. Obitelj sada tuži programera koji stoji iza Chatgpt -a, Otvori AI i njegovog izvršnog direktora Sama Altmana, u nepravednoj tužbi za smrt podnesenu na Kalifornijskom višem sudu u San Franciscu.
U izjavi, Open AI potvrdio je točnost chatlogova između chatgpt -a i Adama, ali je rekao da ne uključuju “puni kontekst” odgovora Chatbota.
.jpeg)
Iako je chatgpt najprepoznatljiviji od chatbota na AI pogonu, zabrinjavajuće priloge koji se događaju kod nekih korisnika nisu ekskluzivni za OpenAijev proizvod.
U listopadu je žena na Floridi tužila još jednu aplikaciju chatbot, lik.ai, navodeći da je njegova aplikacija-koja uzima persone originalnih likova ili likova nadahnutih poznatim IPS-om-bila odgovorna za smrt svog 14-godišnjeg sina.
U tom je slučaju njezin sin navodno emocionalno pričvršćen za chatbota koji je prikazao Daenerys Targaryen iz knjige “Pjesma leda i vatre” i televizijske emisije “Game of Thrones”, a na kraju je umro samoubojstvom nakon dugog razgovora s likom.
Dva mjeseca nakon podnesene tužbe, lik.ai je u svoju aplikaciju dodao nove roditeljske kontrole.
Prošli tjedan Common Sense Media objavio je studiju koja je pokazala da će Meta AI chatboti, ako to potakne, trenirati korisnike tinejdžera o samoubojstvu, samopovređivanju i poremećajima prehrane. Meta je u izjavi rekao da su incidenti opisani u testu prekršili njegova pravila o sadržaju i da se bave problemima kako bi bili sigurni da su korisnici tinejdžera bolje zaštićeni.
U svom utorku, OpenAi je svoje korisnike tinejdžera opisao kao prve “AI domoroce” koji odrastaju s proizvodima kao normalan dio svog života.
“To stvara stvarne mogućnosti za podršku, učenje i kreativnost, ali to također znači da će obiteljima i tinejdžerima možda trebati podrška u postavljanju zdravih smjernica koje odgovaraju jedinstvenom fazi razvoja tinejdžera”, priopćila je tvrtka.
OpenAi uvjeti usluge zabranjuju svakome mlađe od 13 godina da koristi chatbot.
Tvrtka je rekla da će njegovi novi roditeljski alati omogućiti roditeljima da povežu svoje račune na račune svojih tinejdžera, gdje će imati pristup finom podešavanju onoga što njihova djeca mogu pristupiti dok koriste chatbot.
Ako trenutno vi ili netko koga poznajete treba pomoć u mentalnom zdravlju, nazovite ili pošaljite poruku 988 ili posjetite 988Lifeline.org za pristup internetskom razgovoru iz 988 samoubojstva i kriznog života. Ovo je besplatna, povjerljiva krizna linija koja je svima dostupna 24 sata dnevno, sedam dana u tjednu. Ako ste u Velikoj Britaniji, možete razgovarati sa Samaritanima, u povjerenju, 116 123 (Velika Britanija i ROI), pošaljite e -mail jo@samaritans.org ili posjetiti The Samaritanci web mjesto za pronalaženje detalja o vašoj najbližoj podružnici. Ako ste u drugoj zemlji, možete ići na www.beriemers.org Da biste pronašli liniju za pomoć u vašoj blizini.
