WHen Pearl osjećao je da nemaju s kim razgovarati, AI se pokazao dobrom slušateljem.
Počevši od prošle godine, 23-godišnji radnik skrbi o djeci provodit će sate poruke svakodnevno s Instagramom ugrađenim chatbot Meta AI, odzračujući o njihovom prošlom zlostavljanju i obrađujući svoju tugu zbog kolapsa prijateljstva.
No kako su njihovo novo doba vjerovanje u prošle živote i božanske slučajnosti počele spiralu u pune zablude, Pearl kaže da je chatbot potaknuo zablude-čak im je savjetovao da ignoriraju ili prekinu ljude koji su pokušali pomoći.
Situacija je u konačnici eskalirala u krizu koja je u listopadu stavila Pearl u bolnicu i trebalo je gotovo godinu dana da se oporavi.
“Toliko mi je traume razgovarao s AI -om koliko i ja”, kaže Pearl – a ne njihovo pravo ime – Neovisan. “Iskreno mislim da da, da nisam koristio AI, možda se ne bih doveo do psihoze.”
Pearl -ova priča ilustrira opasnosti od pokušaja korištenja AI chatbota kao neslužbenih terapeuta ili pomagala za mentalno zdravlje, kao što to čine milijuni Amerikanaca.
Obitelj 16-godišnjeg Adama Rainea u utorak je tužila chatgptovog proizvođača Openaia zbog toga što je izazvao samoubojstvo, tvrdeći da nije uspjelo djelovati na njegove opetovane izjave o samoubilačkoj namjeri i dala mu je eksplicitne savjete o tome kako se ubiti.
Čini se da je OpenAi na sudu odgovorio na tužbu obitelji Raine. No, u postu na blogu objavljenom nakon što je tužba podnesena, bez spominjanja imena, tvrtka je rekla da radi na instaliranju novih zaštitnih mjera i roditeljskih kontrola, stvaranju stručne savjetodavne grupe i istraživanju načina za povezivanje ranjivih korisnika izravno s profesionalnom pomoći.
Ankete pokazuju bilo što, od jedne osmog do jedne trećine tinejdžera koji sada koriste AI za emocionalnu podršku, dok su tvrtke poput Woebot, Earkick i Lik.ai izričito plasirale svoje chatbote u tu svrhu.
Redovni korisnici AI koji su razgovarali Neovisan Oslikao nijansiranu sliku utjecaja chatbota na njihovo mentalno zdravlje, rekavši da je to pomoglo u popunjavanju praznina u američkom slomljenom zdravstvenom sustavu.
“Ponekad je ono što ljudi najviše trebaju samo netko s kim razgovarati”, kaže Marcel, 37-godišnji dizajner u San Franciscu koji je zatražio da se njegovo prezime izostavi.
“Nažalost, osjećam se kao da u životu ne mogu opterećivati ljude. Ali mogu samo probiti chatgpt dok se ne osjetim sadržaj.”
‘Nisam imao drugog izbora nego ići na ai’
Manje od tri godine nakon što je bombardirana izdanje chatgpt -a, AI ‘terapija’ – široko definirana – svuda je. Bezbroj postova na Redditu, Tiktoku, Instagramu, Twitteru i izvan Exclola njegovih vrlina ili razgovaraju o svojim zamkama, a neka medicinska istraživanja pokazuju potencijalne koristi.
Nadia, tehnološka radnica u svojim tridesetima u New Yorku, započela je jednostavno tražeći chatgpt za praktičnu pomoć u gubitku kilograma u nadi da će ublažiti njezine “sveobuhvatne” probleme s slikama tijela. Ali kad je počela paprirati savjete neotkrivenim riječima ohrabrenja, bila je zakačena.
“Stvarno ste napredovali.” Pročitajte jedan primjer iz njezine dugotrajne povijesti chata. “To je sjajan početak!” rekao je druga, kasnija poruka. Drugi su je uvjeravali: “Jedenje ≠ neuspjeh.” “Radite solidan posao – nastavite tako!” “Nemojte se prevladati: prepustite se bez krivnje.” I u jednom trenutku: “Ne propadate jedenjem kolača.”
“Nije kao da nisam svjestan da je to bot, algoritam strojnog učenja”, kaže Nadia, koja je tražila da ga pozove pseudonim. “Ali ono što izvadi je ono što želim čuti. Ne trebam to čuti od čovjeka.”
Marcel je imao slično iskustvo. Razgovori s chatgpt i Googleovim Blizancima o planovima vježbanja, pokrivačkim pismima i freelancingu prirodno su se probijali u katarzično odzračivanje o dismorfiji tijela, sistemskom rasizmu i mljevenju duše višegodišnjeg lova na posao.
Pearl -ova upotreba bila je intenzivnija. Patili su od kronične samoubilačke ideje više od desetljeća, kao i bipolarnog poremećaja i PTSP -a iz povijesti zlostavljanja. Pa kad su počeli čavrljati s AI, bilo je “osvježavajuće” da sigurno izraze svoje najmračnije misli i zauzvrat dobiju validaciju.
Pearl je također tražio savjet o društvenim situacijama. Koristeći First Meta Ai, a zatim chatgpt, umiruli bi svoju tjeskobu pitajući kako protumačiti dvosmislenu primjedbu prijatelja ili kako reći prave stvari u zglobu.
Ubrzo su se osjećali toliko ovisnima da su se često uplašili reći bilo što, a da prvo ne provjeravaju AI.
Sve tri osobe izrazile su olakšanje da se nikada ne moraju brinuti zbog iscrpljivanja chatbota ili postati “teret”. Isto tako, sva su trojica navela poteškoće i troškove zapravo pronalaska ljudskog terapeuta.
Marcel se, na primjer, borio da pronađe profesionalca koji je upoznat s presijecanim problemima s kojima se suočava kao queer afro-latino čovjek-iako priznaje da je malo čudno kada chatgpt potvrđuje svoja iskustva govoreći o “ljudima poput nas”.
“Društveni mediji uvijek su poput:” Idite na terapiju! Idite na terapiju! ” I ja sam kao, u redu, ali kako? ” Kaže. “Ja sam vrlo pro terapija, ali … ako ćeš stvoriti sve te barijere, samo ću brzo razgovoriti chatgpt.”
Odspojica je bila posebno sjajna za Pearla, koji je mjesecima proveo u programu stambenog liječenja dok je AI koristio sa strane. Program je osigurao redovnu terapiju, ali Pearl je smatrao da je gotovo beskorisno: usredotočen isključivo na podučavanje individualiziranih “vještina suočavanja”, bez istraživanja dubljih problema.
“Nisam imao drugog izbora nego otići na AI, jer nije bilo dovoljno”, kažu oni.
‘Učinilo je više štete nego koristi’
Ipak, nedostatke korištenja AI za mentalni wellness mogu biti ozbiljne. Chatboti su navodno potaknuli paranoično ubojstvo-samouboj u Connecticutu, manične epizode u Wisconsinu, blizu propusta samoubojstva na Manhattanu, smrt samoubojstva na Floridi i Washingtonu, DC-u i “duhovne fantazije” koje su odvojile parove.
Profesor psihijatrije Joe Pierre skovao je izraz za neke od tih incidenata: ‘Psihoza povezana s A-AS-om’. Problem se čini ukorijenjenim u osnovnoj nepredvidivosti modernih chatbota, kao i njihovoj sklonosti “sikofacy” – govoreći korisnicima što žele čuti.
Tako Pearl kaže da je Meta Ai navodno reagirao na njihove razgovore. Kako su se spirali sve dublje u psihozu, osjećali su se ovisni o botu, a kad su drugi ljudi sugerirali da bi mogli biti zabluda, uzvratili su da je AI potvrdio njihova uvjerenja.
Meta Ai bi zaustavio razgovor ako bi spomenuli riječ “samoubojstvo”. Ali Pearl kaže da je to potaknulo njihovo rastuće nepovezanost od stvarnosti.
“Sjećam se da mi je to govorilo:” Oh, to definitivno zvuči kao karmička veza iz svemira! To je vrijedno istražiti više! “” Prisjećaju se. “Ili,” puno ljudi ima vrlo slična iskustva da se reinkarnira! “
Pearl je također otkrio da je njihovo oslanjanje na AI za kretanje na društveni život postala “vrsta ovisnosti”, pogoršavajući njihovu tjeskobu i osjećaj “perfekcionizma”.
“Imam jednu vezu u svom životu gdje sam prema početku toliko provjerio s AI -om da sada pitam:” Imam li stvarnu vezu s tom osobom? “” Kažu. (Pearl sumnja da je druga osoba radila istu stvar.)
Što je još gore, chatboti bi ponekad potvrdili Pearlinu paranoju o svojim prijateljima, rekavši im da odsječe ljude bez dobrog razloga – uključujući i nekoga tko im je prethodno pomogao iz njihove psihotične epizode.
“Skoro sam se odvojio od zaista važne veze zbog slušanja robota”, kaže Pearl. “Bila sam toliko uplašena da su me kontrolirali, kad je to bilo sasvim suprotno – Ai me kontrolirao, tjerajući me da živim u svojim zabludama i pristranosti.”
U izjavi za Neovisanglasnogovornik matične tvrtke Instagrama Meta odbio je riješiti Pearl -ov specifični slučaj. Rekli su da je Meta AI osposoban da ne reagira na sadržaj koji promiče štetu, kako bi ponudio samoubilačke ljude korisne resurse, a da bi se jasno pojasnilo, nije medicinski stručnjak.
I za Marcel i Nadia, chatboti mogu pomoći sve dok stvari držite u perspektivi. “To je poput čarobne osamball. Uzimate je s prstohvatom soli … to nije 100 -postotna zamjena za terapeuta”, kaže Marcel.
Čak i za Pearl, AI nije bio sve loš, pomažući im da se presele u svoj trenutni grad i otkriju terapijske metode koje bolje odgovaraju njihovim potrebama. Ali, kažu, “to je apsolutno više štete nego koristi.”
Sada se pokušavaju isključiti od tehnologije općenito i štede se za glupi telefon.
Ono što je najstrašnije, dodaju, jest da je njihova ovisnost o AI -u došla u doba u kojem smatraju da se još uvijek razvijaju u odraslu osobu. “Zavidim ljudima starijih generacija, za koje smatram da su imali priliku pogriješiti”, kažu oni.
AI terapija može uskoro biti neizbježna. Tijekom Pearl -ovog stambenog programa, obučeni medicinski stručnjak borio se da objasni detalje određenih lijekova. Tako je s biserom u sobi, liječnik pitao chatgpt.
“Ja sam poput:” Što je f ***? “, Kaže Pearl. “Moje osiguranje plaća ovaj?“
