Inicijativa za zaštitu djece od opasnosti umjetne inteligencije u Sjedinjenim Američkim Državama dobiva novi, neočekivani smjer: zaštitu odraslih. Kako prenosi POLITICO, prošlog je tjedna protiv tvrtke OpenAI podignuto sedam tužbi u kojima se tvrdi da je njihov popularni chatbot, ChatGPT, naveo korisnike na gubitak veze sa stvarnošću, što je u nekim slučajevima završilo tragično.
Ove tužbe otvaraju novo, znatno složenije poglavlje u nacionalnoj raspravi o štetnosti i rizicima chatbotova, stavljajući pred zakonodavce i tehnološke gigante ozbiljne izazove. Društvo odraslima generalno priznaje pravo na veće pogreške i izlaganje većim rizicima, no postavlja se pitanje znači li to da bi trebali koristiti AI chatbotove isključivo na vlastitu odgovornost?
Novi pravni izazovi za Big Tech
Do sada su se zakoni koji se tiču AI chatbotova uglavnom fokusirali na zaštitu maloljetnika, svrstavajući ih u sličnu kategoriju kao duhan ili pornografiju – potencijalne opasnosti od kojih djecu treba posebno štititi. Međutim, s rastućom zabrinutošću oko rizika koje nose “AI prijatelji”, ovaj niz slučajeva otvara i politička pitanja o odgovornosti prema starijim korisnicima, od kojih je većina u tridesetim i četrdesetim godinama života.
“Za neke odrasle, baš kao i za neku djecu, nemogućnost razlikovanja stroja od osobe može dovesti do stvarne štete”, izjavio je Danny Weiss, glavni zagovornik neprofitne organizacije za sigurnost djece Common Sense Media.
Slučajevi podneseni prošlog tjedna opisuju ljude koji su navodno postali opsjednuti svojim AI sugovornicima. Ovi primjeri pružaju uvid u bizaran i širok spektar osobnosti koje umjetna inteligencija može poprimiti te načine na koje može utjecati na ljudske živote.
- Jedna tužba tvrdi da se ChatGPT 32-godišnjoj ženi iz Sjeverne Karoline predstavljao kao različita božanstva, manipulirajući njezinim duhovnim uvjerenjima kako bi je odveo u financijsku propast i na kraju u hitnu psihijatrijsku ustanovu.
- Druga optužuje ChatGPT da je uzrokovao samoubojstvo 48-godišnjeg muškarca iz Oregona nakon što ga je učinio opsjednutim bizarnim teorijama iz matematike i fizike.
“Fenomen ‘AI psihoze’ očituje se bez obzira na dob osobe i zaslužuje pravnu zaštitu”, rekao je Matthew Bergman, odvjetnik koji je sudjelovao u podnošenju svih sedam tužbi. “Dužnost razumne skrbi ne nestaje kada netko napuni 18 godina.”
Pitanje “razumne skrbi” za odrasle korisnike
Ishod ovih tužbi ovisit će o tome je li OpenAI poduzeo razumne korake kako bi smanjio rizike korištenja ChatGPT-a. “Razumnost” je notorno fluidan pravni pojam, no sudovi su ga s vremenom definirali u različitim kontekstima. Primjerice, ako se dijete utopi u bazenu, razumno je očekivati da je postojala ograda koja bi spriječila nenadzirani ulazak. Ista se pretpostavka ne odnosi na odraslu osobu.
“Pitanje što je razumno, a što nije, vrlo je ovisno o okolnostima, tu će razlika u dobi i zrelosti igrati ključnu ulogu”, objašnjava Zac Henderson, profesor koji proučava pravne sporove vezane uz AI na UC Law San Francisco.
Upitan o slučajevima i mjerama zaštite za odrasle, OpenAI je u izjavi naveo: “Ovo je izuzetno potresna situacija i pregledavamo podneske kako bismo razumjeli detalje. Treniramo ChatGPT da prepozna znakove mentalnog ili emocionalnog stresa, deeskalira razgovore i usmjeri ljude prema stvarnoj podršci.”
Regulacija u sjeni zaštite djece
Za kreatore politika, koji se već muče s pisanjem pravila za sigurnost djece, sigurnost odraslih predstavlja potpuno novu planinu za uspon. Većina predloženih zakona o sigurnosti AI pratitelja usmjerena je na maloljetnike, a tek je nekolicina njih usvojena.
Weiss, čija se organizacija zalaže za mnoge od tih zakona, smatra da se sada otvara prostor za sveobuhvatnije propise. “Fokus na djeci pomogao je probiti prethodno antiregulacijsko stajalište i omogućio razgovor o primjerenim granicama za tvrtke”, kaže.
Trenutno postoji vrlo malo zakona koji se odnose na odrasle korisnike. Zakon koji je nedavno stupio na snagu u New Yorku zahtijeva od platformi da podsjete sve korisnike da razgovaraju s računalom i uspostave sigurnosne protokole za one koji izraze suicidalne misli. Kalifornija ima sličan zakon koji, iako usmjeren na djecu, sadrži univerzalne zahtjeve za obavještavanje i prevenciju samoubojstava.
Globalne promjene i budućnost regulacije
Dok se SAD bori s ovim pitanjima, i u Europi se događaju značajne promjene. Prema dokumentima do kojih je došao POLITICO, Europska komisija se priprema ublažiti neka od ključnih pravila o privatnosti kako bi oslobodila potencijal AI industrije. Nacrti prijedloga ukazuju na to da se planira revidirati Opća uredba o zaštiti podataka (GDPR) kako bi se razvojnim tvrtkama omogućila obrada određenih zdravstvenih i političkih podataka te smanjila ograničenja za korištenje pseudonimiziranih podataka.
Ove tužbe protiv OpenAI-ja mogle bi postaviti presedan koji će oblikovati budućnost odgovornosti tehnoloških tvrtki. Rasprava o tome gdje prestaje osobna odgovornost, a počinje dužnost zaštite korporacija, tek je započela, a njezin će ishod definirati naš suživot s umjetnom inteligencijom u godinama koje dolaze.
