Reddit razmišlja o tužbi Sveučilišta u Zurichu za korištenje chatbota za pomicanje mišljenja korisnika o temama s vrućim gumbom
Glavno švicarsko sveučilište zapalo je požar za vođenje tajnog eksperimenta na korisnicima platforme društvenih medija Reddita kako bi testirao kako se umjetna inteligencija (AI) može koristiti za utjecaj na njihova mišljenja. Platforma je priopćila kako razmatra pravne postupke.
Prema medijskim izvješćima, grupa istraživača sa Sveučilišta u Zürichu posljednjih je mjeseci provela neovlaštenu studiju o R/ChangemyView, jednoj od najvećih Redditovih zajednica za raspravu. Eksperiment je uključivao AI chatbotove koji se predstavljaju kao redoviti korisnici i sudjelovali u raspravama o kontroverznim pitanjima.
Botovi, čiji su računi od tada zabranjeni, objavili su više od 1.700 komentara na Subredditu. Usvojili su lažne identitete poput muške žrtve silovanja koja je umanjila traumu njegovog napada, crnac koji se protivio pokretu Black Lives Matters i domaći savjetnik za traumu koji tvrdi da su najugroženije žene bile one koje su bile najugroženije žene “Zaklonjena od prekomjernog zaštitnog roditelja.”
Drugi bot korišten je za skeniranje korisničkih profila i dostavljanje personaliziranih argumenata u odgovoru.
Istraživači su eksperiment otkrili Subreddit moderatorima nekoliko mjeseci nakon što se dogodi, nazivajući ga “Korak otkrivanja u studiji.”
U izjavi objavljenoj prošlog tjedna, Redditov moderatorski tim rekao je da platforma zabranjuje upotrebu neotkrivenog sadržaja ili robota koji generira AI. Redditov glavni pravni direktor, Ben Lee, rekao je da ni tvrtka ni moderatori R/ChangemyView prethodno nisu znali o onome što je nazvao “Nepravilan i vrlo neetički eksperiment.” Dodao je da Reddit priprema formalne pravne zahtjeve za slanjem Sveučilištu u Zürichu i uključenim istraživačima.
Istraživači su rekli da je studija vođena principima “etički” Istraživanje i transparentnost. Sveučilišni odbor za etiku tvrdio je da je istraživanje nanijelo malo štete. Ipak, korisnici na Subredditu reagirali su sa šokom i bijesom zbog toga što su nesvjesno eksperimentirani.
Časopis Science citirao je e -poštom sveučilišnu izjavu, rekavši da su istraživači odlučili da ne objavljuju rezultate. Sveučilište je priopćilo kako će istražiti incident.
Upotreba AI botova – lažnih računa namijenjenih oponašanju stvarnih korisnika – posljednjih je godina neprestano rasla na platformama društvenih medija. Stručnjaci kažu da se sve više koriste za oblikovanje javnog mišljenja, posebno oko izbora.
Zapadne vlade, prvenstveno SAD i Velika Britanija, dugo su optužile Rusiju da je upravljao velikim ‘bot farmama’ kako bi se miješala u svoje izborne procese-optužbe Moskve su više puta negirale. Međutim, neki su zapadni akteri pod nadzorom korištenja botova u dezinformacijskim kampanjama, istovremeno javno upozoravajući na strano uplitanje.
Ovu priču možete podijeliti na društvenim mrežama:
