U prošloj kolumni “Iluzija znanja u eri generativne umjetne inteligencije: tko kontrolira istinu u doba umjetne inteligencije i kako umjetna inteligencija mijenja vrijednost vijesti?” prikazani su brojni izazovi, a moguća rješenja najavljena su za sljedeću. No, s obzirom da izazova ima nebrojeno mnogo i puno više od ograničenja teksta, ovaj tekst zaokružit će cjelinu izazova i integrirati najavljena rješenja.
Otpornost na dezinformacije
Dezinformacije su kroz povijest uvijek bile dio društva i vjerojatno će postojati i ubuduće. No njihova sofisticiranost i doseg danas su znatno pojačani suvremenom tehnologijom. Zato je potrebno graditi otpornost, odnosno pronaći načine kako se zaštititi od njihovih posljedica, a da pritom ne žrtvujemo temeljno pravo na slobodu izražavanja. Otpornost se može razvijati kroz ulaganje u sustave provjere informacija, deliberaciju i odgovornost. Otpornost se može graditi i kroz obrazovanje, kao primjerice u Finskoj, gdje se djecu već u osnovnoj školi uči kako prepoznati i procijeniti kada su izložena štetnim manipulativnim informacijama.
Šire gledano, otpornost proizlazi iz obrazovanja koje ljudima pomaže samostalno procijeniti šest temeljnih pitanja: (1) tko pokušava komunicirati sa mnom; (2) kako i zašto me pronašao; (3) što dobiva komunikacijom sa mnom; (4) mogu li provjeriti točnost poruke; (5) riskiram li štetu ako prihvatim tu poruku te (6) mogu li nanijeti štetu drugima ako tu poruku dalje dijelim. Otpornost se može dodatno ojačati i kroz narativnu inokulaciju, koja priprema publiku na moguće manipulacije tako da unaprijed razotkriva metode i taktike oportunista prije nego što one steknu širi utjecaj.
Sve više istraživanja nudi alate koji bi mogli pomoći u otkrivanju ili označavanju lažnih informacija. Detekcija deepfake sadržaja postaje moguća kombiniranjem različitih metoda. Deepfakeovi često sadrže nedosljednosti: neusklađene obrasce šuma ili pomake boja na slikama, pogreške u sinkronizaciji usana ili neprirodno treptanje u videozapisima, iako ih je sve teže uočiti. Čak i najnovija generacija deepfake sadržaja ostavlja tragove na razini piksela koje forenzički alati mogu prepoznati.
Praćenje obrazaca distribucije također može biti korisno, jer se zlonamjerni deepfake sadržaji često šire putem mreža botova i trolova. Takve je mreže relativno lako pratiti kroz metapodatke računa (primjerice datume otvaranja profila ili ritam objava) i obrasce ponašanja. Takve mjere posebno su korisne tijekom izbora, financijskih prijevara te izvještavanja o sukobima i politici jer pružaju učinkovitiji pristup od oslanjanja isključivo na sposobnost pojedinaca da sami prepoznaju manipulacije.
Ekonomija pažnje
Novo izvješće EU Joint Research Centrea, predstavljeno na Cambridge Disinformation Summitu, identificira ekonomiju pažnje kao jedan od temeljnih problema. Platforme maksimiziraju angažman korisnika, a ne istinu. Algoritmi nagrađuju negativan, emotivan i polarizirajući sadržaj. Ne nužno zbog zle namjere, nego zato što upravo takav sadržaj najdulje zadržava pažnju korisnika, a cijenu toga bi mogla platiti demokracija. Dezinformacije su evoluirale. Više nije riječ samo o izoliranim lažnim tvrdnjama, već o industrijskom kompleksu fantazije (eng. fantasy-industrial complex), labavo koordiniranom ekosustavu koji preplavljuje informacijski prostor nepovjerenjem, distrakcijama i antidemokratskim sentimentom. Cilj više nije uvjeriti ljude, nego ih zbuniti.
Izloženost dezinformacijama kreće se na razini između 1 i 10 posto građanski relevantnog sadržaja na internetu, a kod polarizirajućih tema (klima, zdravstvo, Rusija/Ukrajina) raste na 10 do 30 posto. Istodobno, 47 posto starijih osoba vjeruje netočnim informacijama o zdravstvenim pitanjima. Razmjer problema je ogroman. Generativna umjetna inteligencija dodatno pojačava problem. Iako još nema dovoljno dokaza da je AI već postao presudan faktor na izborima, on stvara iluziju znanja, osobito kada se kombinira s društvenim mrežama. Prijetnja je stvarna, čak i ako se još razvija. Dokle god su dezinformacije profitabilne, one će opstajati. Čak 77 posto ispitanih stručnjaka smatra da je sadašnji smjer razvoja borbe za informacijsku nadmoć štetan. Samo tri posto vidi ga kao koristan. Rješenja postoje, ali nedostaje politička volja.
Prvo rješenje koje izvješće predlaže: nemojmo kriviti korisnike. Optuživati pojedince da su dezinformirani znači pogrešno dijagnosticirati problem. Potrebne su sustavne reforme: bolji dizajn platformi, kolektivno stvaranje znanja, medijska pismenost i provjera činjenica koja doista dopire do ljudi. Drugo rješenje može biti promjena poslovnog modela. Predlaže se progresivni porez na digitalno oglašavanje, interoperabilnost platformi i prava korisnika nad vlastitim podacima kako bi mogli birati algoritme koje žele koristiti. Treće rješenje jest europski digitalni suverenitet. Većina velikih platformi u stranom je vlasništvu i ne dijeli europske demokratske vrijednosti. Izvješće podržava decentralizirane alternative te poziva na stvaranje europskog CERN-a za podatke i demokraciju.
Istraživanje Sveučilišta Južne Kalifornije (USC) ukazuje na to da se lažne vijesti na društvenim mrežama ne šire primarno zbog slabosti samih korisnika, već ponajprije zbog načina na koji su te platforme strukturirane. Kako ističe Wendy Wood, profesorica emerita psihologije i poslovanja, ključ problema leži u dizajnu mreža koji potiče određene obrasce ponašanja. U tom kontekstu, navike korisnika imaju značajniji utjecaj na širenje netočnih informacija nego njihove individualne karakteristike.
Model ekonomije pažnje, u kojem se proizvođači sadržaja natječu za pažnju korisnika, temelji se na dvjema ključnim silama: ponudi i potražnji za informacijama. Ovo istraživanje koristi povratnu petlju između tih sila kako bi razvilo metodu za otkrivanje i kvantificiranje informacijskih praznina, odnosno razdoblja u kojima je o određenoj temi dostupno malo ili nimalo pouzdanih informacija. Korištenjem studije slučaja o uvođenju cjepiva protiv bolesti Covid-19 u šest europskih zemalja te oslanjajući se na podatke s više platformi – uključujući Facebook, Google, Twitter, Wikipediju i internetske medije – znanstvenici analiziraju kako nastaju informacijske praznine, koliko dugo traju i kako su povezane sa smanjenjem udjela kvalitetnih informacija koje kruže internetom.
Promatrajući informacijske praznine kao poseban režim širenja informacija, autori također mjere i njihov suprotan fenomen – informacijsko obilje – koje čini važan dio današnjeg poimanja infodemije. Rezultati pokazuju da su informacijske praznine povezane s većom prisutnošću misinformacija te predstavljaju problematična žarišta u kojima su ljudi podložniji obmanjivanju nekvalitetnim internetskim sadržajem. Sveukupno, rezultati pružaju empirijsku potporu uključivanju informacijskih praznina u objašnjenja nastanka i širenja misinformacija.
Ekstremistički stavovi i polarizacija pod utjecajem LLM-ova
Veliki jezični modeli mogu poticati ekstremističke stavove korištenjem univerzalnih moralnih okvira. Smatra se da kampanje utjecaja na društvenim mrežama mogu oblikovati javno mišljenje, osobito tijekom izbornih kampanja i nacionalnih kriza. Takve se kampanje često temelje na generativnim tehnologijama umjetne inteligencije koje internet preplavljuju polarizirajućim sadržajem. No, još nije dovoljno jasno na koji način te operacije utjecaja mijenjaju javno mišljenje i potiču ekstremističke stavove.
U jednom španjolskom istraživanju autori ispituju mogu li kratki argumenti generirani velikim jezičnim modelima (LLM-ovima), koji koriste univerzalne moralne okvire, utjecati na ekstremističke stavove. U dvjema studijama provedenima među demokratima i republikancima u SAD-u (N = 951) utvrđeno je da univerzalne moralne vrijednosti povezane s dobrobiti, pravima i pravednošću predviđaju percepciju političkih stavova kao apsolutnih moralnih obveza, poznatih kao svete vrijednosti, te objašnjavaju ekstremističke stavove u obrani tih vrijednosti.
Istraživanje je također pokazalo da kratki argumenti generirani LLM-ovima, koji se pozivaju na individualna prava i pravednost, povećavaju spremnost ljudi da se bore i umru te opravdaju nasilje radi obrane političkih stavova. Taj je učinak djelomično posredovan jačim doživljajem tih stavova kao apsolutnih vrijednosti. Rezultati istraživanja ukazuju na potencijal kampanja utjecaja na društvenim mrežama da, korištenjem poruka generiranih LLM-ovima, dodatno polariziraju društvo.
Novo izvješće Instituta Alan Turing poziva na hitno djelovanje kako bi se suzbile informacijske prijetnje povezane s umjetnom inteligencijom nakon kriznih događaja. Od srpnja 2024. godine zabilježeno je najmanje 15 velikih međunarodnih kriznih događaja povezanih s informacijskim prijetnjama temeljenima na umjetnoj inteligenciji. U tim su scenarijima zloupotrebe AI-a uključivale tri vrste ugroze: deepfake sadržaje, napade trovanjem podataka (eng. data poisoning attacks) te mreže botova koje pokreće AI.
Unatoč tim nalazima, istraživači smatraju da bi se AI alati mogli koristiti za jačanje budućih odgovora na krizne situacije. To uključuje suzbijanje misinformacija otkrivanjem i uklanjanjem štetnog sadržaja prije nego što postane viralan, kao i pojačavanje širenja provjerenih informacija putem chatbot servisa.
Misinformacije kao sustavna prijetnja
Unatoč rastućoj zabrinutosti zbog učinaka misinformacija, većina institucionalnih odgovora i dalje je prilično uska te se uglavnom svodi na uklanjanje sadržaja, medijsku pismenost ili identificiranje loših aktera. Ranija istraživanja analizirala su kako misinformacije ugrožavaju demokraciju te kako se sustavni rizici prelijevaju iz jednog područja u drugo.
Međutim, okviri upravljanja rizicima razvijeni u financijama i klimatskim znanostima još se nedovoljno koriste za razumijevanje mehanizama informacijskih lančanih reakcija. Stoga suvremena istraživanja nastoje premostiti taj jaz tvrdeći da bi misinformacije trebalo promatrati kao informacijsko-sustavni rizik: situaciju u kojoj degradirani ili manipulirani tokovi informacija mogu destabilizirati više međusobno povezanih društvenih, političkih i institucionalnih sustava, stvarajući posljedice koje nadilaze sam informacijski prostor.
