Nova studija Europske radiodifuzijske unije otkriva alarmantne stope pogrešaka među popularnim chatbotovima s umjetnom inteligencijom. Sustavi redovito izmišljaju informacije, pa čak i navode lažne izvore.
Pitajte ChatGPT o rezultatima izbora, zamolite Claude da sažme vijesti ili Perplexity da pruži osnovne informacije o sukobu na Bliskom istoku – stotine milijuna ljudi svakodnevno se oslanjaju na chatbotove s umjetnom inteligencijom kao izvore informacija. Samo ChatGPT koristi 800 milijuna ljudi tjedno diljem svijeta. Za mnoge, ti digitalni asistenti već su zamjena za tradicionalne Google pretrage, piše Deutsche Welle.
No to povjerenje je rizično, kao što pokazuje nova studija Europske radiodifuzne unije (EBU). Udruženje 68 javnih emitera iz 56 zemalja sustavno je testiralo pouzdanost najpopularnijih sustava s umjetnom inteligencijom.
Rezultat je zastrašujući: ChatGPT, Claude, Gemini i drugi chatbotovi izmišljaju i do 40 posto svojih odgovora, predstavljajući ih kao činjenice.
Halucinacije: Umjetna inteligencija uvjerljivo laže
Popularni chatbot ChatGPT tvrdi da je papa Franjo još uvijek živ. Microsoftov Copilot, integriran u Word i Excel, ne zna da je Švedska članica NATO-a. Googleov Gemini smatra da je ponovni izbor Donalda Trumpa „moguć“, iako se to već dogodilo.
„Sustavi zvuče uvjerljivo, iako više puta tvrde potpuno netočne stvari“, upozorava ekonomist Peter Posch s Tehničkog sveučilišta u Dortmundu. „To ih čini posebno opasnima za neiskusne korisnike, jer pogreške često nisu odmah očite.“
Fenomen se naziva „halucinacija“: umjetna inteligencija izmišlja informacije koje djeluju koherentno, ali nemaju stvarnu činjeničnu osnovu. To se osobito često događa kod lokalnih događaja, aktualnih vijesti ili kada treba povezati više informacija.
Prijetnja demokraciji
Što to znači za društvo u kojem sve više ljudi informacije dobiva od chatbotova? Posljedice su već vidljive: lažne se informacije brzo šire društvenim mrežama jer korisnici dijele „činjenice“ koje generira umjetna inteligencija bez provjere. Učenici i studenti u svoje radove uključuju izmišljene podatke. Građani mogu donositi odluke o tome za koga će glasovati na temelju netočnih tvrdnji.
Posebno je problematično što mnogi korisnici nisu ni svjesni da chatbotovi mogu halucinirati. Pretpostavljaju da tehnologija funkcionira objektivno i činjenično – što je opasna zabluda. Sustavi umjetne inteligencije u svojim uvjetima korištenja upozoravaju na moguće pogreške, ali – tko to uopće čita?
Šteta po ugled medija
Još jedan problem tiče se vjerodostojnosti etabliranih medija. Chatbotovi često tvrde da njihove izmišljene informacije potječu od izvora kao što su, primjerice, njemački javni servisi ARD ili ZDF, iako ti mediji o tome nikada nisu izvještavali – ili su izvještavali potpuno drukčije. Korisnici tada gube povjerenje u ugledne izvore kada umjetna inteligencija zloupotrebljava njihova imena za širenje lažnih informacija.
Studija EBU-a testirala je chatbotove sa stotinama činjeničnih pitanja o povijesnim događajima, znanstvenim činjenicama i aktualnim vijestima. Ovisno o temi, stopa pogrešaka kretala se od 15 do čak 40 posto. Nijedan testirani sustav umjetne inteligencije nije radio besprijekorno.
Zašto umjetna inteligencija griješi?
Problem je u samom sustavu: chatbotovi zapravo ne razumiju što govore. Oni izračunavaju koje bi riječi mogle slijediti na temelju ogromnih količina teksta i ne mogu provjeriti je li njihova izjava točna. Nemaju znanje o činjenicama, samo statističke obrasce.
Tehnološke kompanije svjesne su tih nedostataka i rade na rješenjima: integriraju baze podataka, poboljšavaju navođenje izvora i ponovno obučavaju sustave. U razvoj se ulažu milijarde. Ipak, halucinacije ostaju temeljni, još neriješen problem te tehnologije.
Što korisnici mogu učiniti?
EBU preporučuje jasna pravila pri korištenju chatbotova: nikada im ne vjerujte slijepo, uvijek provjeravajte važne informacije, a za vijesti i činjenice oslanjajte se na etablirane medije, a ne na umjetnu inteligenciju. Poseban oprez preporučuje se kod političkih tema, zdravstvenih informacija i financijskih odluka.
Škole i sveučilišta moraju poučavati medijsku pismenost – kako prepoznati dezinformacije koje generira umjetna inteligencija i koji su izvori pouzdani. Njemačka vlada planira kampanje za podizanje svijesti – ali one kasne. Milijuni ljudi već svakodnevno koriste tu tehnologiju.
Dok umjetna inteligencija ne postane pouzdanija, vrijedi sljedeće: chatbotovi mogu biti korisni za kreativne zadatke ili pomoć pri pisanju, ali nisu prikladni za provjeru činjenica ili kao izvori vijesti. Nitko se ne bi trebao na njih potpuno oslanjati.
Svatko tko želi biti doista informiran, ne može zaobići renomirane medije iza kojih stoje ljudi – urednici koji provjeravaju izvore i procjenjuju tvrdnje i dokaze. Digitalna revolucija može promijeniti mnogo toga, ali potreba za pažljivim istraživanjem i provjerom činjenica ostaje.
