ASlike i videozapisi koje sam generirao nakon uhićenja venezuelanskog predsjednika Nicolasa Madura preplavili su društvene mreže, dobivajući milijune pregleda jer stručnjaci upozoravaju da vizualni znakovi više nisu pouzdani pokazatelji za umjetnu inteligenciju.
Nekoliko sati nakon što je Donald Trump objavio da je Maduro uhićen, slike uhićenja koje je generirala umjetna inteligencija i zastarjele snimke za koje se tvrdilo da prikazuju vojnu operaciju u Caracasu široko su se dijelile na društvenim mrežama.
Elon Musk ponovno je objavio snimku koju je generirala umjetna inteligencija Venezuelanaca kako plaču na koljenima, zahvaljujući Trumpu i SAD-u što su ih oslobodili od Nicolasa Madura. Snimka, koju je izvorno objavio račun na X-u pod nazivom Wall Street Apes, pogledana je 5,7 milijuna puta na platformi.
Istraživanje Shayana Sardarizadeha, višeg novinara za BBC Verify, otkrilo je da je video izvorno postavljen na TikTok od strane naloga pod nazivom Curious Mind, koji redovito dijeli videozapise generirane umjetnom inteligencijom. Napomena zajednice ispod ponovno objavljenog videa opisala ga je kao “proizvedenu umjetnom inteligencijom i trenutno se predstavlja kao činjenična izjava s namjerom da obmane ljude.”
U videu se može uočiti više grešaka, od netočnih uzoraka zastavica i predmeta koji nestaju, do nedostatka zuba. Videozapis je u međuvremenu uklonjen na TikTok-u, ali ostaje na X-u.
Musk je nastavio s dijeljenjem višestrukih videozapisa “AI slop”, uključujući jedan deepfake Madura kako pleše breakdance s predsjednikom Trumpom i drugi venezuelanskog predsjednika u zatvoru sa Seanom ‘Diddyjem’ Combsom.
Iako nije odgovorio na tvrdnje na društvenim mrežama da je video na kojem Venezuelanci plaču lažan, od tada je ponovno objavio sadržaj koji jamči za X-ovu točnost.
Vince Lago, gradonačelnik Coral Gablesa na Floridi, bio je jedan od mnogih koji su na Instagramu ponovno objavili hiperrealističnu fotografiju generiranu umjetnom inteligencijom na kojoj Madura izvode iz aviona američki agenti za provođenje zakona.
Analiza Googleovog alata za otkrivanje SynthID otkrila je nevidljivi vodeni žig na sadržaju koji dokazuje da je generiran ili uređen pomoću AI softvera. Prema Google Geminiju, ovaj vodeni žig je “neprimjetan ljudskom oku, ali ga softver može otkriti”.
Kao dio svoje objave koristeći lažnu sliku na društvenim mrežama, političar je izjavio: “S uhićenjem Nicolasa Madura ranije danas, Amerika je sigurnija, a Venezuela korak bliže slobodi.
“Predsjednik Trump i državni tajnik Marco Rubio bili su jasni od samog početka: Maduro nije predsjednik Venezuele, on je vođa narko-terorističke organizacije koja prijeti našoj zemlji. Bog blagoslovio naše muškarce i žene u uniformama i neka Bog nastavi blagoslivljati našu veliku zemlju.”
Tvorac sada virusne fotografije Madura koju je generirala umjetna inteligencija kasnije se javio kao španjolski X korisnik s manje od 100 pratitelja. Samoproglašeni ‘entuzijast AI video umjetnosti’, koji se zove Ian Weber, rekao je za AFP da nikada nije očekivao da će to postati toliko široko dijeljeno.
Napravio je lažnjak s Google Gemini Nano Banana Pro kako bi ga objavio unutar 20 minuta nakon Trumpove najave operacije na Truth Socialu, navodi AFP.
Još jedna fotografija koju je generirala umjetna inteligencija prikazuje vojnika koji pozira pored Madura, koji ima crnu kapuljaču na glavi, prema izvješću NewsGuarda u kojem se navode izmišljene fotografije i videozapisi izvan konteksta povezani s vojnom operacijom u Venezueli.
NewsGuard, koji pruža usluge poput praćenja dezinformacija, rekao je da je sedam obmanjujućih fotografija i videa koje je identificirao sada prikupilo više od 14 milijuna pregleda samo na X-u.
Benjamin Dubow, suradnik za demokratsku otpornost pri Centru za analizu europske politike (CEPA), objasnio je za The Independent da je sadržaj generiran umjetnom inteligencijom nastao dok su korisnici društvenih medija pokušavali popuniti informacijsku prazninu u satima nakon što je najavljeno hvatanje Madura.
“S hvatanjem Madura, imate jednu od najvećih, najšokantnijih vijesti u proteklih nekoliko godina, a posebno u subotu ujutro po američkom vremenu, nekoliko sati nakon što se događaj dogodio, gotovo da nema vijesti jer postoji samo puno neizvjesnosti.
“Imate tiskovnu konferenciju u 11 sati po istočnom vremenu, ali imate vijesti koje su već objavljene prije toga o događaju i imate puno zahtjeva za razumijevanjem onoga što se događa i što se događa.
“Općenito je bilo mnogo ljudi na društvenim mrežama koji su bili više nego sretni što su uskočili da popune tu prazninu”, dodao je. “Ono što je zanimljivo u vezi onoga što je Musk podijelio, što je podijelio gradonačelnik Coral Gablea… Bile su lažne, ali zapravo nisu prenosile ništa drugačije od onoga što se dogodilo.”
Dodao je da je osnovna medijska pismenost i dalje važna usprkos golemoj količini sadržaja i dezinformacija na internetu.
“Najbolja praksa je čekanje dok se ne pojave stvarni pouzdani izvori, potvrđivanje izvora, osiguravanje da su vjerodostojni, pouzdani i ažurni”, rekao je. “Osnovna medijska pismenost kakva je postojala prije 20 godina još uvijek je na snazi. To je puno veći izazov jer je količina sadržaja stotinama ili tisućama puta veća nego što je bila tada.
“Stvarno je velika stvar to što biste trebali biti najsumnjičaviji prema sadržaju s kojim se najviše slažete, što je vrlo teško i kontraintuitivno za učiniti, ali stvari s kojima se slažete, stvari koje imaju najviše smisla, to je najlakši način da vas prevare da povjerujete u nešto što nije istina”, dodao je.
“Nikada nećete povjerovati u nešto što drugu stranu čini dobrom, tako da dezinformacije druge strane zaista neće utjecati na vas.”
Sofia Rubinson, viša urednica NewsGuardovog Reality Checka, rekla je The Independent: “Kako se slike i videozapisi generirani umjetnom inteligencijom poboljšavaju do točke u kojoj vizualni znakovi više nisu pouzdani, važnije je nego ikada pristupiti sadržaju na društvenim platformama sa skepticizmom, čak i kada ga dijele istaknuti ili provjereni računi.
“U situacijama kao što je Venezuela, gdje vjerodostojnim novinskim organizacijama možda nedostaje trenutni pristup ili vizualni prikazi, sadržaj generiran umjetnom inteligencijom i manipulirani mediji mogu brzo popuniti informacijsku prazninu. Te slike možda neće uvijek izravno izmisliti događaje, ali mogu krivo prikazati kontekst, vrijeme ili razmjer. Naša sposobnost da vjerujemo onome što vidimo na društvenim medijima ubrzano opada.”
Kao i mediji koje je generirala umjetna inteligencija, reciklirane su stare snimke prethodnih incidenata u Venezueli, što je izazvalo dodatnu zabunu. Čak je i predsjednik Trump podijelio snimke koje navodno pokazuju gomile Venezuelanaca koji “slave” nedavno zarobljavanje predsjednika Madura od strane američke vojske.
Objava na Truth Socialu pokazala je ogromnu gomilu ljudi okupljenu u Caracasu. U naslovu stoji: “Milijuni Venezuelanaca slave vijest o padu Madurovog režima.”
Obrnuta pretraga isječka pokazala je da je snimka zapravo bila s prosvjeda u Caracasu nakon Madurove sporne predsjedničke pobjede u srpnju 2024.
Isti video ponovno je objavio desničarski utjecaj i teoretičar zavjere Alex Jones na X, koji je svojoj publici od 4,4 milijuna sljedbenika rekao da se radi o proslavi “svrgavanja komunističkog diktatora Nicolasa Madura”. Pregledan je 2,2 milijuna puta.
The Independent je kontaktirao X i Metu za komentar.
