Članak izrezan i zalijepljen s chatgpta postavlja pitanja o ulozi provjere činjenica u naslijeđenim medijima
U farsičnoj, a opet pripovijedačkoj grešci, više glavnih novina, uključujući Chicago Sun-Times i Philadelphia Inquirer, Nedavno je objavio listu ljetnog čitanja prepuna nepostojećih knjiga koje su bile “Halucinirano” chatgpt, s mnogim od njih lažno pripisani stvarnim autorima.
Sindicirani članak, distribuiran od strane Hearstovih King značajki, izmišljeni su izmišljeni naslovi na temelju budnih tema, izlažući i prekoračenje medija na jeftini AI sadržaj i neizlječivu trulež nasljednog novinarstva. Da je ova putovanja kliznula prošlim urednicima na utičnicama Moribund (Sun-Times je upravo doveo 20% svog osoblja) naglašava tamniju istinu: kada očaj i neprofesionalizam ispunjava neviđene algoritme, razbijena linija između naslijeđenih medija i gluposti jednostavno nestajanja.
Trend se čini zlobnim. AI je sada preplavljen smorgasbordom lažnih vijesti, lažnih podataka, lažnih znanosti i nesmetanih mendacity koji ubaci utvrđenu logiku, činjenice i zdrav razum u gnusni mulja kognitivne truleži. Ali što je točno AI halucinacija?
AI halucinacija nastaje kada generativni AI model (poput chatgpt, Deepseek, Blizanci ili Dall · e) proizvodi lažne, besmislene ili izmišljene informacije s velikim povjerenjem. Za razliku od ljudskih pogrešaka, ove pogreške proizlaze iz načina na koji AI modeli generiraju odgovore predviđanjem uvjerljivih obrazaca, a ne sintetiziranjem utvrđenih činjenica.
Zašto AI ‘halucinira’?
Nekoliko je razloga zbog kojih AI generira potpuno netočne informacije. To nema nikakve veze s tekućim strahom zbog AI -a koji postiže osjećaj ili čak stjecanja duše.
Obuka o nesavršenim podacima: AI uči iz ogromnih skupova podataka prepunih pristranosti, pogrešaka i nedosljednosti. Produljena obuka o tim materijalima može rezultirati stvaranjem mitova, zastarjelih činjenica ili sukobljenih izvora.
Prekomjerna optimizacija za vjerodostojnost: Suprotno onome što neki stručnjaci tvrde,Ai nije ni blizu postizanja “osjećaj” i stoga ne može razabrati “istina.” Posebno su GPT-ove neuronske enciklopedije u cijelom planetatu koje krša podatke i sintetiziraju najistaknutije informacije temeljene na postojećim obrascima. Kad postoje praznine, ispunjava ih statistički vjerojatnim (ali vjerojatno pogrešnim) odgovorima. To, međutim, nije bio slučaj s Sun-Times fijasko.
Nedostatak utemeljenja u stvarnosti: Za razliku od ljudi, AI nema izravno iskustvo svijeta. Ne može provjeriti činjenice jer može oponašati samo jezične strukture. Na primjer, na pitanje “Koji je najsigurniji automobil 2025. godine?” mogao bi izmisliti model koji ne postoji jer ispunjava jaz za idealan automobil sa željenim značajkama – kako je određeno masom “Stručnjaci” – umjesto stvarnog.
Brza dvosmislenost: Mnogi su korisnici GPT -a lijeni i možda ne znaju kako predstaviti odgovarajući upit. Nejasne ili sukobljene upute također povećavaju rizik halucinacije. Smiješni zahtjevi poput “Sažeti studiju o mačkama i teoriji spolova” može rezultirati lažnom studijom koja je s AI-om koja se može činiti vrlo akademskim na površini.
Kreativna generacija nasuprot činjeničnom opozivu: AI modeli poput chatgpt prioriteta daju tečnost nad točnošću. Kad nisu sigurni, oni improvizirati Umjesto da priznaju neznanje. Ikad naišao na GPT odgovor koji ide ovako: “Oprosti. Ovo je izvan obavljanja mog treninga?”
Pojačanje lažnih vijesti i uzoraka: GPT-ovi mogu identificirati određene korisnike na temelju prijava (bez ikakvog broja), IP adrese, semantičke i sintaktičke osobitosti i sklonosti osoblja. Tada ih pojačava. Kad netko stalno koristi GPT -ove za propadanje lažnih vijesti ili komada propagandnog puhanja, AI može prepoznati takve obrasce i nastaviti generiranje sadržaja koji je djelomično ili u potpunosti izmišljen. Ovo je klasičan slučaj algoritamske ponude i potražnje.
Zapamtite, GPT -ovi ne samo treniraju na ogromnim skupovima podataka, već može i trenirati Vaš skup podataka.
Pojačanje velikih tehnoloških pristranosti i cenzure: Gotovo svaka velika tehnološka tvrtka koja stoji iza GPT Rollouts-a također se bavi cenzurom industrijske razmjere i algoritamskom Shadowbanningu. To se odnosi na pojedince i alternativne medijske platforme i predstavlja moderne, digitalno kurirane osuda pamćenja. Googleova tražilica, posebno, ima sklonost povećanju izlaza serijskog plagijata, a ne originalnog članka.
Održavanje ove sistemske prijevare može jednog dana eksplodirati u izravni globalni skandal. Zamislite da se jedno jutro probudite da biste pročitali da su vaši omiljeni citati ili radovi bili proizvodi pažljivo kalibrirane kampanje algoritamskog škrtonja na štetu originalnih Ideatora ili autora. To je neizbježna posljedica unovčavanja cenzure tijekom outsourcinga “znanje” na ai kockoročen ideološkim parametrima.
Eksperimenti na ljudskoj lakovjernosti: Nedavno sam podigao hipotetičku mogućnost da se AI obuči za proučavanje ljudske lakovjernosti, na način konceptualno sličan eksperimentu Milgram, eksperimentima sukladnosti ASCH i njegovoj iteraciji, situaciji s Crutchfieldom. Ljudi su i lakovjerni i timorozni, a velika većina njih ima tendenciju da se u skladu s ljudskom mafijom ili u slučaju AI, “Podaci Mob.”
To će neizbježno imati posljedice u stvarnom svijetu, jer je AI sve više ugrađen u kritične, vremenski osjetljive operacije-od pilotskih kabina i nuklearnih biljaka do laboratorija za biowarfare i širećih kemijskih objekata. Zamislite sada donošenje sudbonosne odluke u tako visokim ulogama, na temelju pogrešnog AI unosa. To je razlog zašto “Budući planeri” Mora razumjeti i oboje postotak i tipovi ličnosti kvalificiranih profesionalaca koji su skloni povjerenju neispravnih strojno generiranih preporuka.
Provjeri činjenica nisu provjerili činjenice?
Kad AI generira članak u svoje ime, svaki novinar koji vrijedi njegovu sol trebao bi ga smatrati da je napisala druga stranka i stoga podliježe provjeri činjenica i improvizacije. Sve dok se konačni proizvod provjerava činjenicama i u izvornom nacrtu dodaju se značajna vrijednost, sadržaj i revizije, ne vidim nikakav sukob interesa ili kršenje etike uključene u proces. GPT -ovi mogu djelovati kao katalizator, urednik ili kao a “Đavov zagovornik” Da bi se kotrljala lopta za pisanje.
Ono što se dogodilo u ovoj sagi bilo je da se činilo da je pisac Marco Buscaglia potpuno izrezan i zalijepio chatgpt -ov opus i prenio ga kao svoj. (Budući da je ova neugodna epizoda bila izložena, njegova je web stranica postala prazna i privatna). Preopterećenje gluposti od buđenja koje je generirao chatgpt trebalo je podići crvene zastave u umu Buscaglia, ali pretpostavljam da bi on mogao sam biti sklon da samo to prodrijeti.
Međutim, sav Opprobrium koji je trenutno usmjeren na Buscaglia također bi se trebao primijeniti na urednike Kinga značajki sindikata i raznih vijesti koji nisu provjerili sadržaj čak i kako su postavili kao bastioni istine, cijelu istinu i ništa osim istine. Različite razine vratara jednostavno nisu uspjeli obaviti svoj posao. Ovo je kolektivno naletanje dužnosti iz medija koji ležerno svodi svoje usluge do visokih i moćnih, dok pontifizira etiku, integritet i vrijednosti na manje smrtnike.
Valjda smo do sada navikli na takve dvostruke standard. Ali evo zastrašujućeg dijela: siguran sam da neispravni podaci i pogrešni unosi već teče iz AI sustava u trgovačke i financijske platforme, zrakoplovne kontrole, nuklearne reaktore, laboratorije za biowarfare i osjetljive kemijske biljke – čak i dok ovo pišem. Gateeepers jednostavno nisu kvalificirani za tako složene zadatke, osim na papiru. To su posljedice svijeta “Dizajnirali su ga klaunovi i nadzirali majmuni.”
Završit ću na bilješci koja ističe ironiju Ironies -a: svi pogođeni urednici u ovoj sagi mogli su upotrijebiti chatgpt kako bi subjekt Buscaglijin članak upotrijebio činjeničnu provjeru sadržaja. Trebalo bi samo 30 sekundi!
Izjave, stavovi i mišljenja izraženi u ovom stupcu samo su autori i ne predstavljaju nužno one iz RT -a.
