Slučaj prvi: Coral Hart. Riječ je o jednom od najpoznatijih primjera masovne proizvodnje knjiga generiranih umjetnom inteligencijom. Iza tog pseudonima krije se autorica iz Južnoafričke Republike koja je prošle godine pokrenula veliku polemiku nakon intervjua za The New York Times, tvrdeći da je uz pomoć AI alata proizvela više od 200 ljubavnih romana u jednoj godini.
Te je knjige, koristeći više od 20 pseudonima, prodala u više od 50 tisuća primjeraka i zaradila šesteroznamenkasti iznos, čitateljima ne otkrivajući da je knjige zapravo napisao stroj. Za svaki od naslova trebalo joj je (odnosno, stroju) točno 45 minuta.
Očekivano, uslijedila je burna reakcija autora ljubavnih romana, bijesnih jer algoritmi online trgovina često favoriziraju velik broj novih naslova pa stvarni pisci teže dolaze do vidljivosti, i premda je slučaj otvorio pitanje transparentnosti treba li AI knjige jasno označiti i jesu li čitatelji prevareni ako vjeruju da čitaju ljudskog autora, Coral Hart, tko god ona bila, nije optužena za kršenje zakona u klasičnom smislu.
AI kuharice s Amazona
Slučaj drugi: Maui Travel Guide. Nakon razornih požara na Havajima 2023. godine novinari su otkrili velik broj AI generiranih vodiča o otoku Maui, objavljenih na platformi Amazon. Neki su sadržavali izmišljene restorane i hotele, netočne informacije o sigurnosti i evakuacijama te zastarjele ili potpuno lažne preporuke. Jedan vodič, inače bestseler, čak je preporučivao područja koja su bila uništena požarom ili zatvorena za javnost, čime takve knjige mogu dovesti turiste u opasnost, a knjiga je implicirala da su požari bili planirani, čime je pridonijela dezinformacijama o klimatskim promjenama.
Slučaj treći: AI kuharice s potencijalno opasnim receptima. Objavljene također na platformi Amazon, te su kuharice nudile netočne temperature kuhanja, nesigurne metode konzerviranja hrane i pogrešne informacije o jestivim gljivama. Stručnjaci za sigurnost hrane upozorili su da loši savjeti o konzerviranju mogu dovesti do botulizma, ozbiljnog trovanja hranom, a posebno su kritizirane “mushroom foraging” knjige jer umjetna inteligencija često miješa jestive i otrovne vrste gljiva te kod takvih tema čak i mala pogreška može biti smrtonosna…
Slučajeva je, sada već, bezbroj, među njima su i brojne knjige napisane ili djelomično generirane umjetnom inteligencijom, o ADHD-u, autizmu i dijabetesu, koje iznose netočne medicinske tvrdnje, promoviraju pseudoznanost i pogrešno interpretiraju simptome bolesti, a neki od naslova nude i “prirodne lijekove” bez znanstvene potvrde ili pružaju savjete koji mogu odgoditi odlazak liječniku.
Zastrašujuće, zar ne? No budućnost je stigla, prepuna nelagode, bojazni i dvojbi. Kako korištenje alata umjetne inteligencije ulazi u mainstream, uz oduševljenje njezinom širokom primjenjivošću i funkcionalnošću, sve se više strahuje kamo nas može odvesti.
Prisutna je i, naravno i razumljivo, svojevrsna bojazan o izumiranju određenih profesija, snižavanju cijene rada i gubitku radnih mjesta. Iznimka nije ni kulturni sektor, uz dodatnu svijest da će umjetna inteligencija potkopati narav umjetnosti, autorstva i autorskog odnosno umjetničkog djela. Milijuni zaštićenih knjiga, članaka, eseja i poezije svojevrsna su hrana AI sustavima, a za te obroke nitko ne ispostavlja račun. Stoga, mnogi je vide kao koristan alat, ali istovremeno prepoznaju prijetnju kreativnom radu, pa i egzistenciji. I o tome odbijaju šutjeti.
Pisci protiv OpenAI-ja
U jesen 2023. godine skupina istaknutih književnika, uključujući Johna Grishama, Jonathana Franzena, Georgea Saundersa, Jodi Picoult, Georgea R. R. Martina i Elin Hilderbrand, upustila se u pravnu bitku protiv tvrtke OpenAI, tvrdeći kako je prekršila njihova autorska prava korištenjem njihovih knjiga za treniranje svog popularnog ChatGPT chatbota.
“Uspjeh i profitabilnost OpenAI-ja zasnovani su na masovnom kršenju autorskih prava bez ijedne riječi dopuštenja ili trunke naknade vlasnicima autorskih prava”, navode u tužbi protiv tvrtke koja je priznala da koristi materijal zaštićen autorskim pravima. Književnici također navode da je ChatGPT sposoban proizvesti sažetke knjiga koji uključuju pojedinosti koje nisu dostupne u recenzijama ili drugdje na internetu, što sugerira da je osnovni program učitavao knjige u cijelosti. No ni dvije godine kasnije pravomoćne sudske presude protiv tvrtke OpenAI još nema na vidiku.
Ozbiljan društveni problem osvijestili su i domaći pisci, naime, 27. siječnja prošle godine Upravni odbor Društva hrvatskih književnika donio je Deklaraciju o umjetnoj inteligenciji, koju nazivaju “strojem za citiranje i plagiranje”, i navode kako je opasnost posebno velika u području esejistike, pa i izvan književnosti, primjerice u znanosti i novinarstvu. Osim što nesporno obogaćuje pojedine sfere ljudskoga djelovanja, upozorili su, umjetna inteligencija za stvaralački duh čovjeka uvelike predstavlja i prijetnju.
“Društvo u kojemu prevoditelje, ilustratore i književnike tehnološki napredak tjera na marginu gubi mnogo više od same socijalne sigurnosti prevoditelja, ilustratora i književnika – ono gubi kulturnu elitu koja svakom društvu udiše smisao i smjer; koja svakoj zajednici daruje duh. Od filmske industrije, gdje zamjenjuje autore scenarija, preko slikarstva i ilustratorstva, gdje kreira djela nerazlučiva od onih kakve može stvoriti ruka likovnog majstora, pa sve do književnoga prevođenja gdje zasjenjuje minuciozan prevoditeljski rad, umjetna inteligencija pokreće mehanizam ugroze kreativnih industrija i umjetničkih poziva. U svijetu je već zabilježeno više slučajeva korištenja umjetne inteligencije u književnom stvaranju. Ono može biti zanimljivo kao stvaralački eksperiment, no pitanje koje se pritom postavlja glasi: hoće li umjetna inteligencija ugroziti književnu umjetnost?”, piše u tekstu Deklaracije.
Sugestija zakonodavcu
Potonje pitanje, i još pokoje, postavili smo književnom kritičaru, esejistu i publicistu Matiji Štahanu, ujedno i tajniku Društva hrvatskih književnika, koje je Deklaraciju iznjedrilo. Prema njegovu sudu, taj je dokument dobro predvidio mnoge fenomene koji su se u međuvremenu, godinu i pol kasnije, intenzivirali, jer je doista pisana riječ uvelike ugrožena pojavom umjetne inteligencije te se ona, kako u novinarstvu tako i u književnosti, pa i u drugim granama umjetnosti, uspješno zamjenjuje. No ukupni učinak je, prema njegovu sudu, porazan.
“Iako je ovo rješenje naizgled jeftinije, kao društvo ćemo ga, dugoročno, skuplje platiti. Jer, s jedne strane, riječ je o nerijetko nepouzdanim informacijama, s druge strane riječ je o metodi ugroze egzistencije mnogih ljudi koji čine intelektualnu klasu koji stvaraju književnost, publicistiku i novinarske tekstove, koji stvaraju ilustracije, koji prevode tekstove na hrvatski i s hrvatskog jezika te njihovim guranjem u zapećak. Mislim da slijedi guranje na marginu jedne društvene skupine umnika i umjetnika koji daruju duh zajednici, a tu je problem autorskih prava na koji također ukazujemo u Deklaraciji. Ako se neka visoka umjetnost nastoji stvoriti posredstvom AI-ja, to potire sam smisao umjetnosti jer umjetnost je neodvojiva od stvaralačke iskre ljudskoga duha, i ako je stvaran taj beživotni mehanizam AI-ja, onda ona nudi samo privid smisla, a ne i pravi smisao, čak i kada je kvalitetna, što predstavlja paradoks”, upozorava naš sugovornik, ujedno i jedan od autora spomenute deklaracije Društva hrvatskih književnika.
U tekstu stoji i sugestija zakonodavcu da, uz konzultacije s relevantnim književnim udrugama, u buduće regulacije umjetne inteligencije uvrsti i element odnosa AI-ja i umjetnosti, kako bi sankcionirao zloupotrebu AI-ja na štetu književnosti i umjetnosti, a u kojoj bi pravi autor – žrtva plagiranja ili onaj tko bi neki angažman dobio da njegov posao “besplatno” nije odradila umjetna inteligencija – bio oštećen. Je li zakonodavac, zanimalo nas je, osluhnuo apel hrvatskih književnika?
“Ne, do toga uopće nije došlo. Strukovne udruge nisu konzultirane, a čini mi se da je protekom vremena sve više vidljivo da za time postoji potreba, kao i za širokom stručnom raspravom o toj problematici. Istina, povećala se svijest u medijima i povećala se kod običnih ljudi, no ta tema još nije prepoznata u političkom segmentu”, kaže Matija Štahan, kojeg pitamo je li unaprijed izgubljena bitka, pa čak i rat, u tom srazu AI-ja i književnosti?
“U pravosudnom smislu čini mi se da jest i da se ništa neće promijeniti, jer je čak i za demokratske države s visokim stupnjem neovisnosti pravosuđa kontraproduktivno udarati na vlastite tehnološke gigante koji velikim koracima grabe u budućnost obogaćujući, među ostalim, i nacionalnu ekonomiju”, govori Matija Štahan.
Ne krije bojazan da će AI uvelike preuzeti stvaranje određenih jeftinih žanrovskih književnih i inih oblika, dok će s druge strane ostati donekle getoizirane, ali ujedno i kao kulturne i društvene oaze, neke skupine ljudi koji će kao pravi posvećenici i dalje stvarati umjetnost koja je plod ljudskoga duha. Stoga, zadržava iskru optimizma.
“Mnogi povlače paralele i tvrde da je došao radio, pa nije uništio književnost. Došao je film, nije uništio književnost. Došla je televizija, nije uništila književnost. Došao je internet, nije uništio književnost. Ali čini mi se da taj argument ne vrijedi za pojavu AI-ja jer to nije nešto što izvana predstavlja udar na društveni utjecaj književnosti nego nešto što je iznutra zapravo preuzima i prisvaja. Ipak, želim vjerovati da će, nastave li se sadašnje tendencije, ishod podrazumijevati i dovesti do neke vrste uskrsnuća autora, odnosno da će pojava AI-ja zapravo omogućiti odvajanje žita od kukolja i pripomoći ljudima prepoznati stvarnu autorsku veličinu onih koji mogu stvarati vrhunsku umjetnost, na staromodan, jedini pravi način, a ne posredstvom umjetne inteligencije”, zaključuje Štahan.
Istodobno, zadarski književnik Želimir Periš, naš uvjerljivo najbolji računalni inženjer među piscima i daleko najbolji pisac među računalnim inženjerima, dobitnik nagrade za roman “Mladenka Kostonoga”, studente podučava kako spajati književnost, kodiranje i umjetnu inteligenciju te ih poziva da – pišu, istražuju i zarađuju uz umjetnu inteligenciju.
“Strukovne udruge i mnoge druge inicijative osudile su i upozorile na probleme zloupotrebe umjetne inteligencije, i to je važno i nužno. Umjetna inteligencija je alat koji se tek pojavio i još je uvelike nereguliran, pa kao takav omogućuje mnoge načine zloupotrebe. Vjerujem da će uskoro ti isti alati u sebi imati kvalitetne filtre koji onemogućuju zloupotrebe, plagiranje i druga zla; no u ovom trenutku to još nije slučaj, i to treba osvijestiti i razumjeti. No to je samo jedan od problema ovog alata. Velika prijetnja kreativnom radu nije rečenica koju će napisati robot, nego poplava generičkog sadržaja koja već preplavljuje prostore komunikacije.
AI bljuzga zatrpava portale, mailove, društvene mreže, televiziju, pa i akademske radove, i u toj plimi se trenutačno jedva vidi autentični ljudski glas. Problemi su i u vlasništvima i modelima monetizacije AI-ja, etičkim dimenzijama korištenja ovih alata. Najveća prijetnja nije jačanje umjetne inteligencije, već slabljenje stvarne inteligencije. Kognitivna atrofija stvarna je prijetnja. Mišići koje ne koristimo slabe, a već se primjećuju kognitivne atrofije u procesima kad smo sve svoje misaone zadatke povjerili stroju. Umjesto da razmislim i problem riješim sam, problem mi je riješila umjetna inteligencija da nisam morao razmišljati. Nakon nekog vremena, problem više neću ni moći riješiti sam”, ističe Želimir Periš.
Ističe kako AI, kada je riječ o književnosti, donosi i određene benefite. “Panika oko AI-ja nekad zaklanja što on stvarno jest – izuzetno učinkovit, kvalitetan i dostupan alat i ne koristiti ga je gubitak. Kad razmišljam o pisanju, u mojoj viziji situacije, ovo je naprosto iduća stepenica u nizu sve sofisticiranijih alata koji su stvoreni za pomoć ljudima koji pišu. Počeli smo s ugljenom na stijeni, pa gusjim perom i mastilom, olovkom, kemijskom olovkom, pisaćom mašinom, računalom i sada imamo umjetnu inteligenciju. Ne mislim da je umjetna inteligencija pisac, ali je sjajan pomoćnik piscu i procesu pisanja te posljedično diže razinu kvalitete rada.
To je alat koji nam omogućuje u kratkom vremenu kreirati i testirati ideje za koje su nekad trebali mjeseci rada. To je alat koji može vrlo kritički analizirati i promišljati vaše ideje, dati vam smjernice i savjete. Prije dvije godine napisao sam: “Danas je UI odličan lektor, vrlo dobar prevoditelj, osrednji urednik, vrlo ograničen ilustrator i loš pisac.” Ti alati svakodnevno napreduju pa je umjetna inteligencija danas vrhunski lektor, prevoditelj i urednik, dobar ilustrator i neloš pisac. Ipak, daleko od toga da itko želi čitati neloše knjige ili gledati korektne ilustracije. U kreativnoj industriji postoji val gađenja prema rezultatima AI rada. S potpunim pravom, izuzetno je naporno bakćati se s tekstom koji nije pisao čovjek”, kaže Želimir Periš.
Ima i benefita
Pitamo ga i hoće li, kako zloguki proroci najavljuju, umjetna inteligencija naposljetku progutati književnost i je li taj proces nezaustavljiv?
“Umjetna inteligencija će progutati svašta, ali neće umjetnost. Umjetnost je komunikacija između ljudi, i ta je komunikacija sve potrebnija u svijetu koji se ubrzano zatrpava sadržajima bez značenja. Književnost je grana umjetnosti koja se mnogo puta pronašla pred strminom koja joj je oduzela publiku: prvo radio, zatim televizija, pa internet. No književnost i dalje postoji i važnija je nego ikad. U posljednjim desetljećima knjige su izgubile dio publike, ali nisu izgubile važnost, jer poruke i iskustvo koje prenose nisu šablonizirani ni trivijalni. Svijet se mijenja. Bez sumnje, promijenit će se i književnost, ali onaj sukus književnosti koji čitatelju daje ono što stroj ne može, uvid u um drugoga čovjeka, ostat će ne samo živ nego upravo zato i sve traženiji”, zaključio je Periš.
Naposljetku, preostalo je za mišljenje pitati i ključni subjekt ove priče i, kako se čini, neizbježnog sugovornika. “Što ti, umjetna inteligencijo, misliš o umjetnoj inteligenciji?”, glasi pitanje koje smo postavili popularnom ChatGPT-ju.
“Nemam osobna mišljenja ni osjećaje, ali mogu dati uravnotežen pogled”, odgovara, pa samokritički dodaje: “Modeli poput mene ne razumiju svijet kao čovjek – mi statistički predviđamo tekst na temelju ogromne količine podataka. Zato umjetna inteligecnija može zvučati uvjerljivo, ali i pogriješiti, izmisliti činjenice ili dati potpuno netočan odgovor samouvjerenim tonom. Vjerojatno će najveće pitanje sljedećih godina biti: kako koristiti umjetnu inteligenciju kao alat koji pojačava ljudske sposobnosti, a ne kao zamjenu za ljudsko prosuđivanje”, reče stroj, pa poentira: “Korištenje umjetne inteligencije u književnosti vjerojatno neće uništiti književnost – ali je već mijenja. I to dosta brzo”.
