Stotine razgovora korisnika s Claudeom, popularnim chatbotom za umjetnu inteligenciju tvrtke Anthropic, postale su javno dostupne na internetu. Poveznice na razgovore, od kojih su neki sadržavali osjetljive i poslovne informacije, pojavljivale su se u rezultatima pretraživanja kada bi se Google pretraga bila ograničena na određenu domenu, javlja BBC.
Analiza je pokazala da su razgovori koje su korisnici podijelili putem opcije ‘Podijeli’ bili indeksirani u tražilicama poput Googlea, čime su postali dostupni široj javnosti. Preko vikenda, mogućnost pronalaska tih razgovora je uklonjena, no do tada je velik broj zapisa već bio podijeljen na internetu. Incident ponovno otvara pitanje jesu li hrvatske tvrtke dovoljno pripremljene za sigurno korištenje generativne umjetne inteligencije.
Podijeliti link
“Dijeljenje svojih razgovora s AI chatbotovima je nešto što i ja ljude učim na radionicama kao opcija na koju moraju obratiti više pažnje. U trenutku kad s nekim podijelite link na razgovor, on je javan dok ne uđete na postavke i ne obrišete ga. Često ljudima pokažem što treba kliknuti da bi obrisali poslani link. Više nego pitanje AI kompanije, tu je riječ o neinformiranost korisnika, nažalost”, rekla je Kristina Rabar Lukež, stručnjakinja za umjetnu inteligenciju (AI).
Stručnjakinja savjetuje da korisnici u javne AI alate ne bi trebali unositi osobne podatke ni povjerljive informacije drugih osoba. “Ono što ne želite da netko objavi ili podijeli o vama, nemojte ni vi uploadati o nekome drugome”, kazala je Rabar Lukež.
Problem neopreznosti zaposlenika prisutan je u našoj zemlji, jednako kao i u cijelom svijetu. Lani je tijekom konferencije ‘Smart Industry’ Poslovnog dnevnika iznesen podatak kako oko 50 posto poslovnih ljudi nema plan za incidente na polju kibernetičke sigurnosti. U Hrvatskoj građani i zaposlenici masovno koriste AI alate, dok organizacije, sustavi i strategije zaostaju, navodi se u zaključcima Valicon Reporta “Generative AI in Croatia 2025 – From Mass Adoption to Missing Capability’ nastalog u suradnji istraživačke kuće Valicon i savjetodavne tvrtke FutureHR.
Rizik postoji
Momčilović kaže da je upoznat s više slučajeva u kojima su zaposlenici u AI unosili interne dokumente i nacrte ugovora, ali da zasad u Hrvatskoj nije zabilježen javno poznat incident s ozbiljnim posljedicama.
“To ne znači da rizik ne postoji. Upravo suprotno. Većina organizacija danas još uvijek nema dobru evidenciju koliko zaposlenici koriste generativni AI niti koje podatke pritom dijele. Zbog toga je puno važnije razviti kulturu odgovornog korištenja umjetne inteligencije nego čekati prvi veliki incident koji će problem učiniti vidljivim”, rekao je Aco Momčilović, vlasnik tvrtke FutureHR i dodao: “Također, primjećujem i zanimljiv efekt da ljudi dosta često precjenjuju važnost svojih individualnih razgovora s AI-jem, i imaju krivu predodžbu kako se podaci iz njih mogu koristiti ili koriste u procesu treniranja modela.”
Podaci tog istraživanja otkrili su kako u Hrvatskoj samo 13 posto organizacija ima formalnu AI strategiju, a tek 17 posto ulaže u sustavnu edukaciju zaposlenika. Prema ocjeni Momčilovića, najveći problem nije tehnologija nego ljudi i organizacije. Iz istraživanja jasno je da se generativna umjetna inteligencija u Hrvatskoj koristi sve više, ali i dalje postoji velik prostor za napredak.
“Razina AI pismenosti i dalje relativno niska. Mnogi zaposlenici znaju koristiti ChatGPT ili slične alate, ali ne razumiju dovoljno kako oni obrađuju podatke, koje su razlike između besplatnih i enterprise verzija te kada je sigurno dijeliti informacije. Najčešći sigurnosni propust zato nije hakerski napad, nego činjenica da zaposlenici iz praktičnih razloga u AI alate kopiraju interne dokumente, nacrte ugovora, poslovne analize ili podatke o klijentima, često bez jasne procjene rizika. To se uglavnom ne događa iz nemara, nego zato što organizacije nisu postavile jasna pravila i zaposlenike nisu educirale što smiju, a što ne smiju unositi u takve sustave, niti imaju neki plan i strategiju uvođenja AI-ja. Potpuno isto vrijedi i za državu i državne institucije u kojima je stanje vjerojatno još lošije”, izjavio je Momčilović.
U najnovijem incidentu s Claudeom primjerice javno dostupan je postao razgovor u kojem je korisnik zatražio da mu se izradi nacrt neobjavljenog bloga o sigurnosti u oblaku, a da je pritom uključio detalje korporativnog projekta. Uz to, otkriveno je da su neki korisnici tražili pomoć AI-ja pri izradi životopisa, čime su otkrili svoja imena, kontaktne podatke i povijest zaposlenja.
Čelnik FutureHR napomenuo je kako je AI danas pitanje upravljanja rizicima i poslovne zrelosti. Stoga nedostatak jasnih pravila može itekako postati konkurentski nedostatak za kompaniju.
“Tvrtke koje nemaju definirana pravila često završavaju u jednoj od dvije krajnosti. Ili zaposlenici koriste AI potpuno nekontrolirano, ili ga menadžment iz straha pokušava potpuno zabraniti. Nijedan pristup nije održiv”, upozorio je Momčilović.
