Google je izdao ozbiljno upozorenje za 1,8 milijardi korisnika Gmaila diljem svijeta, upozorivši na novi val kibernetičkih prijetnji koje je potaknuo nagli razvoj umjetne inteligencije.
Još početkom ljeta tehnološki div otkrio je sofisticirani oblik napada poznat kao “neizravno unošenje uputa” (indirect prompt injection), koji predstavlja ozbiljnu prijetnju ne samo pojedincima, već i tvrtkama te državnim institucijama.
U objavi na službenom blogu Google je pojasnio prirodu ovakvih napada. “S brzim usvajanjem generativne umjetne inteligencije pojavljuje se novi val prijetnji diljem industrije s ciljem manipuliranja samim AI sustavima. Jedan takav novi vektor napada je neizravno unošenje uputa”, navodi se u tekstu.
Svirepi napadači
Razlika u odnosu na klasične metode krije se u samom pristupu hakerima. “Za razliku od izravnog unošenja uputa, kada napadač izravno unosi zlonamjerne naredbe, neizravno unošenje uputa uključuje skrivene zlonamjerne upute unutar vanjskih izvora podataka.
To mogu biti e-poruke, dokumenti ili pozivnice za kalendar koje nalažu umjetnoj inteligenciji da izvuče korisničke podatke ili izvrši druge neovlaštene radnje”, pojašnjava Google.
Posljedice za korisnike mogle bi biti značajne. “Kako sve više vlada, tvrtki i pojedinaca koristi generativnu umjetnu inteligenciju, ovaj suptilan, ali potencijalno snažan napad postaje sve značajniji u cijeloj industriji te zahtijeva hitnu pozornost i robusne sigurnosne mjere”, zaključuju iz kompanije.
Političar šokirao prijetnjama: ‘Naše rakete već mogu pogoditi Europu, Amerika je sljedeća’
Koriste Gemini
Na opasnosti je upozorio i stručnjak za tehnologiju Scott Polderman, koji je za Daily Record objasnio kako hakeri iskorištavaju Googleov AI alat Gemini. “Dakle, hakeri su smislili način da iskoriste Gemini, Googleovu umjetnu inteligenciju, protiv njega samog”, izjavio je Polderman. “Hakeri šalju e-poruku sa skrivenom porukom Geminiju kako bi otkrio vaše lozinke a da vi to ne primijetite.”
Osim krađe podataka, napadači mogu dodatno manipulirati korisnicima. Gemini, upozorava Polderman, može prikazati lažno sigurnosno upozorenje – primjerice da su lozinka ili račun kompromitirani – i tako navesti korisnika da stupi u kontakt s hakerom.
