Novi podaci pokazuju zapanjujuću neučinkovitost u korištenju infrastrukture za umjetnu inteligenciju. Dok se tvrtke utrkuju u nabavi skupih i teško dostupnih čipova, velik dio te računalne snage ostaje potpuno neiskorišten, stvarajući goleme troškove, piše Business Insider.
Najnoviji podaci o korištenju računalstva u oblaku otkrivaju zabrinjavajući trend: kompanije ulažu milijarde dolara u AI infrastrukturu, no velik dio kapaciteta stoji prazan. Prema izvješću tvrtke Cast AI, specijalizirane za automatiziranu optimizaciju troškova u oblaku, organizacije u prosjeku osiguravaju oko 20 puta više kapaciteta grafičkih procesora nego što ih stvarno koriste u bilo kojem trenutku.
Tvrtka među klijentima ima velike sustave poput BMW-a i Cisca, a analiza se temelji na podacima s 23.000 klastera u tisućama kompanija.
GPU-ovi rade tek pet posto vremena
Izvješće pokazuje da je prosječna iskorištenost grafičkih procesora (GPU) u poslovnim poslužiteljima tek pet posto. To znači da čak 95 posto zakupljenog kapaciteta jednostavno stoji neiskorišteno.
Slična je situacija i s klasičnim procesorima (CPU), čija se iskorištenost kreće oko osam posto ukupnog kapaciteta.
Takvi podaci dolaze u trenutku kada se GPU-ovi smatraju ključnim resursom za razvoj umjetne inteligencije, treniranje modela, obradu videa i složene simulacije.
Skupa neaktivnost
Problem nije samo u slaboj iskorištenosti, nego i u cijeni. Neaktivni CPU može stvarati gubitak od tek nekoliko centi po satu, no neiskorišteni GPU stvara gubitak od nekoliko dolara svakoga sata.
Kako su grafički procesori i do 50 puta skuplji od usporedivih sustava temeljenih na CPU-u, financijski gubici vrlo brzo rastu.
Posebno su traženi napredni modeli poput Nvidijinih Blackwell čipova, čije cijene rastu jer potražnja i dalje znatno nadmašuje ponudu.
Kupuje se iz straha, a ne iz potrebe
Direktor Cast AI-ja Laurent Gil izjavio je za Business Insider da osjećaj hitnosti i strah od propuštanja prilike igraju veliku ulogu u ovakvom ponašanju tvrtki.
Globalni tehnološki divovi tijekom 2026. planiraju uložiti više od 650 milijardi dolara u umjetnu inteligenciju, no često bez jasne strategije kako će te resurse doista koristiti.
Za razliku od klasičnog oblaka, gdje se kapaciteti mogu brzo uključivati i gasiti prema potrebi, GPU-ovi se zbog nestašice često unajmljuju kroz dugoročne ugovore.
To potiče prekomjernu kupnju. „Sama kupnja nema veze s time trebate li ih ili ne. Ne kupujete ih zato što su vam potrebni, nego zato što su bili dostupni“, rekao je Gil.
Investitori traže rezultate
Ovakva potrošnja događa se u trenutku kada ulagači sve više traže konkretan povrat ulaganja. Više studija, uključujući i onu MIT-a, pokazalo je da čak 95 posto ranih korporativnih AI inicijativa nije donijelo očekivani povrat.
Glavna prepreka široj i učinkovitijoj primjeni umjetne inteligencije nije nepovjerenje u tehnologiju, nego manjak znanja i stručnjaka. To je kao ključni problem navelo čak 71 posto tvrtki.
Drugim riječima, kompanije kupuju skupu opremu, ali često nemaju dovoljno ljudi koji je znaju kvalitetno iskoristiti.
Novi problem: AI otpad
Dok milijarde odlaze na hardver, mnoga poduzeća istodobno se suočavaju s novim fenomenom koji stručnjaci nazivaju „radni otpad“.
Riječ je o sadržaju niske kvalitete koji generira umjetna inteligencija, a koji zaposlenici potom moraju ručno ispravljati, uređivati ili ponovno izrađivati. Time se gubi vrijeme i dodatno smanjuje stvarna korist od ulaganja.
Zdrava iskorištenost trebala bi biti deset puta veća
Prema procjeni Cast AI-ja, zdrava i optimalna stopa iskorištenosti GPU kapaciteta trebala bi iznositi oko 50 posto, što je deset puta više od sadašnjeg prosjeka.
Laurent Gil zato savjetuje tehnološkim direktorima da prije novih narudžbi prvo provjere što već imaju na raspolaganju.
„Želim da direktori pitaju svoje timove: Već imamo nekoliko tisuća grafičkih procesora. Kako ih koristimo?“ rekao je Gil.
Dodaje da iskorištenost od pet posto znači da tvrtke često već sada imaju 20 puta više kapaciteta nego što misle, samo ga ne koriste učinkovito.
Fokus se seli s gomilanja na učinkovitost
Kako tržište umjetne inteligencije sazrijeva, fokus se postupno premješta s pukog gomilanja hardvera na traženje stvarne vrijednosti i boljeg korištenja postojećih resursa.
Za mnoge kompanije najveći izazov više nije kupnja novih čipova, nego pametnije upravljanje onime što već posjeduju.
