Google je predstavio rješenje za razvoj umjetne inteligencije koje bi u kontekstu AI-a moglo biti 'teško' onoliko koliko je bila važna objava kineskog modela DeepSeek. Dakle, riječ je o projektu bi se mogao nazvati prijelomnim, a po svemu sudeći izgleda da je tako. Prošli tjedan je na Googleovu kompanijskom blogu objavljeno kako je tvrtka koja je stvorila i dalje uvjerljivo najkorišteniju internetsku tražilicu razvila novi kompresijski algoritam koji smanjuje količinu memorije potrebnu za modele umjetne inteligencije. Ako taj algoritam i u korištenju pokaže performanse za koje u Googleu tvrde da ih ima, tada bi se mogla znatno smanjiti količina memorijskih jedinica potrebnih za potporu umjetnoj inteligenciji.
Jasno je da su praktički trenutačno jako pale vrijednosti vodećih svjetskih proizvođača memorije poput Microna i Sandiska, i to ne za male postotke. Naime, napori s ciljem usvajanja umjetne inteligencije potaknuli su potražnju za podatkovnim centrima, a tvornice proizvode poluvodiče za podršku AI-u najbrže što ih mogu proizvesti, no ni to najčešće nije dovoljno brzo. Memorijski čipovi, odnosno memorija velike propusnosti, imaju ključnu ulogu u obradi umjetne inteligencije, no unatoč povećanju proizvodnje, i dalje ih je premalo na tržištu pa su izuzetno skupi. Cijena memorijskog čipa HBM3E s 24 GB je viša od 1800 eura. Primjerice, NVIDIA Blackwell B200 arhitektura ima 192 GB memorijskog kapaciteta, pa nije čudo da je jedinična cijena tog naprednog NVIDIA-ina proizvoda i 40.000 eura.
Na kompanijskom blogu Google je objavio da su njegovi znanstvenici razvili algoritam za kompresiju memorije umjetne inteligencije, nazvan TurboQuant. – Predstavljamo skup naprednih, teoretski utemeljenih algoritama kvantizacije koji omogućuju masovnu kompresiju za velike jezične modele i vektorske tražilice, navode Googleovi znanstvenici referirajući se na znanstveni rad koji su na tu temu objavili. Tehnološku je zajednicu posebno zaintrigirala tvrdnja da integracija ovog novog algoritma smanjuje korištenje memorije najmanje šest puta i omogućuje do osam puta brže izvođenje – sve to bez gubitka točnosti, čime se redefinira učinkovitost umjetne inteligencije.
Drugim riječima, algoritam bi mogao smanjiti broj potrebnih memorijskih čipova čak za 83 posto. Dakle, navodno ova nova tehnika poboljšava učinkovitost zaključivanja smanjenjem korištenja memorije i premještanja podataka, Google navodi da može smanjiti memorijske zahtjeve za određene procese velikih jezičnih modela za barem šest puta. Da je doista riječ o Googleovu DeepSeeku, potvrdio je na X-u i direktor te suosnivač tvrtke Cloudflare Matthew Prince.
– Ovo je Googleov DeepSeek. Dobiva se toliko više prostora za optimizaciju brzine zaključivanja umjetne inteligencije, korištenja memorije i potrošnje energije, a njome će se moći služiti više korisnika, napisao je Prince. Inače je Cloudflare tvrtka koja, u osnovi, pruža usluge koje pomažu u zaštiti i ubrzavanju internetskih stranica, dakle ozbiljan entitet u današnjem svijetu tehnologije. Što se tiče stručnog dijela, preliminarni pregled novog algoritamskog procesa upućuje na to da neće na svu memoriju podjednako djelovati.
NAND flash memorija osjetit će najveći utjecaj, dok će DRAM i HBM uglavnom biti nepromijenjeni. To znači da su vijesti gore za Sandisk, jer gotovo svi prihodi tvrtke dolaze od NAND-a. No što se tiče ulagača koji su do sada jako dobro zarađivali kupujući dionice Microna ili Sandiska, koji je imao rast cijene dionice od nevjerojatnih 1100 posto posljednjih godinu dana, vijesti možda i nisu tako loše. Neki analitičari sugeriraju da će pad cijena memorije zapravo povećati potražnju.
Snižavanjem troškova memorije, a time i umjetne inteligencije, tvrtke će vjerojatno više usvajati AI, čime će se povećati korištenje memorije i njezina potražnja. Kao što je logično zaključiti da će padom cijene memorije za sustave umjetne inteligencije oni postati dostupniji. Googleovi stručnjaci predstavit će već ovaj mjesec svoje nalaze o algoritmu kao i dvije metode gdje se on može najefikasnije koristiti. Već sada gotovo svaki tekst o novom algoritmu ističe kako će pokretanje modela umjetne inteligencije ubuduće biti znatno jeftinije.