HBF: SK hynix și SanDisk lansează standardul High Bandwidth Flash pentru a reduce blocajele AI

SK hynix și SanDisk au prezentat un nou standard numit High Bandwidth Flash, creat pentru a sprijini performanța AI fără a înlocui pe loc soluțiile existente. Acesta se află într-o zonă de tranziție între memoria de tip HBM și SSD-urile de firmă, cu scopul de a minimiza blocajele atunci când modelele AI mari au nevoie de date rapid.

Ideea este să folosească mai multe foi de memorii intercalate, ca la HBM, însă în loc de DRAM se folosesc procesoare de NAND flash. Astfel, HBF poate oferi o capacitate mai mare, menținând în același timp un nivel de viteză care ajută sarcinile de inferență AI. Nu se urmărește înlocuirea HBM în întregime, ci completarea lui pentru a gestiona mai bine volumele mari de date.

Conform specificațiilor, HBF poate ajunge la până la 512 GB într-o singură configurație, cu lățime de bandă de la 0, 4 TB/s până la 3 TB/s. Aceasta înseamnă că, pentru modele foarte mari, datele pot fi stocate în HBF pentru acces rapid, în timp ce partea activă de calcul poate rămâne în HBM. Ideea este să se echilibreze costul și performanța, oferind o opțiune flexibilă pentru centrele care rulează modele AI complexe.

Standardul HBF este conceput să funcționeze cu UCIe, adică să permită conectarea la diverse procesoare sau plăci grafice. Aceasta poate adăuga un strat de flexibilitate, în așa fel încât producătorii să combine componente diferite într-o arhitectură comună. În acest fel, companiile pot alege soluțiile care se potrivesc mai bine nevoilor lor, fără a rescrie tot sistemul de memorare.

În timp ce SK hynix și SanDisk pregătesc drumul pentru adoptarea HBF, alți jucători mari din industrie avansează cu propriile soluții. De exemplu, Samsung colaborează cu NVIDIA pe soluții CMX pentru a sprijini cerințele de stocare ultra-rapide ale serverelor AI. Pe măsură ce noile standarde apar, este posibil să vedem o cursă pentru a-și demonstra capacitățile, cu impactul principal fiind pentru performanța de inferență a AI-ului. În lunile următoare ne vom da seama care standard prinde mai mult teren, în funcție de costuri, compatibilitate și cerințe tehnologice ale clienților.