Söz konusu modüller, tek bir pakette 512 GB kapasite sunmak için verileri güç olmadan saklayabilen bir kalıcı bellek türü olan özelleştirilmiş 3D NAND katmanlarını kullanıyor.
Bu standart, geleneksel depolama ile maliyetli High Bandwidth Memory (HBM) arasında bir köprü kurduğu için yapay zeka altyapısının geleceği açısından kritik bir önem taşıyor.
Mevcut HBM çözümleri gelişmiş yapay zeka çiplerine güç sağlasa da kapasite sınırlarıyla karşılaşıyor.
HBF ise eğitilmiş modellerin yeni bilgileri işlediği yapay zeka çıkarımı (inference) aşaması için gerekli olan devasa verilerin işlemciye çok daha yakın bir konumda depolanmasına imkan tanıyor.
Yaklaşan HBM4 mimarisinin sekiz katına kadar kapasite sunan bu teknoloji, veri merkezlerinin büyük ölçekli yapay zeka modellerini daha verimli bir şekilde yürütmesine olanak sağlayabilir.
Geniş bir uyumluluk yelpazesi hedefleyen HBF, farklı bileşenlerin tek bir çip paketi içinde sorunsuz çalışmasını sağlayan endüstriyel bir protokol olan Universal Chiplet Interconnect Express (UCIe) standardını benimsiyor.
Teknik özelliklerin kamuya açılmasına rağmen, teknolojinin başarısı sektör genelinde ne kadar kabul göreceğine bağlı görünüyor.
Google ve Tenstorrent gibi şirketler projeye ilgi gösterirken, teknolojinin yaygınlaşması diğer büyük donanım üreticilerinin bu yeni arayüzü kendi gelecek planlarına dahil edip etmeyeceğine göre şekillenecek.