Werbung
Bereits im vergangenen Jahr stellte SanDisk den High Bandwidth Flash (HBF) als Alternative zum im KI-Bereich allgegenwärtigen HBM vor. Nun haben SK Hynix und SanDisk verkündet, HBF gemeinsam mit dem Open Compute Project (OCP) zu einem Standard zu machen, der für KI-Beschleuniger und schnelle SSDs genutzt werden soll.
Der große Vorteil von HBF: Ein einzelner Chip soll mit 16 Stacks auf eine Kapazität von 512 GB kommen. Aktueller HBM3E kommt auf gerade einmal 24 GB, bald sollen auch 48 GB möglich sein. HBM4 erreicht 36 bis 64 GB an Kapazität und verwendet dazu bis zu 16 Stacks. HBF soll 8- bis 16-mal so viel Kapazität bei ähnlichen Kosten ermöglichen – bezogen auf HBM3E.
Auch bei der Anbindung soll es keinerlei Einschränkungen geben, denn HBF wird über ein 1.024 Bit breites Speicherinterface angebunden – identisch zu HBM. Denkbar wäre sogar eine Kombination beider Speichertechnologien. Voraussetzung dafür ist jedoch, dass die PHYs, also die physikalischen Schnittstellen des Speichers, für den Einsatz von HBF ausgelegt sind. Ein einfacher Austausch ohne Anpassungen ist daher nicht möglich.
Während bei den aktuellen Blackwell- und Instinct-Beschleunigern Speichergrößen von 288 HBM3E bzw. 432 GB HBM4 zum Einsatz kommen, könnten beim Einsatz von HBF bis zu 4.096 GB realisiert werden. Damit könnten auch die größten KI-Modelle in den Speicher geladen werden, ohne das mehrere GPUs zusammengeschaltet werden müssen.
Anders als HBM verwendet HBF keinen DRAM, sondern Flash-Speicher. Dieser hat technisch begründet nur eine gewisse Anzahl an Schreibzylen. Insofern gibt es eine gewisse Beschränkung auf einen hohen Leseeinsatz.
Ob sich HBF letztlich als echte Alternative zu HBM etablieren kann, hängt maßgeblich davon ab, ob gestapelter NAND in puncto Lese- und Schreibgeschwindigkeit mit gestapeltem DRAM mithalten kann und die Integration ohne größere Hürden gelingt. Hersteller von KI-Beschleunigern, allen voran NVIDIA, dürften diese Entwicklung daher sehr genau verfolgen.
Die Zusammenarbeit von SK Hynix, SanDisk und das Herantreten an das Open Compute Project könnten aber dafür sorgen, dass HBF auf größeres Interesse bei den Chipdesigner stößt.
