Werbung
Anfang des Jahres stellte SanDisk mit dem High Bandwidth Flash (HBF) eine Alternative für den auf KI-Beschleunigern überall präsenten HBM vor. HBF zeichnet sich vor allem durch eine höhere Kapazität aus, wird in der Praxis aber ganz ähnlich im Packaging angewendet. Kioxia wählt beim HBF mit dem "High-Bandwidth Flash Memory Module" einen anderen Ansatz.
Anstatt den HBF als Speicher mit schnellem Zugriff direkt auf dem KI-Beschleuniger unterzubringen, platziert Kioxia den Speicher auf einem PCB und will ihn als Modul zur Speichererweiterung einsetzen. Der gezeigte Prototyp kommt auf eine Kapazität von 5 TB und soll eine Übertragungsrate von 64 GB/s erreichen. Allerdings spricht Kioxia gar nicht so sehr vom Umfeld der KI-Hardware, sondern vielmehr vom Edge-Einsatz im Bereich der 5G/6G-Mobilfunknetze (Mobile Edge Computing, MEC), wo der Einsatz von KI auch immer häufiger wird und es dort eben auch eines schnellen Speichers bedarf.
Zur genauen technischen Umsetzung gibt es nur wenige Details: Der gestapelte Speicher kann mit mehreren Controllern in einer Daisy-Chain verbunden werden. Damit will Kioxia offenbar sicherstellen, dass auch eine ausreichende Bandbreite erreicht wird. Ein serielles Signal zwischen den in Reihe geschalteten Controllern reduziert die Anzahl der notwendigen Verbindungen zwischen den einzelnen Controllern. Kioxia will hier ein PAM4, also eine Pulsamplitudenmodulation mit vier Zuständen arbeiten. Auch mit PCI-Express 6.0 oder DDR6 wird ein PAM4 verwendet werden.
Um die Leselatenz in den Speichermodulen zu verkürzen, implementiert Kioxia ein Prefetching, welches die Latenz durch Vorabruf von Daten bei sequenziellen Zugriffen minimiert. Zwischen dem Flash-Speicher und dem Controller wird eine Anbindung von 4,0 GBit/s erreicht. Die Anbindung des Controllers erfolgt beim Prototyp via PCI-Express 6.0 mit acht Lanes. Die erwähnten 64 GB/s an Übertragungsrate gehen mit einer Leistungsaufnahme von 40 W einher.
Im zweiten Halbjahr will SanDisk die ersten Samples des HBF an potentielle Kunden liefern. Kioxia strebt eine Kommerzialisierung der eigenen Lösung an. Wann und in welcher Form dies geschehen wird, ist aber nicht bekannt.
