Werbung
Auf dem "Advancing AI 2025"-Event hat AMD viel neue Hardware für das Datacenter-Segment vorgestellt. Der Fokus lag sicherlich auf der Instinct-MI350-Serie, aber es gab auch einen ersten Ausblick auf die nächste Generation Instinct MI400, die Rack-Scale-Lösungen mit zukünftigen EPYC-Prozessoren, sowie die Infrastruktur-Projekte für ein Scale-Out (Ultra Ethernet) und Scale-Up (UALink).
In unserer Berichterstattung hat die Software bisher nur eine Nebenrolle gespielt, dabei könnte sich gerade hier entscheiden, wie groß die Konkurrenz für NVIDIA wird. Aber im August will AMD ROCm in der Version 7 erscheinen und mit vielen Unzulänglichkeiten aufräumen. ROCm (Radeon Open Compute) ist eine offene Plattform von AMD für GPU-beschleunigtes Computing, die speziell für High-Performance-Computing (HPC), maschinelles Lernen und wissenschaftliche Anwendungen entwickelt wurde. Sie ermöglicht Entwicklern den Zugriff auf AMD-GPUs mittels Programmiersprachen wie C++, Python und OpenCL sowie Frameworks wie TensorFlow und PyTorch.
Aber was auf dem Papier gut klingt, konnte in der Vergangenheit zu einer mehr oder weniger großen Hürde werden. Damit soll nun Schluss sein.
Neben der Unterstützung der aktuellen und neuen Instinct-Beschleuniger soll ROCm 7 nun die komplette Hardware-Palette von AMD abdecken. Von den Notebooks mit Ryzen-AI-Prozessor, über die Desktop- und Workstation-Systeme mit Radeon-AI-Pro-Karte, bis hin zu den schon erwähnten Server-Lösungen wie den Instinct-Beschleunigern.
Ab der zweiten Jahreshälfte 2025 wird ROCm 7 dann auch direkt in Linux und Windows integriert werden. Einfache Installationsroutinen sollen es mit wenigen Klicks und Eingaben ermöglichen, dass ROCm läuft und die Hardware korrekt angesprochen wird.
Statt vielleicht alle drei Monate eine neue Version zu veröffentlichen, plant AMD deutlich geringere Kadenzen. Day-0-Update und alle 14 Tage ein größeres Update mit Leistungsverbesserungen und neuen Funktionen werden versprochen. Über eine Dev-Cloud sollen Entwickler einen schnellen und einfachen Zugriff auf die AMD-Hardware bekommen, um direkt loslegen zu können und eigene Projekte auf der aktuellsten Hardware zu prüfen.
Wie stark Software allein die Leistung beeinflussen kann, zeigt der Vergleich zwischen ROCm 6 und ROCm 7: Ein Instinct-MI300X-Beschleuniger erreicht mit ROCm 7 die dreifache Geschwindigkeit gegenüber ROCm 6. Dabei ist jedoch zu beachten, dass AMD nicht mit der aktuellen ROCm-6-Version testet, sondern mit der zum ursprünglichen Hardware-Release verfügbaren, sodass Nutzer nicht automatisch mit einer Verdreifachung der Leistung rechnen können – diese hängt zudem stark vom eingesetzten KI-Modell, der Quantisierung und weiteren Faktoren ab. Auch Distributed Inference als neue Funktion und Gegenstück zu NVIDIAs Dynamo spielt bei diesen Zahlen eine Rolle, denn auch AMD kann nicht zaubern.
Ein Software-Zen-Moment für AMD?
Ende des vergangenen Jahres rückte die Software von AMD zuletzt in den Fokus und nach harter Kritik nahm sich Dr. Lisa Su der Thematik höchstpersönlich an. AMD gelobte Besserung und ROCm 7 könnte ein erster großer Schritt in diese Richtung sein. AMD hat gute Hardware, die auf dem Papier schon länger ebenbürtig ist, die ihr Potential aber auch wegen der Software nicht immer ausspielen konnte.
Sollte ROCm 7 der große Wurf sein, den AMD verspricht, wird dies es den Entwicklern tatsächlich ermöglichen, dass diese vom Notebook bis zu KI-Beschleuniger in einer einheitlichen Form ihre Software entwickeln – nebst einer einfachen Installation. Dies könnte dann tatsächlich der Software-Zen-Moment für AMD sein.
