Werbung
Bereits auf der eigenen Hausmesse in diesem Jahr sprach NVIDIA über die ersten Quantum-X Photonics Switches, die über ein Co-Packaged Optics Networking die Netzwerkverbindungen nicht nur schneller, sondern auch effizienter machen sollen. NVIDIA arbeitet in diesem Segment mit TSMC, Coherent, Corning Incorporated, Foxconn, Lumentum und SENKO zusammen. Vor allem die Zusammenarbeit zwischen NVIDIA und TSMC ist für ein Co-Packaged Optics (CPO) Design wichtig.
Für die Quantum-X Photonics Switches setzt NVIDIA auf einen eigenen ASIC, der mittels CPO mit den entsprechenden optischen Komponenten verbunden wird. Zwischen den KI-Beschleunigern selbst wird NVIDIA bis auf weiteres auf NVLink und eine Kupferverbindung setzen.
In den vergangenen Tagen machte folgende Antwort von NVIDIA-CEO Jensen im Zusammenhang mit CPO die Runde:
Datenschutzhinweis für Twitter
An dieser Stelle möchten wir Ihnen einen Twitter Feed zeigen. Ihre Daten zu schützen, liegt uns aber am Herzen: Twitter setzt durch das Einbinden des Applets Cookies auf ihrem Rechner, mit welchen sie eventuell getracked werden können. Wenn Sie dies zulassen möchten, klicken Sie einfach auf diesen Feed. Der Inhalt wird anschließend geladen und Ihnen angezeigt.Ihr Hardwareluxx-Team
Tweets ab jetzt direkt anzeigen
Er bestätigt abermals, dass NVIDIA und TSMC zusammen an Silicon Photonics arbeiten. Er sagt aber auch, dass dies noch einige Jahre in der Zukunft läge und das man so lange wie möglich weiterhin auf Kupfer setzen werde.
Auf Netzwerkebene wird es aber vermutlich deutlich schneller gehen, denn die Vorteile von Silicon Photonics, besonders in der Effizienz, sind groß. Ein traditionelles Rechenzentrum mit 100.000 Servern verbraucht in etwa 2,3 MW an elektrischer Leistung für die Transceiver der Netzwerkadapter. Da für ein KI-Rechenzentrum vielfach mehr Netzwerkverbindungen notwendig werden, steigt die Leistungsaufnahme der Transceiver hier auf 40 MW an. Die großen KI-Supercomputer wie zum Beispiel x.AI sie in Form von Colossus betreibt, kommen auf einen solch hohen Anteil der Leistungsaufnahme des Netzwerks.
Mit Zahlen unterfüttert: Ein 800G XDR InfiniBand Transceiver verbraucht in etwa 30 W. Ein 800G-Port der neuen Quantum-X Photonics Switches kommt auf gerade einmal 9 W. Somit ließe sich die Leistungsaufnahme der Netzwerkverbindungen um etwa zwei Drittel reduzieren.
Längerfristig ist klar, dass eine optische Verbindung alternativlos sein wird. Die Durchsatzraten in den Verbindungen, sei es im Netzwerk oder dem Interconnect, werden immer weiter steigen und schon heute ist der Spine oder die Midplane aus Kupfer ein extrem komplexes und fragiles Konstrukt, dass an der Grenze dessen betrieben wird, was aktuell technisch möglich ist.
Das Thema Co-Packaged Optics wird auf der Hot Chips eine Rolle spielen. Sollten wir weitere Details in der Unterscheidung des Einsatzes in Netzwerk-Switches oder in den KI-Beschleunigern selbst in Erfahrung bringen können, werden wir dies entsprechend nachreichen.
