> > > > Kubernetes orchestrieren NVIDIAs Datacenter

Kubernetes orchestrieren NVIDIAs Datacenter

Veröffentlicht am: von

nvidiaDie Skalierung bestehender Hardware steht für NVIDIA in diesem Jahr im Fokus. Zwar kommen die Quadro GV100 und Tesla V100 nun auch mit 32 GB an HBM2, die beschleunigte Zusammenarbeit gleich mehrerer Dutzend GPUs soll die Rechenleistung aber weiter steigern.

Eines der Standbeine soll das TensorRT 4 sein. TensorRT 4 liefert einen deutlich gesteigerten Durchsatz an INT8- und FP16-Berechnungen. Je nach Anwendung soll das Training damit um bis zu 70 % schneller ablaufen. Auf Seiten der Hardware ist die NVIDIA DGX-2 ein gutes Beispiel für die Skalierung. Hier arbeiten 16 Tesla V100 mit jeweils 32 GB HBM2 über einen NVSwitch zusammen und lassen zusammengenommen 81.920 Shadereinheiten rechnen.

Arbeiten in einem Datacenter gleich mehrere DGX-2, muss das GPU-Cluster entsprechend angesprochen werden können. Über die GPU Cloud bietet NVIDIA bereits fertige Docker-Container, die schnell und einfach auf die Hardware angesetzt werden können. Kubernetes ermöglicht es das Ökosystem weiter auszuweiten. Beinahe beliebig viele GPUs und GPU-Cluster können hier zusammengefasst werden. Je nach Anforderungen an die Rechenleistung kann Kubernetes GPUs und GPU-Cluster zusammenfassen und dynamisch anpassen. Damit soll die Auslastung der Hardware optimiert werden.

Noch einen Schritt weiter geht NVIDIA, in dem auch zwei oder mehr Cloud-Instanzen hinzugenommen bzw. zusammengefasst werden können. Im Falle eines Ausfalls werden zusätzliche Instanzen, die als Backup vorgehalten werden, hinzugeschaltet werden.

Im Video ist die Funktionsweise von Kubernetes sehr gut demonstriert. Dazu werden vier von acht GPUs deaktiviert und andere, in Reserve gehaltene GPUs, springen sofort ein. Dies geschieht innerhalb von wenigen Sekunden und das Training wird ohne Unterbrechung fortgesetzt.

Das Video zeigt zudem noch einmal einen Leistungsvergleich für das Training eines Deep-Learning-Netzwerkes im Vergleich zu einem CPU-basierten System.

Social Links

Kommentare (0)

Das könnte Sie auch interessieren:

  • AMDs Ryzen 7 3700X und Ryzen 9 3900X im Test

    Logo von IMAGES/STORIES/2017/AMDRYZEN93900X

    Heute ist es endlich soweit: AMD bläst zum Großangriff. Die Zen-2-Architektur versetzt AMD offenbar in die Situation, endgültig mit dem Konkurrenten Intel aufzuschließen. Mit Zen, Zen+ und der AM4-Plattform hat AMD über zwei Jahre die Basis zum Erfolg geschaffen. Nun will man den... [mehr]

  • AMD Ryzen 5 3600 im Test: Ohne X noch viel besser

    Logo von IMAGES/STORIES/2017/AMD_RYZEN_5_3600_TEST-TEST

    Gegenüber dem AMD Ryzen 5 3600X aus unserem letzten Test, der trotz seiner Einstufung in die Mittelklasse ältere Topmodelle schlägt, ist der AMD Ryzen 3600 ohne das X-Kürzel nur 200 bis 300 MHz niedriger getaktet und mit einer TDP von 65 W sparsamer klassifiziert, was einen... [mehr]

  • AMD Ryzen 5 3600X im Test: 265-Euro-CPU schlägt ältere Flaggschiff-Modelle

    Logo von IMAGES/STORIES/2017/RYZEN_5_3600X_REVIEW-TEASER

    Mit dem Ryzen 9 3900X und dem Ryzen 7 3700X ist AMD seinem Konkurrenten wieder mächtig auf die Pelle gerückt und macht ihm selbst im High-End-Bereich mit einer hohen Anwendungs- und Spiele-Leistung zu einem deutlich günstigeren Preis das Leben schwer. Doch auch in den unteren Preis- und... [mehr]

  • Insider-Gerüchte: Intel streicht 10-nm-Pläne für den Desktop komplett

    Logo von IMAGES/STORIES/2017/INTEL

    Aus Insiderkreisen haben wir einige exklusive Informationen zu zukünftigen Desktop-Prozessoren von Intel erhalten. Die Quelle hat sich in der Vergangenheit zu CPU-Themen bereits mehrfach aus treffsicher erwiesen. Dennoch sollte wie bei allen Gerüchten dieser Art eine gewisse Vorsicht an den... [mehr]

  • 400 gegen 2.000 Euro: Core i7-9700K gegen Core i9-9980XE im Test

    Logo von IMAGES/STORIES/2017/INTEL-CORE-I9

    Heute wagen wir einmal einen ungewöhnlichen Vergleich: Ein Intel Core i7-9700K gegen einen Core i9-9980XE. Diese beiden Modelle haben neben der Tatsache, dass sie beide von Intel stammen und auf der Skylake-Architektur basieren, wenig miteinander zu tun. Doch wir wollten uns einmal anschauen, wo... [mehr]

  • AMD Ryzen 5 3400G im Test: Weniger Änderungen als erwartet

    Logo von IMAGES/STORIES/2017/AMD_RYZEN_5_3400G-TEASER

    Im letzten Jahr erwiesen sich die Raven-Ridge-APUs als gute Alternative, wenn man sich einen sparsamen und günstigen Office-Rechner zusammenbauen wollte. Die Kombination aus Zen-Prozessor und Vega-Grafiklösung erwies sich als durchaus leistungsfähig für den Alltag. Ob dies auch für die... [mehr]