> > > > Kubernetes orchestrieren NVIDIAs Datacenter

Kubernetes orchestrieren NVIDIAs Datacenter

Veröffentlicht am: von

nvidiaDie Skalierung bestehender Hardware steht für NVIDIA in diesem Jahr im Fokus. Zwar kommen die Quadro GV100 und Tesla V100 nun auch mit 32 GB an HBM2, die beschleunigte Zusammenarbeit gleich mehrerer Dutzend GPUs soll die Rechenleistung aber weiter steigern.

Eines der Standbeine soll das TensorRT 4 sein. TensorRT 4 liefert einen deutlich gesteigerten Durchsatz an INT8- und FP16-Berechnungen. Je nach Anwendung soll das Training damit um bis zu 70 % schneller ablaufen. Auf Seiten der Hardware ist die NVIDIA DGX-2 ein gutes Beispiel für die Skalierung. Hier arbeiten 16 Tesla V100 mit jeweils 32 GB HBM2 über einen NVSwitch zusammen und lassen zusammengenommen 81.920 Shadereinheiten rechnen.

Arbeiten in einem Datacenter gleich mehrere DGX-2, muss das GPU-Cluster entsprechend angesprochen werden können. Über die GPU Cloud bietet NVIDIA bereits fertige Docker-Container, die schnell und einfach auf die Hardware angesetzt werden können. Kubernetes ermöglicht es das Ökosystem weiter auszuweiten. Beinahe beliebig viele GPUs und GPU-Cluster können hier zusammengefasst werden. Je nach Anforderungen an die Rechenleistung kann Kubernetes GPUs und GPU-Cluster zusammenfassen und dynamisch anpassen. Damit soll die Auslastung der Hardware optimiert werden.

Noch einen Schritt weiter geht NVIDIA, in dem auch zwei oder mehr Cloud-Instanzen hinzugenommen bzw. zusammengefasst werden können. Im Falle eines Ausfalls werden zusätzliche Instanzen, die als Backup vorgehalten werden, hinzugeschaltet werden.

Im Video ist die Funktionsweise von Kubernetes sehr gut demonstriert. Dazu werden vier von acht GPUs deaktiviert und andere, in Reserve gehaltene GPUs, springen sofort ein. Dies geschieht innerhalb von wenigen Sekunden und das Training wird ohne Unterbrechung fortgesetzt.

Das Video zeigt zudem noch einmal einen Leistungsvergleich für das Training eines Deep-Learning-Netzwerkes im Vergleich zu einem CPU-basierten System.

Social Links

Ihre Bewertung

Ø Bewertungen: 0

Tags

Kommentare (0)

Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

Coffee Lake: Intel Core i7-8700K, i5-8600K und i5-8400 im Test

Logo von IMAGES/STORIES/2017/INTEL8GEN

Der sechste und letzte (?) CPU-Launch in diesem Jahr kommt von Intel: Mit den unter dem Codenamen Coffee Lake zusammengefassten Core-i7- und i5-Modellen kommen bei Intel erstmals Sechskern-Prozessoren in den Mainstream-Markt. Bedanken darf man sich aber wohl nicht bei Intel, sondern bei der... [mehr]

Intel kämpft mit schwerer Sicherheitslücke (Update: Intel veröffentlicht...

Logo von IMAGES/STORIES/2017/INTEL

Vor, während und zwischen den Feiertagen herrschte ein wildes Treiben in der Linux-Community. Zunächst war nicht ganz klar, was hier genau vor sich geht, inzwischen aber scheinen die Auswirkungen deutlich zu werden: Intel hat nach einer Lücke in der Management Unit eines jeden... [mehr]

Coffee Lake: Overclocking-Check

Logo von IMAGES/STORIES/LOGOS-2016/KABYLAKE

Nach dem ausführlichen Overclocking-Check für Skylake-Prozessoren sowie dem Overclocking-Check für Kaby Lake-Prozessoren ist es nach Veröffentlichung der neuen Generation mit Codenamen Coffee-Lake erneut Zeit für einen Overclocking-Check. Wir werfen einen Blick auf die Übertaktbarkeit... [mehr]

Intel Core i5-8250U und i7-8550U im Test: Mal ein kleiner, mal ein großer...

Logo von IMAGES/STORIES/2017/MEDION_P7649_KABY_LAKE_REFRESH

Im Gleichschritt marschierten Intels Desktop- und Mobil-Prozessoren schon länger nicht mehr. Ein so gravierender Unterschied wie derzeit ist aber völlig neu - und für den Verbraucher einmal mehr irritierend. Denn mit der 8. Core-Generation spendiert Intel beiden Plattformen eine eigene... [mehr]

Gelungener Feinschliff: AMD Ryzen 7 2700X und Ryzen 5 2600X im Test

Logo von IMAGES/STORIES/2017/AMD_RYZEN_7_2700X

Rund ein Jahr nach dem Start der Ryzen-Prozessoren legt AMD nach und bringt die zweite Generation in den Handel. Die soll schneller und effizienter arbeiten und den Druck auf Intel weiter erhöhen. Allerdings lautet die Devise Evolution statt Revolution, statt gravierender Änderungen gibt es vor... [mehr]

AMD Ryzen 5 2400G und Ryzen 3 2200G im Test: Die Lücke ist gestopft

Logo von IMAGES/STORIES/2017/AMD_RYZEN_5_2400G

Während Notebook-Käufer sich bereits seit einigen Wochen von den Vorzügen der Zen-basierten Raven-Ridge-APUs überzeugen können, musste sich das Desktop-Lager noch gedulden. Nun aber heißt es auch hier: Intel erhält neue Konkurrenz. Und die könnte einen noch größeren Einfluss als die... [mehr]