> > > > NVIDIA weitet TensorRT-Unterstützung auf Titan Xp und Volta-Architektur aus

NVIDIA weitet TensorRT-Unterstützung auf Titan Xp und Volta-Architektur aus

Veröffentlicht am: von

nvidiaNVIDIA weitet seine AI-Initiative immer weiter aus. Über die NVIDIA GPU Cloud (NGC) ist es Entwicklern nicht nur möglich, ihre Anwendungen schnell und einfach auf verschiedenen Cloud-Instanzen zu verlegen, sondern auch die Konfiguration für das Ersttraining deutlich zu vereinfachen. NVIDIA hat die Unterstützung der NGC-Container nun auf die Titan Xp ausgeweitet und auch GPU-Beschleuniger auf Basis der Volta-Architektur werden nun direkt unterstützt.

Damit haben die Nutzer von Deep-Learning-Anwendungen nun drei Möglichkeiten, die sich auf schnell und einfach ineinander überführen und damit skalieren lassen: Erstens ein Training auf eigner Hardware – relativ kostengünstig auf Titan-Grafikkarten. Zweitens kann größere Hardware entweder angeschafft oder in der Cloud angesprochen werden. NVIDIA selbst bietet dazu entsprechende Instanzen in den eigenen DGX-1-Datencentern an. Soll oder muss die Rechenleistung weiter ansteigen, können diese NGC-Container zusammen mit der eigenen Anwendung auf Amazon EC2-P3-Instanzen überführt werden, wo inzwischen auch Tesla V100 mit Volta-Architektur eingesetzt werden.

TensorRT 3 ab sofort verfügbar

Entwicklern steht nun auch die dazugehörige neue Runtime namens TensorRT 3 zur Verfügung. Diese ist auf Deep-Learning-Anwendungen und die dazugehörige NVIDIA-Hardware hin optimiert und hilft bei der entsprechenden Beschleunigung. Kommt es auf eine besonders geringe Latenz an, soll TensorRT 3 bei INT8- und FP16-Berechnungen weiter beschleunigen. NVIDIA selbst spricht von einem um den Faktor 3,7 schnelleren Inferencing im Vergleich einer Tesla V100 gegen eine Tesla P100. Der Einsatz von TensorRT 3 soll einen um den Faktor 40 höheren Durchsatz ermöglichen, entsprechende Modelle werden damit um den Faktor 18 schneller.

Trainierte Modelle können auch von anderen AI-Netzwerken, zum Beispiel aus Caffe und TensorFlow in TensorRT 3 importiert werden. Nun ebenfalls integriert wird eine Optimierung und Validierung der Python API.

Mitglieder des Developer-Programms bei NVIDIA können TensorRT 3 ab sofort direkt bei NVIDIA herunterladen.

Social Links

Ihre Bewertung

Ø Bewertungen: 0

Tags

Kommentare (0)

Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

AMD Radeon RX Vega 56 und Vega 64 im Undervolting-Test

Logo von IMAGES/STORIES/2017/AMD_RADEON_RX_VEGA_64_56_TEST

Unser Test der Radeon RX Vega 64 und Vega 56 hat gezeigt: AMD liefert eine Leistung auf dem Niveau der GeForce GTX 1080 und GeForce GTX 1070, erkauft wird dies aber mit einer deutlich zu hohen Leistungsaufnahme. Derzeit hat AMD bei den Vega-Karten noch viele Baustellen, die vor allem den Treiber... [mehr]

NVIDIA Titan V: Volta-Architektur im Gaming-Test

Logo von IMAGES/STORIES/2017/NVIDIA-TITANV

In der letzten Woche hatte NVIDA noch eine Überraschung für uns parat: Die brandneue NVIDIA Titan V wurde vorgestellt. Damit gibt es das erste Consumer-Modell mit der neuen Volta-Architektur, das auch für Spieler interessant sein kann, in erster Linie aber auch professionelle Nutzer ansprechen... [mehr]

Sapphire Radeon RX Vega 64 Nitro+ im Test

Logo von IMAGES/STORIES/2017/SAPPHIRE-VEGA

Heute ist es endlich soweit: Wir können uns das zweite Custom-Design der Radeon RX Vega anschauen. Dabei handelt es sich um die Sapphire Radeon RX Vega 64 Nitro+, die besonders durch die Kühlung auf sich aufmerksam machen will. Drei Slots, drei Axiallüfter und sogar eine spezielle... [mehr]

Mega-Roundup: 14 aktuelle GeForce-Grafikkarten in 11 Blockbuster-Spielen...

Logo von IMAGES/STORIES/2017/GPU_BLOCKBUSER_VGL_ZOTAC-TEASER

In Kooperation mit Zotac Auch in diesem Jahr veranstalteten die Spielepublisher wieder ein regelrechtes Feuerwerk an neuen Videospielen. Vor allem in den letzten Wochen des Jahres wurden zahlreiche neue Triple-A-Titel veröffentlicht, wie beispielsweise ein neues "Call of Duty",... [mehr]

Die ersten Custom-Modelle der GeForce GTX 1070 Ti im Test

Logo von IMAGES/STORIES/LOGOS-2017/GTX1070TI-LOGO

Nach der Vorstellung aller Details dürfen wir heute die Leistungswerte der GeForce GTX 1070 Ti veröffentlichen. Dabei stand uns dieses Mal keine Founders Edition zur Verfügung, die nur von NVIDIA verkauft wird, dafür aber einige Custom-Modelle. Diese stammen aus dem Hause ASUS, Inno3D und... [mehr]

Erstes Custom-Design: ASUS ROG Strix Radeon Vega 64 OC Edition im Test

Logo von IMAGES/STORIES/2017/ASUS-VEGA

Es ist endlich soweit: Wir können uns das erste Custom-Modell der Radeon RX Vega 64 anschauen. ASUS war der erste Hersteller, der ein entsprechendes Modell vorgestellt hat, nun erreichte uns das finale Produkt. Im Zentrum steht natürlich die Frage, welche Verbesserungen ASUS mit der ROG Strix... [mehr]