> > > > NVIDIA weitet TensorRT-Unterstützung auf Titan Xp und Volta-Architektur aus

NVIDIA weitet TensorRT-Unterstützung auf Titan Xp und Volta-Architektur aus

Veröffentlicht am: von

nvidiaNVIDIA weitet seine AI-Initiative immer weiter aus. Über die NVIDIA GPU Cloud (NGC) ist es Entwicklern nicht nur möglich, ihre Anwendungen schnell und einfach auf verschiedenen Cloud-Instanzen zu verlegen, sondern auch die Konfiguration für das Ersttraining deutlich zu vereinfachen. NVIDIA hat die Unterstützung der NGC-Container nun auf die Titan Xp ausgeweitet und auch GPU-Beschleuniger auf Basis der Volta-Architektur werden nun direkt unterstützt.

Damit haben die Nutzer von Deep-Learning-Anwendungen nun drei Möglichkeiten, die sich auf schnell und einfach ineinander überführen und damit skalieren lassen: Erstens ein Training auf eigner Hardware – relativ kostengünstig auf Titan-Grafikkarten. Zweitens kann größere Hardware entweder angeschafft oder in der Cloud angesprochen werden. NVIDIA selbst bietet dazu entsprechende Instanzen in den eigenen DGX-1-Datencentern an. Soll oder muss die Rechenleistung weiter ansteigen, können diese NGC-Container zusammen mit der eigenen Anwendung auf Amazon EC2-P3-Instanzen überführt werden, wo inzwischen auch Tesla V100 mit Volta-Architektur eingesetzt werden.

TensorRT 3 ab sofort verfügbar

Entwicklern steht nun auch die dazugehörige neue Runtime namens TensorRT 3 zur Verfügung. Diese ist auf Deep-Learning-Anwendungen und die dazugehörige NVIDIA-Hardware hin optimiert und hilft bei der entsprechenden Beschleunigung. Kommt es auf eine besonders geringe Latenz an, soll TensorRT 3 bei INT8- und FP16-Berechnungen weiter beschleunigen. NVIDIA selbst spricht von einem um den Faktor 3,7 schnelleren Inferencing im Vergleich einer Tesla V100 gegen eine Tesla P100. Der Einsatz von TensorRT 3 soll einen um den Faktor 40 höheren Durchsatz ermöglichen, entsprechende Modelle werden damit um den Faktor 18 schneller.

Trainierte Modelle können auch von anderen AI-Netzwerken, zum Beispiel aus Caffe und TensorFlow in TensorRT 3 importiert werden. Nun ebenfalls integriert wird eine Optimierung und Validierung der Python API.

Mitglieder des Developer-Programms bei NVIDIA können TensorRT 3 ab sofort direkt bei NVIDIA herunterladen.

Social Links

Ihre Bewertung

Ø Bewertungen: 0

Tags

Kommentare (0)

Um Kommentare schreiben zu können, musst Du eingeloggt sein!

Das könnte Sie auch interessieren:

  • Sapphire Radeon RX Vega 64 Nitro+ im Test

    Logo von IMAGES/STORIES/2017/SAPPHIRE-VEGA

    Heute ist es endlich soweit: Wir können uns das zweite Custom-Design der Radeon RX Vega anschauen. Dabei handelt es sich um die Sapphire Radeon RX Vega 64 Nitro+, die besonders durch die Kühlung auf sich aufmerksam machen will. Drei Slots, drei Axiallüfter und sogar eine spezielle... [mehr]

  • NVIDIA Titan V: Volta-Architektur im Gaming-Test

    Logo von IMAGES/STORIES/2017/NVIDIA-TITANV

    In der letzten Woche hatte NVIDA noch eine Überraschung für uns parat: Die brandneue NVIDIA Titan V wurde vorgestellt. Damit gibt es das erste Consumer-Modell mit der neuen Volta-Architektur, das auch für Spieler interessant sein kann, in erster Linie aber auch professionelle Nutzer ansprechen... [mehr]

  • Die GeForce RTX 2080 Ti und RTX 2080 Founders Edition im Test

    Logo von IMAGES/STORIES/2017/GEFORCERTX2080

    Heute nun ist es endlich soweit und wir präsentieren die vollständigen Leistungsdaten und Messwerte zu den beiden ersten Karten der GeForce-RTX-20-Serie von NVIDIA. Nach der Vorstellung der Pascal-Architektur im Mai 2016 sind die neuen Karten für NVIDIA in vielerlei Hinsicht ein... [mehr]

  • Mega-Roundup: 14 aktuelle GeForce-Grafikkarten in 11 Blockbuster-Spielen...

    Logo von IMAGES/STORIES/2017/GPU_BLOCKBUSER_VGL_ZOTAC-TEASER

    In Kooperation mit Zotac Auch in diesem Jahr veranstalteten die Spielepublisher wieder ein regelrechtes Feuerwerk an neuen Videospielen. Vor allem in den letzten Wochen des Jahres wurden zahlreiche neue Triple-A-Titel veröffentlicht, wie beispielsweise ein neues "Call of Duty",... [mehr]

  • Sechs Grafikkarten von Sapphire im Vergleich in 11 Blockbuster-Spielen

    Logo von IMAGES/STORIES/2017/SAPPHIRE-2017AUFMACHER

    In Kooperation mit Sapphire Nachdem der Herbst und Winter mit zahlreichen neuen Spielen samt Grafikfeuerwerk aufwarten konnte, haben wir uns bereits 14 aktuelle GeForce-Karten in 11 neuen Spielen angeschaut. Nun wollen wir die Seiten sozusagen wechseln und schauen uns an, wie diese Spiele auf... [mehr]

  • PowerColor Radeon RX Vega 56 Red Devil im Test

    Heute wollen wir unsere Artikelübersicht zu den Custom-Modellen der Radeon RX Vega abrunden, denn mit der PowerColor Radeon RX Vega 56 Red Devil steht uns das Modell eines weiteren AMD-Exklusivpartners zur Verfügung. Das erste Mal haben wir nun auch die Gelegenheit uns eine solche Variante auf... [mehr]