Grace Hopper
  • MLPerf Inference 3.1: Grace Hopper ist 17 % schneller als H100

    Die MLCommons veröffentlicht heute die Ergebnisse zu den Inference-Ergebnissen der MLPerf-3.1-Runde. In diesen Ergebnissen gibt es soweit keinerlei Überraschungen, aber eine interessante Vielfalt an Hardware: Intel, AMD, NVIDIA, Qualcomm und Google. Zudem zeigt sich immer wieder, dass bei gleicher Hardware auch die Optimierung der Software eine wichtige Rolle spielt. Erstmals in den Benchmarks enthalten sind Ergebnisse zu Grace Hopper. Grace... [mehr]


  • DGX GH200: NVIDIA kündigt Grace-Hopper-Supercomputer-Block an

    Bereits zur Supercomputing-Konferenz ISC in der vergangenen Woche kündigt NVIDIA einen neuen Grace-Supercomputer mit "Grace CPU Superchip" an und verkündete zugleich, dass der Aus- und Aufbau dieser Systeme noch in diesem Jahr beginnen könnte. Die "Grace CPU Superchips" und "Grace Hopper Superchips" sollen eine neue Generation an Supercomputern einläuten – weiterhin unterstützt von den dedizierten Lösungen wie aktuell dem... [mehr]


  • ISC 2023: NVIDIA kündigt nächsten Grace-Supercomputer an

    Es ist zu vermuten, dass NVIDIAs Datacenter-Geschäfte blendend laufen. Die LLMs (Large Language Models) sind extrem hardwarehungrig und verlangen nach schnellen GPUs mit viel Speicher. Während die aktuell verwendeten Modelle meist noch auf den A100-Beschleunigern trainiert wurden, findet langsam der Wechsel auf die neuen H100-Beschleuniger statt. Google stattete erst kürzlich seine A3-Instanzen mit diesen Beschleunigern aus und kann sie als... [mehr]


  • Wenig überraschend: TDP von Datacenter-CPUs und GPUs werden steigen

    Eine geleakte Präsentation der Server-Sparte von Gigabyte führt die Leistungsaufnahme einiger Server-Komponenten auf und geben einen Ausblick darauf, was uns in den kommenden Jahren in diesem Bereich erwarten wird. Größtenteils sind die Daten aber bereits zu erwarten gewesen – auch weil die Hersteller dies bereits so angekündigt hatten. Veröffentlicht wurde die Folie von Twitterer @9550pro. Sie zeigt eine Übersicht der Prozessoren, PCIe-, SXM-... [mehr]


  • NVIDIA: Referenzdesigns für HGX Grace (Hopper) und wassergekühlte A100- und H100-Karten

    Zur Computex 2022 stellt NVIDIA, genauer gesagt die Datacenter-Sparte, unter anderem die ersten Referenzdesigns für zukünftige HGX-Systeme vor und will mit wassergekühlten A100- und H100-PCIe-Karten die Effizienz der dazugehörigen Server steigern. Auf der diesjährigen GPU Technology Conference gab NVIDIA weitere Details zum Grace-CPU-Superchip bestehend aus zwei ARM-Chips mit jeweils 72 Kernen und dem Grace-Hopper-Superchip als Kombination aus... [mehr]