1. Hardwareluxx
  2. >
  3. News
  4. >
  5. Hardware
  6. >
  7. Prozessoren
  8. >
  9. Colossus Mk2 GC200 IPU: Auslieferung beginnt und erste Benchmarks

Colossus Mk2 GC200 IPU: Auslieferung beginnt und erste Benchmarks

Veröffentlicht am: von

graphcoreMitte des Jahres stellte Graphcore die zweite Generation seiner Intelligence Processing Unit (IPU) vor. Die Colossus-Mk2-GC200-IPU zeichnet sich durch 1.472 sogenannten IPU-Cores aus, die wiederum 8.832 separate Compute-Threads verarbeiten können. Gefertigt wird der Prozessor in 7 nm bei TSMC. Zum Einsatz kommen 59,4 Milliarden Transistoren auf einer Fläche von 823 mm².

Nun kündigt man die Verfügbarkeit der Compute-Lösungen IPU-M2000 und IPU-POD64 an, welche eine verschiedene Anzahl an Colossus Mk2 GC200 IPUs besitzen. Ein IPU-M2000-Knoten beispielsweise besteht aus vier GC200-IPUs. 16 IPU-Maschines mit jeweils vier GC200-Chips können in ein Rack gepackt werden und nennen sich dann IPU-POD64. In größeren IPU-PODs können bis zu 64.000 GC200-IPUs zusammengefasst werden.

Weitere Details zur Hardware, zum Beispiel den 900 MB SRAM, die allen IPUs zur Verfügung stehen und eine Bandbreite von 47,5 TB/s erreichen, haben wir im Sommer zusammengefasst. Auch die Interconnects mit 8 TB/s und das PCIe-4.0-Interface spielen hier eine Rolle.

Nun liefert Graphcore auch erste Benchmarks, denn neben den technischen Daten kommt es natürlich darauf an, welche Vorteile sich durch den Einsatz dieser Hardware ergeben. Graphcore liefert Leistungsdaten sowohl für das Training als auch das Inferencing von Deep-Learning-Netzwerken. Dabei vergleicht man sich vor allem mit den aktuellen A100-GPU-Beschleunigern und dazugehörigen DGX-Systemen von NVIDIA.

Ab dem kommenden Jahr wird Graphcore Mitglied von MLCommons sein. Dabei handelt es sich um einen Zusammenschluss verschiedener Unternehmen, die eine Vergleichsbasis für Training- und Inferencing-Benchmarks darstellen wollen. Graphcore wird ab 2021 am vergleichenden Benchmarking-Prozess von MLCommons teilnehmen

Dazu gehört auch, dass Graphcore die in diesem Bereich wichtigen Softwareschnittstellen unterstützt. Dazu gehört Poplar 1.4S, welches die vollständige Unterstützung von PyTorch nach sich zieht. Damit deckt man einen Großteil der notwendigen Softwareschnittstellen bereits ab. Aber auch in diesem Bereich wird Graphcore weiter daran arbeiten, zusätzliche Schnittstellen unterstützen zu können, um weitere Anwendungsfelder ansprechen zu können.

Der Vertrieb der Graphcore-Systeme erfolgt über ausgewählte Partner. Im deutschsprachigen Raum sind dies Boston und MEGWARE.