NEWS

Intel Xeon 6 als Host-CPU

KI-Systeme mit B300 und speziellem Xeon 6776P

Portrait des Authors


KI-Systeme mit B300 und speziellem Xeon 6776P
0

Werbung

Aktuell spielt Intel bei den KI-Beschleunigern quasi kaum eine Rolle beziehungsweise partizipiert allenfalls dadurch, dass die Systeme abseits der GPUs auch einen Host-Prozessor benötigen. Dass man sich damit durchaus einen Erfolg der eigenen Xeon-6-Prozessoren erwartet, daraus macht Intel auch kein Geheimnis. Ganz im Gegenteil: NVIDIAs Blackwell-GPUs unterstützen unter anderem die verschlüsselte Kommunikation zwischen CPU und GPU (TDX Connect).

Für die kommenden NVIDIA DGX B300 mit Blackwell Ultra bietet Intel mit dem Xeon 6776P eine Modellvariante, die generell bisher nicht verfügbar war und welche speziell auf den Einsatz in solchen KI-Systemen mit vier angebundenen Beschleunigern ausgelegt ist. Jeder DGX-B300-Server ist mit zwei Prozessoren und acht B300-Beschleunigern ausgestattet.

Worauf es bei solchen Systemen ankommt ist, dass die Beschleuniger ausreichend schnell mit neuen Daten gefüttert werden. Das Verarbeiten dieser Daten kann zu einem Flaschenhals werden, was dann wiederum dazu führt, dass die Beschleuniger nicht ideal ausgelastet werden können. Der Xeon 6776P (eines von drei Modellen) bietet daher die Unterstützung für Priority Core Turbo (PCT) und Intel Speed Select Technology – Turbo Frequency (Intel SST- TF) – beides Technologien, welche einzelne Kerne besonders hoch takten und priorisieren.

PCT erlaubt eine dynamische Priorisierung der High-Priority-Performance-Kerne (HP-Cores), sodass diese mit einem höheren Turbo-Takt arbeiten können. Die Low-Priority-Kerne (LP-Cores) hingegen arbeiten dann nur mit dem Basis-Takt. Somit werden TDP-Ressourcen frei. Wie hoch genau diese und auch die Taktraten beim Xeon 6776P sind, ist aktuell nicht bekannt.

Der Xeon 6776P bietet insgesamt 128 Kerne. Zudem unterstützt er RDIMM mit 5.200 MT/s, denn auch die Speicherbandbreite spielt in der Leistung als Host-Prozessor in solchen Systemen eine wichtige Rolle.

Das Bereitstellen von Host-Prozessoren ist aktuell fast die einzige Möglichkeit, wie Intel am KI-Boom partizipieren kann. Zwar können die Xeon-6-Prozessoren auch für ein Inferencing eingesetzt werden, weitaus schneller und effizienter ist dies jedoch auf dedizierter Hardware. Mit dem Gaudi 3 bietet Intel einen KI-Beschleuniger an, der in Sachen Hard- und Software hinter den Lösungen von AMD und NVIDIA liegt. Selbst die eigenen und niedrig gesteckten Umsatz-Ziele konnte Intel damit nicht erfüllen. Den GPU-basierten KI-Beschleuniger Falcon Shores ließ Intel Anfang des Jahres noch vor dessen Erscheinen einstellen. Die Hoffnungen liegen auf Jaguar Shores.

Update:

Inzwischen kennen wir die vollständigen technischen Daten der drei Modelle. Namentlich wären dies der Xeon 6962P, Xeon 6776P und Xeon 6774P.

Gegenüberstellung der Custom-Xeons für DGX B300

Kerne Basis-TaktAll Core / Max TurboPCT 8CCacheSpeicherkanälePCIe-LanesTDPSockel
Xeon 6962P 72 2,7 GHz3,6 / 3,9 GHz4,4 GHz432 MB1296500 W2S
Xeon 6776P 64 2,3 GHz3,6 / 3,9 GHz4,6 GHz336 MB888350 W2S
Xeon 6774P 64 2,5 GHz3,6 / 3,9 GHz4,6 GHz336 MB8136350 W1S

Der "PCT 8C" ist der Priority Core Turbo mit acht Kernen. Die anderen Kerne arbeiten dann mit dem Basis-Takt. Nur der Xeon 6774P ist für eine 1S-Konfiguration vorgesehen.

Der Xeon 6962P verwendet den größeren Sockel und auch das größere Package, so dass wir hier auch von 12 Speicherkanälen sprechen. DDR5-6400 unterstützen die Prozessoren alle, doch nur der Xeon 6962P kann auch MRDIMMs mit 8.800 MT/s adressieren, während es bei den anderen beiden Modellen "nur" 8.000 MT/s sind.

Back to top