Diamond Rapids: Mit 256 P-Kernen gegen AMDs Epyc Venice

[HWL News Bot]

Nach dem offiziellen Start der Xeon-6+-Serie alias Clearwater Forest im Juni steht mit Diamond Rapids für das kommende Jahr der Start der nächsten Xeon-Generation mit Performance-Kernen an. Zum Start von Clearwater Forest bestätigte Intel, dass die Compute Tiles mit den Performance-Kernen in Intel 18A-P gefertigt werden.
... weiterlesen

 

[Holt]

Gegenüber 256 P Kernen sieht Clearwater Forest mit 288 e Kernen aber irgendwie alt aus.

 

[underclocker2k4]

@Don
Das wäre ggf. nochmal ne sinnvolle Ergänzung in der Tabelle. Der Clearwater Forest hast E-Cores.

 

[n3cron]

Gegenüber 256 P Kernen sieht Clearwater Forest mit 288 e Kernen aber irgendwie alt aus.

Jajn die TDP ist aber gleich bei 500W. Einzig der Speicher ist hier nochmal brachialer. Wird sich zeigen ob 256 P-Kerne "all Core" wesentlich mehr als "288 Kerne E Cores liefern".

 

[Botcruscher]

Die Frage ist eher wie die 500W TDP zu verstehen sind. Beim Test des 6780E hier auf der Seite stehen bei 330W TDP auch gleich mal 625W für RocksDB 9. ~2W pro P Kern mit allem drum und dran hallte ich für optimistisch.

 

[underclocker2k4]

Die TDP ist die TDP.
Das ist die Leistung, die die CPU unter normalen Betriebsbedingungen abführt, bzw. die das Kühlsystem abführen kann/können muss.
D.h. explizit nicht, dass das die Maximalleistungsaufnahme ist.
Die CPU kann durchaus mehr verbrauchen, wird dann aber thermisch an eine Grenze kommen, bzw. das Kühlsystem an diese bringen.
Das kommt aber auf die Workloads an und welche Beschleuniger sie anzieht.

Die 256 Ps beim Diamond Rapids sind ja auch erstmal nur so ne "naja" Angabe, da dort noch gar nichts geklärt ist.
Was hier in dem Artikel wenig beleuchtet wird, ist der Unterschied.
Man spricht hier vom Epyc 9996, der ja auch 256Kerne hat, wie auch der Diamond Rapids. Das Ding ist aber, der eine hat 256 Zen6c-Cores (also keine Zen6) und der andere hat 256 P-Cores.
Denn AMD kommt beim Zen6 "nur" auf 192 Cores.
Man vergleicht hier, zumindest textuell, zwei komplett unterschiedliche Produktstategien und auch unterschiedliche Anwendungsbereiche. (high IPC und high efficiency)
Mal davon ab, dass es natürlich komplett unterschiedliche Architekturen von unterschiedlichen Herstellern sind.

~2W pro P Kern mit allem drum und dran hallte ich für optimistisch.

Das ist durchaus machbar.
Der Granite Rapids macht bei 128C nur noch 2GHz im Baseclock. Der ist also extrem eingeengt, was das thermische Budget angeht. (auch die Abgabe auf der CPU selber ist nicht so easy)
Sprich also, nen Diamonds Rapids könnte bei 256C mit nur noch (z.B.) mit 1,7GHz takten. Haste zwar keine Leistung per Core, aber in Total dann ggf. schon mehr.
Beim Granite Rapids (auch bei AMD ist das freilich so) sieht man sehr schön, wie das thermal budget sich im Takt (und damit per core TDP) niederschlägt.

 

[Holt]

Wird sich zeigen ob 256 P-Kerne "all Core" wesentlich mehr als "288 Kerne E Cores liefern".

Davon würde ich ausgehen. Bei Alder Lake war ein e Kern noch grob halb so schnell wie ein P Kern. Bei Arrow Lake hat die IPC der e Kerne weit stärker zugelegt als die der P Kerne, diese Tendenz könnte sich bei Panther Lake fortgesetzt haben, auch wenn die e Kerne effizienter sind und daher bei gleicher TDP etwas mehr Takt erzielen, so müssten sie fast 90% der Leistung eines P Kernes erreichen um wenigstens gleichzuziehen. Am Ende kommt es auf die Effizienz der Prozesse bei den jeweiligen Taktraten an, wobei Diamond Rapids den Vorteil des verbesserten 18A-P Prozesses hat, der bei geringen Spannungen und damit Taktraten effizienter sein soll als der ursprüngliche 18A bzw. bei gleicher Spannung eben auch mehr Takt erlaubt:

 

[Zeitmangel]

Man spricht hier vom Epyc 9996, der ja auch 256Kerne hat, wie auch der Diamond Rapids. Das Ding ist aber, der eine hat 256 Zen6c-Cores (also keine Zen6) und der andere hat 256 P-Cores.
Denn AMD kommt beim Zen6 "nur" auf 192 Cores.

AMD, hat SMT... Und nun 128c auf SP8 mit 3.15Ghz BASE clock (600W). Und 256c auf SP7 mit 2.55Ghz base clock (500W). Und sie haben SMT.

Was ist denn eigentlich die Zielgruppe von dem 256P Xeon? Von alleine komm ich da grad nicht drauf. Keine mit der man aktuell gut Geld machen kann oder? Für welche Nische ist das?
(wertfrei angefragt)
Weil, dicke Berechnungen laufen auf GPUs. Der Rest ist eigentlich Datenschieberei. Da sind compact wie E die mittlerweile weit sinnvollere Wahl. Für AgenticAI ist das dagegen dürftig. Die Agenten setzen immer mehr auf RAG und RAG zeigt glasklar, daß irgendwas mit bLLC sinnvoll wäre. Denn, die -X mit V-Cache steigern sich dadurch teils MEHR bei RAG als die Ryzen in Spielen durch X3D

 

[n3cron]

AMD, hat SMT...

Was ist denn eigentlich die Zielgruppe von dem 256P Xeon? Von alleine komm ich da grad nicht drauf. Keine mit der man aktuell gut Geld machen kann oder? Für welche Nische ist das?
(wertfrei angefragt)

Sowas kannst du als Hoster als vServer Instanz verkaufen, heißt nicht dedizierte Rechenleistung für z. B Gaming Server, Teamspeak etc.
Du kannst aber auch sowas dafür verwenden mehrere Virtuelle Instanzen für LLMs(Ki) zu verkaufen. Heißt der Kunde bekommt einen eigenen Agenten/Model mit entsprechenden Ressource zugeteilt.
Hauptsächlich sind sind diese Multicore Monster für Datacenter. Anderes Beispiel: Azure z. B die ganzen virtuellen Office Arbeitsplätze könntest du mit so einem Monster abbilden.

Ganz profan: Wissenschaft und Forschung. Nicht alles ist auf Grafikkarten optimiert. = viel CPU Leistung.

Der Benefit ist Platz und Energie Ersparnis. Was auch unter anderen Lizenzen sparen kann. Anstelle von 4 Servern mit jeweils 64 CPU Kernen, schrumpft das auf 1 Server mit 256 Kernen.
Wenn man mit Virtualisierung Arbeitet, brauchst ja nochmal 1 Setup das gleich ist für Hochverfügbarkeit.

Bei 4 Servern bräuchtest du 4 zusätzliche Server um diese Spiegeln zu können. Jetzt reichen 2 Server aus. Das Spart enorm platz und Ressourcen.

 

[Zeitmangel]

@n3cron
Ich hab schon gefragt was die Zielgruppe für 256P Kerne ist. Nicht allgemein für 256 Kerne

@Holt
AMD produziert sowas nicht. Der Dicke steckt z.B. im Helios. Das ist eine Technologie die jenseits von Intel Fähigkeiten ist.
Trotzdem danke, daß du mir SMT erklärst bzw. den einen wichtigen Punkt den ich bisher nicht kannte, daß es zum Anschein erwecken dient

 

[n3cron]

@n3cron
Ich hab schon gefragt was die Zielgruppe für 256P Kerne ist. Nicht allgemein für 256 Kerne

Hauptsächlich sind sind diese Multicore Monster für Datacenter.

Alle Cloudanbieter auf der Welt.

 

[KnSNaru]

@Zeitmangel
Du solltest Dich von solchen Scalable Processors nicht blenden lassen, denn diese sind für den Heimgebrauch nicht konzipiert. Solche Prozessoren schwächeln in genau denjenigen Aspekten, wofür Du Deinen heimischen PC hauptsächlich zum Einsatz bringst.
Für die Aufgaben in Forschungseinrichtungen sind sie ideal, um bspw. Weltkarten des Universums erstellen zu können. Wobei ich von solchen antiquierten Rechennetzwerken nicht mehr all zu viel erwarte. Die Quantencomputer sind kosteneffizienter.

 

[Botcruscher]

Quantencomputer... so so.

Zum Update: Ja TDP ist TDP lol. Multiplizieren wir real mal besser mit zwei.

 

[Zeitmangel]

@KnSNaru
Du hast da was falsch verstanden. Dachte das wurde danke #10 klarer. Wohl nicht... Bitte bitte mach nicht eine auf Holt. Als Duo würde das hwluxx komplett zerstören
Es ging explizit um soviele P-Kerne.

Das Universum berechnet man auf GPUs. Den Vorteil die Daten weniger bewegen zu müssen udn AVX zu nehmen, ist real, bis zu der Größe eines gewöhnlichen Schlafzimmers. Wobei 256 P-Kerne die AVX512 ausfahren, takten dann bei Intel um unterhalb 800W Peak zu bleiben mit? 900 Mhz?

Und Quantencomputer werden erst zu etwas taugen, wenn das hier usus wird

IBM demonstriert Quantencomputer-Fehlerkorrektur auf AMD-FPGAs

(Bild: ALEKO SYNTELIS / IBM) Fehlerkorrektur für Quantencomputer bindet oft mehrere Qubits, die auf den aktuellen Quantenprozessoren folglich nicht für Berechnungen zur Verfügung stehen. IBM hat nun demonstriert, dass sich Fehlerkorrektur für Quantencomputer auch mit Hilfe handelsüblicher...

www.elektronikpraxis.de

 

[n3cron]

@KnSNaru
Du hast da was falsch verstanden. Dachte das wurde danke #10 klarer. Wohl nicht... Bitte bitte mach nicht eine auf Holt. Als Duo würde das hwluxx komplett zerstören
Es ging explizit um soviele P-Kerne.

Das Universum berechnet man auf GPUs. Den Vorteil die Daten weniger bewegen zu müssen udn AVX zu nehmen, ist real, bis zu der Größe eines gewöhnlichen Schlafzimmers. Wobei 256 P-Kerne die AVX512 ausfahren, takten dann bei Intel um unterhalb 800W Peak zu bleiben mit? 900 Mhz?

Und Quantencomputer werden erst zu etwas taugen, wenn das hier usus wird

IBM demonstriert Quantencomputer-Fehlerkorrektur auf AMD-FPGAs

(Bild: ALEKO SYNTELIS / IBM) Fehlerkorrektur für Quantencomputer bindet oft mehrere Qubits, die auf den aktuellen Quantenprozessoren folglich nicht für Berechnungen zur Verfügung stehen. IBM hat nun demonstriert, dass sich Fehlerkorrektur für Quantencomputer auch mit Hilfe handelsüblicher...

www.elektronikpraxis.de

So lange ich konventionelle Halbleiter brauche um ein Quantencomputer Resultat zu verifizieren weil dessen Resultate nicht 100% genau und wiederholbar sind.
Dauert das noch mit den Quantencomputern... mehr als Wissenschaft, Forschung ist da nicht. Das ist wie mit Fusionskraftwerken. Classical Verification of Quantum Computations

 

[Holt]

Die Quantencomputer sind kosteneffizienter.

Was für ein Witz, wenn sie so gut wären wie manche behaupten, wären sie weiter verbreitet als sie sind. Laut Google gibt es aber nur etwa 100 bis 200 Quantencomputer weltweit, vor allem in Forschungseinrichtungen.

Das ist wie mit Fusionskraftwerken.

Eben, alles Hoffnungen für die Zukunft, die vielleicht nie kommen wird, als heutige Realität. Aber manchen kann man jeden Traum verkaufen und damit auch noch der reichste Mensch auf Erden werden, weil kritisches Denken heute leider nicht mehr verbreitet ist.

 

[Zeitmangel]

So lange ich konventionelle Halbleiter brauche um ein Quantencomputer Resultat zu verifizieren weil dessen Resultate nicht 100% genau und wiederholbar sind.
Dauert das noch mit den Quantencomputern...

Man kann leider Quantencomputer nicht mit anderen Quantencomputern verifizieren Ich glaub sowas werden wir selbst nicht mehr erleben. Sonst, ist der erwähnte "AMD Virtex UltraScale+ VU19P", 10x schneller als man heute dafür benötigt.
Und das wird mit der Zeit auch noch bisschen zulegen, also glaub ich eher nicht, daß es die Nutzbarkeit irgendwie einschränkt, Quantencomputer über FPGAs zu verifizieren. Sehe das Prob nicht. Wenn es die mal endlich gibt, die sinnvollen RL-Fälle für das Zeug

Einerseits. Andererseits wirst du konventionelle Halbleiter dafür SO ODER SO quasi immer brauchen. Das was ein Quantencomputer an Ergebnissen ballert musst du erst für das Ergebnis in boolscher Logik verarbeiten. Um im nächsten Schritt etwas zu bekommen womit du selbst was anfangen kannst. Das macht dann für einiges die GPU weg, aber nicht die CPUs.
Quantencomputer werden immer der Coprozessor für nur mit CPUs bestückte Helios, Oberon, Kyber usw. bleiben.

Das ist die passende Grafik dazu

NVIDIA NVQLink für Quantencomputing

Echtzeit-beschleunigtes Computing für jeden Quantenprozessor.

www.nvidia.com