Bis zu 1 MW pro Rack: NVIDIA spricht sich für 800-V-Versorgung aus

Thread Starter
Mitglied seit
06.03.2017
Beiträge
112.963
Die Stromversorgung eines Rechenzentrums, welches die aktuellen KI-Systeme betreiben möchte, wird neben der Kühlung und dem Gewicht der Racks zu einer immer größeren Herausforderung. Während wir in klassischen Rechenzentren von maximal 50 bis 80 kW an Leistungsaufnahme für ein Rack sprechen, kommt NVIDIAs GB200/GB300 NVL72 bereits auf bis zu 132 kW pro Rack und für die kommenden Generationen "Kyper" hat NVIDIA bereits 700 kW projiziert.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
800V, ach Nvidia untertreibt doch echt.
Genauso könnte man gleich mit einem Umformer 15KV mit 16 2/3 Hz der Bahn verwenden :ROFLMAO:

Lieber nicht diese idee dann sagt die KI, die Bahn fährt um 18 Uhr aber steht dann aufgrund Leistungsmängel wegen der KI am Bahnhof:rofl:
 
Bei 800V braucht man dann aber auch speziell geschulte Techniker damit diese nicht bei einem Fehlgriff gegrillt werden, so wie nur extra geschulte Techniker an eAutos arbeiten dürfen, eben weil solche Spannungen extrem gefährlich sind. Aber wieso packt man die Brechstange aus? Sollte nicht alleine durch die jeweils neuste Fertigung die Leistung bei gleicher Leistungsaufnahme steigen?
 
Sollte nicht alleine durch die jeweils neuste Fertigung die Leistung bei gleicher Leistungsaufnahme steigen?
Ja, aber die Dichte in der Leistung steigt halt extrem an. 72 GPUs in zwei Racks, 72 GPU-Packages mit 576 GPUs in vier Racks etc. Wenn man das alles etwas entspannter versorgen könnte, würden die 54 V auch ausreichen, aber wenn man eben 1 MW pro Rack versorgen muss, wird es schwierig.
 
Ich wusste nichts von den 48V - 54V die diese Racks nutzen. Eine Steigerung der Spannung ergibt dann natürlich Sinn. Das man nicht vorher schon auf solche Ideen gekommen ist. :rolleyes:
Hierzulande darf jeder Elektriker/Elektroniker (nicht KFZ-Bereich) bis 1000V AC / 1500V DC arbeiten, wobei eine Sensibilisierung in einer 2-Tagesschulung wohl nochmal nützlich wäre.
Wie das bei den Amis aussieht weiß ich nicht, aber die haben auch keine Ausbildung wie bei uns.
 
... deswegen mehren sich Stimmen, dass zu jedem Rechenzentrum ein Atomkraftwerk mit einkalkuliert, aufgebaut oder reaktiviert werden sollte. Ich meine, Google forciert geradezu diesen Gedanken in den USA. :fresse2:
 
Interessant, mein AG bietet Stecker für ±200VDC für DC Serveranlagen an. Viele Anfragen aber sehr wenig effektive Nachfrage. Jetzt wollen sie schon auf 800VDC... Die Anforderungen an Komponenten, Kabel etc. werden dadurch nich kleiner auch wenn es sich am Ende rechnen wird. Ich finds schon Krass was man durch reine DC Versorgung an Energie sparen kann (ein grosser AC/DC Wandler +Redundanz für das ganze Center).

Muss das Thema auf jeden Fall unserer R&D weiterleiten. Die sollen mal bei NV anklopfen :d
 
Stimmt ist eigentlich Unsinn viele einzelne Netzteile zu verwenden. Da addieren sich die Verluste.
 
Anstelle die Spannung auf 800 V zu setzen um die Ströme geringer zu halten ,wäre es besser den Stromverbrauch zu Reduzieren.
Allein eine Grafikkarte (5090) kann bis zu 650 Watt Schlucken. Das wären nach dem Gesetz P= U * I dann über 50 Ampere . Damit kann man locker dünne Bleche schweißen. Daher wäre die Entwicklung hin zu weniger Strom Verbrauchenden GPU Modellen die sinnvollere Lösung. Ich Hoffe das Nvidia dies Entwickeln wird. denn den Stromhunger kann man auf Dauer nicht Stillen ,wäre einfach zu viel.
Beitrag automatisch zusammengeführt:

... deswegen mehren sich Stimmen, dass zu jedem Rechenzentrum ein Atomkraftwerk mit einkalkuliert, aufgebaut oder reaktiviert werden sollte. Ich meine, Google forciert geradezu diesen Gedanken in den USA. :fresse2:
Wäre sinnlos . Allein die verbrauchten Brennstäbe in Abklingbecken zu Lagern würde Unsummen verschlingen.
Dazu später dann die Endlagerung ,auch ein weiteres Problem. Besser wäre es auf ein Fusionskraftwerk zu warten ,das sogar mehre Serverfarmen mit genug Strom Versorgen könnte.
Was die 800 Volt DC angeht ,so fahren heute schon einige E-Autos mit einer Bordspannung von 800-900 Volt DC. Bei den E-Bikes ist die DC Spannung schon bei über 100 Volt angekommen.
 
Wäre sinnlos . Allein die verbrauchten Brennstäbe in Abklingbecken zu Lagern würde Unsummen verschlingen.
Dazu später dann die Endlagerung ,auch ein weiteres Problem. Besser wäre es auf ein Fusionskraftwerk zu warten ,das sogar mehre Serverfarmen mit genug Strom Versorgen könnte.
Was die 800 Volt DC angeht ,so fahren heute schon einige E-Autos mit einer Bordspannung von 800-900 Volt DC. Bei den E-Bikes ist die DC Spannung schon bei über 100 Volt angekommen.
Stimme ich dir voll zu. Atomstrom ist nicht die Zukunft. Problem ist nur, dass die Fusionsenergie erst in 20-30 Jahren Mengen an Strom liefert, was man anstrebt (geplant ab 2050; 300-500 MW pro Fusionsreaktor). Der ITER Fusionsreaktor wird 2036 fertiggestellt und erst in den Forschungstestbetrieb gehen, um neue Erkenntnisse zu gewinnen. Da bin ich gespannt, was da herauskommt und überhaupt in den stabilen Betrieb gehen kann. Es wäre zu wünschen. Wer weiß, vielleicht wird die Solartechnik weiter so optimiert, dass die Ausbeute aus der Sonnenenergie signifikant erhöht wird. Aber alles ist in weiter Ferne und die Rechenzentren werden jetzt aufgebaut. Alternativen sind rar, leider.
 
Zumal die Endlagerung dann sowieso dem Steuerzahler aufgebürdet wird, in egal welchem Land.
 
ebn, nur so trägt sich das ganze und ist für die Unternehmen wirtschaftlich - das vergessen aber immer wieder gerne die Leute welche die Atomkraft als allheilmittel proklamieren ^^
 
Macht doch Sinn die Spannung anzuheben. Gut man muss dann alle Peripherie Geräte neu auslegen und sich ganz andere Gedanken über Kurzschlussschutz machen, aber ich sehe da kein Problem wenn Datacenter eine eigene Spannungsebene bekommen auf der sie arbeiten. Dann gibt es halt einen neuen Bereich an spezialisierten Leuten. Bahn Anwendungen sind dafür ein gutes Beispiel. Jede Tram fährt mit 600-750VDC und das funktioniert auch ohne Not.
 
Ach, da kann man einen sicheren und erprobten Stromstecker hernehmen…

Wundert mich, dass nVidia nicht seinen 12VHPWR-Stecker genommen hat.

Leitungsquerschnitte sind überbewertet…
 
Warum denn nur 800v? Eigentlich könnten sie gleich 1000v nehmen und dann die wandlungstechnik von e auto dc ladern statt selbst was erfinden zu müssen.
 
Atomstrom ist nicht die Zukunft.
Wenn man aber zugleich weniger C02 verlangt, gibt es derzeit keine Alternative dazu. Die sogenannten Erneuerbaren sind keine Alternative, da zwar die Sonne und der Wind frei sind, aber die Anlagen nicht, die sind auch nicht erneuerbar und bei Solarpanels nicht einmal recycelbar und halten vielleicht zwei bis drei Jahrzehnte, dann muss man die Anlagen erneuern. Vielleicht kommt der Name Erneuerbare ja in Wirklichkeit daher :d

Mal davon ab, dass es nicht genug Metalle, vor allem Kupfer gibt, wenn man die ganze Welt nur mit Erneuerbaren Energien und den dann nötige Batteriespeichern versorgen wollte:


Problem ist nur, dass die Fusionsenergie erst in 20-30 Jahren Mengen an Strom liefert, was man anstrebt (geplant ab 2050; 300-500 MW pro Fusionsreaktor). Der ITER Fusionsreaktor wird 2036 fertiggestellt und erst in den Forschungstestbetrieb gehen, um neue Erkenntnisse zu gewinnen. Da bin ich gespannt, was da herauskommt und überhaupt in den stabilen Betrieb gehen kann.
Eben, es ist nicht einmal sicher ob es je gelingen wird wirklich funktionierende Fusionsgeneratoren zu bauen. Daher wäre es komplett unsinnig heute schon damit planen zu wollen.
Wer weiß, vielleicht wird die Solartechnik weiter so optimiert, dass die Ausbeute aus der Sonnenenergie signifikant erhöht wird.
Derzeit liegt man bei so um die 20% und es gibt schon Experimentelle Zellen die auf über 40% kommen, aber dies ändert nichts am Problem der Dunkelflaute, die besten Zellen werden nachts keine Energie erzeugen können und dazu kommt, dass gerade Tagsüber, wenn die Sonne am besten scheint, die Nachfrage meist nicht die höchste ist. Es ist ja heute schon ein Problem, dass die Erneuerbaren zu bestimmten Zeiten die Netze fluten und die grundlastfähigen Energieerzeugen dann ein Problem haben.
Die RTX Pro 6000 Blackwell gibt es als 600W und als 300W Karte. Die die 600W Version ist mit lediglich 13% Mehrleistung gegenüber der 300W Version spezifiziert.
Die 600W Version setzt eben die Brechstange an und für die letzten Prozente an Performance muss man immer am meisten bezahlen, auch bei der Stromrechnung. Das ist ja bei CPU auch nicht anderes:

Arrow Lake 285K Power Limit Skalierung.png


Wie man sieht schafft ein 285K bei 65W so etwa 1900 Punkte, bei 210W sind es nicht ganz 2400. Bei so 30% dieser 210W hat man so etwa 80% der Performance, aber schaut man sich an wie die Mainboardhersteller die Power Limits per Default einstellen oder wie die Leute die selbst Einstellungen dazu vornehmen, dann macht dies kaum einer. Die meisten denken offenbar, dass wenn sie schon so viel für die Hardware bezahlt haben, sie dann auch die maximale Performance aus ihr heraus quetschen wollen. Bei den Minern die damals noch mit GPUs gemint haben, gab es damals Diskussion darüber wie besser die Effizienz wird, wenn man den Takt senkt, aber die mussten eben auch oft sehr darauf achten nicht zu viel für Strom auszugeben, damit sich die Sache noch lohnte. Diese ganzen KI Projekte scheinen dies wohl leider nicht nötig zu haben.
 
500.000t Kupfer allein für die Stromversorgung? Laut gold.de kostet die Tonne aktuell rund 9000€, das wären dann 4,5 Mrd € allein für die Stromversorgung. Und die Fundamente des Gebäudes für 500.000t Gewicht sind bestimmt auch nicht billig......zum Vergleich: Das Leergewicht des Burj Khalifa, dem höchsten Gebäude der Welt, beträgt 500.000 Tonnen.

Kann es sein, dass der Redakteur hier im Artikel Mist erzählt ?
 
Das Leergewicht des Burj Khalifa, dem höchsten Gebäude der Welt, beträgt 500.000 Tonnen.
Das siehst Du mal wie winzig der Burj Khalifa im Vergleich zu den künftigen Tempeln der KI sein wird. :d

Andernfalls gilt: Vergiss nicht, dass man den Teufel groß an die Wand malen muss, wenn man Änderungen erreichen will.
 
Wenn man aber zugleich weniger C02 verlangt, gibt es derzeit keine Alternative dazu. Die sogenannten Erneuerbaren sind keine Alternative, da zwar die Sonne und der Wind frei sind, aber die Anlagen nicht, die sind auch nicht erneuerbar und bei Solarpanels nicht einmal recycelbar und halten vielleicht zwei bis drei Jahrzehnte, dann muss man die Anlagen erneuern. Vielleicht kommt der Name Erneuerbare ja in Wirklichkeit daher :d

Mal davon ab, dass es nicht genug Metalle, vor allem Kupfer gibt, wenn man die ganze Welt nur mit Erneuerbaren Energien und den dann nötige Batteriespeichern versorgen wollte:
Die Briten werden für ihr AKW so 25 Jahre brauchen, mit deutschem spitzen tempo kannst du also davon das das hier 40+ Jahre dauert. Daher bevor hier ein neues AKW ans Netz geht sind wir bereits bei 99,9% erneuerbare für Strom. Deshalb werden wir das Argument das Erneuerbare keine Alternative sind testen, denn AKWs wird es in DE nicht mehr geben.
 
Der Wechsel von 48VDC zu 415VDC oder sogar 800VDC bedeutet ja nur, daß in jedem Rack eine 48V, 415V oder 800V DC/DC- WandlerStrucktur(SpannungsAufbereitung) verbaut sein muss.

Frag sich nur wie effizient man aus den 800VDC die nötigen 1VDC für die GPU/CPUs machen kann. In einem einzigen UmwandlungsSchritt ist das eigentlich nur mit 12VDC Stromversorgung möglich. Schon bei 48VDC Stromversorgung sind idR zwei Wandlerschritte(WandlerEbenen) nötig, um daraus 1VDC für die Prozessoren machen zu können. Bei 415VDC oder 800VDC Stromversorgung kommt halt noch eine dritte vorgeschaltete WandlerEbene im Rack dazu, die aus den 415VDC oder 800VDC erstmal stabile 48VDC macht.
 
Ich meine, Google forciert geradezu diesen Gedanken in den USA. :fresse2:
Nicht nur Google:
Am 20. September 2024 wurde mitgeteilt, dass Block I für 1,6 Milliarden Dollar erneuert werden und 2028 wieder ans Netz gehen soll. Der Softwarekonzern Microsoft garantiert die Abnahme des Stroms auf 20 Jahre und will damit seine Rechenzentren an der Ostküste versorgen und gleichzeitig selbst gesetzten CO2-Emissionszielen gerecht werden. Der Betreiber strebt eine Betriebsgenehmigung bis 2054 an.[7] Im Zuge der Wiederinbetriebnahme soll das Kraftwerk in „Crane Clean Energy Center“ umbenannt werden.[8]
 
Ja, das ist wie Back to the Roots, mit Langzeitfolgen für nachfolgende Generationen, die mal wieder unter den Teppich gekehrt werden (Endlager, GAU, usw.).
 
Naja diese dezentralen AKW sind schon richtiger Quatsch, aber insgesamt ist Diversifizierung schon das Gebot der Stunde.

Nur erneuerbare und dann kein stabiles Netz ist nicht tragbar. Nur fossile mit Langzeitfolgen die nicht unter den Teppich gekehrt werden ist genauso blöd. Das heißt jetzt aber nicht dass ich mich dafür ausspreche zu jedem Datacenter ein AKW zu spendieren.

Ich finde das japanische AKW Projekt spannend mit neuem Brennstoff wenn ich es richtig verstanden habe. Soll keine Kettenreaktion mehr haben und sich im Havarie Fall dann selbst drosseln. In der Arte Doku haben sie angeblich zwei Wochen lang die Kühlung ausgeschaltet wodurch der Reaktor dann auf nur noch 10% lief. Gebaut wird es um dann Wasserstoff als neuen Brennstoff für die dortige Verkehrswende zu produzieren.

Edith: Absätze
 
Alles ist gut, wenn nachfolgende Generationen diese für mich unkontrollierte Folgen des "Müssen wir unbedingt machen!" nicht ausbaden müssen. Neue Energiemöglichkeiten, Gefahrenminimierung, usw., nur zu.

Ich habe mir die VEO 3 - Videoclips von Google und anderen Creators angeschaut. Bin fasziniert über die Möglichkeiten, aber auch gleichzeitig sehr, sehr erschrocken über die Möglichkeiten und Realitätsnähe. Diese AI/KI Maschinerie braucht Energie, Rechenleistung und Speicher, keine Frage. Mit dem muss sich die Menschheit aber wirklich auseinandersetzen, weil es zum einen hilfreiche Möglichkeiten bietet, andererseits ethisch und missbräuchlich sehr verwerflich sein kann und ob wir es zulassen wollen, mit all den Konsequenzen leben zu wollen/müssen. Das macht mir echt Angst. :unsure:
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh