Probleme beim Packaging: NVIDIA streicht Rubin Ultra mit vier Compute-Chips

Thread Starter
Mitglied seit
06.03.2017
Beiträge
123.373
Für die zweite Jahreshälfte 2026 plant NVIDIA die Auslieferung der ersten NVL72-Systeme mit Vera-Rubin – also der Vera-CPU und neuer Rubin-GPU. Erst auf der GTC 2026 Mitte März bekräftigte NVIDIA seine aggressive Roadmap: Rubin im Jahr 2026, Rubin Ultra kurz darauf. Noch in diesem Jahr wurden offenbar die ersten Samples erwartet. SemiAnalysis berichtet nun, dass das Design mit vier Compute-Chips für Rubin Ultra gestrichen worden ist. Dies dürfte Auswirkungen auf die Positionierung der Produkte am Markt haben.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Bin ja gespannt was daraus wird an anderer Stelle werden die Speicherhersteller wegen Anti Consumer Kartell verklagt.
Da bin ich auch gespannt, wie es sich entwickelt. Wenn die KI sich als aufgeblähte Blase stilisiert, kommt der Fall recht schnell. Ich bin froh, wenn ich in YouTube echte Menschen mit ihren Beiträgen sehe, die mich auch interessieren. Ich warte noch darauf, wenn die Idee aufkommt mal nachzuschauen, mit welchen Informationen die KI gefüttert wurde. Unter Umständen wurden Patent- und Urheberrechte teilweise massiv verletzt, was Folgen für KI-Rechenzentren haben wird, seit Jahren wurden Daten weltweit gesammelt und verwendet. Ihr größtes Problem: sie wollen damit Geld machen ...
 
Wenn die KI sich als aufgeblähte Blase stilisiert, kommt der Fall recht schnell.
Es sollte jedem klar sein, dass es eine Blase ist und die scheint ihren Höhepunkt erreicht zu haben. Die enorme Bewertung von SpaceX kommt ja vor allem von KI und die Aktie entwickelt sich bestenfalls seitwärts und geht eben nicht ab wie eine Rakete. Das SpaceX seine Rechenzentren vermietet, zeigt ja auch, dass diese überdimensioniert sind und Meta will nun auch seine Rechenzentren vermieten. Dies zeigt, dass sie die auch überdimensioniert haben, denn wenn man die Rechenleistung selbst brauchen würde, hätte man nichts zu vermieten frei. Wie wird es denn erst aussehen, wenn noch mehr der KI Rechenzentren in Betrieb gehen die im Bau oder auch nur in Planung sind?

Der Punkt ist halt, dass die Anbieter viele Unternehmenskunden mit günstigen Pauschalen gelockt und dabei Milliarden zugesetzt haben. Nun rechnen sie vermehrt nach Token ab, was die Kosten gewaltig erhöht und Unternehmen genauer hinsehen werden, ob diese Kosten gerechtfertigt sind, was oft nicht der Fall sein dürfte, da man ja die Ergebnisse der KI immer prüfen muss. Dies lässt nicht erwarten, dass die Nachfrage so massiv wie die Kapazitäten der Rechenzentren steigen wird.

Ich bin froh, wenn ich in YouTube echte Menschen mit ihren Beiträgen sehe, die mich auch interessieren.
Ja, die ganzen KI Videos dort sind fürchterlich. Die Scripts hat offenbar auch KI geschrieben und man erkennt, dass es den Machern nur um schnelle Kohle geht. Auch da ist die Frage, ob sie genug damit verdienen um überhaupt die Kosten einzufahren, wenn sie die realen Kosten der Token für die Modelle zahlen müssen. Derzeit gibt es aber offenbar Leute die richtig Geld damit verdienen anderen beizubringen KI Videos für YT zu machen, es dürfte also erstmal noch schlimmer werden.

Es gibt auch Anwendungen wo KI sinnvoll ist, dies sind aber nicht so viele wie manche heute glauben oder anderen erzählen. Es wird eben nichts so heiß gegessen wie es gekocht wird und es bleibt abzuwarten, wie hoch der Bedarf für KI dann ausfällt, ob dieser vor allem von Rechenzentren gedeckt wird oder Inferenz verstärkt lokal stattfinden wird.
 
Dies zeigt, dass sie die auch überdimensioniert haben, denn wenn man die Rechenleistung selbst brauchen würde, hätte man nichts zu vermieten frei. Wie wird es denn erst aussehen, wenn noch mehr der KI Rechenzentren in Betrieb gehen die im Bau oder auch nur in Planung sind?
Da will ich hoffen, dass Europa mit Augenmaß vorgeht. Obwohl ich schon den Trend sehe, dass nicht blind agierend was hingeklatscht wird, ohne es auf Sinnhaftigkeit und Nutzen zu hinterfragen.
Der Punkt ist halt, dass die Anbieter viele Unternehmenskunden mit günstigen Pauschalen gelockt und dabei Milliarden zugesetzt haben. Nun rechnen sie vermehrt nach Token ab, was die Kosten gewaltig erhöht und Unternehmen genauer hinsehen werden, ob diese Kosten gerechtfertigt sind, was oft nicht der Fall sein dürfte, da man ja die Ergebnisse der KI immer prüfen muss. Dies lässt nicht erwarten, dass die Nachfrage so massiv wie die Kapazitäten der Rechenzentren steigen wird.
Das Erwachen und Erkenntnisse kommen immer hinterher und wer glaubt der Preis der Tokens bleibt stabil, irrt gewaltig (wenn man die amerikanische Vorgehensweise der Kundenbindung so beobachtet). Rein von der Sache her, ist es nachvollziehbar, wenn nach Tokens abgerechnet wird. Wer es intensiv nutzt, muss auch entsprechend nach den Anfragen und dessen Ergebnisse auch mehr bezahlen. Allerdings sehe ich auch da Konfliktpotentiale, weil Ergebnisse nicht zufriedenstellend oder fehlerhaft sein könnten. Dafür bezahlen? (provokant formuliert)
 
Da will ich hoffen, dass Europa mit Augenmaß vorgeht. Obwohl ich schon den Trend sehe, dass nicht blind agierend was hingeklatscht wird, ohne es auf Sinnhaftigkeit und Nutzen zu hinterfragen.
Risikokapital wird in Europa eben nicht mit so einer große Gießkanne wie in den USA verteilt.

Das Erwachen und Erkenntnisse kommen immer hinterher
Ja, die hat sich bei jeder Börsenblase gezeigt. So gab es in den 1840ern in UK die Railway Mania, eine gewaltige Börsenblase, 1845 alleine wurden über 15.000km neue Strecke von 263 Eisenbahnunternehmen genehmigt, als die Blase 1848 geplatzt ist, waren hinterher immerhin knapp 10.000km gebaut, aber während nur der Blase, glaube man eine Eisenbahn zu jeder Milchkanne bauen zu können, ohne zu schauen was wirtschaftlich ist. Nur was wird von der KI Blase bleiben? Gewaltige Rechenzentren mit sehr schnell alternder Hardware die im Grunde schon unwirtschaftlich sein wird, wenn die Nachfolgegeneration erschienen ist und nach 3, 4 oder 5 Jahren zum Elektroschrott wird.

wer glaubt der Preis der Tokens bleibt stabil, irrt gewaltig (wenn man die amerikanische Vorgehensweise der Kundenbindung so beobachtet).
Ja die haben ihre Kunden zuerst mit den billigen Pauschalen gelockt, dabei aber Milliarden an Verlusten eingefahren und ohne weitere Kohle von Investoren ist dies nicht durchzuhalten, offenbar ist es aber wohl nicht mehr so einfach an die Kohle zu kommen wie vorher. SpaceX Performance an der Börse dürfte hier eine große Rolle spielen, denn sobald ein Unternehmen an die Börse geht, muss es geprüfte Zahlen veröffentlichen und Millionen Menschen an der Börse beteiligen sich an der Preisfindung der Anteil.

Google hat z.B. in Q1 n $62,6 Milliarden Gewinn gemeldet, $36,9 Milliarden davon aus nicht realisierten Wertsteigerungen von Beteiligungen, vor allem an Anthropic und SpaceX. SpaceX ist nun an der Börse, da ist die Bewertung einer Beteiligung einfach, aber was ist Anthropic wert? Das machen der Investor und das Unternehmen alleine unter sich aus und bei XAIs Übernahme durch SpaceX war es auf beiden Seite nur eine Person. Aber wenn man nun bei einer frühen Finanzierungsrunde für 10 Milliarden 10% bekommt und später dann noch jemand z.B 10 Milliarden investiert, aber dafür nur 1% erhält, was dann zu einer Bewertung von 1000 Milliarden führe, hat man 90 Milliarden Gewinn aus seiner 10% Beteiligung gemacht und kommen diese Gewinne dann zustande. In der Phase der Euphorie ist es einfach den Investor zu finden, der bei solchen Bewertungen einsteigt, aber wenn die Euphorie verflogen ist, wird es schwer, nur wenn man dem dann für seine 10 Milliarden auch wieder 10% gibt, dann kann der frühere Investoren keinerlei Gewinn ausweisen und wird darüber nicht glücklich sein. Deshalb will OpenAI ja auch unbedingt mit einer 1000 Milliarden Bewertung an die Börse.

Rein von der Sache her, ist es nachvollziehbar, wenn nach Tokens abgerechnet wird. Wer es intensiv nutzt, muss auch entsprechend nach den Anfragen und dessen Ergebnisse auch mehr bezahlen. Allerdings sehe ich auch da Konfliktpotentiale, weil Ergebnisse nicht zufriedenstellend oder fehlerhaft sein könnten. Dafür bezahlen? (provokant formuliert)
Selbst Sam von OpenAI hat schon eingestanden, dass man die Halluzinationen nicht loswerden wird, die sind einfach technisch bedingt, es ist ja eben eine gewaltige Wahrscheinlichkeitsrechnung und keine echte Intelligenz. Für fehlerhafte Ergebnisse zahlen zu müssen, dürfte wohl irgendwo in der AGBs steht. Das eigentliche Problem ist aber eben, ob die Ergebnisse die Preise rechtfertigen, was sich Firmen bei den lächerlich kleinen Pauschalen eben nicht wirklich fragen musste. UBER soll in 4 Monaten sein Tokenbudget für das ganzen Jahr verbraten haben und hat nun Limits eingeführt wie viele Token Mitarbeiter verwenden dürften. Was alleine schon deswegen problematisch ist, weil man erst hinterher weiß, wie viele Token für eine Aufgabe benötigt wurden.

Entscheidend ist aber, dass die Anbieter eben in einer Zwickmühle stecken, entweder sie machen die Token billig, dann haben sie ein Wachstum der Nutzung, aber eben auch der Kosten und damit Verluste, oder die berechnen die Kosten zumindest der Token, das Training ist dann noch ein anderes Thema, verlieren dann aber Nutzer bzw. nutzen die zahlenden Käufer die Modelle weite weniger. Wachstum ist für Startups aber eben das wichtigste Bewertungskriterium, fehlt die Wachstumsphantasie, schauen Investoren auf die Zahlen und die sehen eben nicht gut aus. Das Problem sind die Kosten für Inferenz, die proportional zur Nutzung steigen und dazu gewaltige Investitionen in Hardware verlangen. Das steht halt im Widerspruch zu den klassischen Technologiefirmen, die eine Software entwickeln und einen Server aufsetzen, was eine bestimmte Summe kostet und die ändert sich kaum, egal wie viele Kopieren sie davon verkaufen. Verdoppelt sich die Anzahl der Nutzer, so verdoppeln sich die Kosten bei weitem nicht.

Dies gilt bei KI Anbietern aber nur für das Training, der Modelle. Wobei da gerne so getan wird, als wäre dies eine einmalige Investition, genau wie die Erstellung einer Software. LLMs müssen aber ständig neu trainiert werden, sonst fehlten die aktuellen Informationen. Eine LLM die zwei Jahre nicht neu trainiert worden wäre, würde sagen das Biden noch US Präsident ist. Das ganze Geschäftsmodell ist eben problematisch und basiert darauf, dass KI im großen Stil Mitarbeiter ersetzen kann, was sich aber so in den allermeisten Fällen eben nicht bewahrheitet hat, weil die Ergebnisse dafür zu fehlerhaft sind, wie z.B. dieser Fall zeigt.

Wo soll also das Geld herkommen? Die Investoren habe nicht ewig Geduld, die Unternehmenskunden werden auch nicht dauernd mehr bezahlen, als sie durch den Produktivitätsgewinn rechtfertigen können und von den privaten Nutzern werden bereit sein Preise zu bezahlen, die die echten Kosten abdecken.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh