NVIDIA DGX Spark: Der KI-Mini-PC im Praxiseinsatz

[HWL News Bot]

NVIDIA verspricht mit dem DGX Spark nichts weniger als den "kleinsten KI‑Supercomputer der Welt". Grundlage ist der GB10‑Superchip mit integriertem Arm‑Prozessor und Blackwell‑GPU, dazu 128 GB an LPDDR5X‑Speicher, der CPU und GPU gemeinsam zur Verfügung steht. In Kombination mit NVFP4‑Präzision wirbt NVIDIA mit bis zu einem PetaFLOP an KI‑Leistung und der Möglichkeit, Sprachmodelle mit rund 70 Milliarden Parametern feinzutunen und Varianten mit bis zu etwa 200 Milliarden Parametern lokal für die Inferenz zu betreiben. Wir haben versucht, den DGX Spark in den Redaktionsalltag einzubinden und geschaut, an welcher Stelle eine lokale KI hier sinnvoll sein kann.
... weiterlesen

 

[aluis]

128GB klingt toll. Aber LPDDR5X ist nunmal kein GDDR7. Was bringt mir das tolle 80b Modell, wenn ich drei Minuten auf die Antwort warte? Da würde ich doch lieber die 100€/Monat für Claude ausgeben.

 

[Sir Diablo]

128GB klingt toll. Aber LPDDR5X ist nunmal kein GDDR7. Was bringt mir das tolle 80b Modell, wenn ich drei Minuten auf die Antwort warte? Da würde ich doch lieber die 100€/Monat für Claude ausgeben.

Datensouveränität "bringt" dir das.

Btw qwen3.5-122b-a10b läuft mit 50tps darauf. Was meinst du mit drei Minuten warten bei 80b?

 

[Shihatsu]

128GB klingt toll. Aber LPDDR5X ist nunmal kein GDDR7. Was bringt mir das tolle 80b Modell, wenn ich drei Minuten auf die Antwort warte? Da würde ich doch lieber die 100€/Monat für Claude ausgeben.

Sag mir das du das Produkt nicht verstanden hast ohne mir zu sagen das du das Produkt nicht verstanden hast...

 

[xdave78]

Sehr nice. Wir starten in unserem KMU gerade ein Projekt in Richtung CompanyGPT - dafür plane ich so ein Schnuckelchen einzusetzen bzw. hab es in das Lastenheft für die Dienstleistersuche getan. Für die zu erwartenden schätzungsweise 3-4 parallelen Nutzer maximal in unserem 60 Mitarbeiter Unternehmen ist das glaube ich der ideale usecase. Da hat das Unternehmen auf jeden Fall die volle Kostenkontrolle und das DGX ist wahrscheinlich nach nichtmal einem Jahr schon armortisiert. Auf die ersten 5 Jahre "an KI herantasten" und schauen was in einer industriellen Kleinserienfertigung damit rumkommt kann man damit glaube ich gut starten.
Das Teil kommt genau zur richtigen Zeit.