MSI Pro Max Edge AI+ im Test: 128 GB Speicher für lokale KI

HWL News Bot

News
Newsbot
Thread Starter
Mitglied seit
06.03.2017
Beiträge
125.965
Mit dem Pro Max Edge AI+ bringt MSI den AMD Ryzen AI Max+ 395 in ein rund 4 L fassendes Desktop-Gehäuse und kombiniert den leistungsstarken KI-SoC mit seinen 16 Zen-5-Kernen und der integrierten Radeon 8060S mit insgesamt 128 GB gemeinsam nutzbarem Speicher sowie einer 2 TB großen SSD. Damit richtet sich der Kompaktrechner nicht nur an klassische Desktop-Anwendungen, sondern als kleine Workstation auch an lokale KI-Modelle und die Content-Creation. Wir haben dem fast 4.300 Euro teuren System mächtig auf den Zahn gefühlt, es durch unseren altbekannten Benchmark-Parcours geschickt und mit einer ungewöhnlichen Zusatzaufgabe gefordert.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Mit/ohne MTP?
Wie voll der Kontxt? Spannend wirds bei 50-100k im KV-Cache (Q8_0).

Gemma 4 26B A4B QAT (Q4..) und Qwen 3.8 UD-Q4-K-XL sind mal gut. 👍
Wo Qwen 3.8 Flash-Next als UD-Q3-K-XL? Darf nicht fehlen bei 128gb Unified, wofür kauft man sowas sonst?

Jan.ai wäre als lokales Tool btw. zu gebrauchen, einfach, offen, gepflegt, zweckmäßig.

edit: ... und natürlich ROCm! Ist ja keine Vega.
 
Zuletzt bearbeitet:
@Don Bilder vom Innenleben wären auch interessant gewesen. Ich denke aber, ihr durftet nicht. Oder vielleicht doch ... :d
 
Hmmm die Frage ist halt wie performt sowas im Vergleich zu Strata.

Gerade weil man zu Hause ja eher nicht soooooooo gigantischen AI Kram meist laufen lässt sondern eher so viele kleine Sachen für die ein extren bezahltes Frontier Modell einfach Verschwendung wäre.
 
128 GB RAM in einem so kompakten System sind schon beeindruckend. Für lokale KI-Modelle ist das wirklich interessant, auch wenn der Preis von über 4.000 Euro natürlich eine Ansage ist.
 
Allerdings die Alternativen sind halt auch alle $$$ :D

Aber für das MSI Modell hier ist auch zumindest auf der Artikelseite in der "Verfügbarkeits-Box" der günstigste Preis 6400 Euro und nicht 4300 Euro also > 2000 (und 50%) mehr :O
 
Zuletzt bearbeitet:
gammel mit qwen 3.8 Q3 K_M auf der Radeon 6800OC und ist geil, mit 128gb voll qwen nutzen wäre nice - sonst keine Ahnung was du mit soviel RAM machst
 
Wie lahm popelt 3.8 27b denn auf ner 6800? Wird aber wahrscheinlich relativ okay sein und gar nicht mal so gammelig, mit 512gb/s hat sie fast so viel wie ne r9700... 20-25 t/s?

Q3KM ist imho gar nicht so schlecht/unbrauchbar...
Für "low" VRAM (also 16gb lol) sind imho so Gemma 4 26b MoE Quants gar nicht übel.
 
Naja mit Strata auf 12 GB Nvidia erreicht man doch relativ problemlos 70 token+ mit 125B Modellen als ~ 3.5 Quant. kann mir nicht vorstellen dass AMD da so viel langsamer ist?
 
Jein, fürs Rechnen selbst hast du zumindest 192 bit GDDR7 auf einer 5070, was schon nicht so übel ist... immerhin 670gb/s, so viel, wie 256 bit GDDR6 Karten haben, Arc Pro B70, R9700 und sowas...
 
Hmm ich habe nur eine 4070 und habe selbst bei Powerlimit herabgesetzt auf 150W noch 70 Tokens+ auch bei Ausnutzung des 200k Kontextes 125B "3.5" Quant.

So Prompts wenn man sich 3D Kram für den Drucker erstellen lässt laufen doch manchmal länger - aber selbst das liefert stabil so 70+ Werte, c# und c++ Kram bisher auch.

Dass AMD so arg abweicht fände ich komisch.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh