CHUWI UniBox AI495 Pro: 192 GB Unified Memory mit Gorgon Halo für lokale KI

HWL News Bot

News
Newsbot
Thread Starter
Mitglied seit
06.03.2017
Beiträge
125.315
CHUWI zeigt auf der IFA 2026 die UniBox AI495 Pro als kompakte Workstation für lokale KI‑Modelle. Das System kombiniert in einem 2,9-Liter-Gehäuse AMDs Ryzen AI Max+ Pro 495 mit bis zu 192 GB LPDDR5X-8533 Unified Memory. Damit sollen sich Sprachmodelle mit bis zu 300 Milliarden Parametern bei 4-Bit-Quantisierung lokal betreiben lassen. Einen Preis oder Marktstart nennt CHUWI zwar noch nicht, jedoch dürfte sich dieser an den zahlreichen Konkurrenzmodellen wie die von ACEMAGIC, GMKtec oder Lenovo orientieren, die teils zu Preisen ab 6.000 US-Dollar angekündigt wurden.
... weiterlesen
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
"Damit sollen sich Sprachmodelle mit bis zu 300 Milliarden Parametern bei 4-Bit-Quantisierung lokal betreiben lassen" - lassen sie sich einfach nur starten oder auch mit brauchbarer Geschwindigkeit? Oft werden die TOPS bei den CPUs bei Ausführung von einem <8GB E4B Model angegeben.
 
Die Marketing-Terminology geht nie von realen Anwendungsfällen aus. Bei nem 300B Modell ist wahrscheinlich nach nem „Hi!“ das Kontext-Fenster am Ende…
 
Im Endeffekt ist es n strix halo refresh. Es kommt auf den usecase an. Das läuft schon nicht so schlecht. Klar, dass es keine rtx 6000 ist, dafür mehr Speicher. Und die 128gb Version von strix gibts ab 2600€. Ob 6000€ noch sinnvoll sind, weiß ich nicht. Die meisten strix halo Plattformen,
Außer Framework, haben mehr oder weniger das selbe Mainboard.
 
"Damit sollen sich Sprachmodelle mit bis zu 300 Milliarden Parametern bei 4-Bit-Quantisierung lokal betreiben lassen" - lassen sie sich einfach nur starten oder auch mit brauchbarer Geschwindigkeit? Oft werden die TOPS bei den CPUs bei Ausführung von einem <8GB E4B Model angegeben.
MoE sind teilweise überraschend schnell, es hängt halt an der Speicherbandbreite, wie immer.
Für Echtzeitchat möglicherweise etwas lame, fürn Agenten der einfach vor sich hin arbeitet geht das schon.
300b Q4 auf 192gb ist aber etwas optimistisch.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh