Neuer AI-Server

[pwnbert]

Jetzt müßt ich vielleicht im BIOS nachsehen, ob ich da 'ne Einstellung zu find und die zufällig grad auf zwei steht und ob ich da mehr geben kann, oder.

Beim MC12 isses irgendwo Advanced ➔ AMD CBS ➔ NBIO Common Options ➔ GFX Configuration, irgendwo musst außerdem beim UMA Framebuffer oder so von Auto wegschalten auf irgendwas mit fixed, musst bissl suchen, is bissl teif vergraben.
Sag dann, wie viel bei 8000er geht, ob er 32gb kann oder so.

Vielleicht für den ein oder anderen interessant: Canonical hat für für Ubuntu 26.04 einiges getan und bietet ollama als snap inklusive ROCm und den gängigen Schnittstellen an. Für DAUs wie mich an Einfachheit nicht zu überbieten und theoretisch auch für jedes Linux so nutzbar. Ich weiß, dass bei dem Wort "Snap" schon einige Schnappatmung bekommen, aber für andere mag das ja trotzdem ein gangbarer Weg sein - eben aufgrund der Einfachheit.

https://www.jan.ai/

Stressfrei mit llama.cpp als Backend fix integriert. Kann halt (noch) keine Voice-Ausgabe direkt und so, musst schauen, obs dir reicht, ist aber ganz nice, hat gute tools onboard (webfetch, websearch) und ist ganz nice zu bedienen. Dafür brauchts kein Canonical.

Sobald du halt weg vom Blech bist, isses schwieriger, vor allem, wenn du es remote verknüpfen magst und so.