-
Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.
-
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.Hmm, die Aktivität war halt NACH den Antworten, deshalb wundert es mich was danach noch so groß passiert, der Server hat ja das... -
Qwen 3.6 35B-A3B ist ein MoE Modell und passt nicht vollständig in die 16 GB VRAM deiner 6900XTXH d.h. wenn VRAM nicht ausreicht wird...
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.Soo, gestern aus Frust über die CPU-Performance von Qwen3.8 27B mit 16 Kernen im Keller mal lokal ne llama.cpp rocm Instanz aufgesetzt...
-
-
Weltherrscher reagierte auf den Beitrag von Da_Maddy im Thema [Sammelthread] 10Gbit Homenetzwerk mit
Haha.
Und jetzt mach ich nochmal den Bösen: Denken hilft, KI unterstützt. :coolblue: -
Weltherrscher antwortete auf das Thema Neuer AI-Server.llama.cpp-cuda lüppt im docker, deshalb ne docker compose yml aber duckai hat mich auch af die richtigen environment variables gebracht...
-
Spontanes Beispiel...
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.So, llama-cpp mit openwebui ist verbunden, angeblich soll man über die oberfläche auch modelle laden können, habs bislang noch nicht...
-
Nichts so spannendes. Mein erster echter Einsatz war einfach copy&paste Hilfe für Linux. Noch ohne Agent und so, muss mir das erst...
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.Wenn da was dran ist, dass llama.cpp so viel schneller ist als ollama, werde ich wohl testweise erstmal ne .cpp instanz aufsetzen...
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.Damit hab ich kein Stress, die beiden Xeons im Server sollten genug Lanes übrig haben... ReBAR könnte auf dem X11 zum Problem werden, da...
-
Das is alles Käse. Was für AI willst laufen lassen? Qwen 3.6/3.8 27b ist sehr gut für die Größe, drunter hältst du schwer mit Gemini...
-
Ich kann @pwnbert nur zustimmen, für lokale LLM ist 16GB zu wenig, 24GB der Anfang, besser 32GB+. Ich selbst habe eine P40 mit 24GB und...
-
Ich hab mal schnell was aus einen Video kopiert: Das Video ist zwar schon 8 Monate alt aber evtl. hilft es dir. Laut KI geht die MI50...
-
Weltherrscher antwortete auf das Thema Neuer AI-Server.Ich merk schon, sparen auf ne Arc, die immer teurer wird... Die Mi50 waren die nicht lahm? Ne GPU mit 32 GB in der Speicherkrise, genau...
-
16gb is halt fürn Arsch, wenn man das so direkt sagen darf. Imho ist das proprietäres Zeug, das ohne Weiteres nicht geht, meine...
-
-
Laden...
-
Laden...
