buzzzer
Punkte für Reaktionen
13

Letzte Aktivität Beiträge Informationen

    • buzzzer
      Wie hast Du es gemacht? Treiber und ROCm nur in VM/LXC? Komplette Karte durchgereicht?
    • buzzzer
      Bisserl Spielzeug. Schön mit Kackstecker, der beigelegte Adaper wirkt aber okay und nachdems bei der 5090 ja doch funktioniert, wirds...
    • buzzzer
      buzzzer reagierte auf den Beitrag von Supaman im Thema Neuer AI-Server mit Danke Danke.
      Bissl User Eingriff ist gut... es gibt <teilwese> echt harte Nüsse,wenn die Hermes config angepasst werden muss, hier mal paar...
    • buzzzer
      buzzzer reagierte auf den Beitrag von Supaman im Thema Neuer AI-Server mit Danke Danke.
      Ihr könnt Hermes anweisen, das er einen generischen LLM Benchmark Skill anlegen soll. Und den könnt Ihr dann einfach gegen die Modelle...
    • buzzzer
      buzzzer reagierte auf den Beitrag von Supaman im Thema Neuer AI-Server mit Danke Danke.
      Bekanntes problem - für Konfig Änderungen / Reparaturen, Erweiterung der Installation brauchst Du ein starkes Modell, Deepseek v4...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Ich weiß garnicht wie genau, aber mein Hermes ist kaputt. Bei Lösungsfindungen versucht er immer dasselbe und irgendwann hört er einfach...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Hm das sehe ich garnicht direkt in Hermes. Ich hoffe Du hast ne AMD bestellt. Da kann ich von profitieren :)
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Oh man ok. Und ich wundere mich warum das MoE schneller ist. Danke. Ich probiere da nochmal rum. Gerade mit dem normalen GGUF Qwen...
    • buzzzer
      buzzzer reagierte auf den Beitrag von pwnbert im Thema Neuer AI-Server mit Danke Danke.
      Welche Hardware hast du nochmal? XTX? Also du musst immer MoE und Dense unterscheiden, Gemma 4 26b A4B ist MoE, 31B ist Dense. Qwen 3.6...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Qwen soll auf jeden Fall auch besser für Hermes sein. Gemma4 ist aber 2-3 mal schneller. Da bin ich dann schnell ungeduldig, vor allem...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Ich hab das hier gefunden und einfach mal probiert...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Keine Ahnung ich hab meinen Hermes wohl schon kaputt gemacht. Der macht jedes mal die gleichen Fehler und dreht sich dann ganz schnell...
      • CleanShot 2026-06-29 at 20.42.16@2x.png
    • buzzzer
      buzzzer reagierte auf den Beitrag von pwnbert im Thema Neuer AI-Server mit Danke Danke.
      Könntest noch GLM 4.7 Flash testen, ist auch die Größenordnung, arbeitet verdammt viel mit Tool Calls und so. Gefühlt hätte ich Qwen...
    • buzzzer
      buzzzer antwortete auf das Thema Neuer AI-Server.
      Ich spiele gerade mit Hermes Agent herum. Finde es eigentlich sehr geil, aber irgendwie klappen die einfachsten Dinge manchmal nicht...
    • buzzzer
      buzzzer reagierte auf den Beitrag von asm@s24 im Thema Neuer AI-Server mit Danke Danke.
      So geil, jetzt hab ich was "richtiges" gefunden. Mein PVE-Docker-Monitor hat ja ein AI-Interface. Funktioniert mit Ollama (im LXC). 8-)
  • Laden...
  • Laden...
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh