Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
Nunja, je größer das Modell umso größer die Möglichkeiten - also grob über den Daumen... Wobei aber z.b. nen Gemma4 Modell (Gemini für Arme :fresse: ) mit 27b nicht mal im Ansatz an Qwen rankommt ... Schwierig da irgendwo sich festzumachen.
Hab mich da jetzt mal in ~3h grob durchgearbeitet (Ganzes Repo, 40k Zeilen Code - :-[ ) ---> Was war gleich nochmal dein "Problem"? :confused:
Das sieht sehr sauber aus (Testen tust du mit der WoW-Console? Was mir zb. aufgefallen ist: hotkey/macro/count × (Font/Size/Color/X/Y) = 15× beinahe...
16k sind halt nicht viel. 🫠
Wie viel lädt er denn in den Speicher wenn du Qwen mit 16k lädst? Ich würde unter 64k nicht anfangen (Mitunter sind die "Spickzettel" mittlerweile schon so groß :fresse: ), übrigens kannst du in LM Studio auch den KV Cache "quantisieren" - ich fahre mit K=Q8_0 und...
War wieder mal richtig cool... mein bester war in nem Museum und hat ne Tonne Fotos gemacht, mir dann die Bilder geschickt um sie mal "Herbert" zu zeigen ---> Gemini und ChatGPT haben da nix ordentliches auf die Kette bekommen ---> Herbert hat direkt übersetzt, Zeitrahmen ergründet und sogar...
Ist halt für deine GPU ein ordentlicher Klopper :fresse:
Achte darauf das du den GPU Offload auf die höchstmögliche Zahl schiebst ---> Damit nach Möglichkeit das komplette Modell im VRAM landet. Wenn er sich in Denkschleifen verheddert mal die Temperatur auf 0.6 senken, Top K mal auf Standard...
Ich würde es für den Anfang mal mit Qwen3.5-9b versuchen (6,5Gb - also noch ordentlich Platz für Kontext!) :wink:
Für die Größe sehr gut für Programmierarbeiten oder einfach nur Monitoring deiner Arbeit geeignet.
Ganz ehrlich, wenn du etwas auf das Gerede von irgendwelchen Leuten hörst... DU musst doch damit klar kommen und nicht XYZ. (Edit: Nein, ich meine nicht @Zyxx :fresse: - man sagt das so )
Ich hab z.b. letztens einen Touchfreundlichen, extrem minimalistischen Musikspieler geschrieben weil es...
Puh... heute mal den Supergau schlechthin gehabt... gestern Treiber + GUI + Installer released - alles sah gut aus, hat ohne Probleme kompiliert etc... heute auf Arbeit kam mir die Idee meine Dev-Version mal runterzuhauen und halt einfach meine releaste Version zu installieren.
Joa :fresse: - da...
This - Kommentare sind das A&O. Mir kann keiner Erzählen das er bei z.b. 600 Zeilen im zweiten Drittel noch genau weiß was am Anfang war (außer in groben Zügen). Kommentare und in Sektionen schreiben ---> So behält man den Überblick.
DAS ist mal ne Idee! 🎯
Meinst du aber Firmware im Sinne von - Firmware (Bios/Embedded Software) oder eher Software (Im Sinne von "Steuersoftware" "Treiber")? :unsure:
Er "programmiert nichts falsch" ... er macht das was du ihm befielst.
Ergo: Spezifischer Ausdrücken WAS du willst und WIE du es willst - sonst muss er das selber ausklamüsern, da kommt dann immer mal nen "Special" rum. 🙃
Bei mir ist jetzt auch so langsam beim Board-Monitor das Ende der Fahnenstange erreicht - mehr bekomme ich auf kleinsten Raum nicht rein.
Skalierung frei (somit auch z.b. auf 720p Monitoren einsetzbar), Bilingual, merkt sich Skalierung sowie X & Y damit man es nicht immer wieder manuell auf den...
Kleinere Programme/Plugins schreiben, Netzwerk/Smarthomemanagement, für große Sachen hätte ich Gemini - aber bisher meistert Qwen3.8-27b alles so ziemlich hervorragend. :wink:
Guter Einwand 👍🏻
An das Wireless Protokoll hatte ich tatsächlich gar nicht gedacht - wer es benutzt hat natürlich da nen entsprechenden Vorteil. (Ich habe seit langem keine Xbox mehr, aber lange nen Xbox Series X Controller am PC via Bluetooth verwendet.
Mir ging es tatsächlich eher in...