Aktueller Inhalt von Bigdog71

Naja es gibt einen Punkt den man halt bei Gebrauch nicht lernt und das sind die Konfigurationen und Token Sparsamkeit (aufgrund begrenzter Ressourcen). Ebenso trainiert man sich selbst mit schwächeren Modellen.

Das habe ich auch gemerkt mit Gemma4. Wie gesagt zum Chatten und eingebunden in Home Assistant Voice für Tool Calling okay, aber Coding, nicht wirklich. Ich muss sagen mit Qwen 3.6 27b Q4 bin ich jetzt soweit zufrieden. Für mal hier und dort etwas machen zu lassen läuft es gut. Kontext habe...

Danke @pwnbert ich nutze nur die Q4 "Standard" Modelle die in der Ollama Library hinterlegt sind. Ich wollte so einfach wie möglich starten, bin jetzt schon tiefer in die Konfiguration eingestiegen und muss wohl in Zukunft noch schauen wie ich andere Modelle lade (mittlerweile unterstützt...

So ich wollte endlich Mal etwas Vibecoden mit meiner P40 die an nem Pentium Gold 6405 (Dual-Core / LGA1200) und 16gb RAM hängt (Mein altes Selbstbau NAS umfunktioniert. Die P40 habe ich auf 140W (statt 250W) über nvidia-smi. Als Editor habe ich mal zed probiert. Als Backend läuft Ollama im...

Mal zwischendurch eingeschaltet zig Fouls und England bekommt die gelbe, lol. War klar berechtigt aber warum bei Argentinien immer so halb gar keine Karten gegeben werden ist schon verwunderlich.

Okay dann rücken gerade Pangolin und Netbird zusammen. Jeder von der anderen Richtung. Ich kann bei Pangolin "private" Ressourcen definieren, die sind dann nicht extern erreichbar und ich brauche z.B. die Android App und es wird ein Wireguard Tunnel direkt zu dem Homelab aufgebaut und ich kann...

Das siehst du richtig, es ist ein getunnelter reverse Proxy mit Identity awareness. Daher meinte ich, dass ich den Anwendungsfall für privat von Netbird nicht wirklich verstehe. Für Firmen um mehrere Standorte dezentral zu Verbinden verstehe ich es noch, aber privat habe ich ja in der Regel...

Ich finde die Beschreibung etwas verwirrend (muss ich zugeben), aber im Endeffekt ist es doch sehr ähnlich zu Pangolin https://pangolin.net/ Das nutze ich auf einem kleinen VPS und dann den Client im Homelab, der verschiedene Ressourcen frei gibt. Dann hauptsächlich die Android App am Handy...

Ich schätze es geht auch um den Onlineshop mit einem guten Kundenstamm. Ich bin mal auf Joybuy gekommen und das sah für mich etwas unseriös aus. Das ist auch JD nur halt mit mehr chinesischer Aufmachung (wie man es von AliExpress kennt). Ich sehe das auch kritisch, aber alle Argumente würden...

Gerade bei gut gedämmten Häusern braucht man bei den länger werden Hitzephasen eine Klimaanlage. Zwei, drei Tage kann man überstehen (durch die Dämmung), danach bleibt die Hitze wie im Winter. Wir haben ein KfW 40 mit Fussbodenkühlung durch die Wärmepumpe, wenn das Haus 5 Jahre ist kommt noch...

Werden dann die Spiele Free to Play :unsure: Ach nein für Werbung zu zahlen ist ja absolut in :wall: Wahrscheinlich gehen die Spiele im Einzelspieler auch nur noch Online damit ja die Werbung ausgeliefert werden kann.

Hm immer noch nicht so gut wie Nvidia. Da gibt es jemanden der hat nvdia-pstated entwickelt, ein Prozess der die Karten in P8 packt, selbst mit voll geladenen VRam. Meine P4 im 24/7 Server verbraucht 7 - 8W obwohl ca. 1,5GB VRam mit Whisper und Piper belagert sind. Die große P40 im AI Server...

Naja im Fall von KI war aber das Investment und die Lobby Arbeit viel höher. Wenn die ganzen Aussagen für Unternehmen getroffen werden, dass man ohne KI nicht mehr produktiv sein kann (und zwar nicht nur IT Unternehmen) und das alles über die Beratungsunternehmen kommt, dann sind die Vorstände...

Haben doch die KI Unternehmen wieder super hinbekommen. Fake it till you make it. Erst kostenlos anfixen, dann niedrige Abo Gebühr, dadurch ist alles mittlerweile so verwurzelt, dass ein kompletter Ausstieg nicht mehr geht und Zack Preisschraube gedreht und zwar extrem. Das ganze mit einem...

Die Frage ist was man erreichen will. Talos habe ich mal versucht, ist wirklich Klasse, aber mit GPU war es mir etwas zu aufwendig (wegen der Einbindung der Treiber). Mein Server läuft 24/7, dafür habe ich keine Cloud Abos und histe halt alles lokal. Kubernetes selbst ist auch etwas zickig...