[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion

[AliManali]

@Icke : hmm, Proxmox, HA und sowas. Musst Du halt wissen, ist ein Rabbithole, wo man sich auch reinfuchsen muss. Spätestens wenn da Dienste von aussen erreichbar sein müssen, gehört da noch eine Firewall, VLAN fähigen Switch, AP die mehrere SSID können, und sowas dazu. Und ja, bei Home Assistant wirst Du schnell Addons brauchen. Ausserdem wollen die ganzen Geräte, Hypervisor und die Gäste dauernd gepacht werden. Ist nicht so die fire and forget Lösung.

Und von der Idee, ein von einem anderen User vorkonfiguriertes HA Image zu nehmen, wo schon seine Hue und Shellys eingebunden sind, halte ich gar nichts. Ich weiss auch nicht, was er mit "VMware Ro" meint. VMware WS? Ich habe es auf dem ESXi. Aber für ESXi und Proxmox hast Du verschiedene Importvorlagen für HAOS. Gelinde gesagt, ist das nonsens, eine vorkonfigurierte ESXi (vmware) Instanz zu nehmen, um es dann auf Proxmox umzubiegen. Sage nicht, dass das nicht geht, aber schwachsinnige Idee, sry... Wüsste auch echt nicht, wozu das gut sein soll, mit seinen vorkonfigurierten Shellys und Hues zu starten. Aber vielleicht kann da @mae1cum77 paar gute Argumente für bringen...

Sicher gut gemeint, wie auch die API Keys die er überall aggressiv an den Mann bringen will. Wo gemini btw. noch dazu meint, dass das gegen die Nutzerbedingungen verstösst:

Bei dem erwähnten Guthaben von 2.000 Dollar handelt es sich höchstwahrscheinlich um zeitlich befristete Werbe- oder Startup-Credits von Google.

Die Weitergabe und Nutzung birgt jedoch für beide Seiten Risiken:

• Verstoß gegen die Richtlinien: Das Teilen von API-Keys verstößt gegen die Nutzungsbedingungen von Google und führt in der Regel zur schnellen Sperrung des gesamten Entwickler-Kontos.
• Sicherheits- und Datenschutzrisiken: Wenn du einen fremden Key nutzt, läuft dein Datenverkehr über das Konto einer anderen Person, die die Anfragen theoretisch einsehen kann. Gleichzeitig wird der Traffic deiner IP-Adresse zugeordnet, was bei Missbrauch des Keys zu Zuordnungsproblemen führen kann.

Es ist daher die sicherste und professionellste Lösung, auf das Angebot zu verzichten und bei Bedarf auf eigene, private Zugänge oder lokale Modelle zu setzen.

 

[scrollt]

Habe das letztes Jahr aufgesetzt und fand das nicht besonders dramatisch. Mit Cloudflare Tunnel auch von außen zu erreichen

Icke ist doch auch ein Bastler 😬

Ich habe einen Mini PC von Beelink genommen. Hat letztes Jahr 220€ gekostet. Holy Preisexplosion 😱

https://amzn.eu/d/0fPhFZ9l

 

[Tundor]

Wenn Icke eh schon ein VPN nach Hause hat, brauchts ja nichtmal nen Cloudflare Tunnel.

 

[Icke]

Und von der Idee, ein von einem anderen User vorkonfiguriertes HA Image zu nehmen

Nee, für sowas wäre ich eh viel zu paranoid. Das wird schon selbst aufgesetzt - will zumindest halbwegs verstehen, was da passiert. Den Rest muss mir eben Claude erklären. 😅

Danke für den Hinweis auf die Google Nutzungsbedingungen und wo Anfragen lang gehen. Sowas dachte ich mir schon, als gestern bei mir ein Guthaben landete.

Icke ist doch auch ein Bastler 😬

Jau, aber sowas von Baschtelwaschtel. 🤭

Wenn Icke eh schon ein VPN nach Hause hat

Ja, Wireguard ist schon länger im Einsatz. 👍

 

[HansBohne]

Addons braucht man ziemlich schnell, glaub z.B. MQTT Broker laufen nur darüber, oder z.B. in meinem Fall die Anbindung für die Bambulab Drucker. Hab deswegen nicht Docker gewählt sondern es als VM laufen.
Ich denke du brauchst ganz dringend einen Proxmox Server

Hm bei mir läuft fast alles über MQTT auch die eigenen IOT Sachen - ich lasse einfach mosquitto laufen das dann überhaupt kein Problem in HA Docker denn so läuft bei mir HA auch
Und MQTT ist halt eine super Möglichkeit für die 2 Wege Kommunikation - und auch in der ESP32 und Arduino Welt gut mit Bibs versorgt

Etwas mehr Aufwand ist wenn man den Zigbee Matter Stick als virtuellen Matter Huib Laufen lässt da muss man halt dann einen 2. Docker machen - aber auch das ist machbar.

Ich bin zumindest bisher noch an keine Grenze gestossen mit HA im Docker - MQTT ist auf gar keinen Fall ein Problem auf einem Linux System.

 

[Daniels87]

Ich suche auch einen Mini-PC für Home-Assistant. Aber echt irre teuer geworden, das Zeug.
Hab jetzt schon überlegt ob ich HA in meiner Firma vom Intel Nuc auf meine Proxmox VM umziehe, damit der Nuc frei wird.
Aber der Nuc hängt an einer Notstromversorgung, und die hält mit den paar Watt Verbrauch relativ lange durch.

Nutzt hier eigentlich noch jemand Tailscale? Hat mich Tschäd-Tschibidi drauf gebracht, kannte ich vorher nicht. Ist echt komfortabel.

BTW: Fable 5 und Sol 5.6 arbeiten echt gut und sehr kosteneffizient zusammen. Planen/Abstimmen immer zusammen mit Fable und Umsetzungsanalyse dann auch zusammen mit Fable. Den Rest macht Sol.
Ist dann wirklich bezahlbar, auch ohne Anthropic Abo.

 

[Tundor]

Tailscale?

Hab für mein VPN daheim einfach Wireguard laufen aber kenne Tailscale und ist schon ziemlich cool wie einfach sowas heutzutage geht. Vorallem wenn man "fremde" Personen auf irgend ne Application drauflassen will ist Tailscale perfekt.

 

[HansBohne]

Ich suche auch einen Mini-PC für Home-Assistant. Aber echt irre teuer geworden, das Zeug.
Hab jetzt schon überlegt ob ich HA in meiner Firma vom Intel Nuc auf meine Proxmox VM umziehe, damit der Nuc frei wird.
Aber der Nuc hängt an einer Notstromversorgung, und die hält mit den paar Watt Verbrauch relativ lange durch.

Nutzt hier eigentlich noch jemand Tailscale? Hat mich Tschäd-Tschibidi drauf gebracht, kannte ich vorher nicht. Ist echt komfortabel.

BTW: Fable 5 und Sol 5.6 arbeiten echt gut und sehr kosteneffizient zusammen. Planen/Abstimmen immer zusammen mit Fable und Umsetzungsanalyse dann auch zusammen mit Fable. Den Rest macht Sol.
Ist dann wirklich bezahlbar, auch ohne Anthropic Abo.

Hmm ich nutze einen N6005 mit 2.5 Gbit und (Crypt) ZFS finde der ist fast optimal für einen kleinen Miniserver - meiner vebraucht im ganz normalen Betrieb ~ 6-7W (ab Steckdose mit 32 Gbyte RAM und einer 8 TByte NVMe, lüfterlos) das grob auf dem Niveau eines Raspberrys. auf dem läuft schon einiges u.a. eben auch Home Assistant und auch mal ein Hermes - lokale AI geht natürlich nicht

 

[Hoto]

Hmm ich nutze einen N6005 mit 2.5 Gbit und (Crypt) ZFS finde der ist fast optimal für einen kleinen Miniserver - meiner vebraucht im ganz normalen Betrieb ~ 6-7W (ab Steckdose mit 32 Gbyte RAM und einer 8 TByte NVMe, lüfterlos) das grob auf dem Niveau eines Raspberrys. auf dem läuft schon einiges u.a. eben auch Home Assistant und auch mal ein Hermes - lokale AI geht natürlich nicht

Genau wegen letzterem hab ich mit meiner vorherigen PC Hardware einen Server PC eingerichtet mit einer RTX 5090 darin, da läuft auch mein Smarthome (Mosquitto, Zigbee2MQTT und aktuell noch Node-RED) drauf, mit eigenen Sensoren und Zigbee Kram, primär eigentlich nur Licht und die Fritzbox einmal in der Woche vom Strom nehmen (ob die jemals eine Funktion für einen automatisch Neustart einbauen? XD), natürlich nur, wenn mein Haupt PC min. eine halbe Stunde offline ist.

Und sonst läuft teils KI Kram darauf, wobei noch immer am Basteln als im Dauerbetrieb. Meist läuft darüber STT/TTS. Ich wünsche PC Hardware wäre nicht so teuer, sonst hätte ich doch mal gegen etwas Neueres noch sparsameres getauscht. Steht bei mir auch mit unter "System" hier. Ein 8700K ist jetzt nicht so sparsam im Vergleich zu seiner Leistung.

Jetzt wo jedenfalls Sol auch in der Codex-Erweiterung ist, will ich auch wieder mehr für meine lokale KI machen, hänge aber gerade noch an einer anderen Sache.

 

[scrollt]

Nachdem der Hersteller unseres Hybrid Wechselrichters die app umgebaut hat, und jetzt total suckt, habe ich kurzerhand die webapi von denen mit Claude zerpflückt, und alles gefunden was ich brauche. Unfassbar wie gut Claude das gemacht hat, echt. Und am Ende war klar: ein größerer Akku schafft ne Menge, nur nicht Geld sparen lol

Und es kommt natürlich wie es kommen musste: da mach ich jetzt ne webapp draus, und da kommt drauf was MICH interessiert. Ohne bekloppte 3D Modelle von irgendwelchen Häusern, aber ohne Infos.

 

[Tundor]

Es ist einfach so geil was man dank AI inzwischen mal nebenher aus Spaß machen kann.

 

[mitcharts]

Soofi S

www.soofi.info

Mit Soofi S stellt das Soofi-Konsortium den ersten Baustein einer offenen europäischen KI-Modellfamilie vor. Das Modell wurde entwickelt, um leistungsfähige KI-Anwendungen nachvollziehbar, anpassbar und auf souveräner Infrastruktur nutzbar zu machen.

Im Fokus stehen industrielle Einsatzbereiche, in denen Kontrolle, Transparenz und Effizienz entscheidend sind, etwa technische und regulatorische Dokumente, Code-Generierung, agentische KI-Systeme und unternehmensspezifische Anwendungen.

Soofi S Facts

• 30B Parameter
• Mixture of Experts 3B Aktiv
• Mamba Architektur
• Basismodell Platz 1 auf allen deutschen
• Benchmarks
• 3,3× höherer Inferenzdurchsatz pro GPU
• Beta-Test mit ausgewählten
• Industriepartnern ab Juni 2026

 

[mae1cum77]

Nee, für sowas wäre ich eh viel zu paranoid.

Wireguard (zero trust) und Home Assistant leben von der Community, da ist alles sauber

 

[mitcharts]

Wireguard (zero trust) [...]

WireGuard (das Netzwerk-/Kommunikationsprotokoll) ist nicht gleichbedeutend mit "Zero Trust".

WireGuard ist nur der Grundbaustein für VPN-Netzwerke hinsichtlich Kommunikationsaufbau. "Zero Trust" kommt durch weitere Implementierungen wie z.B. Identity and Access Management, MFA -- u.a. auch die Kombination dieser.

 

[mae1cum77]

ist nicht gleichbedeutend mit "Zero Trust".

Herausforderung angenommen ... wie kann Wireguard (das protokol) unsicher sein, wenn es auf Zero Trust (traue keinem!!! verifiziere immer!!!) beruht ???

Bin ehrlich gespannt .

 

[mitcharts]

[...] wie kann Wireguard (das protokol) unsicher sein [...]

Hab ich geschrieben (explizit oder implizit), dass WireGuard unsicher ist? Ich denke nicht.

WireGuard (hier nur das Kommunikationsprotokoll) ist lediglich dazu gedacht einen Kommunikationsweg zwischen zwei Endpunkten aufzubauen. Nicht mehr, nicht weniger.

Alles andere darüber hinaus, dafür ist WireGuard nicht zuständig.

[...] wenn es auf Zero Trust (traue keinem!!! verifiziere immer!!!) beruht ???

"Zero Trust" ist ja auch nur ein "Buzzword" für ein ganzheitliches Konzept wie granulare Zugriffs- und Identitätskontrollen umgesetzt werden. Dazu gehören mehrere Teile wie das was ich oben schon erwähnt habe.

 

[Icke]

Und es kommt natürlich wie es kommen musste: da mach ich jetzt ne webapp draus,

Genau das (furchtbare Sungrow App und ne eigene machen) war bei mir der Auslöser, um in dem Atemzug auch Home Assistant anzugehen.

Wireguard (zero trust) und Home Assistant leben von der Community, da ist alles sauber

Meine Aussage bezog sich auf ein von Dritten vorkonfigurierten HA Image, nicht auf Wireguard oder HA. Haste ja mal schön am Kern der Aussage vorbei argumentiert und den anderen, noch wichtigeren, Punkt von @AliManali (Verstoß gegen Nutzungsrechte und Dateneinblicke) dezent unter den Tisch fallen lassen.

 

[mae1cum77]

"Zero Trust" ist ja auch nur ein "Buzzword"

Technischer K.O. in der ersten Runde. Zero Trust ist das Basis-Design hinter Github, Wireguard und meinem Python(cTK)-API-Backbone (Windows/Linux/Kotlin).

 

[mitcharts]

Zero trust architecture - Wikipedia

en.wikipedia.org

ZTA is implemented by establishing identity verification, validating device compliance prior to granting access, and ensuring least privilege access to only explicitly-authorized resources.

Damit ist das Thema für mich erledigt.

(Aber gut, dass der zweite Teil meines Satzes komplett ignoriert worden ist.)

Es bleibt dabei: WireGuard (das Kommunikationsprotokoll) ist nicht "Zero Trust", kann aber natürlich zu einer ZTA dazugehören.

PS: Ich bleibe auch dabei, dass "Zero Trust" zumeist auch nur als "Buzzword" verwendet wird.

 

[mae1cum77]

PS: Ich bleibe auch dabei, dass "Zero Trust" zumeist auch nur als "Buzzword" verwendet wird.

Was ICH aber nicht tue wie meine Antwort EIN-EINDEUTIG zeigt.

Deine Perspektive ist nicht 'genullt' ... .

 

[scrollt]

Nachdem der Hersteller unseres Hybrid Wechselrichters die app umgebaut hat, und jetzt total suckt, habe ich kurzerhand die webapi von denen mit Claude zerpflückt, und alles gefunden was ich brauche. Unfassbar wie gut Claude das gemacht hat, echt. Und am Ende war klar: ein größerer Akku schafft ne Menge, nur nicht Geld sparen lol

Und es kommt natürlich wie es kommen musste: da mach ich jetzt ne webapp draus, und da kommt drauf was MICH interessiert. Ohne bekloppte 3D Modelle von irgendwelchen Häusern, aber ohne Infos.

und schon steht es, das fertige Django Setup, das dann demnächst per cron job die Daten auffrischt und mir aufbereitet, so wie ich sie brauche. Ist das geil, und es macht auch einfach so viel Laune

 

[AliManali]

Grrrr, habe mich wieder mal stundenlang mit gemini rum geärgert. Die springt mitten in der Diskussion zu irgendwelchem Zeugs aus anderen Fäden, oder gar zu Sachen, was sie wohl gerade mit anderen Usern bespricht. Selbst wenn ich ihr alles haaargenau zum 10x vorkaue, kommen völlige Fantasieantworten, welche absolut nichts mit dem Thema zu tun haben.

Sie so: gibt mir mal die Ausgabe von der Shell. Mache ich, empfiehlt sie mir Stiefel, oder fabuliert über Sicherungsautomaten, CSS Sheets, und was weiss ich... Abgesehen von den ganzen Patzern, dass sie nach jedem zweiten Post wieder das selbe fragt, und einfach komplett nicht folgen kann. Und nein, ich übertreibe da nicht... Hättet ihr sehen müssen das Desaster. Total stupid die Tante. Glaube lag auch nicht an meinen Prompts.

Habe jetzt mal alle bisherigen Fäden gelöscht und ihr Gedächtnis ausgeschaltet. Hoffe es wird besser. Aber so ist das absolut unbrauchbar.

Zum Glück hatte ich noch Claude als Backup. Erst mal was essen, das hat mich völlig fertig gemacht.

 

[Hoto]

Klingt auch super nervig. Bei ChatGPT hab ich das irgendwie noch nie erlebt, dafür jetzt schon öfters von Gemini gehört. Allerdings nervt auch das Memory Management bei ChatGPT oft genug. Manchmal willst du einfach bewusst nicht, dass die KI auf Erinnerungen zurückgreift um ein Thema, das man schon öfters mal hatte, komplett frisch ohne Altlasten besprechen zu können. Dann muss man entweder einen privaten temporären Chat öffnen, der aber nicht gespeichert wird oder umständlich jedes Mal in die Einstellungen um die Erinnerungen auszuschalten und besser man vergisst nicht, dass die an/aus sind. xD

Ich mein KI Memory ist ja allgemein noch ein Thema und gibt noch so Probleme damit, aber das da hat damit eben nichts zu tun, das ist einfach nur undurchdachtes Design.

 

[HansBohne]

naja man kann auch einfach dann sagen - das ist nicht mein System um das es jetzt geht sondern das von meiner Oma mach mal das dafür

Dann behalt die AI meist zumindest den Stil z.B. bei Imoplementierung, GUI etc den man mag bei aber setzt sonst nichts voraus.

 

[scrollt]

Nutzt hier eigentlich noch jemand Tailscale? Hat mich Tschäd-Tschibidi drauf gebracht, kannte ich vorher nicht. Ist echt komfortabel.

habe es nach deinem Beitrag eingerichtet, und gefällt mir SEHR viel besser als der Cloudflare Tunnel vorher, zumal der EVCC nicht absichern konnte.

🎉

 

[joshude]

Tailscale nutze ich auch seit bestimmt 2-3 Jahren um mein Zuhause, das Haus meiner Elten sowie ihr Haus in Schweden (Wo sie inzwischen wohnen) miteinander zu vernetzen. So kann ich immer von überall aus auf alle wichtigen Ressourcen zugreifen. In meinem Firefox bei der Arbeit habe ich Tailscale als Plugin laufen und komm so auch aus dem Firmennetz, nur über den Browser, an alles ran, was ich brauche.

---

@scrollt hatte mich auf diesen Thread hingewiesen, weil ichs an anderer Stelle geschrieben hatte. Ich wollte Claude Fable ausprobieren und hab mir nen Verkehrszähler komplett vibecoden lassen. Von dem Ergebnis (nach vielen Iterationen und Updates) bin ich inzwischen so begeistert, dass ichs mal bei GitHub veröffentlicht habe, falls da jemand Interesse dran hat.

GitHub - Joshude/TrafficCam

Contribute to Joshude/TrafficCam development by creating an account on GitHub.

github.com

95% Claude Fable, bisschen Opus und Sonnet.

 

[Daniels87]

95% Claude Fable

pff.. Bonze.

 

[scrollt]

Tailscale ist ja voll geil, wieso bin ich da vorher nicht drüber gestolpert??? Hab ich jetzt im HA, EVCC und Hetzner Server laufen, kann damit sicher alle Daten aggregieren, und in meinem fast fertigen Dashboard ausgeben.

Es macht mit Claude/Ki einfach zu viel Laune Kram aus dem Boden zu stampfen. Der Anbieter ist zu doof eine app zu bauen? "hold my beer"

Ergebnis der letzten Wochen am Abend auf der Couch

- meine kleine Webseite neu gemacht
- einen Watchlog gebaut, in dem ich mir jetzt aufschreibe was ich gucke und wie es war
- eine Zeiterfassung für das Büro meiner Frau gebaut
- meine iOS app fertig bekommen und vor allem veröffentlicht
- jetzt noch meine PV Daten vernünftig ausgelesen, und in eine Django App verwandelt, die mir alles auf einen Blick zeigt, was mich interessiert


schöne neue Welt, bis das Wasser für die Rechenzentren alle ist und wir merken, dass das alles wohl so nicht nachhaltig ist...

 

[joshude]

pff.. Bonze.

Normales Claude Abo, in dem bis zum 19.7. Fable inklusive ist. Das ganze hat auch über 10 Tage gedauert, weil ich ständig in die Limits gelaufen bin. Teilweise wurde dann eine Antwort mittendrin abgebrochen, weil Limit erreicht. Dann nach Ende des Limites noch mal gestartet und aus Gründen abgebrochen. War teilweise frustrierend, aber ich wollts unbedingt mit Fable machen

 

[scrollt]

man kann claude immer sagen, er solle weitermachen wo er aufgehört hat, als das Limit erreicht wurde