[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion

[Bigdog71]

Also ich nutze qwen3.8 27b, das reicht für kleine Jobs. Z.B. hat es mir updatecli für einen Teil meines Homelabs eingerichtet. Der Job prüft nun die Release Pages der Open source Apps und wenn es ne neue Version gibt erstellt er mir ein Pull request auf mein Gitops Verzeichnis. Erspart mir sehr viel Arbeit beim Prüfen ob noch alles aktuell ist.

Zur Zeit habe ich leider auch zu wenig Zeit ein Abo Modell ausreichend zu nutzen Von daher lokal was anstoßen und im Hintergrund machen lassen.

Wie ist eigentlich eure Schmerzgrenze bei den Abo Modellen? Aktuell sehe ich hier immer 20€ im Monat, aber auch dass die Token-Limits sehr schnell erreicht werden und man freudig den Resets entgegenschaut, die häufiger kommen als nach eigentlichen Abo Bedingungen.

Was würdet hier machen wenn:
a) der Token reset nur noch nach offiziellen Bedingungen kommt?

b) die Preise (deutlich) angehoben werden?

Ich sehe die aktuellen Preise noch als vertretbar für die Spielereien an, aber da ja alles noch nicht kostendeckend ist, wird sich in den nächsten Jahren auch der Preis wohl ändern.

 

[Tundor]

Wie ist eigentlich eure Schmerzgrenze bei den Abo Modellen?

Hängt davon ab was ich damit machen will. Für das bisschen rumdaddeln reicht mir ein 20€ Abo, wenn ich irgendwas super produktives machen würde, würde ich auch mehr bezahlen. Da ich aber auf der Arbeit eh schon den ganzen Tag mit Claude u. Copilot rumjuckel, bin ich jetzt privat auch nicht so motiviert da noch mein Wochenende damit zu verbringen.
Gegenfrage, was ist denn euer Invest für Hardware und Strom um die Modelle lokal vernünftig zu betreiben? Das ist ja vermutlich auch irgendwo im vierstelligen Bereich, oder?

aber da ja alles noch nicht kostendeckend ist, wird sich in den nächsten Jahren auch der Preis wohl ändern.

Wird sich zeigen, die Modelle werden ja aktuell eher günstiger als teurer und dann ist die Frage ob man für medium Komplexe Privatprojekte unbedingt das allerbeste Modell braucht. Könnte mir also schon vorstellen, dass man die Preise für die meisten Usecases sogar senken kann. Wirklich Kohle machen die eh nicht mit den Abos sondern mit den Firmenkunden die Tokenbasiert abgerechnet werden.

 

[Pirate85]

Gegenfrage, was macht ihr denn alles wo euch die lokale KI noch ausreicht?

Kleinere Programme/Plugins schreiben, Netzwerk/Smarthomemanagement, für große Sachen hätte ich Gemini - aber bisher meistert Qwen3.8-27b alles so ziemlich hervorragend.

 

[Inekai]

Ich habe mir - allerdings mit 6.1 Sol hoch - eine App gebastelt, die mit lokalen LLMs wie z-image oder Flux.3 Bilder erstellt, weil ich das oft brauche und mir die vorhandenen Lösungen manchmal etwas zu überfrachtet und kompliziert waren. Ich wollte eine App: Installieren -> vorhandene Hardware checken -> passende lokale LLMs downloaden - > automatische Einrichtung -> loslegen. Funktioniert super.

 

[hithunter]

Wie ist eigentlich eure Schmerzgrenze bei den Abo Modellen? Aktuell sehe ich hier immer 20€ im Monat, aber auch dass die Token-Limits sehr schnell erreicht werden und man freudig den Resets entgegenschaut, die häufiger kommen als nach eigentlichen Abo Bedingungen.

Kann ich so nicht bestätigen. Mit Sol 6.1 Mittel bis Hoch erreicht man das Wochenlimit eigentlich nie, nur das 5h Limit. Aber dafür muss man schon um die 2 bis 3 h intensiv arbeiten um das zu erreichen. Bei Opus 5.5 Mittel erreicht man das Wochenlimit schneller. Aber auch hier sind um die 25 h intensive Arbeit möglich. Man kommt den kleinen Abo sehr weit und kann sehr viel machen. In 20 h kannst Du dir komplette Programme wie z.B. Office schreiben lassen.

Wirklich Kohle machen die eh nicht mit den Abos sondern mit den Firmenkunden die Tokenbasiert abgerechnet werden.

Richtig die Abo Modelle unterstüzen kein API und können somit Software nur extern über Screen Sharing ansteuern. Firmen wollen aber die Server und deren Software direkt per API ansteuern.

 

[Yasha]

Mit Sol 6.1 Mittel bis Hoch erreicht man das Wochenlimit eigentlich nie, nur das 5h Limit. Aber dafür muss man schon um die 2 bis 3 h intensiv arbeiten um das zu erreichen.

Kommt am Ende aber auch darauf an, welche Aufgaben du erledigen lässt. Bei meinem ersten Projekt hatte ich Probleme obwohl einfaches Projekt. Damals gab es aber nur Astra und noch nicht Sol 6.1. Das zweite Projekt war dann problemlos mit Sol 6.1 auf gering. Auch das 5h Limit spielte keine wirkliche Rolle. Beim dritten wurde dann aber zumindest das 5h Limit langsam zum Problem und zwang mich immer wieder zu Zwangspausen, das Wochenlimit war da aber noch in Ordnung gewesen. Beim aktuellen Projekt schmilzt das 5h Limit und auch das Wochenlimit nur so dahin. Obwohl ich auch hier Sol 6.1 auf gering benutze. In knapp 2 Tagen das Wochenlimit verbraucht, dann gab es aber den kostenlosen Reset am Samstag spät am Abend. Jetzt haben wir Montag und mein Wochenlimit ist wieder runter auf 18 %. Aktuell ist auch wieder Zwangspause angesagt, weil 5h Limit bei 1 %.

Das aktuelle Projekt lutscht die Tokens irgendwie weg, als gäbe es kein Morgen mehr

 

[Hoto]

Du startest aber schon immer wieder neue Chats für ein leeres Context Fenster?

 

[Yasha]

Du startest aber schon immer wieder neue Chats für ein leeres Context Fenster?

Für ein neues Projekt, ja. Aber jede Aufgabe in diesem Projekt mache ich das nicht. Dann hat er doch, die ganzen zusammenhänge nicht mehr, oder doch? Jedenfalls habe ich heute Mittag beim aktuellen Projekt ein neues Fenster geöffnet und von neu angefangen im Chat. Aber am Token verbrauch, hat das jetzt nicht wirklich etwas geändert. Es ist am Ende aber auch sehr viel Analysezeug dabei, immer 30 Sekunden Videos machen, die Bewegungen mathematisch auswerten lassen um es in etwa ähnlich nachbauen zu können. Vielleicht gehe ich die Sache auch einfach komplett falsch an?

Benutzt du für jede Aufgabe ein neues Kontextfenster? Oder wie machst du es?

Aktuell war das Problem, dass ich mit dem Projekt fertig war, hatte ich hier auch geschrieben. Meine Wallpaper die ich vor Jahren mit Wallpaper Engine gemacht hatte, liefen alle. Dann war ich zufrieden und meinte, wir können dann ein Fork davon machen und die Änderungen hochladen. Allerdings meinte ChatGPT dann, dass es eine schlechte Idee wäre, dass Projekt was wir genommen haben benutzt die Effekte wo wohl keiner genau weiß, wo die herkommen. Jedenfalls wird angegeben, dass der rechtliche Aspekt ungeklärt wäre... also doch nicht hochladen. Nach einem neuen Brainstorming war ich halt der Meinung, wir machen die Effekte selbst, kann ja schließlich nicht so schwer sein...

Mittlerweile weiß ich, das ist schwerer als angenommen

TanteEdit sagt noch, ich glaube, ich habe in den letzten zwei Tagen mehr mathematische Formeln angeguckt wie in 10 Jahren Schule nicht... wenigstens werden sie hier mit Ergebnis angezeigt

 

[scrollt]

Mit Sol 6.1 Mittel bis Hoch erreicht man das Wochenlimit eigentlich nie, nur das 5h Limit.

Vom 20€ Plan? Mit Astra ist mein 5h Limit nach 15 Minuten durch. Und Sol reicht auch niemals für eine Woche.
Wird halt auf eine große Codebasis geworfen.

Opus 5.5 ist aus meiner Erfahrung sehr viel besser und schafft mehr mit den verfügbaren Token. Hängt sicher von den Aufgaben ab die man der KI stellt

 

[hithunter]

Astra ist ist mit dem normalen Abo auch nicht wirklich nutzbar. Opus 5.5 hält nicht lange, max 20 bis 25 h als Ein- und Ausgabe und das Wochenlimit ist dann aufgebraucht. Bei intensiverNutzung sind auch schon innerhalb 2 h das Tages Limit und in 10 h das Wochenlimit bei Opus 5.5 aufgebraucht. Mit Sol 6.1 geht da deutlich mehr. Also ich arbeite vielleicht durchgängig an die 3h und komme dann erst an das 5h Limit, das Wochenlimit habe ich noch nie erreicht und dsa bei über 25 h Nutzungsdauer.

 

[Daniels87]

Ich lasse häufig Astra mit 6.1 Sol Subagenten arbeiten. So behält Astra den Überblick und die ausgeführte Arbeit erledigt Sol.

 

[Yasha]

Juhu, der Umbau ist endlich abgeschlossen... alle 3 Unsichere Komponenten sind herausgeflogen und durch eigene Werke ersetzt. Nebenbei auch noch weitere Effekte eingeführt. Ich stelle fest, mit einem größeren Abo könnte ich mich von morgens bis spät in die Nacht damit beschäftigten. Allerdings ist der Sprung von Plus auf Pro bei OpenAI ein heftiger Sprung vom Preis. Da fehlen für meinen Geschmack noch ein paar abstufungen...

 

[HansBohne]

Naja ich habe beruflich einen relativ unbegrenzten OpenAI API Zugang und privat gönne ich mir Openrouter und ein Max (5x) Claude Abo das aber seit Wochen bei 0% Usage rumdümpelt und jetzt halt das lokale AI System zusätzlich.

So interessante AI Projekte habe ich aktuell einfach nicht.

Seit man eh sonst keine Hardware kaufen kann ist das trotzdem viel weniger als ich im "Technikspassbudget" habe denke das geht doch vielen so dass an früher immer mal wieder was aufgerüstet hat und jetzt nicht mehr.

 

[Pirate85]

Bei mir ist jetzt auch so langsam beim Board-Monitor das Ende der Fahnenstange erreicht - mehr bekomme ich auf kleinsten Raum nicht rein.
Skalierung frei (somit auch z.b. auf 720p Monitoren einsetzbar), Bilingual, merkt sich Skalierung sowie X & Y damit man es nicht immer wieder manuell auf den Monitor fuddeln muss (Ja, gibt z.b. Smart Automove NG - aber nicht jeder nutzt es).

Lüftersteuerung ist jetzt mit implementiert anstatt ein separates Programm zu sein... tjoa.
So langsam bin ich an der Zielgeraden.

 

[HansBohne]

Hmmm hab gerade den Keno (von ct3003) Beitrag ober strata gesehen und dann gleich mal das pi.dev installliert als "endpoint & chatbox" das er nutzt - so auf den ersten Blick ist das echt super fix gefällt mir ganz gut

Pi Coding Agent

A terminal-based coding agent

pi.dev

 

[Bigdog71]

Ich lasse gerade lokal mein Hermes Agent mit Qwen3.8:27b ein remote updater bauen für mein VPS:
- einloggen per SSH Key auf dem VPS
- check ob updates (verschiedene docker-compose mit verschiednen images) vorhanden sind
- updaten und health-check machen

Er hat es etwas falsch programmiert und für jeden Befehl einen eigenen SSH command genommen. Jetzt hat mein Unifi IDS/IPS eine Gefahr entdeckt und ihn kurzzeitig geblockt (Potential SSH Scan Outbound). Somit testet die KI mal mein Sicherheitssystem

So jetzt erstmal umschreiben auf weniger SSH Befehle.

Mein Ziel war nichts neues auf dem VPS zu installieren (ist ein Netcup Nano 1core, 1GB Ram, da darf nur das nötigste laufen) und mich nicht mehr selber um die Updates der Container, aber auch des Betriebssystem zu kümmern und das per Job mit Backup und Benachrichtigungen machen zu lassen.

 

[Pirate85]

Er "programmiert nichts falsch" ... er macht das was du ihm befielst.

Ergo: Spezifischer Ausdrücken WAS du willst und WIE du es willst - sonst muss er das selber ausklamüsern, da kommt dann immer mal nen "Special" rum. 🙃

 

[Bigdog71]

Ja das weiß ich, er hat das auch echt gut gemacht. Ist jetzt auch schon umgeschrieben auf eine SSH Verbindung pro Lauf.

Ist aber halt interessant, weil ich daran gar nicht gedacht habe, dass er das immer neu aufbaut, ich denke halt noch nicht wie eine Maschine

 

[HansBohne]

na aber das doch das praktische an ai man kann das schnell verbessern oder erweitern oder optimieren lassen

 

[Daniels87]

Hat jemand Erfahrungen mit Websites & KI?
Momentan habe ich für meine Firma noch eine Wix Baukasten Homepage, weil ich bisher keine Zeit hatte mich um etwas richtiges zu kümmern.

Nun habe ich für eine zeitlich begrenzte Aktion eine Landingpage mit 3D-Scrollanimation mit Three.js gebaut, es war ein Kampf das in Wix eingebunden zu bekommen..
Eigentlich sollte das doch mittlerweile ein Kinderspiel für aktuelle KI-Modelle sein?

Hab mal gelesen dass Google KI-generierte Websites nicht mag und sich das evtl. auf das Ranking auswirkt, aber so richtig etwas belastbares habe ich dazu nicht gefunden.

 

[Tundor]

Du meinst den kompletten Tech Stack selber aufsetzen? Da hätte ich vor allem aus Security Sicht bedenken das ins Internet zu stellen wenn du selber nicht wirklich Ahnung davon hast ...
Zum SEO Thema kann dir sicher @Icke nen Tipp geben.

 

[scrollt]

Claude baut Websites mit verbundenen Augen. Wenn man drüber schaut und sicher stellt keine veralteten Bibliotheken zu benutzen. Meistens baut der aber eh alles kurz selbst 😂

 

[Daniels87]

Gibt in diesem Sinne keine sensiblen Daten oder Login-Bereiche, auch kein Shop oder ähnliches, also nur eine "dumme" Homepage.

Zwar gibt es mittlerweile schon einen Wix-MCP und ein Plugin für Codex, aber das kann noch nicht wirklich was. Und wenn ich mich nicht selbst um das aktualisieren der Inhalte kümmern will muss es Codex/Claude per Browser Use machen, und das ist extrem langsam und verschwendet Token ohne Ende.

Ich nutze firmenintern viele eigene Programme mit browserbasiertem Frontend, das klappt alles easy und problemlos. Nur was ich in die Öffentlichkeit stelle, da bin ich sehr vorsichtig.

 

[scrollt]

Was soll bei einer statischen Seite passieren? HTML und CSS ist ein gelöstes Problem mit Opus 5.5 und co.
Mach dir den Spaß, gib ihm die alte Seite und frag wie man die selbst gehostet neu bauen kann. Ich persönlich mag und empfehle Astro. Aber es gibt natürlich endlos viele Möglichkeiten

 

[Tundor]

Na klar wenn es nur ne statische Seite ist sicherlich kein Problem.

 

[scrollt]

Aber auch Laravel oder was auch immer sind einfach kein Problem mehr. Bin sogar so weit zu sagen, dass das Claude besser macht als 80% der Entwickler. Ist natürlich irgendwie bekloppt, Aber nutzt ja nichts die Wahrheit zu ignorieren.

Sagt jemand der das seit 20 Jahren macht (ca)

 

[Daniels87]

Was soll bei einer statischen Seite passieren? HTML und CSS ist ein gelöstes Problem mit Opus 5.5 und co.
Mach dir den Spaß, gib ihm die alte Seite und frag wie man die selbst gehostet neu bauen kann. Ich persönlich mag und empfehle Astro. Aber es gibt natürlich endlos viele Möglichkeiten

Macht es Sinn das Framework vorzugeben? Oder einfach der KI machen lassen?

 

[scrollt]

Ich gebe alles vor da es mein Beruf ist und ich natürlich auch verbohrt bin. Am Ende muss man mit dem Ergebnis klarkommen und sich mit zurecht finden.

Privat nutze ich Astro wenn es statisch und leicht interaktiv wird. Laravel wenn es komplex ist. Django geht auch, aber Python ist nicht so meins. Laravel kommt mit extrem vielen KI Tools. Heißt Boost.

Man kann die KI auch Vorschläge machen lassen, aber wie gesagt sollte man das Ergebnis auch ohne KI zumindest verstehen können imo

 

[Icke]

Hab mal gelesen dass Google KI-generierte Websites nicht mag und sich das evtl. auf das Ranking auswirkt.

Das ist Quatsch. Kannste komplett ignorieren. Eines der vielen Märchen rund um Google Rankings. Mit der technischen Umsetzung haben sie eh kein Problem, wenn vernünftig/normal in HTML umgesetzt. "Früher" hatten sie mal kommuniziert (Anfang 2023, als ChatGPT durchstartete), dass sie KI-generierte Texte/Content im Ranking abwerten wollen. Das haben sie aber ca. nach nem halben Jahr auch wieder zurück genommen, da nicht in der Lage das zuverlässig zu erkennen. Nicht mal den von der eigenen KI generierten Content. 🤷‍♂️

Ansonsten zur technischen Seite was oben gesagt wurde ...

 

[scrollt]

Ich habe nur von der Umsetzung gesprochen. Wenn man eine KI blind das Design machen lässt, sieht es auch entsprechend aus.