[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion

[Hoto]

Ja, so mit um die Ecke denken haben es LLMs es nicht gerade. Und wenn sie nicht oft Dinge machen würden, was sie gar nicht tun solltest, könnte man sagen sie machen halt strickt das was man ihnen sagt. Prompt falsch formuliert? Selbst Schuld.

Manchmal stellt ich ChatGPT eine einfache Frage, erwarte dann eine kurze Antwort, weil ja eigentlich easy zu beantworten, statt dessen krieg ich eine Abhandlung und manchmal schafft es ChatGPT es sogar, dass diese Abhandlung die eigentliche Frage nicht wirklich beantwortet. XD

Claude hat ja ein 18 Euro Abo (kostet es zumindest wenn ich mir ein Abo für ein Monat holen würde). Ich frage mich wie weit das Abo reicht bei den Kosten die Claude über seine API verlangt und was passiert wenn man dort ins Limit läuft? Soll dort ja viel schneller passieren als bei ChatGPT.

 

[Tundor]

Ich hab den 18€ Account (eigentlich sind es 21€, weil die Steuer ja noch drauf kommt) und es hängt natürlich vom Modell ab wie schnell es geht und vom Task den du ausführst. Opus 4.6 geht deutlich schneller (40-50% mehr Token Verbrauch hab ich gelesen) vorallem wenn man im extended Thinking Mode ist. Opus brauchst du aber eigentlich nur, wenn du ihn komplexe Dinge Planen lässt bevor du sie ausführst. Wenn du klare Anweisungen hast, also z.B. refactore diese eine Datei, finde x und mach y dann lohnt sich Opus nicht, Sonnet 4.6 (normalerweise auch ohne Tinking) ist dafür bestens geeignet. Ich hab fast nur Sonnet drin, nur wenn ich ein Projekt starte wo ich von ihm erwarte, dass er mir erstmal nen Plan mache, lass ich Opus mit thinking aktiv und lass mir dann nen Prompt geben um die Erkenntnis rauszubekommen mit nem Plan und den gebe ich dann bei Sonnet rein und mache "billig" weiter. Chat GPT Premium hatte ich nie deswegen kann ich da jetzt keinen Vergleich ziehen. Außerdem ist es wichtig, nach nem langen Chat irgendwann mal ne Summary mit dem wichtigsten Kontext ausgeben zu lassen und nen neuen zu erstellen, sonst hat der ein gigantisches (und häufig unnötiges) Kontext Window was extrem teuer ist. Hatte am Wochenende so nen langen Chat und als ich am Tag danach die nächste Frage gestellt habe, hat er direkt 40% des Session Limits verbraucht

statt dessen krieg ich eine Abhandlung

In den User Settings gibt es doch diesen Bereich wo du ihm Wissen über dich geben kannst. Das kann man z.B. nutzen, um ihm zu sagen er soll bei Fragen möglichst nur die Fakten ausspucken und nicht ne dumme Story drumrum bilden. Ich hab mir angewöhnt, immer wenn mir irgendwas das er tut auf den Sack geht und ich das grundsätzlich nicht will, trage ich es da als Info ein. Ist halt etwas arbeit, aber nur so wirds besser. Und wenn man mal den Anbieter wechselt, kann man den Teil ja einfach mitnehmen.

 

[X_FISH]

Der digitale Animismus ist da und ich finde das eigentlich ja sogar nett. Da sind Menschen gegenüber einer »Maschine« mal nett. Auto, Schuhe und Haustüre werden mishandelt, aber zur vermeintlich künstlich intelligenten Person ist man höflich und erzählt sogar Geheimnisse. HAL und Bender werden uns also nicht umbringen wenn wir sie so weiterbehandeln.

 

[Hoto]

In den User Settings gibt es doch diesen Bereich wo du ihm Wissen über dich geben kannst. Das kann man z.B. nutzen, um ihm zu sagen er soll bei Fragen möglichst nur die Fakten ausspucken und nicht ne dumme Story drumrum bilden. Ich hab mir angewöhnt, immer wenn mir irgendwas das er tut auf den Sack geht und ich das grundsätzlich nicht will, trage ich es da als Info ein. Ist halt etwas arbeit, aber nur so wirds besser. Und wenn man mal den Anbieter wechselt, kann man den Teil ja einfach mitnehmen.

Klar, nutze ich auch, aber das gilt dann halt global für alles, was man eventuell nicht immer will.

 

[AliManali]

Boah, habe mir nochmals Claude Pro geholt, und rasch mein HA programmiert. 16 Gruppen werden gesteuert. Die Dashboards sind individuell gestaltet, genau so wie ich es haben wollte. Bisschen Logik eingebaut noch, und so. Dachte das gibt eine ellenlange Geschichte, Aber Claude hat das innert Kürze souverän gelöst. Die 20$ waren alleine deswegen schon gut angelegt. Aber bin auch noch am Netzwerk dran, obwohl schon fast fertig. Aber da kann ich das Abo sicher auch nochmal sinnvoll einsetzen. Wahnsinn.

 

[AliManali]

Lol, bin immer noch dran. Habe noch die Shellys selbst mit Java gescriptet, in HA die wildesten Regeln eingebaut, Überlastwarnung und Überlastabschaltung mit E-Mail Notifikation und so. Natürlich mit dem Staubsauger getestet. Der Krempel hat den Namen Smarthome echt verdient. Lässt bislang keine Wünsch offen. Müsstet ihr sehen, zu geil.

 

[HansBohne]

Claude hat ja ein 18 Euro Abo (kostet es zumindest wenn ich mir ein Abo für ein Monat holen würde). Ich frage mich wie weit das Abo reicht bei den Kosten die Claude über seine API verlangt und was passiert wenn man dort ins Limit läuft? Soll dort ja viel schneller passieren als bei ChatGPT.

ne das ist nicht die API die API ist ein anderes Abrechnungsmodell, das Abo ist "nur" CLI (+CLI Integration wie in VS Code) / Web etc. Die API Nutzuing ist deutlich teurer aber auch deutlich leistungsfähiger. Das sind nochmal kleine Welten dazwischen.

Die wirklich guten Modelle sind meist nur per API erreichbar so wie auch jetzt "Rosalind" bei OpenAI, die spielen auf einem anderen Level,

Ich glaube auch das ist der Gruund weshalb manche meinen AI bringe nichts, weil die "einfachen" und die einfachen Abo Modelle halt nicht sooooo gut sind und das halt das ist mit dem die meisten in Kontakt kommen. Es wird aber so sein dass viele, die API Modelle nutzen, das anders sehen, weil man da halt gefühlt dann 100 Stufen darüber unterwegs ist - die Abomodelle sind Grundschule oder meinetwegen auch wie ein einfacher weiterführender Schulabschluss <=> die API Modelle teils wie Uni Abschluss mit scl - das ist MANCHMAL so.

Natürlich können die auch keine bessere Antwort liefern als 4 bei der Frage was ist 2+2 nur wenn es um komplexe Fragen - egal aus welchem Fachbereich der "erweiterten" Naturwissenschaft (von Chemie Bio Physik, Programmieren, Statsitik etc) geht dann trumpfen die auf.Die Kosten sind aber - wenn man die selbst nur mittel nutzt - halt schnell im 4-stelligen Bereich im Monat.

Das was man frei und im Abo nutzt sind sozusagen die kleinen Abfallkrümel von gestern - aber halt auch für vieles schon echt ok, haben aber nichts mit den AIs meist zu tun die echte Arbeitskräfte ersetzen

 

[Hoto]

Ja, das ist also quasi wie ChatGPT Codex über das Abo Modell. Man kann Claude Code über eine Erweiterung in VS Code nutzen, entsprechen müsste man das recht einfach 1:1 von Codex auf Claude Code wechseln können. Am Fr. läuft mein ChatGPT Abo wieder ab, mal sehen ob ich dann mal Claude testen werde. Nur wie gesagt frage ich mich wie schnell man über das Abo ins Limit läuft und wie lange man dann warten muss. Wäre halt doof wenn ich merke, dass es für mich zu schnell ist. Ist für mich alles halt nur Hobby.

Oder ist mit "direkt in deiner Codebasis" etwas anderes gemeint?

 

[HansBohne]

Das geht schon auch direkt in der Codebasis aber halt nicht wie mit API und nicht mit z.B. Opus 4.7

Ich nutze in Studio Code auch die Claude cli das funktioniert problemlos dass es da im eigenen code mit rumwerkelt - das liest dann auch eigebundene libs etc. wenn nötig und im source vorhanden.

Für ein neues erpaper display konnte ich sagen da gibts keinen treiber mach mal... claude hat sich dann durch gxepd2 durchgewühlt und online doku und einen gebaut und gleich eingebunden

 

[Tundor]

Nur wie gesagt frage ich mich wie schnell man über das Abo ins Limit läuft und wie lange man dann warten muss.

Es gibt ein Session Limit, das resettet alle 4-5h hab ich gerade nicht im Kopf und ein Wochenlimit. Ansonsten zum Verbrauch hab ich ein paar Posts vorher ja schon was geschrieben, einfach nicht ständig mit Opus und extended Thinking rumrennen und für die weniger Komplexen Dinge immer Sonnet nutzen.