[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion

Wer ein LLM eine bessere Ratemaschine nennt und damit abwerten will, sollte vorher in den Spiegel schauen.
 
Wenn Du diese Anzeige nicht sehen willst, registriere Dich und/oder logge Dich ein.
Claude oder OpenAI sub und ab geht’s. Gibt nicht mal annähernd Vergleichbares auf realistischer lokaler Hardware laufendes
Da ich nur damit etwas rumspiele und das nicht für eine berufliche Tätigkeit ist, reicht erstmal das was die lokale sowie die kostenlose Ki kann.
Außerdem möchte ich die Kostentreiber nicht auch noch mit meinem Geld unterstützen. Abo Modelle meide ich grundsätzlich so weit es geht.

Mit ist klar das einige Ki Dienste wesentlich mehr können da viel mehr Ressourcen zur Verfügung stehen.
 
Abo Modelle meide ich grundsätzlich so weit es geht.
In dem Fall sind die abos aber heftig subventioniert und haben nichts mit den eigentlichen Preisen zu tun.

Jedenfalls wirst du nicht herausfinden was ki wirklich kann, mit deiner Hardware und kostenlosen prompts. Viel Vergnügen wünsche ich dir natürlich trotzdem 👍
 
Bis jetzt reicht's aus 😅
 
Bin sonst auch Abo-Hasser - aber so, wie man bei Claude im Abo Leistung hinterhergeworfen bekommt, musste ich es einfach ausprobieren. Wat soll ich sagen ... bin seit Frühjahr schwer addicted (kaum noch Zeit für anderes) und in das tiefstmögliche rabbit hole geplumst. Fühlt sich sehr gut und richtig an.
 
Zuletzt bearbeitet:
@toscdesign Ich weiß ja nicht was du beruflich machst, aber nutzt ihr da keine AI Tools bzw. wird das von dir nicht erwartet das zu nutzen?
 
Die Softwareentwicklung hat schon bezahlte Ki Tools in Verwendung. Wir hier in der Hardware haben noch keinen Zugang, aber bis jetzt hat immer die kostenlose ausgereicht.
 
ich benutze im Büro auch keine privaten Account. Das fällt mir am Ende nur auf die Füße. Da mache ich nur das, was mir der AG zur Verfügung stellt
 
Ja dürfen wir auch gar nicht, ich muss das nehmen was da ist wo es entsprechende Vereinbarungen gibt mit dem Hersteller. Aktuell Gemini / Claude / OpenAI.
aber bis jetzt hat immer die kostenlose ausgereicht.
Und ihr dürft die kostenlosen Angebote mit nem Privataccount nutzen? 🤔
 
Ohne Account. Gemini geht bis jetzt ohne Account. Ich mache nur das was mir gesagt wird.
 
Da ich nur damit etwas rumspiele und das nicht für eine berufliche Tätigkeit ist, reicht erstmal das was die lokale sowie die kostenlose Ki kann.

Naja, kostenlose ist die lokale KI ja auch nicht. Wenn man die Hardware schon hat, ist es vielleicht nur der Strom, aber wenn ich mir die Hardware für ein brauchbares lokales Modell kaufen muss, ist es sogar verhältnismäßig teuer.

BTW: meine "besseren Ratemaschinen" :d haben die letzten Tage in einem Nebenbei-Projekt ohne großen Prompt-Aufwand ein Gravurprogramm für meinen Galvo-Faserlaser erstellt.
Die Kommunikation mit dem Laser inkl. das Herausfinden aller verfügbaren Parameter hat Astra erledigt, das Programm selbst 6.1 Sol + 5.5 Opus.
Arbeitsaufwand für mich für Promts schreiben und Ergebnisse testen schätze ich auf 4 Stunden. Bereits jetzt ist es wesentlich besser als EzCAD und hat deutlich mehr Funktionen. Browserbasiert und somit an jedem Gerät im Netzwerk bedienbar. Der Laser kann am Server angeschlossen werden, oder an einem beliebigen Computer, welcher den Laser über ein Tool mit dem Server verbindet.

ls-studio1.png ls-studio2.png

Am Wochenende werde ich noch etwas optimieren und das UI polieren.
 
Zuletzt bearbeitet:
In der Arbeit haben wir Copilot Premium - also ChatGPT mit den neuesten Modellen inkl. Claude.
Ist schon ganz geil, was man da vor allem mit Copilot Studio sich für Agenten bauen kann. Privat nutze ich das aber nicht so stark.

Überlege mir aber gerade den Hermes Agent anzuschauen für einige Aufgaben - Für das bisschen sollte die RTX3090 lokal langen, ansonsten Copilot im M365 Abo angebunden (bzw. kostenlose Konten mit limitierten Tokens). Kann da @toscdesign durchaus verstehen.

Bin in dem Sub noch nicht so aktiv gewesen - hat jemand schon einmal Openclaw oder vor allem den Hermes Agent lokal eingerichtet? Tipps? Bin damals mit Openclaw nicht warm geworden und man war mehr mit Einrichtung und Pflege unterwegs als produktiver nutzung (War aber glaub auch einfach nicht das Tool für meinen Zweck)
 
BTW: meine "besseren Ratemaschinen" :d

Die haben doch mal wieder nur mehr Glück als Verstand gehabt. Bei der nächste Ratelosung kommt wieder völlig anderes dabei raus
Beitrag automatisch zusammengeführt:

Wer ein LLM eine bessere Ratemaschine nennt und damit abwerten will, sollte vorher in den Spiegel schauen.

Genau das gleiche habe ich beim lesen des Kommentars auch gedacht, der jetzt intellektuell nicht besonders heraus gestochen hat, wollte das aber nicht direkt so schreiben.

ChatGPT.png

Beitrag automatisch zusammengeführt:

In dem Fall sind die abos aber heftig subventioniert und haben nichts mit den eigentlichen Preisen zu tun.

Da wird sich auch nichts daran ändern, weil das gefördert wird wie damals das Raumfahrtwettrennen und man es wieder als Waffe in jeglicher Art sieht (Hacken, Kampfdrohnen, Roboter)
 
Zuletzt bearbeitet:
Nachdem Anthropic inzwischen ihren IPO Prospekt rausgegeben hat ist ja ziemlich klar, dass die finanziell sehr gut dastehen. Wer ne Analyse dazu interessiert dem empfehle ich die aktuelle Folge vom Doppelgänger Podcast.
 
Noch mal, ein LLM ist eine Glaskugel. Raten ist eventuell nicht ganz richtig, da es auf Wahrscheinlichkeiten basiert, aber ich versteh schon wo das herkommt.

Und bis vor einer Weile haben die ja vor allem durch miese herbeifantasierte Ergebnisse geglänzt. Hat sich halt massiv geändert in den letzten Monaten. Bilder SLop als Meme Ersatz sieht aber immer noch scheiße aus, nur so nebenbei :D
 
Ich lass Claude inzwischen auf Arbeit sogar in meinen Google Docs mit dem MCP rumschreiben. Also zumindest während ich diese drafte, z.B. irgendwelche Solution Design oder Strategie Dokumente. Da ist eigentlich wenig bis nix fantasiertes mehr drin. Wenn das was er macht nicht gut funktioniert liegt es meistens am Shit in Shit Out Problem, also an mir :D
Private nutze ich das ding auch häufig und da nervt mich das tatsächlich auch, dass er mir irgend nen Mist erzählt aber ehrlicherweise ist das meistens bei so Fälle wie "Erklär mir mal schnell wie ich in Tool X, funktion Y konfiguriere". Und dann erfindet der halt oft irgendwas wie "ja das ist unter Settings / blabla" obwohl es das gar nicht gibt, wenn man ihn dann anpöbelt gibt er zu, dass er das nicht recherchiert hat sondern "aus seinem Gedächtnis" gezogen hat 🤣 Dabei benutze ich ihn ja quasi als google Ersatz und das ist er einfach nicht.
Sobald man dem Tool aber den richtigen Kontext gibt (so wie ich es dann meistens auf der Arbeit mache), funktioniert das einfach mega gut. Ich behaupte mal wer immer noch schreit, dass die KI zu unzuverlässig sei der nutzt das einfach nicht im professionellen Umfeld.
 

vielleicht ja für die Experimentierfreudigen hier interessant :)
 
Noch mal, ein LLM ist eine Glaskugel. Raten ist eventuell nicht ganz richtig, da es auf Wahrscheinlichkeiten basiert, aber ich versteh schon wo das herkommt.

:D

Nein nicht wirklich. LLMs sind zwar durch einen mathematischen Algorithmus bezüglich der wahrscheinlichsten Antwort enstanden. Aber ein Algorithmus ist keine Intelligenz. Zwar ist der Übergang von einem Algorithmus zu einer Intelligenz fließend, aber LLMs sind schon lange über diese Grenze hinaus. Denn ein mathematischer Algorithmus für Wahrscheinlichkeiten kann keine neue logischen Zusammenhänge erzeugen, im gewissen Maße lernen und neue Lösungswege entdecken.

Somit ist die Aussage auch ziemlicher Quatsch, da bei einer Ratemaschine immer ein anderes Ergebnis nach dem Zufallsprinzip heraus kommt und das war auch selbst zu Chatgpt 5 nicht der Fall.
Dem nach könnte man auch jeden Menschen als Ratemaschine diskreditieren der einfach irgendwelche Behauptungen aus deiner Fantasie erzählt, die keinen faktischen Bezug haben.
 
Zuletzt bearbeitet:
wenn man ihn dann anpöbelt gibt er zu, dass er das nicht recherchiert hat sondern "aus seinem Gedächtnis" gezogen hat
Lasse es gar nicht mehr so weit kommen. Bei so Fragestellungen zu Toolbedienungen kommt eh nur Mist raus, daher gleich die Ansage im ersten Prompt: Wo recherchiert, nenne alle Quellen Deiner Aussagen? Mittlerweile habe ich ihn so weit damit drangsaliert (es ist in allen allg. Anweisungen, in ind. Kontext-Dokumenten, wo er es immer mitziehen muss, und auch in seinem ind. Gedächtnis verewigt), dass er meist "freiwillig" neu recherchiert und die Quellen nennt. Schätze in 9 von 10 Fällen klappt es inzwischen ohne Rückfrage und Geschimpfe. War aber ein langer Weg. 😅
 
Was ein LLM ist oder nicht, ist doch egal, es funktioniert mittlerweile erschreckend gut. Die Entwicklung ist derart schnell, dass ich mich oft frage ob es bei bestimmten Projekten nicht sinnvoll wäre ein halbes Jahr zu warten, um das Projekt mit einem Bruchteil des Zeitaufwands abzuschließen.

Wenn ich zurück denke, dass ich vor gerade mal 2 Jahren noch mit ChatGPT 4o gearbeitet habe, welches an einer einfachen Datenbankmigration gescheitert ist. Und selbst da war es für mich als weitgehender Laie schon ein unfassbar nützliches Tool.
 
Noch mal, ein LLM ist eine Glaskugel. Raten ist eventuell nicht ganz richtig, da es auf Wahrscheinlichkeiten basiert, aber ich versteh schon wo das herkommt.
Nur sind solche Sprüche meist zu kurz und oberflächlich gedacht. Die übliche menschliche Tendenz sich Dinge zu einfach erklären zu wollen, was nur selten mit der komplexen Realität zusammen passt.

Und bis vor einer Weile haben die ja vor allem durch miese herbeifantasierte Ergebnisse geglänzt. Hat sich halt massiv geändert in den letzten Monaten.
Naja, tun sie teilweise noch immer. Nur Coding Agenten korrigieren sich halt selbst, aber bei ChatGPT selbst sehe ich immer noch oft genug Unsinn.

Bilder SLop als Meme Ersatz sieht aber immer noch scheiße aus, nur so nebenbei :D
Ich weiß nicht, besser als die immer gleichen Meme Bilder nur mit anderem Text. ;)

Was ein LLM ist oder nicht, ist doch egal, es funktioniert mittlerweile erschreckend gut. Die Entwicklung ist derart schnell, dass ich mich oft frage ob es bei bestimmten Projekten nicht sinnvoll wäre ein halbes Jahr zu warten, um das Projekt mit einem Bruchteil des Zeitaufwands abzuschließen.
Darum wird eines meiner Projekte nie fertig, weil ich es immer irgendwann liegen lasse und wenn die KI wieder besser geworden ist neu anfange, weil die Altlasten will man dann ja auch nicht mitschleppen. :fresse:
 
Darum wird eines meiner Projekte nie fertig, weil ich es immer irgendwann liegen lasse und wenn die KI wieder besser geworden ist neu anfange, weil die Altlasten will man dann ja auch nicht mitschleppen. :fresse:
Meine erste "richtige" Anwendung war ein Programm, mit dem ich meine Elektrogerät für die DGUV V3 Prüfung verwalte, mit Gerätekarteien etc. Dort werden auch die Prüfprotokolle als PDF generiert. Und einige Komfortfunktionen, ich kann nach der Messung das Display abfotografieren und die Messergebnisse werden in die Eingabemaske übernommen, Anbindung an einen Lable Drucker etc. Da habe ich wirklich viele Wochen dran gebastelt. Das Könnte Opus 5.5 wahrscheinlich in einer Stunde bauen, dabei technisch sauberer und schöner.
 
Von Wikipedia. LLMs sind sehr gut geworden und korrekt trainiert, fühlt sich das jetzt alles wie eine künstliche Intelligenz an, aber an der Basis hat sich aber nix geändert soweit ich weiß.

Ein Large Language Model (kurz LLM, englisch), übertragen großes Sprachmodell, ist die softwaretechnische Realisierung eines mathematischen Sprachmodells, das sich durch seine Fähigkeit zur Textgenerierung auszeichnet.[1][2] Es handelt sich um ein sogenanntes computerlinguistisches Wahrscheinlichkeitsmodell, das statistische Wort- und Satzfolge-Beziehungen aus einer Vielzahl von Textdokumenten durch einen rechenintensiven Trainingsprozess erlernt hat und diese Fähigkeiten seinem Benutzer oder einer anderen Anwendung zur Verfügung stellt.[3]

Habe ich studiert, auch wenn ich nach dem Studium Mitte der 2000er dann anders weiter gemacht habe ;)
Beitrag automatisch zusammengeführt:

Darum wird eines meiner Projekte nie fertig, weil ich es immer irgendwann liegen lasse und wenn die KI wieder besser geworden ist neu anfange, weil die Altlasten will man dann ja auch nicht mitschleppen. :fresse:
wer ein Software-Projekt mit Opus oder Fable nicht fertig bekommt, dann weiß ich auch nicht. Da fehlt einem dann eher das nötige Fachwissen, nicht noch bessere Modelle.

Aber das kann ja noch kommt. Wieso Fable 7 dann aber auf dem alten Schrottcode aufbauen sollte, weiß ich nicht so recht :D
Beitrag automatisch zusammengeführt:

Und bevor das jemand in den falschen Hals bekommt: ich meine das nicht böse oder anmaßend. Aber nur weil es jetzt KI gibt kann ich auch keine Ölbilder malen. :) Ich bin mir doch recht sicher, dass man für manche Dinge auch in Zukunft einfach noch Fachpersonal brauchen wird. Nur nicht mehr für alles
 
Zuletzt bearbeitet:
Bei so Fragestellungen zu Toolbedienungen kommt eh nur Mist raus, daher gleich die Ansage im ersten Prompt: Wo recherchiert, nenne alle Quellen Deiner Aussagen?
Ja das schieb ich ihm immer gleich hinterher wenn er wieder dreck liefert. Ich hab das eigentlich auch in den User Settings so hinterlegt aber ich schätze mal, dass das absichtlich ignoriert wird um Token zu sparen.
 

vielleicht ja für die Experimentierfreudigen hier interessant :)
Ok, die Modellfamilie klingt krass, muss ich definitiv ausprobieren. Alle um die 2B groß, also unter 4GB VRAM mit Deutsch Support und sogar einem Decision Modell, das alle mögliche Input Format nutzen kann. Jetzt muss es halt nur noch gut genug sein. ;)
 
man darf nicht vergessen, dass ohne Recherche eben nur das rauskommt, was im Trainingsdatensatz enthalten war. Und das kann ja mehrere Monate alt sein, wenn man das Tool benutzt.

Also immer schön auf die Reise schicken bei allem, was sich potentiell hat ändern können :)
 
wer ein Software-Projekt mit Opus oder Fable nicht fertig bekommt, dann weiß ich auch nicht. Da fehlt einem dann eher das nötige Fachwissen, nicht noch bessere Modelle.
Zu starre Vorstellungen, zu viel Kontrolle bei der Umsetzung behalten wollen und in zu kleinen Schritten arbeiten ist wohl mein Problem dabei. Ich sollte die KI einfach mal machen lassen und dann hinterher anpassen und im schlimmsten Fall noch mal komplett neu erstellen lassen. xD

Und bevor das jemand in den falschen Hals bekommt: ich meine das nicht böse oder anmaßend. Aber nur weil es jetzt KI gibt kann ich auch keine Ölbilder malen. :) Ich bin mir doch recht sicher, dass man für manche Dinge auch in Zukunft einfach noch Fachpersonal brauchen wird. Nur nicht mehr für alles
Hängt halt auch damit zusammen wie viel man sich selbst einarbeiten möchte und da hab ich schon sehr viel Wissen angesammelt, das Problem ist, dass es ein KI Projekt ist, sprich KI genutzt wird und da sich KI ständig rassend schnell weiter entwickelt, hilft das auch nicht so wirklich sich selbst auszubremsen. :D
 
Ich sollte die KI einfach mal machen lassen und dann hinterher anpassen und im schlimmsten Fall noch mal komplett neu erstellen lassen. xD
Eigentlich nicht, du solltest nen Plan ausarbeiten und dann stück für stück abarbeiten lassen. Letzteres ist doch viel zu teuer.
 
Ich kann ja nur ChatGPT vergleichen. Von den Anfängen und der ersten App, die ich mir habe zusammengepromptet und jetzt liegen Welten. Alleine die Oberfläche, Bedienung, der Funktionsumfang. Angefangen mit einer kleinen Datenbankanwendung als Windows EXE aus einem Python-Script bis jetzt mit komplett individualisierten Inno 7 Installer mit Logo, App Icon usw. Das ist einfach nur krass. Ich entdecke immer mehr das Hören von Hörbüchern für mich. Manchmal gibt es das aber nicht, was ich mir gerne anhören würde und für das ich zum lesen zu faul bin. Also habe ich mir eine App erstellen lassen, die mit Qwen3 TTS Manuskripte einliest, und daraus ein Hörbuch macht für mich. Und die Qualität ist mittlerweile nicht viel schlechter als bei ElevenLabs. Dauert zwar und erfordert immer mal wieder Anpassungen, aber das wäre bis vor einem halben Jahr so noch nicht möglich gewesen. Ich versuche jetzt immer mehr auf dem heimischen Rechner zu machen. Es ist billiger und es kann nicht zum KI-Training verwendet werden. Astra ist ein hilfreiches Tool dafür und ich bin gespannt, was die nächste Generation bringen wird. Der Trend geht laut Keno und Morpheus ja sowieso zur lokalen KI.
 
Hardwareluxx setzt keine externen Werbe- und Tracking-Cookies ein. Auf unserer Webseite finden Sie nur noch Cookies nach berechtigtem Interesse (Art. 6 Abs. 1 Satz 1 lit. f DSGVO) oder eigene funktionelle Cookies. Durch die Nutzung unserer Webseite erklären Sie sich damit einverstanden, dass wir diese Cookies setzen. Mehr Informationen und Möglichkeiten zur Einstellung unserer Cookies finden Sie in unserer Datenschutzerklärung.


Zurück
Oben Unten refresh