[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion
- Ersteller Jolokia
- Erstellt am
Ich bin seit Stunden mit Gemini plaudern. Die hat mich bei der Planung und Implementierung echt weiter gebracht die letzten Wochen und vor allem Tage. Sie hat auch viel BS verzapft, und die einfachsten Fehlerquellen nicht erwähnt. Nun gut, ich bin jetzt viiiiiel weiter und ganz happy mit dem Fortschritt.
Plaudere also seit ca. 3h über Gott und die Welt, und bin verflucht nochmal an der Planung mit Excel und Visio dran. Ich sage nach jeder zweiten Antwort, Du lass mich in Ruhe, ich bin noch an der Planung, VLANs, Ranges und Hosts in Excel. Gute Güte, nach jeder Antwort steht unten:
Wenn Du der netten Gemini sagst, Du geh mir nicht auf den Senkel, ich grrr bin noch nicht so weit, frühestens in zwei Stunden, kommt sowas wie: wollen wir nun mit den Aliasen beginnen, oder soll ich in 2h wieder fragen?
Aber bin jetzt bei einem physischen Netz und 15 VLANs. Denke das sollte mal reichen für den Anfang. KEA mit passenden Adressranges habe ich eingerichtet, grundlegende Firewallregeln mal erstellt, unbound eingerichtet, lüppt. Jetzt möchte ich gerne bisschen philosophieren, bisschen VLANs testen und Doku machen. Aber nein, gemini geht mir permanent im Schlussabsatz nochmal mit den Aliasen auf die Nüsse, obwohl ich grrr mit IP und MAC Adressen in Excel beschäftigt bin. Geht ja in keine Kuhhaut.
Hoffe ich komme mit drohen weiter:
Im nächsten Leben gründe ich eine Bank oder Raketenabschussbasis, bis dahin brauche ich auch keine KI mehr. Mit besten Grüßen vom Prekariat.
Plaudere also seit ca. 3h über Gott und die Welt, und bin verflucht nochmal an der Planung mit Excel und Visio dran. Ich sage nach jeder zweiten Antwort, Du lass mich in Ruhe, ich bin noch an der Planung, VLANs, Ranges und Hosts in Excel. Gute Güte, nach jeder Antwort steht unten:
Wenn Du der netten Gemini sagst, Du geh mir nicht auf den Senkel, ich grrr bin noch nicht so weit, frühestens in zwei Stunden, kommt sowas wie: wollen wir nun mit den Aliasen beginnen, oder soll ich in 2h wieder fragen?
Aber bin jetzt bei einem physischen Netz und 15 VLANs. Denke das sollte mal reichen für den Anfang. KEA mit passenden Adressranges habe ich eingerichtet, grundlegende Firewallregeln mal erstellt, unbound eingerichtet, lüppt. Jetzt möchte ich gerne bisschen philosophieren, bisschen VLANs testen und Doku machen. Aber nein, gemini geht mir permanent im Schlussabsatz nochmal mit den Aliasen auf die Nüsse, obwohl ich grrr mit IP und MAC Adressen in Excel beschäftigt bin. Geht ja in keine Kuhhaut.
Hoffe ich komme mit drohen weiter:
Im nächsten Leben gründe ich eine Bank oder Raketenabschussbasis, bis dahin brauche ich auch keine KI mehr. Mit besten Grüßen vom Prekariat.
Zuletzt bearbeitet:
Ich habe mein ChatGPT-Konto inzwischen gelöscht. Schnauze voll. Teilweise werden die Antworten buchstabenweise gegeben (selbst mit dem 23€-Abo hatte ich das manchmal), grammatikalisch falsche Sätze und dann auch einfachste Sachen, die faktisch komplett falsch sind. Werde zukünftig auf Gemini und Lumo setzen, wobei Lumo aktuell nicht mit Gemini mithalten kann.
- Mitglied seit
- 13.08.2017
- Beiträge
- 1.777
Seit froh das es so ist, eine wirkliche KI würde zu erst Uns als Schädlinge entfernen ! mfg
konfetti
Urgestein
Nutzt ihr AI/KI nur in der Cloud oder auch lokal @home?
Ich hab jetzt daheim erfolgreich Fooocus am laufen - vorerst eine Testinstanz auf alter Hardware, hat aber für die Weihnachtskarten schöne Motive erstellt.
-
Außer der Spielerei bei der Bildgenerierung habe ich dafür noch keinen weiteren Nutzen gefunden bzw. such noch etwas, das sich ggf. auch in den heimischen Alltag integrieren lässt...
Ich hab jetzt daheim erfolgreich Fooocus am laufen - vorerst eine Testinstanz auf alter Hardware, hat aber für die Weihnachtskarten schöne Motive erstellt.
-
Außer der Spielerei bei der Bildgenerierung habe ich dafür noch keinen weiteren Nutzen gefunden bzw. such noch etwas, das sich ggf. auch in den heimischen Alltag integrieren lässt...
Ein extra Sammel Thread für das Thema lokale KI wäre echt mal angebracht. Das Thema ist allein so riesig, wenn man sich damit mal etwas intensiver beschäftigt wird man geradezu davon erschlagen. Mit einem halbwegs brauchbaren PC mit einer halbwegs gescheiten Grafikkarte kann man lokal schon viel machen.
Und wer es nicht 100% lokal braucht, kann selbst den Großteil lokal laufen lassen und nur eine LLM API für die KI selbst in der Cloud nutzen, gibt es auch diverse Anbieter für und wenn man die Kosten im Blick hält, wird es nicht mal so wirklich teuer. Statt OpenAI die ~20 Euro im Monat zu geben für ChatGPT kann man das Geld auch in eine LLM API stecken, natürlich auch die von OpenAI, anderen Anbietern oder gleich nem LLM Hoster, bei dem man zwischen zig Modellen wechseln kann, je nach dem wie man es braucht. Da kommt man mit 20 Euro im Monat auch schon recht weit, wenn man nicht gerade wilden KI Agenten Kram betreibt.
Es ist also schon vieles machbar und es gibt schon reichlich Open Source Software. KoboldCPP (für quantisierte GGUF Modelle), damit kann ich z.B. ein Qwen Next 3B 80B Modell auf meiner 4090 in Verbindung mit normalem RAM in einer akzeptablen Geschwindigkeit laufen lassen und 80B ist für lokal schon ordentlich, bräuchte eigentlich in voller Modellgröße ca. 160+GB, in 4Bit sind es nur noch 40GB und weil es ein MoE Modell ist, ist es selbst noch akzeptabel schnell, wenn man es auf VRAM und RAM (also GPU und CPU) aufsplitten muss, was dann bei mir nicht ganz 24GB VRAM sind (weil anderes belegt auch schon VRAM) und 16+GB RAM sind, braucht also nicht zwingend 64GB RAM neben einer soliden GPU für so ein Modell. Mit ner 5090 dürfte das Qwen Modell richtig schön schnell sein, weil schnellere GPU, mehr im VRAM, weniger im RAM. Aber kleinere Modelle, die dann in 4Bit selbst in 16GB VRAM passen, sind auch schon nicht so schlecht. Selbst für Text Zusammenfassungen tun es noch kleinere Modelle, die nicht mal 8GB VRAM brauchen.
Lokale KI hat also ebenso gigantische Schritte vorwärts gemacht. Natürlich nicht nur bei Text/OCR KI, Bild KI, Sprach KI, ja selbst Audio, Musik und eben auch Video KI, geht alles inzwischen lokal und die Qualität ist oftmals gar nicht mal so schlecht. Natürlich kein Vergleich zu den kommerziellen Anbietern, deren Modelle sind halt viel größer mit entsprechender Hardware dahinter, die wir halt daheim eher nicht stehen haben und entsprechend ist auch die Qualität meist höher. Aber es gibt auch kommerzielle Anbieter, die schon von Open Weight Modellen überholt wurden. Es gibt wirklich reichlich AI Unternehmen, die immer wieder Open Weight Modelle veröffentlichen. Da die Übersicht zu behalten ist fast eine Lebensaufgabe für sich. Ist auch gerade wieder ein neues Qwen Image Edit veröffentlich worden, ein Bild zu Bild Modell wie Nano Banana, mit dem man Bilder per Prompt ändern kann. Hab ich erst Gestern noch das vorherige Modell lokal genutzt. ComfyUI ist da auch ein lokales Tool, was man kennen sollte, extrem mächtig. Aber wie gesagt, Software gibt es reichlich, solche die mehr für normale Nutzer ausgelegt sind als auch solche, die dich mit Möglichkeiten schier erschlagen.
Und wer es nicht 100% lokal braucht, kann selbst den Großteil lokal laufen lassen und nur eine LLM API für die KI selbst in der Cloud nutzen, gibt es auch diverse Anbieter für und wenn man die Kosten im Blick hält, wird es nicht mal so wirklich teuer. Statt OpenAI die ~20 Euro im Monat zu geben für ChatGPT kann man das Geld auch in eine LLM API stecken, natürlich auch die von OpenAI, anderen Anbietern oder gleich nem LLM Hoster, bei dem man zwischen zig Modellen wechseln kann, je nach dem wie man es braucht. Da kommt man mit 20 Euro im Monat auch schon recht weit, wenn man nicht gerade wilden KI Agenten Kram betreibt.
Es ist also schon vieles machbar und es gibt schon reichlich Open Source Software. KoboldCPP (für quantisierte GGUF Modelle), damit kann ich z.B. ein Qwen Next 3B 80B Modell auf meiner 4090 in Verbindung mit normalem RAM in einer akzeptablen Geschwindigkeit laufen lassen und 80B ist für lokal schon ordentlich, bräuchte eigentlich in voller Modellgröße ca. 160+GB, in 4Bit sind es nur noch 40GB und weil es ein MoE Modell ist, ist es selbst noch akzeptabel schnell, wenn man es auf VRAM und RAM (also GPU und CPU) aufsplitten muss, was dann bei mir nicht ganz 24GB VRAM sind (weil anderes belegt auch schon VRAM) und 16+GB RAM sind, braucht also nicht zwingend 64GB RAM neben einer soliden GPU für so ein Modell. Mit ner 5090 dürfte das Qwen Modell richtig schön schnell sein, weil schnellere GPU, mehr im VRAM, weniger im RAM. Aber kleinere Modelle, die dann in 4Bit selbst in 16GB VRAM passen, sind auch schon nicht so schlecht. Selbst für Text Zusammenfassungen tun es noch kleinere Modelle, die nicht mal 8GB VRAM brauchen.
Lokale KI hat also ebenso gigantische Schritte vorwärts gemacht. Natürlich nicht nur bei Text/OCR KI, Bild KI, Sprach KI, ja selbst Audio, Musik und eben auch Video KI, geht alles inzwischen lokal und die Qualität ist oftmals gar nicht mal so schlecht. Natürlich kein Vergleich zu den kommerziellen Anbietern, deren Modelle sind halt viel größer mit entsprechender Hardware dahinter, die wir halt daheim eher nicht stehen haben und entsprechend ist auch die Qualität meist höher. Aber es gibt auch kommerzielle Anbieter, die schon von Open Weight Modellen überholt wurden. Es gibt wirklich reichlich AI Unternehmen, die immer wieder Open Weight Modelle veröffentlichen. Da die Übersicht zu behalten ist fast eine Lebensaufgabe für sich. Ist auch gerade wieder ein neues Qwen Image Edit veröffentlich worden, ein Bild zu Bild Modell wie Nano Banana, mit dem man Bilder per Prompt ändern kann. Hab ich erst Gestern noch das vorherige Modell lokal genutzt. ComfyUI ist da auch ein lokales Tool, was man kennen sollte, extrem mächtig. Aber wie gesagt, Software gibt es reichlich, solche die mehr für normale Nutzer ausgelegt sind als auch solche, die dich mit Möglichkeiten schier erschlagen.
Gurkengraeber
Legende
Ist schon faszinierend. Habe ein kleines Lego Teil in einem Haufen gesucht ewig nix gefunden. Dann ein Foto von dem Teil (eins hatte ich schon) und dem Haufen gemacht. Dann dem LLM gesagt such mir das Teil. Lege gedanklich ein 4x4 Raster über das Foto und sag mir wo es ist. Er so c3. Hab es dann tatsächlich etwas unterhalb rechts der Mitte im Haufen gefunden. Also dafür sollen sie mir gerne 10 akw und 15 Kohlekraftwerke hochziehen.
Ja, ist schon irre wie gut die Bilderkennung inzwischen ist. Kannst sogar deine Bilder vom LLM nach jeder Bearbeitung bewerten lassen nach allen möglichen Punkten. Hatte ein Gesicht aus einem Game das ich realistischer/natürlicher haben wollte ohne das es das Gesicht kaputt macht, da sind leider die lokalen Bild LLMs besonders gut darin. ChatGPT hat mir dann immer gesagt wo es noch unnatürlich aussieht, z.B. auch wenn die Haut an einer Stelle zu glatt war. Konnte auch bewerten ob das Gesicht zu sehr vom Original abgedriftet ist und erklären woran es lag. Auch mit welcher Art von Filter ich das korrigieren könnte.
Das Bild Verständnis von LLMs ist inzwischen schon auf einem krassen Niveau. Bin aber auch kein Fotograf und hab nicht so den Blick für Kleinigkeiten, keine Ahnung wie Jemand das Ganze bewerten würde, der wirklich Ahnung davon hat.
Das Bild Verständnis von LLMs ist inzwischen schon auf einem krassen Niveau. Bin aber auch kein Fotograf und hab nicht so den Blick für Kleinigkeiten, keine Ahnung wie Jemand das Ganze bewerten würde, der wirklich Ahnung davon hat.
Nutze ComfyUI lokal und das ist verdammt mächtig bei der Bildgenerierung wenn man erstmal die passenden Modelle und Workflows hat.
Das setzt der Fantasie keinerlei Grenzen mehr.
Vielleicht weiss ja jemand was...
Ich versuche mit Comfyui ein Video auf Basis von ein bis 2 Bildern zu machen. Die Bilder haben ein Motiv und keinen Hintergrund.
Das Video beginnt nun immer mit einem schwarzen Hintergrund und das bekomme ich einfach nicht weg. Wenn die Bilder einen Farbigen Hintergrund hätten dann würde das Video mit der entsprechenden Farbe starten... Kann man das beeinflussen? (Ich teste mit Wan2.2)
Ich versuche mit Comfyui ein Video auf Basis von ein bis 2 Bildern zu machen. Die Bilder haben ein Motiv und keinen Hintergrund.
Das Video beginnt nun immer mit einem schwarzen Hintergrund und das bekomme ich einfach nicht weg. Wenn die Bilder einen Farbigen Hintergrund hätten dann würde das Video mit der entsprechenden Farbe starten... Kann man das beeinflussen? (Ich teste mit Wan2.2)
Kein Hintergrund bedeutet Transparenz? Weil wenn mit der nicht umgegangen werden kann wird daraus automatisch Schwarz. Muss gestehen ich selbst habe nie mit transparenten Bildern gearbeitet. Es gibt aber Filter, die gezielt den Hintergrund entfernen können, vielleicht gibt es auch einen extra Source Image Loader der Transparenz unterstützt?
Was genau willst du denn beim Hintergrund erreichen? Soll dieser Transparent bleiben (ist das bei Video überhaupt möglich?)?
Was genau willst du denn beim Hintergrund erreichen? Soll dieser Transparent bleiben (ist das bei Video überhaupt möglich?)?
eigentlich wollte ich den Hintergrund komplett per Textpromt erstellt haben. Und dann zb. einen freigestellten Hund einfügen vom Bild. Iaut ChatGPT
kann Wan2.2. mit Transparenten Hintergründen in Bildern noch nicht umgehen. Ichhab jetzt deshalb doch den Hintergrund schon mit KI entsprechend erstellt und daraus dann das Video machen lassen. Das klappt ganz gut.