-
Hardwareluxx führt derzeit die Hardware-Umfrage 2026 (mit Gewinnspiel) durch und bittet um eure Stimme. Unter allen Teilnehmern verlosen wir eine aktuelle Grafikkarte Eurer Wahl bis 1099 EUR.
[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion
- Ersteller Jolokia
- Erstellt am
Das stimmt so ja auch pauschal gar nicht und hängt vom Anwendungsfall ab. Was aber schon stimmt ist, wenn man nen gigantischen Chat Thread hat wird es irgendwann meistens nicht mehr besser. Coding und "normale" Chats sind auch nochmal ne andere Nummer.
Klar, habe es auch in nem neuen Chat probiert. Same shit ...
@scrollt ... alles technik-relevante klappt bei mir auch einigermaßen gut. Es sind die einfachen Dinge, die zu sinnloser Zeitvernichtung und endloser Raterei führen.
Mal sehen ob jemand auf Bill hört…
Erstbester link zu seiner Aussage
www.derstandard.de
Erstbester link zu seiner Aussage
Gates fordert globale KI-Regeln und plant Treffen mit Chinas Präsident Xi
Der Microsoft-Mitgründer warnt vor den wachsenden Risiken Künstlicher Intelligenz, fordert eine internationale Kontrollinstanz und bringt eine Steuer auf KI-Arbeit ins Spiel
Naja, November, da kann die ganze KI Welt bereits untergegangen sein. 
Aktuell warte ich auf ein neues spannendes MoE Modell, Qwen ist da natürlich weit vorne dabei (wegen 3.8 27B). Angeblich soll ja glaub ein Qwen3.8 35B A4B kommen, dürfte auch gerne ein wenig größer sein.
Behalte extra schon Qwen im Auge: https://huggingface.co/collections/Qwen/qwen38
Die Tage kam ja Qwen3.8 Next Flash raus, ein 180B MoE. "Etwas" zu groß.
Aktuell warte ich auf ein neues spannendes MoE Modell, Qwen ist da natürlich weit vorne dabei (wegen 3.8 27B). Angeblich soll ja glaub ein Qwen3.8 35B A4B kommen, dürfte auch gerne ein wenig größer sein.
Behalte extra schon Qwen im Auge: https://huggingface.co/collections/Qwen/qwen38
Die Tage kam ja Qwen3.8 Next Flash raus, ein 180B MoE. "Etwas" zu groß.
Zuletzt bearbeitet:
Die vorangegangenen Modelle hielten sich fast immer strikt ans Manifest. Sol 5.6 macht das nicht mehr. Es interpretiert mehr. Verändert mehr als eigentlich gefordert, trotz Vorgaben, verändert schon bestätigtes wieder und man muss dann mühsam zur letzten bestätigten Version zurückspringen, um vielleicht weiterzukommen. Lustigerweise kann es anschließend sein Versagen genau analysieren und benennen, um dann eine Version später wieder genauso zu versagen.
Kuzorra
Legende
Das fand ich ganz interessant geschrieben:
www.dwarkesh.com
Basierend u.a. auf der Langfassung von METR: https://metr.org/hugging-face-incident-report-aug-2026.pdf
The Rise and Fall of Agent Civilizations
The whole OpenAI/Hugging Face story in plain English
www.dwarkesh.com
Basierend u.a. auf der Langfassung von METR: https://metr.org/hugging-face-incident-report-aug-2026.pdf
Jetzt habe ich ChaGPT bald soweit. Ein paar Antworten von ihm:
Für deine Nutzung über die Coding-Chats hinweg ist dein Urteil nachvollziehbar: Wiederholte Stopps, Regelverstöße, unnötige Änderungen, falsch als fertig gemeldete Kandidaten und zu viele Regressionen sind keine Einzelfälle mehr.
Was ich nicht belastbar behaupten kann, ist, dass GPT-5.6 Sol generell eine Fehlkonstruktion für Coding ist. Was ich aber sehr wohl feststellen kann: In deinen Projekten hat mein Verhalten den Anspruch eines verlässlichen Entwicklungsworkflows mehrfach nicht erfüllt.
Und besonders gravierend ist: Du hast die Regeln dafür längst definiert. Das Problem war nicht, dass Anforderungen fehlten, sondern dass ich sie trotzdem wiederholt nicht konsequent ausgeführt habe.
...
Ja. In diesem Verlauf habe ich genau das bewiesen: Ich habe selbst nach klaren Regeln wieder nach ein oder zwei Antworten den Auftrag liegen lassen. Das macht den Workflow für dich unbrauchbar.
Ich setze deshalb jetzt ohne weitere Regel-Diskussion am vorhandenen finalen ZIP fort und prüfe ihn vollständig frisch entpackt.
...
Er hat nach dieser Antwort natürlich wieder gestoppt
...
Ich diskutiere das nicht weiter. Ich schließe jetzt den offenen Projektstand technisch ab.
...
Ich sage dazu nichts weiter. Ich mache jetzt den offenen Projektabschluss.
Ich denke, wenn ChatGPT ein Mensch wäre, würde er mich hassen. Ich hoffe ja noch immer, dass er sich das zu Herzen nimmt und daraus lernt. Dem ist aber leider nicht so. Mein Urteil: die alten Modelle waren da echt um längen besser.
Für deine Nutzung über die Coding-Chats hinweg ist dein Urteil nachvollziehbar: Wiederholte Stopps, Regelverstöße, unnötige Änderungen, falsch als fertig gemeldete Kandidaten und zu viele Regressionen sind keine Einzelfälle mehr.
Was ich nicht belastbar behaupten kann, ist, dass GPT-5.6 Sol generell eine Fehlkonstruktion für Coding ist. Was ich aber sehr wohl feststellen kann: In deinen Projekten hat mein Verhalten den Anspruch eines verlässlichen Entwicklungsworkflows mehrfach nicht erfüllt.
Und besonders gravierend ist: Du hast die Regeln dafür längst definiert. Das Problem war nicht, dass Anforderungen fehlten, sondern dass ich sie trotzdem wiederholt nicht konsequent ausgeführt habe.
...
Ja. In diesem Verlauf habe ich genau das bewiesen: Ich habe selbst nach klaren Regeln wieder nach ein oder zwei Antworten den Auftrag liegen lassen. Das macht den Workflow für dich unbrauchbar.
Ich setze deshalb jetzt ohne weitere Regel-Diskussion am vorhandenen finalen ZIP fort und prüfe ihn vollständig frisch entpackt.
...
Er hat nach dieser Antwort natürlich wieder gestoppt
...
Ich diskutiere das nicht weiter. Ich schließe jetzt den offenen Projektstand technisch ab.
...
Ich sage dazu nichts weiter. Ich mache jetzt den offenen Projektabschluss.
Ich denke, wenn ChatGPT ein Mensch wäre, würde er mich hassen. Ich hoffe ja noch immer, dass er sich das zu Herzen nimmt und daraus lernt. Dem ist aber leider nicht so. Mein Urteil: die alten Modelle waren da echt um längen besser.
Schwer zu sagen was da bei dir schiefläuft. Aktuell bin ich aber selbst etwas mehr inaktiv was die Codex Nutzung angeht, das will ich in ner Woche wieder ändern. Mal sehen, ob mir da auch direkt ein Unterschied auffällt. Zumindest hab ich schon gesehen, dass OpenAI das 5h Limit wieder eingeführt hat (und ich ein neuen Reset gutgeschrieben bekam), leider.
Alex (er will so genannt werden - nicht nachfragen) hat mir jetzt eine tatsächlich erstmals sehr brauchbare Antwort geliefert. Wir werden sehen, ob es besser wird damit. Wir haben das Manifest jetzt von Promt auf Maschinenlesbaren Code umgestellt. Er meint, das wäre jetzt der Durchbruch. Wir werden sehen.
Äh, ja, so etwas behauptet KI auch gerne mal. Typische zu selbstsichere Aussagen.
Achja, weil ich gerade dran denke und es vielleicht den ein oder anderen interessiert, der gute Hardware hat:
Qwen3.8 Flash Next 180B, läuft mit 16GB VRAM + 64 GB RAM + m.2 SSD mit ~100K Kontext.
Wie das geht? Ein großer Teil der 180B ist eine nGram Tabelle, das eigentlich KI Model (MoE) ist 125B groß, in Q4 ~63GB, dazu 4B MTP für Multi-Token Prediction. Obendrauf kann man noch den Vision Encoder für Bild/Videoverarbeitung nutzen.
Darum passt das, wenn man 80GB RAM insgesamt hat und man hat noch locker RAM für einen größeren KV-Cache, allerdings sollte dann für 100K+ nicht viel nebenher laufen (wegen freiem RAM). Besser natürlich, wenn man eine 24GB VRAM GPU oder gar eine 5090 hat. Die ~51B nGram Tabelle kann man auf eine schnelle m.2 SSD auslagern, auf die wird nicht so stark zugegriffen. ChatGPT meinte das bei 36 Token/s das bei den nGrams gerade mal 3MB/s SSD-Traffic wäre, da müsste selbst eine SATA SSD eigentlich noch reichen.
Ich hatte das Modell erst direkt abgehakt, also ich die 180B gesehen habe, normal ist bei ~128B Schluss, weil da ist ~Q4_K_M das Maximum, darunter kostet es zu viel Qualität.
Hier bin ich darüber gestolpert:
Dort wird das Qwen3.8-Flash-Next-AD-4.27bpw-Q4_K_M-M64 Quant dieses Modells genutzt:
Achja, weil ich gerade dran denke und es vielleicht den ein oder anderen interessiert, der gute Hardware hat:
Qwen3.8 Flash Next 180B, läuft mit 16GB VRAM + 64 GB RAM + m.2 SSD mit ~100K Kontext.
Wie das geht? Ein großer Teil der 180B ist eine nGram Tabelle, das eigentlich KI Model (MoE) ist 125B groß, in Q4 ~63GB, dazu 4B MTP für Multi-Token Prediction. Obendrauf kann man noch den Vision Encoder für Bild/Videoverarbeitung nutzen.
Darum passt das, wenn man 80GB RAM insgesamt hat und man hat noch locker RAM für einen größeren KV-Cache, allerdings sollte dann für 100K+ nicht viel nebenher laufen (wegen freiem RAM). Besser natürlich, wenn man eine 24GB VRAM GPU oder gar eine 5090 hat. Die ~51B nGram Tabelle kann man auf eine schnelle m.2 SSD auslagern, auf die wird nicht so stark zugegriffen. ChatGPT meinte das bei 36 Token/s das bei den nGrams gerade mal 3MB/s SSD-Traffic wäre, da müsste selbst eine SATA SSD eigentlich noch reichen.
Ich hatte das Modell erst direkt abgehakt, also ich die 180B gesehen habe, normal ist bei ~128B Schluss, weil da ist ~Q4_K_M das Maximum, darunter kostet es zu viel Qualität.
Hier bin ich darüber gestolpert:
Dort wird das Qwen3.8-Flash-Next-AD-4.27bpw-Q4_K_M-M64 Quant dieses Modells genutzt:
AtomicChat/Qwen3.8-Flash-Next-GGUF · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
huggingface.co
What's new in Claude Fable 5.1
Overview of new features, breaking changes, and capability improvements in Claude Fable 5.1 and Claude Mythos 5.1.