Naja, laufen bedeutet noch nicht das sie auch wirklich öffentlich genutzt würden und nicht bloß zum Testen sind. Warum? Weil solche Größen dermaßen teuer im Betrieb sein dürften, dass sich das kein KI Unternehmen leisten kann. Das ist ein Ressourcen Verbrauch, der Kosten explodieren lässt. Zumal je größer die LLMs sind desto langsamer werden sie auch.
[Sammelthread] ChatGPT und andere KI - Anwendungsbeispiele und Diskussion
- Ersteller Jolokia
- Erstellt am
Dass die öffentlich nicht genutzt werden ist ja offensichtlich, sonst würden wir diese Modelle ja kennen. Es gibt auch die Vermutung, dass die Anbieter ihre allerbesten Modelle unter Verschluss halten und nur intern nutzen (wenn Antrophic z.b. das beste coding Modell hat, dann können sie sich dadurch ja einen Vorteil verschaffen wenn kein anderer Zugriff drauf hat). Dann wird halt nur das released, das man braucht um im Wettbewerb weiter gut vorne zu stehen.
Naja, was heißt dann würden wir sie kennen. Wir wissen ja nicht mal wie groß die aktuellen Modelle sind, weil das schon länger nicht mehr kommuniziert wird. Aber man wird sicher sein können, dass die Unternehmen nicht direkt ihr bestes Pferd ins Rennen schicken werden. Es ist zwar ein KI Wettrennen, aber eben ein Ausdauerrennen, kein Sprint.
Supply-Chain-Attacke auf LiteLLM: Betroffene sollen Credentials sofort ändern
Es hat offenbar ein Angriff auf die Open-Source-Bibliothek zur Anbindung an LLMs stattgefunden, wodurch zwei kompromittierte Pakete Credentials stehlen können.
Original Blog-Artikel:
Security Update: Suspected Supply Chain Incident | liteLLM
As of 2:00 PM ET on March 24, 2026
docs.litellm.ai
Falls es hier Leute geben sollte, die LiteLLM nutzen, sollten also prüfen und ggf. Maßnahmen treffen.
Zuletzt bearbeitet:
Claude ist ja im Coding meilenweit ChatGPT voraus. Das ist ja echt krass. Während man mit ChatGPT sich rumquält, liefert Claude einfach ab. Habe beide im Moment im Abo.
Ich war eigentlich echt ein Fan von ChatGPT aber die hat echt stark qualitativ nachgelassen...
Ich war eigentlich echt ein Fan von ChatGPT aber die hat echt stark qualitativ nachgelassen...
Larkin
Enthusiast
Denke ich werde auch auf Claude wechseln, da Sora auch abgeschaltet wird seh ich Premium bei GPT eh gar nicht mehr ein.
Bin noch am überlegen ob ich meine Daten rüberziehe oder neu anfange. Haben unser Baby viel über GPT getrackt und ganz schöne Auswertungen bekommen.
Bin noch am überlegen ob ich meine Daten rüberziehe oder neu anfange. Haben unser Baby viel über GPT getrackt und ganz schöne Auswertungen bekommen.
Schon länger, nutze nix anders mehr. Auf der Arbeit hat sich jeder Claude Code offen 😅
ARC-AGI-3: A New Challenge for Frontier Agentic Intelligence
We introduce ARC-AGI-3, an interactive benchmark for studying agentic intelligence through novel, abstract, turn-based environments in which agents must explore, infer goals, build internal models of environment dynamics, and plan effective action sequences without explicit instructions. Like...
arxiv.org
Liesel Weppen
Urgestein
Damit hat die KI aber nur indirekt zu tun.
Das Problem handelt man sich doch genauso ein, wenn man das Package benutzt und einfach die neueste Version nimmt.
Sowohl mit KI-Unterstützung, als auch wenn man das manuell macht, setzt das Wissen vorraus, das dieses Paket eben verseucht ist.
Die Masche ist übrigens so alt wie NodeJS selbst (und funktioniert auch genauso mit Python/Pip). Da werden "immer wieder" schadhafte Pakete eingeschleust.
Das Problem handelt man sich doch genauso ein, wenn man das Package benutzt und einfach die neueste Version nimmt.
Sowohl mit KI-Unterstützung, als auch wenn man das manuell macht, setzt das Wissen vorraus, das dieses Paket eben verseucht ist.
Die Masche ist übrigens so alt wie NodeJS selbst (und funktioniert auch genauso mit Python/Pip). Da werden "immer wieder" schadhafte Pakete eingeschleust.
War auch genau mein Gedanke als ich den Text gelesen hat. Quasi jedes Projekt nutzt ohne Ende externe Dependencies, viele sind open Source und könnten geprüft werden aber in der Praxis macht das doch fast keiner, man vertraut einfach dem Maintainer Team. War doch gerade erst wieder so ein Fall mit liteLLM oder der Krasse Fall wo die SSH Library kurzfristig ne Backdoor durch xz utils bekommen hat die so gut in irgendwelchen binären Testfiles versteckt war, dass sie jemand nur durch Zufall gefunden hat. Will gar nicht wissen wie viel von diesen Fällen unentdeckt bleiben.
Gleichzeitig Frage ich mich aber, ob nicht AI hier auch unterstützen könnte. Wenn hier der Source code zur Verfügung steht, könnte ne AI ja die Änderungen überprüfen und so halbwegs einschätzen ob da Schindluder mit getrieben wurde.
*edit*
Den Hinweis hier zu posten finde ich aber trotzdem gut, ist ja nicht unwahrscheinlich, dass gerade jemand hier betroffen ist durch Vibe Coding und jetzt befallen ist.
Ich habe für mich schon ein paar kleine Programme schreiben lassen. Am Ende einfach die KI selbst das Projekt auf Sicherheitslücken prüfen lassen und beheben.
Dabei nicht einfach machen lassen, sondern erst eine Aufstellung mit Lösungen erarbeiten lassen und dann kann man selbst entscheiden wie und was man beheben lassen will.
Ja nach Größe des Projektes müssen auch hier mehrere Iterationen gemacht werden.
Dabei nicht einfach machen lassen, sondern erst eine Aufstellung mit Lösungen erarbeiten lassen und dann kann man selbst entscheiden wie und was man beheben lassen will.
Ja nach Größe des Projektes müssen auch hier mehrere Iterationen gemacht werden.