Keine Flatrate mehr: Microsoft führt Token-Abrechnung für Github Copilot ein

[HWL News Bot]

Microsoft stellt die Preisstruktur von GitHub Copilot um und verabschiedet sich damit zunehmend von klassischen Flatrate-Modellen. Künftig soll die Nutzung des KI-gestützten Entwicklungsassistenten stärker nach dem tatsächlichen Verbrauch von Rechenressourcen abgerechnet werden. Im Mittelpunkt steht dabei die Anzahl der verwendeten Tokens, die bei Anfragen an die zugrunde liegenden KI-Modelle verarbeitet werden.
... weiterlesen

 

[Lachgasschaufler]

Good, good let the butthurt flow.

War ja sowieso klar. Interessant wird es wenn die firmen dann mal kosten/nutzen gegenüberstellen. Vor allem werden die preise ja auf dauer steigen.

 

[Schmufix]

Da werden dann eben Mitarbeiter entlassen, so kann man auch mehr Token kaufen. Entscheidend ist doch was am Ende die bessren Resultate bringt.

 

[Mr.Mito]

Die größte Gefahr ist, dass sich diese Pest so tief in die Marktwirtschaft und Regierungen eingräbt, dass man sie nicht mehr so ohne weiteres los wird und genau da liegt deren Hauptfokus.
Solange die Geschäftsführungen denken "es geht nicht (mehr) ohne" ....

 

[Liesel Weppen]

Hihi, ist mir auch schon aufgefallen. Hatte am 03.06 schon 36% meines Monatsbudgets verbraucht.
Dafür habe ich (bzw. Copilot) aber etwas in nur einem Tag entwickelt, wofür ich sonst mindestens 3-4 Tage gebraucht hätte.

Ich habe allerdings keine Ahnung wieviel das letztendlich kostet, aber die grundlegende Abwägung finde ich relativ einfach:
Was kostet mehr? Ein Arbeitstag von mir + 1/3 meines KI-Monatbudgets, oder 3-4 Arbeitstage von mir ohne KI-Kosten?

Aber die spontane Idee in meinem aktuellen Projekt, das ausprobiert werden soll, ob auch nicht-Entwickler, ohne überhaupt selbst irgendwas zu coden, sondern NUR mit KI auch einiges/genug hinkriegen, steht damit jetzt vermutlich direkt wieder in einem anderem Licht.

 

[zog88]

Ach ja. Man hat mit Pauschalpreisen die "early adopter" eingefangen, denn deren Kohlen brauchte man damals als man noch Klein war. Denselben Personen wird nun ihr gekauftes und bezahlted Produkt für Nichtig erklärt und eine Abrechnung nach tatsächlicher Nutzung hin stellt.
Finde ich irgendwie fragwürdig aber wer bin schon ich.

 

[Liesel Weppen]

Denselben Personen wird nun ihr gekauftes und bezahlted Produkt für Nichtig erklärt und eine Abrechnung nach tatsächlicher Nutzung hin stellt.

Hä? Wer hat denn irgendwas gekauft?
Das waren schon immer Abos. Du hast also nie irgendwas gekauft, sondern du hast dir einen Zugang mit laufenden Kosten gemietet. Genauso wie man ein Abo für Streaming-Dienste macht.
Jetzt haben sich eben die Konditionen für diese Abos geändert. Es steht dir frei dein Abo zu kündigen/nicht zu verlängern, wenn dir die neuen Konditionen nicht passen. Gekauft hast du nie irgendwann etwas, schon gar keinen unlimitierten-Lifetime-Zugang zu irgendeinem einmaligem Pauschalpreis.

 

[passat3233]

Naja, so viel Mitarbeitet kann man gar nicht entlassen, das sich die KI lohnt, wenn die tatsächlichen Token-Kosten berechnet werden.
Manche Firmen haben erschrocken festgestellt, das die Token innerhalb weniger Tage, in machen Fällen sogar innerhalb von Stunden aufgebraucht sind.
Und dann wird es sehr sehr teuer!
Beispielsweise UBER hat sein KI Jahresbudget 2026 innerhalb 1 Monat verbraucht!

 

[Shihatsu]

Was kostet mehr? Ein Arbeitstag von mir + 1/3 meines KI-Monatbudgets, oder 3-4 Arbeitstage von mir ohne KI-Kosten?

Dabei gilt natürlich auch folgendes zu bewerten: Was habe ich unter Kontrolle und was nicht? Also Risiko mit Eintrittswarscheinlichkeit für "Preise werden erhöht" und "Preise steigen um X" rin die Kalkulation. Wahrscheinlichkeit kannste stumpf auf 100 setzen, X wird sehr schnell steigen...

 

[Liesel Weppen]

Und dann wird es sehr sehr teuer!

Wie teuer denn? Also keine Ahnung, was kostet ein Abo, was man als Firma so für seine Entwickler bucht? Also überhaupt mal eine Dimension? Sind das 50€/Monat oder 500€/Monat oder noch mehr?

Ich meine, ich bin auch nicht gerade günstig.

 

[pwnbert]

Erinnert ihr euch noch an die Zeit, wo SMS (richtig) Geld gekostet haben, und man sich überlegt hat, was man schreibt?

 

[King Loui]

Solange die Geschäftsführungen denken "es geht nicht (mehr) ohne" ....

Tut es doch auch nicht...

Manche Firmen haben erschrocken festgestellt, das die Token innerhalb weniger Tage, in machen Fällen sogar innerhalb von Stunden aufgebraucht sind.

Das ist aber ein pures Anwenderproblem. Sprich, es wird nicht effizient mit einer knappen Ressource umgegangen. Der logische nächste Schritt ist die Effizienzsteigerung. In meinem Fall wird die Anfrage von einem Agenten entgegengenommen und in einzelne Arbeitsschritte zerlegt. Das System sucht dann mittels lokalem Modell dazu passende Informationen aus angebundenen Quellen und der eigenen Wissensbasis, ergänzt damit den Kontext und lässt daraus eine Antwort entstehen (den Promt). Das Ergebnis wird dann über angebundene Werkzeuge weiterverarbeitet, dokumentiert und in den Kreislauf zurückgegeben. So optimiert sich das System von ganz allein.

Erinnert ihr euch noch an die Zeit, wo SMS (richtig) Geld gekostet haben, und man sich überlegt hat, was man schreibt?

Im Prinzip das, nur automatisiert.

 

[pwnbert]

Tut es doch auch nicht...

Jein, die wenigsten Leute in Führungsposition sind wirklich schlau, eher nützlich, ne Mischung aus "Peters Prinzip" und "Management by Mushrooms".
Sinnvoll eingesetzt gehört es, wie eben alles.

Der Witz ist der, dass seit Jahrzehnten gepredigt wird, wie schlimm Lohnkosten sind, speziell Gehälter von eigens Angestellten. Jeder Controller fürchtet sich vor 100k Gehältern, vor 300k Honorar für Externe aber nicht, die Logik kann keiner erklären.

Das mit der AI wird genau in die gleiche Kerbe schlagen, die Kosten werden da noch richtig explodieren. Mit dem Vokswirtschaftlichen Schaden, dass das Geld zu >95% zu DarkTech in irgendwelche Steuerosen Abfließt.

Im Prinzip das, nur automatisiert.

Tja, wernn dann kleine KIs von Hackern diverse Enterprise-KIs mit Anfragen zuspammen, um dort Kosten zu verursachen. Lol.

 

[Liesel Weppen]

Der Witz ist der, dass seit Jahrzehnten gepredigt wird, wie schlimm Lohnkosten sind, speziell Gehälter von eigens Angestellten. Jeder Controller fürchtet sich vor 100k Gehältern, vor 300k Honorar für Externe aber nicht, die Logik kann keiner erklären.

Die Logik ist total einfach: Den Externen für 300k verlängerst du einfach nicht, wenn du ihn nichtmehr brauchst. Du bist ihn sofort los.
Den 100k Mitarbeiter wirst du aber nicht so einfach los. Den hast du dann an der Backe und darfst ihn schön weiterbezahlen. Zumindest in Deutschland.

Ja, eine Firma die internes (spezialisiertes )Wissen aufbaut, R&D z.B. will natürlich das Wissen auch in der Firma halten. Die wollen eigene Mitarbeiter und bezahlen auch entsprechend.
Der Großteil der Projekte sammelt aber kein Wissen in diesem Sinne. Da wird eine Software entwickelt. Die braucht erstmal viel Manpower, ist aber in 1, 2, 3 Jahren einfach "fertig" und der Bedarf an Softwareentwicklern sinkt gegen Projektende wieder rapide. Deswegen nimmt man dafür Externe. Die sind zwar momentan teurer, aber man hat keine "Verpflichtungen".

Das mit der AI wird genau in die gleiche Kerbe schlagen, die Kosten werden da noch richtig explodieren. Mit dem Vokswirtschaftlichen Schaden, dass das Geld zu >95% zu DarkTech in irgendwelche Steuerosen Abfließt.

Ich weiß immernoch nicht wie teuer es jetzt ist, und noch weniger weiß ich, wie teuer es wirklich mal werden wird....
Aber wie oben schon angedeutet: Eben genau im Verhältnis zu den Personalkosten muss eine KI die Arbeit dieses Arbeiters nur genug beschleunigen. Also wenn ich mithilfe einer AI 10% schneller werde. dann muss die AI pro Monat nur weniger als 10% als mein Gehalt kosten und es ist schon win-win. Wenn man das mal aus diesem Winkel sieht, dann wäre so ein KI-Abo selbst für 1000€/Monat immernoch ein Schnäppchen.

 

[pwnbert]

Die Logik ist total einfach: Den Externen für 300k verlängerst du einfach nicht, wenn du ihn nichtmehr brauchst. Du bist ihn sofort los.

Du brauchst ihn aber. Die ganze Zeit. Weil es der Kern deines Geschäfts ist.

Was du erzählst, ist einfach genau das, was dieses "common knowledge" ist, im Prinzip aber "common bullshit".
Es ist einfach eine schlau gemachte Umverlagerung.

Da zahlst du 10 (120x) Jahre lang 300k statt 100k (also 24 000k zu viel) weil du Angst davor hast, im Fall des Falles 300k Lohnkosten im Kündigungszeitraum (3 Monate) zahlen zu müssen?
Man erkläre mir diese Logik bitte,

Es ist einfach März-Wirtschaft.

Aber wie oben schon angedeutet: Eben genau im Verhältnis zu den Personalkosten muss eine KI die Arbeit dieses Arbeiters nur genug beschleunigen. Also wenn ich mithilfe einer AI 10% schneller werde. dann muss die AI pro Monat nur weniger als 10% als mein Gehalt kosten und es ist schon win-win. Wenn man das mal aus diesem Winkel sieht, dann wäre so ein KI-Abo selbst für 1000€/Monat immernoch ein Schnäppchen.

Das ist schon richtig. Ist auch nicht schlimm.
Diverse Softwarelizenzen kosten jetzt auch nicht weniger.

Aber - VWL schlägt BWL - und das immer.
Du kannst als Unternehmer nämlich koten gehen, wennes niemanden mehr gibt, der deine Produkte kaufen kann.

Die Sache hat das Potential einen riesengroßen Devisenabfluss zu erzeugen, viel größer als bisher (und der jetzt ist schon nicht schlecht).
Das geht so alles nicht zusammen. Speziell in Verbindung mit Überalterung und der aktuellen Interpretation des Sozialstaates samt der teuren Kriegstreiberei.


Die Sache hat druchaus das Potential für gröbere Verwerfungen zu sorgen.

 

[King Loui]

Du brauchst ihn aber.

Ist das so?
Mein Vater hatte selbst ein Unternehmen und hat durch längere Krankheitsphasen von Arbeitnehmern überhaupt erst gemerkt, dass einige dieser Leute inzwischen völlig überflüssig geworden sind. Auch Unternehmen verändern sich dynamisch mit der Zeit, nur erkennt man das nicht zwangsläufig. Nicht selten gehen traditionelle Unternehmen genau deswegen unter. Entlassen ist keine Option, also hat er sie auf ungemütliche Posten verschoben, bis die freiwillig in Frührente gegangen sind. Fehlt dir tatsächlich Personal und Knowhow, spürst du das als Unternehmen sofort, den Overhead hingegen nicht. Und genau deswegen ist man als Unternehmer viel eher bereit dazu, externe Power anzumieten.

 

[Bitmaschine]

Jensen hat es ja groß angekündigt: Die Zukunft von KI-Giganten werden die Kostenabrechnungen der Tokens über Agentensysteme abgewickelt und dadurch müssen die Firmen, die die Dienste intensiv nutzen, mehr zahlen müssen (und die KI-Giganten mehr Gewinn erwirtschaften ...). Und wer glaubt, das Preismodell für Tokens/Agenten bleibt stabil, wird eines Besseren belehrt, was Anbieter natürlich an Firmen, Entwickler und Gruppen weitergibt. Nvidia hat ja noch Nachfolgesysteme angekündigt, was wiederum neue Investitionen nach sich zieht, also Mehrkosten und Anpassungen, die natürlich entsprechend an Kunden weitergegeben werden müssen. Von der Logik her ist es eigentlich nachvollziehbar, wer mehr Kuchen essen will, zahlt mehr.

Ich denke, in Zukunft müssen Nutzer von Tokens sich genau überlegen, wie viel Tokens notwendig sind und was ohne KI realisiert werden kann. Ich denke CEOs, Personalabteilungen, Bereichsleitungen und Buchhaltungen werden ganz aufgeregt berechnen was billiger ist, was sich mehr lohnt und dabei noch nachhaltig ist.

 

[pwnbert]

Ist das so?

Ja, die Dynamik hat sich dahin entwickelt, dass man die unnötigen Leute durchfüttert und die notwendigen Leistungen lieber zukauft. 🤡

 

[King Loui]

Ey, ich versuche dir nur die Logik der Realität zu erklären Deine Sache, wenn du damit nicht klar kommst.

 

[passat3233]

Die 300k für Berater kann man steuerlich abschreiben, die 100k Lohnkosten dagegen nicht.

 

[Bigdog71]

Haben doch die KI Unternehmen wieder super hinbekommen.

Fake it till you make it.

Erst kostenlos anfixen, dann niedrige Abo Gebühr, dadurch ist alles mittlerweile so verwurzelt, dass ein kompletter Ausstieg nicht mehr geht und Zack Preisschraube gedreht und zwar extrem.

Das ganze mit einem aggressiven Marketing,.so dass kein börsennotiertes Unternehmen an KI vorbei kommt. Wenn ich sehe das wir über all KI drauf Pappen sollen, fehlt nur noch das es für den Jahresabschluss verlangt wird

Aber so läuft es in Tech Unternehmen, war ja die letzte Zeit mit allen möglichen Sachen, erst günstig dann Preisschraube und Werbung.

 

[MZuki]

Bei uns hatte Microsoft im Vorfeld ein paar Hochrechnungen hingelegt was uns eine ähnliche Nutzung wie bisher nach der Umstellung kostet.
Da geht es um den Faktor 8-10 mehr… und dazu natürlich stark von einigen Hardcore-Nutzern getrieben. Sprich wenn alle Mitarbeiter die bisher ihr Abo nur begrenzt genutzt haben auch mehr mit machen, wird das ganze nochmals sehr viel teurer.