Laut einem Bericht von Kejibao (科技板日报 / Science and Technology Board Daily) hat Meta kürzlich ein internes Memo an rund 6.000 Mitarbeiter verschickt. Darin wird offengelegt, dass das Unternehmen allein für den Bereich „interne KI-Nutzung“ im Jahr 2026 Ausgaben in Höhe von mehreren zehn Milliarden US-Dollar erwartet und für 2027 die formelle Einführung eines auf Budgets und Kontingenten basierenden Token-Management-Systems plant. CEO Zuckerberg räumte in dem Memo ein, dass das Unternehmen bei der KI-Transformation Fehler gemacht habe, und erklärte, dass Mitarbeitern, die in den Bereich KI-Modelltraining wechseln, „sinnvolle neue Positionen“ angeboten würden. Zuvor gab es bei Meta eine interne Rangliste zum Tokens-Verbrauch namens „Claudeonomics“, die das Problem des „Tokenmaxxings“ hervorbrachte – Mitarbeiter konkurrierten darum, ihren Token-Verbrauch in die Höhe zu treiben, um ihre KI-Fähigkeiten zu demonstrieren. Einige ließen KI-Agenten sogar mehrere Aufgaben parallel ausführen, um den Verbrauch künstlich zu erhöhen. In nur 30 Tagen verbrauchte das gesamte Unternehmen 60,2 Billionen Token, was Kosten von rund 900 Millionen US-Dollar verursachte. Insider sagten offen, dass die Ergebnisse der Spitzenreiter in dieser Rangliste größtenteils „Einweg-Müll“ seien. Gleichzeitig plant Meta, seine Mitarbeiter von KI-Programmiertools von Drittanbietern auf den unternehmenseigenen, selbst entwickelten Programmierassistenten MetaCode umzustellen. Die Abteilung Applied AI Engineering hat bereits Ingenieure abgestellt, um dessen Fähigkeiten gezielt zu verbessern.
Dieser Wandel spiegelt eine veränderte Haltung der Silicon-Valley-Tech-Unternehmen gegenüber dem Modell des hohen Token-Verbrauchs wider. Amazon hat seine Mitarbeiter bereits angewiesen, KI „nicht um der KI willen“ zu nutzen, und ersetzt den Token-Verbrauch durch die Kennzahl „normalisierte Bereitstellung“. Das unternehmenseigene „Kirorank“-Ranking wurde eingestellt. OpenAI-CEO Sam Altman hat öffentlich angezweifelt, dass „höhere Ausgaben für Token zu einer tatsächlichen Produktivitätssteigerung führen“. Berichten zufolge erwägt das Unternehmen eine deutliche Senkung der Token-Preise, um Kunden zu gewinnen. Gary Marcus, KI-Forscher an der NYU, prognostiziert, dass die „Maximierung des Token-Verbrauchs“ durch die „Minimierung des Token-Verbrauchs“ abgelöst werde, und geht davon aus, dass dieser Trend dazu führen werde, dass die Quartalsumsätze von Anthropic und OpenAI im dritten Quartal niedriger ausfallen als im zweiten Quartal. Auch die China Securities Co., Ltd. (Guosheng Securities) stellt fest, dass Studien zeigen: Für jeden Dollar, den Unternehmen für Token ausgeben, gehen etwa 80 Cent für die Behebung von Bugs, das Umschreiben von Code und Verzögerungen bei Code-Reviews drauf. Die Anbieter beschleunigen daher die Umstellung von der Abrechnung nach Token auf die Abrechnung nach Ergebnissen.