KI-Argumentationstoken werden zu einem der wichtigsten Bestandteile der modernen KI-Leistung.
OpenAI und Anthropic machen den Kompromiss jetzt klarer als je zuvor. OpenAI hat `reasoning.effort`. Anthropic hat erweitertes Denken und `budget_tokens`. Beide Steuerungen weisen auf dasselbe Muster hin: Bei schwierigen Aufgaben kommen bessere Ergebnisse oft davon, dass man dem Modell mehr Raum zum Denken gibt.
Das ist nützlich für Programmierung, Forschung, Planung, Mathematik und Agenten-Workflows. Es bedeutet auch, dass die KI-Branche mehr Arbeit in die Inferenzzeit verlagert. Mehr Argumentationstoken bedeuten mehr Beschleunigerzeit, mehr Kühlung, mehr Kapazität in Rechenzentren und mehr Strom.
Meine Einschätzung ist einfach: Das Modellrennen wird zu einem Infrastrukturrennen.
Was sind KI-Argumentationstoken?
KI-Argumentationstoken sind Tokens, die ein Modell ausgibt, während es ein Problem bearbeitet, bevor oder neben der endgültigen Antwort. Ein Teil dieser Arbeit kann für den Benutzer verborgen sein. Man sieht nicht immer den Argumentationstext, aber der Anbieter muss die Berechnung dennoch durchführen.
Die Argumentationsdokumentation von OpenAI besagt, dass `reasoning.effort` steuert, wie viel Argumentation ein Modell durchführt. Geringerer Aufwand begünstigt Geschwindigkeit und weniger Tokens. Höherer Aufwand kann bei komplexen Aufgaben vollständigere Antworten liefern. OpenAI erklärt auch, dass Argumentationsmodelle versteckte Argumentationstoken zusätzlich zu Eingabe- und sichtbaren Ausgabetokens verwenden können.
Anthropic beschreibt dieselbe Art von Kompromiss mit Claude erweitertem Denken. In den Dokumenten heißt es, dass `budget_tokens` die maximale Anzahl von Tokens festlegt, die Claude für interne Argumentation verwenden kann. Größere Budgets können die Antwortqualität bei komplexen Problemen verbessern, obwohl das Modell möglicherweise nicht das gesamte Budget ausgibt und die Gewinne in höheren Bereichen abflachen können.
Die wichtige Unterscheidung ist diese: Längere endgültige Antworten sind nicht das Ziel. Bessere zwischenzeitliche Argumentation ist das Ziel.
Warum mehr Tokens bessere KI-Ergebnisse liefern können
Argumentationsmodelle verbessern sich, wenn sie genügend Budget haben, um die Aufgabe zu inspizieren, mögliche Antworten zu testen, Fehler zu korrigieren und Werkzeuge ohne Eile zu verwenden. Ein kleines Token-Budget kann bei einfachen Eingabeaufforderungen funktionieren. Es scheitert oft, wenn die Arbeit versteckte Abhängigkeiten hat.
Ich sehe dies am deutlichsten bei Programmieragenten. Ein schneller, günstiger Durchlauf kann eine Variable umbenennen oder eine kleine Funktion erklären. Im gleichen Modus hat das Modell Schwierigkeiten, wenn die Aufgabe Kontext aus dem Repository, Tests, Browserüberprüfung, Bereitstellungseinschränkungen und eine Entscheidung darüber, was nicht berührt werden sollte, benötigt.
Das Modell benötigt Budget, um die langweiligen Teile gut zu erledigen:
Dieser Workflow verbraucht Tokens. Er produziert auch bessere Software als eine schnelle Vermutung.
Ich habe darüber aus meiner eigenen Nutzung in Code-Agenten nach 21,54 Milliarden Tokens→ geschrieben. Die nützliche Lektion war nicht, dass ein Modell alles löst. Das System um das Modell herum ist wichtig: Kontext, Werkzeuge, Überprüfung, Gedächtnis und genügend Budget, damit der Agent sie nutzen kann.
OpenAI und Anthropic verwandeln Rechenleistung in ein Produktsetting
Die neuen Modellsteuerungen lassen Intelligenz anpassbar erscheinen.
Ein Anbieter kann jetzt unterschiedliche Verhaltensweisen aus derselben Modellfamilie anbieten: schnelle Antwort, ausgewogene Antwort, tiefes Denken, Agentenarbeit mit langem Kontext oder hochaufwendige Werkzeugnutzung. Dem Benutzer ist die interne Tokenanzahl möglicherweise egal. Das Produkt muss dennoch dafür bezahlen.
Für Entwickler ändert sich dadurch das Routing. Man möchte nicht bei jeder Anfrage maximale Argumentation.
| Aufgabentyp | Besserer Standard |
|---|---|
| --- | --- |
| Formatierung, Extraktion, kurze Umschreibungen | Geringer Argumentationsaufwand |
| Normale Forschung, Codeänderungen, Supportanalyse | Mittlerer Argumentationsaufwand |
| Produktionscodeänderungen, rechtliche Überprüfung, finanzielle Logik | Hoher Argumentationsaufwand |
| Mehrschritt-Agenten mit Werkzeugen und Überprüfung | Erweitertes Denken oder größeres Argumentationsbudget |
Hier nähern sich OpenAI und Anthropic an. Sie bieten unterschiedliche APIs und Produktsprachen an, aber beide lehren Entwickler, dass Intelligenz keine feste Einstellung ist. Es ist eine Budgetentscheidung.
So denke ich auch über das Modellrouting in Stücken wie OpenAI GPT-5.6 Sol, Terra und Luna→ und 24h mit Claude Fable 5→. Das beste Modell ist nicht immer das größte Modell. Der beste Weg ist der, der zur Aufgabe passt.
Das Infrastrukturproblem hinter Argumentationstoken
Jeder zusätzliche Argumentationstoken muss irgendwo ausgeführt werden.
Die Internationale Energieagentur schätzt, dass Rechenzentren im Jahr 2024 etwa 415 TWh Strom verbraucht haben, was etwa 1,5 % des globalen Stromverbrauchs entspricht. In ihrem Basisfall verdoppelt sich der globale Stromverbrauch von Rechenzentren bis 2030 auf etwa 945 TWh. Die IEA weist auch auf KI-gesteuerte beschleunigte Server als einen der Haupttreiber der zukünftigen Nachfrage hin.
Das Timing ist der schwierige Teil. KI-Unternehmen können schnell ein Modell-Update versenden, die Kontextgrenzen erhöhen oder einen neuen Argumentationsmodus hinzufügen. Die Stromerzeugung, Übertragungsleitungen, Umspannwerke, Kühlsysteme, Grundstücksgenehmigungen und Wasserplanung bewegen sich jedoch mit einer anderen Geschwindigkeit.
Die Gartner-Prognose für 2026, die von Tom’s Hardware berichtet wurde, gibt ein weiteres nützliches Signal. Sie prognostiziert den globalen Stromverbrauch von Rechenzentren auf 565 TWh im Jahr 2026 und über 1.200 TWh bis 2030. Sie erwartet auch, dass KI-optimierte Server 175 TWh im Jahr 2026 verbrauchen, gegenüber etwa 95 TWh im Jahr 2025, und dass sie bis 2027 mehr Strom verbrauchen als herkömmliche Server.
Diese Zahlen machen die Token-Geschichte physisch. Mehr Denken bedeutet mehr Inferenz. Mehr Inferenz bedeutet mehr GPUs, dichtere Racks, Kühlung, Netzanschluss und Stromverträge.
Warum Rechenzentren und Strom zur Einschränkung werden
Die öffentliche KI-Diskussion konzentriert sich auf Chips. Chips sind wichtig, aber sie sind nicht die gesamte Einschränkung.
Großangelegte Argumentationsmodelle benötigen einen vollständigen Stapel physischer Infrastruktur:
Ein Modell kann bereit sein, bevor das lokale Netz bereit ist. Ein Anbieter kann GPUs kaufen, bevor er sie mit der gewünschten Dichte betreiben kann. Eine Region kann Investitionen in Rechenzentren anziehen und dann auf Übertragungsengpässe stoßen.
Deshalb erwarte ich, dass viele neue Rechenzentren für KI gebaut werden. Ich erwarte auch mehr Druck auf die Stromversorgung in Regionen, in denen hyperskalierte KI-Cluster konzentriert sind. Die Einschränkung wird nicht nur die Modellarchitektur sein. Es wird Strom, Kühlung, Standort und die Fähigkeit sein, alles schnell genug zu verbinden.
Mehr Argumentationstoken sind keine kostenlose Intelligenz
Es gibt eine Falle in diesem Trend.
Wenn Teams hören, dass "mehr Tokens bessere Ergebnisse bedeuten", werden sie hochaufwendige Modi überbeanspruchen. Das macht Apps langsamer und teurer. Es kann auch zu einer schlechteren Benutzererfahrung führen. Ein Modell, das zu lange über eine einfache Aufgabe nachdenkt, fühlt sich defekt an.
Die praktische Regel ist enger: Ein größeres Argumentationsbudget hilft, wenn die Aufgabe genügend versteckte Komplexität hat.
Gute Kandidaten für größere Argumentationsbudgets:
Schlechte Kandidaten:
Die Zukunft ist nicht, dass ein Modell bei jeder Anfrage so hart wie möglich denkt. Die Zukunft sind Systeme, die entscheiden, wann es sich lohnt, härter zu denken.
Mein Fazit
KI-Argumentationstoken machen einen verborgenen Kompromiss sichtbar.
OpenAI und Anthropic zeigen den Benutzern beide dasselbe grundlegende Muster: schwierigere Aufgaben benötigen mehr Inferenzzeit-Rechenleistung. Entwickler erleben das als Argumentationsaufwand, erweitertes Denken, Kontextfenster, versteckte Tokens und höhere Rechnungen. Infrastrukturteams erleben es als Racks, Kühlung, Strom, Genehmigungen und Netzkapazität.
Ich denke, die nächsten ernsthaften KI-Produkte werden das Argumentationsbudget wie eine knappe Ressource behandeln. Sie werden es dort ausgeben, wo Fehler teuer sind, Überprüfung wichtig ist oder die Aufgabe echte Planung erfordert. Sie werden vermeiden, es für einfache Anfragen zu verschwenden.
Bessere KI wird nicht nur von größeren Modellen kommen. Sie wird von einer besseren Zuteilung der Rechenleistung kommen.
Quellen: