Reasoning-Budgets: Token-Kontrolle bei Extended Thinking

TL;DR

• Ein Reasoning-Request kostet 3–10× mehr als ein Standard-Call, weil interne Chain-of-Thought-Tokens als Output mitberechnet werden.
• Vier Use-Case-Tiers strukturieren die Budget-Entscheidung 2026: no-thinking · medium · high · max.
• Cost-Control ist Pflicht: explizites Budget, Audit-Trail, Per-Tenant-Alerts und ein leichtgewichtiger Klassifikator vor jedem Reasoning-Call. Das senkt die Reasoning-Cost typischerweise um 55–70 %.

Drei Provider-Mechaniken 2026

Reasoning-Tokens sind das teure neue Pricing-Element seit 2025. Wer den Parameter nicht explizit setzt, bezahlt in jeder Pilot-Phase Defaults, die im Production-Lauf den Budget-Plan reißen. Drei Anbieter, drei Mechaniken:

• Anthropic Claude Opus 4.7 — `thinking.budget_tokens`: expliziter Reasoning-Token-Budget-Parameter, 10.000 bis 60.000 Tokens pro Request. Das Budget ist obere Schranke; jeder verbrauchte Reasoning-Token wird als Output-Token abgerechnet. Präzise Kostenkontrolle pro Call, aber das Budget muss pro Anwendung empirisch kalibriert werden.
• OpenAI o3 / o4 — `reasoning.effort`: kein expliziter Token-Parameter, sondern drei diskrete Stufen low, medium, high. Kein Tuning-Overhead, dafür keine direkte Sicht auf die Obergrenze. high kann in einer Schaden-Diagnose 20k Reasoning-Tokens kosten, in einem Vertrags-Audit 45k — ohne Audit-Trail bleibt das Black-Box-Pricing.
• Gemini 2.5 Pro Deep-Thinking — `thinking_budget`: expliziter Token-Parameter, 0 bis 32.000 Tokens; 0 deaktiviert Deep-Thinking. Pro Reasoning-Token rund 40–50 % günstiger als Opus 4.7, aber schwächere Kontext-Stabilität bei langen Multi-Turn-Sessions.

Wer das Reasoning-Budget nicht explizit setzt, bezahlt in jeder Pilot-Phase Defaults, die im Production-Lauf das Budget reißen.

Cost-Implikation pro Reasoning-Tier

Reasoning kostet das 3- bis 10-Fache eines Standard-Calls — die interne Chain-of-Thought wird als Output abgerechnet, auch wenn sie nicht direkt sichtbar ist.

Bei einer Production-Pipeline mit 10.000 Calls/Tag auf Max-Budget summiert sich Reasoning allein zu einer fünfstelligen Monatsrechnung. Ohne Use-Case-Triage ist das der häufigste Cloud-Bill-Schock im Mittelstand 2026.

Use-Case-Triage

Nicht jede Anfrage braucht Reasoning. Die Matrix klassifiziert vier Klassen, ordnet das Modell zu und gibt Latenz-Erwartungswerte für die Architektur-Entscheidung.

Goldene Regel: Vor jedem Reasoning-Call läuft ein leichtgewichtiger Klassifikator (Haiku/Flash, <300 ms), der den Tier bestimmt. Erst dann wird das passende Modell mit dem passenden Budget aufgerufen. Diese Architektur senkt die Reasoning-Cost in unseren Pilot-Mandaten typischerweise um 55–70 %.

Pilot: Sach-Versicherer, Schaden-Diagnose mit Reasoning-Triage

Ein mittelständischer DACH-Sach-Versicherer betrieb seit Q4 2025 eine Claude-basierte Schaden-Diagnose für Gewerbe-Großschäden. Initial-Setup: jeder Claim lief gegen Opus 4.7 mit thinking.budget_tokens = 40000 — Default-on-everything, bei rund 6.500 Claims/Monat. Reasoning-Triage-Pilot in fünf Wochen: ein vorgeschalteter Haiku-Klassifikator (Schadenshöhe, Komplexität, Sachverständigen-Pflicht) routet auf vier Tiers.

Nicht nur Cost gewonnen — Latenz fast gedrittelt und Qualität leicht gestiegen, weil das Modell für jeden Tier passend dimensioniert war.

Anti-Patterns

• Default-on-everything: reasoning.effort = "high" oder thinking.budget_tokens = 60000 als Default für jeden Call. Teuerste mögliche Konfiguration — und sie liefert für rund 80 % der Anfragen keinen Quality-Gain, weil die Aufgabe gar nicht Reasoning-pflichtig ist.
• Kein Per-Tenant-Budget: Mehrere Mandanten teilen eine Pipeline ohne Quota. Ein einziger Power-User mit Hunderten Max-Budget-Calls/Tag verursacht Kosten, die im Shared-Pool versteckt bleiben.
• Kein Klassifikator vor dem Reasoning-Call: Wer direkt mit dem Top-Modell startet, verschenkt 55–70 % Cost-Reduction. Der Klassifikator-Call kostet einen Bruchteil eines Cents, der gesparte Reasoning-Call ein Vielfaches davon.

FinOps-Disziplin für Reasoning

Reasoning-Cost ist 2026 die volatilste Linie im AI-Budget. Drei Disziplin-Werkzeuge halten sie unter Kontrolle:

• Cost-Monitoring auf Reasoning-Token-Ebene: Die Logging-Pipeline erfasst reasoning_tokens separat von output_tokens (alle drei Provider liefern den Wert im Response). Dashboarding nach Use-Case-Tier, nicht nur nach Modell.
• Auto-Downgrade bei Budget-Überschreitung: Per-Tenant-Tagesbudget definieren. Bei Überschreitung Auto-Downgrade auf das no-thinking-Modell mit Audit-Log-Eintrag. Niemals Hard-Block — Soft-Fallback.
• Monatliche Reasoning-Adoption-Review: Welche Use-Cases haben den Tier hochgesetzt? Wo gab es Tier-Misstreffer im Klassifikator? Ein 60-Min-Review pro Monat reicht — die Insights sind in 80 % der Fälle ein Klassifikator-Tweak, kein Budget-Increase.

Fazit

Reasoning ist 2026 die teuerste Capability im AI-Stack — und gleichzeitig die wertvollste für Multi-Step-Diagnose, Audit-Workflows und Forschungs-Diligence. Ohne Triage verbrennt man laufend Budget. Mit vier Tiers, explizitem Budget und vorgeschaltetem Klassifikator holt man 55–70 % Cost-Reduction bei gleichzeitig sinkender Latenz.

Praxis-Schritt: Ein kurzes Reasoning-Cost-Audit klärt, welche Calls heute mit welchem Budget laufen, wo die teuersten Default-on-everything-Pfade liegen und welche drei Klassifikator-Hebel den größten Cost-Drop liefern. Erstgespräch anfragen → /anfrage

Stand Mai 2026. Reasoning-Cost-Audits in Kooperation mit akkreditierten FinOps-Partnern — eigene BAFA-/go-digital-Akkreditierung in Vorbereitung Q3 2026.