Die KI-Betriebskosten der Unternehmen sind seit 2022 um geschätzt 320 Prozent gestiegen. Im selben Zeitraum ist der Preis pro Token für GPT-4-äquivalente Leistung um 98 Prozent gefallen. Beide Zahlen stammen aus derselben Auswertung von Unternehmensausgaben. Die genauen Prozentwerte kann man anzweifeln. Die Richtung nicht. Genau dieses Paradox beschäftigt gerade Finanzabteilungen quer durch den Markt.
KI-Betriebskosten: Warum die Rechnung steigt, während der Preis fällt
Die Erklärung liegt im Verbrauch, nicht im Preis. Agentische Workflows verbrauchen laut Gartner das 5- bis 30-fache an Tokens pro Aufgabe gegenüber einem klassischen Chatbot. EY beziffert die Kosten einer Kundenservice-Interaktion heute auf 1,20 Dollar, gegenüber 4 Cent im Jahr 2023. Uber verbrauchte sein KI-Jahresbudget 2026 in vier Monaten und führte Obergrenzen pro Mitarbeiter ein.
Die Steuerung hält nicht Schritt. Laut KPMG AI Quarterly Pulse Survey vom Q2 2026 haben nur 26 Prozent der Unternehmen vollständige Echtzeit-Sicht auf ihre KI-Betriebskosten. Fast die Hälfte hat den Einsatz eines Agenten überdacht, als die Kosten den Nutzen überstiegen. In Deutschland sagen laut Bitkom 33 Prozent der KI-nutzenden Unternehmen, KI sei teurer als kalkuliert.
Betriebsfrage vor Modellfrage
Der Markt hat für dieses Problem einen Namen gefunden: FinOps. FinOps ist die Disziplin, die Cloud- und KI-Ausgaben in Echtzeit sichtbar, attribuierbar und steuerbar macht und dafür Technik, Finance und Fachbereich an einen Tisch bringt. Die FinOps Foundation meldet im State of FinOps 2026, dass 98 Prozent der Praktiker inzwischen KI-Ausgaben managen. 2024 waren es 31 Prozent. FinOps für KI ist damit die am schnellsten wachsende Teildisziplin des Kostenmanagements.
Die Kostentreiber sitzen dabei selten dort, wo man sie vermutet. Große Kontextfenster werden bei jedem Agentenschritt neu gelesen. Ausgabe-Tokens kosten bei führenden Modellen das Fünffache der Eingabe-Tokens, output-lastige Aufgaben wie Reports und Code dominieren deshalb die Rechnung. Und der Sprung vom Pilot in die Produktion skaliert nicht linear: Aus 200 geprüften Verträgen im Piloten werden 8.000 im Betrieb, aus dreistelligen Monatskosten fünfstellige.
Wir sehen darin eine Bestätigung unserer Position: Die Betriebsfrage kommt vor der Modellfrage. Wer heute über Modellwahl diskutiert, aber keine Kostenattribution pro Use Case hat, optimiert im Blindflug. Die Hebel sind bekannt und wirksam. Modell-Routing zwischen Leistungsklassen deckt eine 5- bis 25-fache Preisspanne ab. Prompt Caching reduziert wiederholten Kontext auf 10 Prozent des Input-Preises. Batch-Verarbeitung halbiert die Kosten planbarer Lasten. Zusammen sind Größenordnungen von 50 bis 80 Prozent Ersparnis realistisch, ohne einen einzigen Use Case abzuschalten. Wie wir diese Hebel in vier Blöcken systematisch prüfen, beschreibt unser AI Cost Audit.
Man kann einwenden, dass fallende Modellpreise das Problem von selbst lösen. Goldman Sachs prognostiziert allerdings eine Vervierundzwanzigfachung der globalen Token-Nachfrage bis 2030, getrieben durch dauerhaft laufende Agenten. Der Verbrauch wächst schneller, als die Preise fallen. Token-FinOps ist deshalb keine Übergangsdisziplin, sondern Dauerbetrieb, wie wir ihn in unseren Managed AI Services verankern.
Für Banken und Versicherer ist Kostentransparenz Pflicht, nicht Kür
Regulierte Häuser haben eine zweite Ebene. DORA verlangt seit Januar 2025 ein Informationsregister über alle vertraglichen Vereinbarungen mit IKT-Drittdienstleistern, KI-Anbieter eingeschlossen. Wie AI-Workloads die Cloud-Auslagerung unter DORA neu aufmachen, haben wir separat beschrieben. Der EU AI Act bringt planmäßig ab August 2026 Pflichten für Hochrisiko-Systeme wie Kreditscoring. Der Digital Omnibus kann einzelne Fristen verschieben. Die Richtung ändert das nicht. KI-Betriebskosten müssen künftig nicht nur niedrig sein, sondern nachweisbar gesteuert. Regulierung ist kein Blocker. Sie ist der Moat für jedes Haus, das Kostentransparenz vor den Wettbewerbern beherrscht.
Drei Fragen, die jedes Haus vor der nächsten Budgetrunde beantworten sollte:
- Kennen wir die Kosten pro erledigter Aufgabe, nicht nur pro Million Tokens, und können wir sie einem Use Case und einem Team zuordnen?
- Sind Routing, Caching und Batch-Verarbeitung in unserem Betrieb aktiv, oder laufen alle Anfragen über das teuerste Modell mit vollem Kontext?
- Greifen Budgets und Alerts automatisch, bevor ein Agent das Monatsbudget verbraucht, und ist die Kostensteuerung DORA- und AI-Act-tauglich dokumentiert?
Die Token-Rechnung wird zur zweitgrößten Position im IT-Budget vieler Häuser, und sie ist die am schlechtesten gesteuerte. Wer FinOps für den KI-Betrieb jetzt aufbaut, verwandelt einen Kostenschock in einen Steuerungsvorteil. Sprechen Sie uns an.
Häufige Fragen zu KI-Betriebskosten
Was sind KI-Betriebskosten?
KI-Betriebskosten sind die laufenden Kosten des produktiven KI-Einsatzes, vor allem Token-Verbrauch für Ein- und Ausgaben, Hosting und Integration. Sie unterscheiden sich von Lizenzkosten, weil sie nutzungsabhängig skalieren. Laut KPMG haben im Q2 2026 nur 26 Prozent der Unternehmen vollständige Echtzeit-Sicht auf diese Kosten.
Warum steigen KI-Kosten trotz fallender Token-Preise?
Agentische Workflows verbrauchen laut Gartner das 5- bis 30-fache an Tokens pro Aufgabe, weil eine Anfrage viele Modellaufrufe für Planung, Tool-Nutzung und Verifikation auslöst. Der Verbrauch wächst damit schneller, als die Preise fallen. EY beziffert den Kostenanstieg pro Kundenservice-Interaktion auf das 30-fache seit 2023.
Was ist Token-FinOps?
Token-FinOps überträgt die FinOps-Disziplin auf den KI-Betrieb: Kosten werden pro Use Case attribuiert, über Modell-Routing, Prompt Caching und Batch-Verarbeitung optimiert und über Budgets und Alerts gesteuert. Ziel ist die Kennzahl Kosten pro erledigter Aufgabe statt Kosten pro Token. Für regulierte Häuser schafft Token-FinOps zugleich die Nachweisbarkeit, die DORA und EU AI Act verlangen.
