IT-Kosten außer Kontrolle: Warum KI die nächste Kostenwelle lostritt

Cloud sollte IT flexibler und günstiger machen. SaaS versprach planbare Kosten. KI soll nun Produktivität auf ein neues Niveau heben. Trotzdem kämpfen IT-Verantwortliche mit steigenden und immer schwerer planbaren Technologiekosten. Was läuft hier schief?

Der IT-Strategieentwickler Alexander Hohnjec ist überzeugt, dass sich CIOs auf weitere Kostensteigerungen einstellen müssen. Der Gründer von KANTIG und ehemalige Gartner Executive Partner zeigte bei der LSZ „IT Leaders Experience“, wie Unternehmen gegensteuern können. Gerhard Kürner, CEO von 506.ai und Co-Founder von Choose European, ergänzt diese Perspektive um eine zentrale Frage: Wann wird aus steigenden KI-Kosten tatsächlich wirtschaftlicher Wert?

Hohnjec’ Warnung: Unternehmen sollten sich auf mindestens zweistellige prozentuale Kostensteigerungen pro Jahr vorbereiten und deutlich mehr, wenn sie nicht gegensteuern. Einerseits werden alle Arbeitsschritte IT-intensiver und andererseits entstehen IT-Kosten zunehmend dynamisch. Cloud, SaaS, APIs, Datenplattformen und KI werden nach Nutzung konsumiert.

Technologisch betrachtet wird KI rapide günstiger. Der Stanford AI Index zeigt: Die Kosten für die Abfrage eines Modells auf ungefähr GPT-3.5-Leistungsniveau fielen von 20 US-Dollar je Million Tokens im November 2022 auf 0,07 Dollar im Oktober 2024 – eine Reduktion um mehr als den Faktor 280.

Doch günstigere Tokens bedeuten nicht automatisch eine günstigere KI.

KI-Agenten planen, recherchieren, greifen auf Daten und Tools zu – ein einzelner Auftrag kann dadurch zahlreiche Modellaufrufe auslösen.

Gartner prognostiziert, dass die Inferenzkosten pro agentischem Workflow bis 2028 um mehr als das Fünffache steigen werden.

Produktive KI braucht aufbereitete und aktuelle Daten, Integrationen in bestehende Systeme, Evaluierung und Monitoring sowie Security, Governance und Compliance.

Die FinOps Foundation weist auf ein strukturelles Problem hin: KI-Kosten entstehen längst nicht nur beim Modellanbieter. Sie verteilen sich über Public Cloud, Rechenzentren, SaaS-Produkte, Enterprise Agreements mit KI-Anbietern und spezialisierte Modellanbieter. Das erschwert Transparenz und klare Verantwortlichkeiten.

Wie schnell das Thema in den Unternehmen angekommen ist, zeigt der „State of FinOps 2026“: 98 % der befragten FinOps-Praktiker:innen managen bereits KI-Ausgaben – nach 63 % 2025 und 31 % 2024. Zu den größten Herausforderungen zählen Kostentransparenz, die Zuordnung zu Geschäftsbereichen sowie die Bestimmung von Wert und ROI.

Gerhard Kürner, CEO von 506.ai und Co-Founder von Choose European, sieht genau hier eine Schieflage in vielen aktuellen KI-Diskussionen: Über Tokenpreise werde sehr genau gesprochen, über den Wert auf der anderen Seite der Rechnung dagegen erstaunlich ungenau. „Solange diese Verschiebung nicht tatsächlich stattfindet, ist jede Tokenrechnung eine Kostenrechnung ohne Gegenseite“, sagt Kürner im LSZ-Interview. Gemeint ist die Verschiebung von Personal- zu Technologiekosten, die produktive KI-Agenten langfristig ermöglichen sollen. In den meisten Unternehmen sei dieser Punkt aber noch nicht erreicht.

Drei Kostenblöcke werden aus seiner Erfahrung besonders unterschätzt: Datenarbeit, Prozess-Redesign und die laufende Verifikation der KI-Ergebnisse. Vor allem die organisatorische Dimension sei erheblich: In den Projekten von 506.ai entfielen rund drei Viertel des Aufwands auf organisatorische und menschliche Themen und nur ein Viertel auf Technik. Einen bestehenden schlechten Prozess einfach mit einem Agenten nachzubauen, löst das Problem deshalb nicht – es automatisiert es lediglich.

Besonders prägnant formuliert Kürner das Problem der laufenden Kontrolle: „Erzeugen wird billig, Prüfen wird knapp.“ Muss jedes Ergebnis weiterhin vollständig von Menschen kontrolliert werden, entsteht kaum wirtschaftliche Skalierung. Ein Agent rechnet sich für Kürner daher nicht ab einem bestimmten Tokenpreis, sondern dort, wo Prozesse häufig genug wiederholt werden und die menschliche Prüfquote mit ausreichender Qualität und Sicherheit sinken kann.

Die Kostenfrage ist damit längst eine organisatorische. Wer trägt die Verantwortung, wenn der Fachbereich KI konsumiert, die IT Infrastruktur bereitstellt und Security, Integration und Compliance zusätzliche Kosten verursachen?

Hohnjec schlägt deshalb vor, den Blick über klassische IT-Budgets hinaus zu erweitern und von Technologiekosten zu sprechen. Gerade bei Manufacturing-Kunden seien diese inzwischen ein erheblicher Kostenblock.

Damit stellt sich eine unbequeme Frage: Gehören nutzungsabhängige KI- und Compute-Kosten überhaupt vollständig ins IT-Budget, wenn ihr wirtschaftlicher Nutzen im Produktionsprozess, Einkauf oder Kundenservice entsteht?

Neu ist das Problem nicht. Hohnjec formuliert es bei der LSZ „IT Leaders Experience“ provokant: „Cloud ist darauf aufgebaut, dass es bequem ist […] Und es ist im Interesse der Provider, intransparent zu sein.“

Die Konsequenz daraus ist nicht, Cloud infrage zu stellen, sondern ihren Konsum professioneller zu steuern.

Hohnjec nennt dafür konkrete Hebel: planbare Workloads über Reserved statt On-Demand Instances abdecken, Entwicklungs- und Testumgebungen nicht unnötig rund um die Uhr betreiben, Speicherklassen und Service Levels überprüfen – und vor allem wissen, welcher Workload welche Kosten verursacht.

Dafür fordert er transparentes Tagging nach Kostenstelle, Anwendung, Umgebung, Region und Lebenszyklus sowie eine laufende Anomalie-Erkennung. Preisänderungen, On-Demand-Kapazitäten oder ungeplanter Cross-Region-Verbrauch sollten auffallen, bevor die Rechnung am Monatsende kommt.

Doch während Unternehmen laufend neue Technologien einkaufen, verschwinden alte Anwendungen selten im gleichen Tempo. Hohnjec nennt das drastisch „Leichenbestand“. Sein Vorschlag: Services konsequent anhand von vier Fragen bewerten:

Was kostet der Service? Wie intensiv wird er genutzt? Wie notwendig ist er für den Geschäftsbetrieb? Und wie zufrieden sind seine Nutzer:innen damit?

Genau hier liegt der Unterschied zwischen Kostensenkung und Kostenmanagement: Nicht überall weniger ausgeben, sondern wissen, wofür man bewusst mehr – und wofür man nichts mehr – ausgeben will.

Gartner prognostiziert, dass mehr als 40 % der Agentic-AI-Projekte bis Ende 2027 eingestellt werden. Als Gründe nennt das Marktforschungsunternehmen steigende Kosten, unklaren Geschäftsnutzen und unzureichende Risikokontrollen.

Umso wichtiger ist die Frage: Wo braucht es tatsächlich autonome KI-Agenten – und wo reichen klassische Automatisierung oder ein KI-Assistent?

Denn die teuerste KI kann jene sein, die ein Problem löst, für das es gar keine KI gebraucht hätte.

Hohnjec setzt deshalb nicht auf pauschales Cost Cutting. Er unterscheidet Kosten, die die IT selbst kontrollieren kann, Bereiche, die sie beeinflussen kann, und Entscheidungen, die nur gemeinsam mit dem Business getroffen werden können.

Im Schulterschluss mit dem Business wird Vereinfachung zum Hebel: Braucht es fünf Anwendungen für ähnliche Aufgaben? Welche Plattformen lassen sich konsolidieren? Wo können vorhandene Komponenten wiederverwendet werden?

Hohnjec bringt diese Haltung im Workshop auf einen Satz: „Wichtig ist das Schlagwort Vereinfachung. Gemeinsam mit Business.“

Cloud, SaaS und KI machen Technologie nicht zwangsläufig teurer. Sie verändern aber fundamental, wie Kosten entstehen. Statt weniger großer Investitionsentscheidungen entstehen Tausende kleine Konsumentscheidungen – verteilt über Abteilungen, Plattformen und zunehmend auch KI-Agenten.

Damit wird aus Kostenkontrolle eine Führungsfrage: Wer darf Technologie konsumieren? Wer sieht ihre tatsächlichen Kosten? Und wer verantwortet den erzielten Business Value?

Transparenz über Kosten ist dafür nur der Anfang. Unternehmen müssen nicht nur wissen, was Technologie kostet. Sie müssen wissen, was sie ihnen wert ist.

 

Während CIOs Cloud- und KI-Kosten in den Griff bekommen müssen, stehen die nächsten Fragen längst vor der Tür: KI-Agenten, digitale Souveränität, neue Skills und die künftige Rolle der IT. Genau um diesen Blick nach vorne geht es beim LSZ CIO-Kongress vom 11. bis 13. Oktober in Loipersdorf. Mit dabei sind auch Alexander Hohnjec und Gerhard Kürner, um u.a. die Diskussion über Kosten, Technologie und Zukunftsfähigkeit weiterzuführen!

Hier geht’s zu den > Tickets.