Gartner warnt vor dem KI-Agenten-Paradoxon: Tokenpreise sinken, doch die Betriebskosten könnten bis 2028 um mehr als das Fünffache steigen

• Am 16. Oktober 2026 prognostizierte Gartner, dass die Inferenzkosten pro KI-Agenten-Workflow bis 2028 um mehr als das Fünffache steigen werden, obwohl die Kosten für die Token-Generierung weiter sinken.
• Gartner bezeichnet dieses Phänomen als „Inference Paradox“ (Inferenzparadoxon): Die Recheneffizienz verbessert sich, doch Unternehmen nutzen leistungsfähigere Modelle, die mehr Token verbrauchen.
• Laut Gartner benötigen KI-Agenten bei derselben Aufgabe fünf- bis dreißigmal so viele Token wie einfache Chatbots. Beim Wechsel zu Agentenmodellen mit Schlussfolgerungsfähigkeiten steigen auch die Inferenzkosten der Anbieter um mindestens das Fünffache.
• Der Hauptgrund ist, dass KI-Unternehmen weiterhin in fortschrittliche Modelle investieren, die mehr Rechenleistung benötigen, während Unternehmen KI zunehmend auf komplexere Arbeitsabläufe ausweiten.
• Gartner erwartet, dass die Kosten in Wellen schwanken, wenn neue Technologien auf den Markt kommen, anstatt gleichmäßig zu steigen.
• Eine VentureBeat-Umfrage unter 109 Teilnehmenden ergab, dass 21 % der Unternehmen, die Plattformen zur Agenten-Orchestrierung einsetzen, noch keine automatischen Mechanismen zur Begrenzung der Tokenkosten haben.
• Gleichzeitig verlagern 31 % häufig anfallende Aufgaben mit hohem Volumen auf günstigere Modelle, um ihr Budget zu kontrollieren.
• Gartner empfiehlt, die Kostenüberwachung mithilfe von AI FinOps zu verstärken und die Ausgaben anhand der Ergebnisse einzelner Arbeitsaufgaben zu messen.
• Unternehmen sollten Aufgaben automatisch an geeignete Modelle weiterleiten und vermeiden, teure Modelle für einfache Aufgaben einzusetzen.
• Weitere Maßnahmen umfassen die Festlegung von Effizienzschwellen, die Prüfung von Kostenrisiken und die Nutzung proprietärer Daten zur Entwicklung spezialisierter Modelle.

📌 Gartner warnt, dass die Kosten für KI-Agenten nicht im gleichen Maße wie die Tokenpreise sinken werden. Bis 2028 könnten die Inferenzkosten pro Workflow um mehr als das Fünffache steigen, da Agenten mehr Token verbrauchen und komplexere Modelle einsetzen. Gartner empfiehlt, von der Verwaltung der Tokenpreise zur Steuerung der Kosten pro Ergebnis überzugehen und vor einer Ausweitung des Einsatzes Verbrauchsüberwachung, Modellrouting und Wirtschaftlichkeitsbewertungen miteinander zu kombinieren.