- 16 октября 2026 года Gartner спрогнозировала, что к 2028 году стоимость инференса на один рабочий процесс AI-агента вырастет более чем в 5 раз, несмотря на продолжающееся снижение стоимости генерации токенов.
- Gartner называет это явление «парадоксом инференса» (Inference Paradox): вычислительная эффективность повышается, но компании используют более мощные модели, потребляющие больше токенов.
- По данным Gartner, при выполнении одной и той же задачи AI-агенты потребляют в 5–30 раз больше токенов, чем базовые чат-боты. При переходе на агентные модели с возможностями рассуждения расходы поставщиков на инференс также увеличиваются как минимум в 5 раз.
- Основная причина заключается в том, что компании в сфере ИИ продолжают инвестировать в передовые модели, требующие больших вычислительных ресурсов, а предприятия внедряют ИИ в более сложные рабочие процессы.
- Gartner прогнозирует, что расходы будут колебаться волнообразно по мере выхода новых технологий, а не расти равномерно.
- Опрос VentureBeat, в котором участвовали 109 человек, показал, что у 21% компаний, использующих платформы оркестрации агентов, отсутствуют автоматические механизмы ограничения расходов на токены.
- Между тем 31% компаний переводят регулярные задачи с большим объёмом операций на более дешёвые модели, чтобы контролировать бюджет.
- Gartner рекомендует усилить контроль затрат с помощью AI FinOps и измерять расходы на основе результатов каждой рабочей задачи.
- Компаниям необходимо автоматически направлять задачи подходящим моделям, избегая использования дорогих моделей для простых задач.
- Среди других мер — установление пороговых показателей эффективности, тестирование рисков затрат и использование собственных данных для разработки специализированных моделей.
📌 Gartner предупреждает, что затраты на AI-агентов не будут снижаться пропорционально ценам на токены. К 2028 году стоимость инференса на один рабочий процесс может вырасти более чем в 5 раз, поскольку агенты потребляют больше токенов и используют более сложные модели. Gartner рекомендует перейти от управления ценами на токены к управлению затратами на каждый результат, сочетая мониторинг потребления, маршрутизацию запросов к моделям и оценку экономической эффективности перед масштабированием внедрения.
