- 2026 年 10 月 16 日，Gartner 预测，到 2028 年，AI Agent 每个工作流程的推理成本将增长逾 5 倍，尽管 Token 生成成本仍在持续下降。
- Gartner 将这一现象称为“推理悖论”（Inference Paradox）：计算效率不断提高，但企业开始使用更强大的模型，而这些模型会消耗更多 Token。
- Gartner 指出，在执行相同任务时，AI Agent 消耗的 Token 数量是基础聊天机器人的 5 至 30 倍。当企业转向具备推理能力的 Agent 模型时，服务提供商的推理成本也会至少增加 5 倍。
- 主要原因在于，AI 公司持续投资于需要更强计算能力的先进模型，而企业也在将 AI 扩展至更复杂的工作流程。
- Gartner 预测，随着新技术陆续推出，成本将呈现阶段性波动，而非持续平稳上涨。
- VentureBeat 对 109 名参与者开展的调查显示，使用 Agent 编排平台的企业中，有 21% 尚未建立自动限制 Token 成本的机制。
- 与此同时，31% 的企业将高频、大批量任务转移至更便宜的模型，以控制预算。
- Gartner 建议通过 AI FinOps 加强成本监控，并按照每项工作成果衡量成本。
- 企业需要自动将任务分配给合适的模型，避免为简单任务使用昂贵的模型。
- 其他措施包括设定效率阈值、测试成本风险，以及利用企业专有数据开发专用模型。
📌 Gartner 警告，AI Agent 的成本不会随着 Token 价格同步下降。到 2028 年，由于 Agent 消耗更多 Token 并使用更复杂的模型，每个工作流程的推理成本可能增长逾 5 倍。Gartner 建议企业从管理 Token 价格转向管理每项成果的成本，并结合消耗监控、模型路由和经济效益评估，再逐步扩大部署规模。
