- 2026年10月16日、Gartnerは、トークン生成コストが引き続き低下する一方で、AIエージェントのワークフロー1件当たりの推論コストは2028年までに5倍超に増加すると予測した。
- Gartnerはこの現象を「推論のパラドックス（Inference Paradox）」と呼ぶ。計算効率が向上しても、企業がより高性能で多くのトークンを消費するモデルを利用するためだ。
- Gartnerによると、同じタスクを実行する場合、AIエージェントは基本的なチャットボットの5～30倍のトークンを消費する。また、推論能力を備えたエージェントモデルに切り替えると、プロバイダーの推論コストも少なくとも5倍に増加する。
- 主な原因は、AI企業がより多くの計算能力を必要とする先進モデルへの投資を続ける一方、企業もAIの活用をより複雑なワークフローへと拡大していることにある。
- Gartnerは、コストが一様に上昇するのではなく、新技術の登場に合わせて段階的に変動すると予測している。
- VentureBeatが109人を対象に実施した調査では、エージェントオーケストレーションプラットフォームを利用する企業の21%が、トークンコストを自動的に制限する仕組みを導入していなかった。
- 一方、31%の企業は予算管理のため、頻繁に発生する大量処理タスクをより安価なモデルに移行している。
- Gartnerは、AI FinOpsによるコスト監視の強化と、業務成果ごとのコスト測定を推奨している。
- 企業はタスクに適したモデルへ自動的に振り分け、単純なタスクに高価なモデルを使用しないようにする必要がある。
- その他の対策として、効率性の基準値の設定、コストリスクのテスト、自社独自のデータを活用した特化型モデルの開発が挙げられる。
📌 Gartnerは、AIエージェントのコストがトークン価格と連動して低下するわけではないと警告している。エージェントがより多くのトークンを消費し、複雑なモデルを利用するため、2028年までにワークフロー1件当たりの推論コストは5倍超に増加する可能性がある。Gartnerは、トークン価格の管理から成果1件当たりのコスト管理へと移行し、導入を拡大する前に、消費量の監視、モデルの振り分け、経済効率の評価を組み合わせることを推奨している。
