この記事は、企業がAIエージェントの運用コストを削減するために、各タスクに最適なAIモデルを自動選択するソフトウェアであるAIモデルルーター（AI model router）を急速に導入していることを示している。
通常のチャットボットとは異なり、Claude CodeやCodexなどのエージェントは数時間にわたって連続して稼働し、AIモデルを継続的に呼び出して膨大な量のトークンを消費するため、多くの企業が多額の計算コストの請求書に驚かされている。
ある調査によると、組織の62%が予期せぬAI支出のためにビジネス上の意思決定を変更せざるを得なくなったという。このうち、40%は取締役会への報告を余儀なくされ、33%は緊急の支出凍結を実施し、25%はAIプロジェクトを延期または中止した。
AIモデルルーターは、常に最強のAIモデルを使用するのではなく、ワークフローの各ステップにおいてコスト、速度、パフォーマンスの面で最適なモデルを選択するのを支援する。
ソリューション提供企業によると、インテリジェントなルーティングにより、推論コストを2桁（パーセント）、場合によっては約30%まで削減できるという。
多くの企業がこの市場に参入している。OpenRouterは数百のAIモデルへの統一されたゲートウェイを提供しており、Stripeによる評価額最大100億ドルでの買収に向けた交渉に入ったと報じられている。Not Diamondは各リクエストに適切なモデルを自動選択し、LiteLLMは企業が独自のルーティングシステムを構築するのを支援する。Salesforce、Databricks、Meta、Cursor、Ramp、Runwayも同様のソリューションを開発している。
OpenRouterによると、多くの企業はこれまで、最強のモデルを使うのが常にベストだと考えていたため、AI専用の予算を立てていなかった。しかし、多くのタスクは「知性が飽和した（intelligence-saturated）」状態に達しており、より新しく強力なモデルを使用しても、古いがより安価なモデルと比較してより良い結果が得られないことを意味している。
この記事はまた、将来的にAIモデルルーターはコストの最適化だけでなく、どのモデルが使用されるか、エージェントがアクセスを許可されるデータは何か、微調整されたオープンソースモデルをいつ使用するか、そしてセキュリティ、コンプライアンス、ガバナンスの要件にどのように対応するかを決定するようになると指摘している。
コスト要因のほか、かつてAnthropicがFableモデルへのアクセスを制限したことにより、多くの企業が単一のAIプロバイダーへの依存を減らしたいと考えるようになった。AIモデルルーターは、必要に応じて企業がモデル間を柔軟に切り替えるのに役立つツールとみなされている。
専門家は、AIモデルルーターの構築は単に複数のAPIを接続するだけでなく、数千のエンドポイントの追跡、インシデントの処理、技術的変更の更新、およびAIプロバイダーとの緊密な関係の維持を必要とすると指摘している。
📌 AIモデルルーターは、AIエージェントの時代における企業の新しいインフラストラクチャレイヤーとして台頭しつつある。エージェントがますます大量のトークンを消費する中、適切なモデルの自動選択はコストを約30%まで削減しつつ、アクセス権限、セキュリティ、パフォーマンスの変化に対する柔軟性を高めることができる。次の段階において、AIモデルルーターはどのモデルが使用されるかだけでなく、企業が全体のAIエコシステムをどのように管理するかを決定する「オーケストレーションの脳」になる可能性が高い。
