- Gartnerは、現在のAIモデルや多くの主要AIプロバイダーが、企業運用に求められる要件をまだ満たしていないと指摘している。
- Gartnerの専門家Daryl Plummerは、AI企業が法的責任、安定性、事業継続性に関する企業の要件をまだ十分に理解していないため、現時点でAI企業を全面的に信頼すべきではないと述べている。
- Gartnerは、AI企業がモデルを頻繁に変更していることを批判しており、これによってモデルに依存するアプリケーションが中断される可能性がある。
- 1つのモデルバージョンの平均寿命は約6か月にすぎず、プロバイダーによる旧バージョンのサポートも限定的である。
- Gartnerの調査によると、CIOの86％が、AIによるリスクはAIが生み出す価値よりも速く増加していると考えている。
- Gartnerは、従業員が必要性のない、または不適切な場面でAIを使用する「careless consumption（無責任な利用）」を警告している。
- 約40％の労働者が低品質なAI生成コンテンツに遭遇しており、従業員1,000人の企業では、1件の処理に約2時間かかる可能性があり、年間では約900万ドルに相当する。
- Gartnerによると、AIは企業がすでに購入している製品にもますます組み込まれており、利用されるAgentの数を管理することが難しくなっている。
- Plummerは、データベースへの問い合わせなどの単純な作業について、従来の関数呼び出しで十分に対応できる場合はAgentを使用すべきではないと推奨している。
- Gartnerは、多くのAIプロバイダーが主に追加製品の販売やトークン消費量の増加を目的としてAIを推進していると指摘している。
- Gartnerは、企業内に「AI中央銀行」を設置し、すべてのAI活動を監督し、権限を管理し、責任を負う仕組みを提案している。
- また、異常な動作をするAgentを監視・無効化し、AIによって発生した問題に対応する専門の復旧チームを構築するため、「guardian agents」の導入も推奨している。
📌 現在、企業におけるAIの最大の課題は、モデルの能力ではなくガバナンスである。Gartnerは、AIプロバイダーが依然として急速に変更を繰り返し、長期的なコミットメントに欠け、企業向けの基準を満たしていないと指摘している。CIOの86％がリスクの増加速度が価値を上回っていると評価し、40％の従業員が低品質なAIコンテンツを経験している中、企業にはAIを無秩序に拡大するのではなく、ガバナンス、監視、責任体制を強化することが求められている。
