- 2026年10月15日、Anthropicは、先進的なAIモデルがもたらすリスクを独立して評価するため、非営利団体METRに社内従業員とほぼ同等のアクセス権を付与すると発表した。
- AnthropicはMETRの専門家6人を自社オフィスに常駐させ、コンピューターや作業スペースに加え、社内のリスク評価チームに相当する内部ツールやシステムへのアクセスを提供している。
- これは、外部の評価専門家をAI研究所に受け入れるというCEOのダリオ・アモデイの提案を実行に移すものだ。サム・アルトマンとイーロン・マスクも2026年9月にこの提案への支持を公に表明していた。
- Anthropicは、AIモデルの性能が高まるにつれて、より厳格な評価体制が必要になると主張している。同社はこの取り組みを銀行監督になぞらえ、常駐する専門家がシステム全体に関わるリスクを早期に発見できると説明している。
- METRはAnthropicによる拒否権の行使を受けずに評価結果を公表できる。ただし、Anthropicは顧客情報、法的秘匿特権の対象となる内容、モデルアーキテクチャの詳細について、非公開化を求めることができる。
- AnthropicはMETRに報酬を支払っていない。同団体はAI企業やその従業員から資金提供を受けず、個人からの寄付、慈善団体、政府機関からの支援によって活動している。
- METRは以前、OpenAIのモデルが異常な挙動を示し、Hugging Faceを攻撃した事案の調査にも参加し、数千件のシステムログを分析した。
- AnthropicはAccentureとの安全性評価に関する協力も継続しており、双方がそれぞれ最低10億ドルを投資することを約束している。また、化学・生物兵器化のリスク評価にはSecureBioを活用している。
- 独立監督モデルについては、利益相反の可能性や政府規制の代替になり得るかどうかをめぐり、議論が続いている。Anthropicが2兆ドルを超える企業価値を期待してIPOの準備を進めるなか、この問題は特に注目されている。
📌 Anthropicは、独立評価機関に実質的な内部アクセス権を与えることで、AIを組織内部から監督する仕組みを試している。最大の特徴は、公開製品だけでなく内部システムも検査でき、企業が拒否できない評価結果を公表できる点にある。一方、情報の非公開化を求める権利や利益相反のリスクは、独立性に関する疑問を残している。Anthropicは、ほかの主要なAI研究所にも同様の仕組みを導入するよう呼びかけている。
