- AnthropicのCEOであるDario Amodei（ダリオ・アモデイ）氏は、論文「Policy on the AI Exponential（AIの指数関数的発展に関する政策）」を発表し、米連邦航空局（FAA）に類似したAI管理メカニズムの構築を呼びかけました。
- 同氏は、最先端のAIモデルは市場にリリースされる前に、独立したテストと評価を経る必要があると主張しています。
- Anthropicは、サイバーセキュリティ、生物学、あるいは制御不能な自律性に関して大きなリスクを引き起こす場合、政府がAIモデルのリリースを延期、ブロック、または回収する権限を持つことを提案しています。
- 同社はまた、新しい「先進AI管理フレームワーク」と「AI経済政策フレームワーク」を公表しました。
- 1025 FLOPs を超える規模でトレーニングされたモデル、またはAIによる売上高が5億米ドルを超える企業のモデルは、義務的な検証要件の対象となる可能性があります。
- Anthropicは、従来のように透明性を求めるだけでは、もはやリスクを制御するのに十分ではないと考えています。
- 主な動機は、AIによって引き起こされるサイバーセキュリティの脅威が急速に増大していることです。
- 同社によると、Claude Mythos（クロード・ミュトス）は複数のオペレーティングシステムにわたって深刻なセキュリティの脆弱性を検出する能力を示しました。
- Anthropicは、モデルの重み（model weights）の保護を、厳格に守られるべき戦略的資産として重視することを提案しています。
- 同社はまた、「モデル蒸留（model distillation）」技術を通じて、不正に複製されたモデルが出現するリスクを警告しています。
- 経済面においてAnthropicは、AIが単なる生産性向上のツールにとどまらず、大規模に労働力を代替するテクノロジーになる可能性があることを認めています。
- 同社は、AIが労働に与える影響に対応する政策の研究および支援のために、3億5,000万米ドルを拠出することを約束しました。
- そのうち2億米ドルは研究基金「Economic Futures」へ、1億5,000万米ドルは国家奨学金プログラムへ充てられます。
- Anthropicは、AIによって失業率が5%、10%、あるいはそれ以上に上昇するシナリオを検討しています。
- 言及された解決策には、賃金保険、ユニバーサル・ベーシックインカム（UBI）、および政府系ファンド（主権富裕基金）が含まれます。
- 同社は企業に対し、AIプロジェクトの資金を調達するために単に人員を削減するのではなく、従業員の再教育と再配置に焦点を当てるよう推奨しています。
- 📌 結論： Anthropicの提案は、AIをめぐる議論における大きな転換点となります。革新と成長だけに焦点を当てるのではなく、世界をリードするAI企業の一社が、最も強力なAIモデルに対して航空業界と同様の管理メカニズムを公に求めています。これらの提案が適用された場合、企業はより多くの検証、セキュリティ、そして社会的責任が求められるAI環境に備える必要があり、同時にAIがもたらす変化に適応するための長期的な人事戦略を構築しなければなりません。
