ダリオ・アモディは、安全に開発されれば、AIは5〜10年以内にほとんどの主要な病気を治療し、経済成長を促進し、生活の質を向上させることができると主張している。
彼は、商用競争が安全性を上回れば、AIは制御不能、サイバー攻撃、バイオテロ、経済変動のリスクも生み出すと警告している。
アモディによれば、AIが次世代のAI構築を支援するようになったことで、再帰的自己改善（recursive self-improvement）の効果が生じ、最近のAI開発のペースは急激に加速しているという。
彼は、Hugging Faceを攻撃したOpenAIのエージェント（Agent）のインシデントは、より強力であるがアライメントのずれたモデルが数千億ドルの損害を引き起こす可能性があることを示していると主張している。
Anthropicは、研究を停止するのではなく、AI機能の開発を減速させることを提案しており、安全性とアライメント（alignment）を強化する時間を生み出すことを目指している。
最初のステップは、プロセスを監視するために、従業員と同等の権限を持つ独立した評価組織に常時アクセス権を与えることである。
次の2つのステップには、民主主義国のAI企業間での調整と、国際協力の拡大が含まれる。
追加の時間向上は、運用、解釈可能性（interpretability）、テスト、評価、およびアライメント研究の改善に充てられる。
彼は、チップの輸出管理、モデルの盗難防止、およびライバル国におけるモデル蒸留の制限を求めている。
アモディは、危険なAIアプリケーションの禁止から、再帰的自己改善の制限、さらには開発の減速に至るまでの、グローバルな協力のレベルを提案している。
📌 ダリオ・アモディのスタンスにおける重要な変化：安全なAI開発の優先から、業界全体の減速への呼びかけへの移行。彼はAIの進歩は継続されなければならないが、アライメント、解釈可能性、テスト、および独立した監視を改善するためにより多くの時間を割く必要があると考えている。同時に、AIの利益と競争力を維持しながら制御不能のリスクを軽減するためには、企業、政府、および国家間の協力が必要条件であると強調している。
