3月末、約15人の宗教民学者や倫理の専門家がAI企業Anthropicと会合を開き、チャットボット「Claude」を「適切に」行動させる方法について議論した。
目的はClaudeを宗教的なチャットボットにすることではなく、信仰の伝統が持つ数千年の道徳的思考を活用して、AIの振る舞いを形成することである。
専門家は、AIの力がテック企業の内部的な倫理統制能力を超えつつあり、外部の支援を求めざるを得なくなっていると指摘している。
5月25日、ローマ教皇レオ14世は「Magnifica humanitas」と題した42,300語に及ぶ回勅を発表し、テクノロジーにデフォルトの統治権を与えるのではなく、AIの「軍縮」を呼びかけた。
Anthropicは、AIが単に厳格なルールリストに従うだけでなく、倫理基準に基づいて自ら回答を検査・修正できるようにするための原則集である「Claude憲法」を開発している。
チャットボットが訓練される価値観は、中絶、終末期ケア、精神的喪失の克服といった極めて繊細なテーマにおいて、数億人のユーザーに影響を与える可能性がある。
一部の学者は、AI企業が「エシックス・ワッシング（倫理の言い訳利用）」のツールとして宗教を利用し、実際の行動を変えることなく、道徳的なイメージだけを作り出す可能性があると警告している。
Anthropicはその後、多様な道徳的視点を取り入れるため、ユダヤ教、ヒンドゥー教、モルモン教、シーク教、ギリシャ正教など、他の多くの信仰へと議論を拡大した。
📌 結論： この論争は、AIがもはや単なる技術的な問題ではなく、道徳と社会的権力の問題になっていることを示している。Anthropicは宗教哲学を用いてClaudeの「人格」を構築したいと考えているが、バチカンはテクノロジーが当然のように人間を支配する権利を持つべきではないと警告している。しかし、AI企業が宗教に頼ることは、信仰の操作や透明性のある監視メカニズムの欠如に対する懸念も生じさせている。
