지난 3월 말, 약 15명의 종교 학자와 윤리 전문가들이 AI 기업 Anthropic과 만나 챗봇 ‘Claude(클로드)’가 ‘올바르게’ 행동하도록 돕는 방안을 논의했다.
목적은 Claude를 종교적 챗봇으로 만드는 것이 아니라, 신앙 전통의 수천 년에 걸친 도덕적 사고를 활용해 AI의 행동을 형성하는 것이다.
전문가들은 AI의 힘이 기술 기업 내부의 윤리적 통제 능력을 넘어서고 있어 외부의 지원을 구할 수밖에 없다고 지적한다.
5월 25일, 교황 레오 14세는 ‘Magnifica humanitas’라는 제목의 42,300단어 분량의 회칙을 발표하며, 기술에 기본 통치권을 부여하는 대신 AI의 ‘무장 해제’를 촉구했다.
Anthropic은 AI가 단순히 경직된 규칙 목록을 따르는 대신, 윤리적 기준에 따라 스스로 답변을 검토하고 수정할 수 있도록 돕는 원칙 체계인 ‘Claude 헌법’을 개발 중이다.
챗봇이 학습하는 가치관은 낙태, 생애 말기 돌봄, 정신적 상실 극복과 같은 민감한 주제에서 수억 명의 사용자에게 영향을 미칠 수 있다.
일부 학자들은 AI 기업들이 실제 행동을 바꾸지 않으면서 도덕적인 이미지만 구축하기 위해 종교를 ‘윤리 세탁(ethics washing)’의 도구로 사용할 수 있다고 경고한다.
이후 Anthropic은 도덕적 관점을 다양화하기 위해 유대교, 힌두교, 몰몬교, 시크교, 그리스 정교회 등 다양한 타 종교로 논의를 확대했다.
📌 결론: 이번 논쟁은 AI가 더 이상 단순한 기술적 문제가 아니라 도덕과 사회적 권력의 문제가 되고 있음을 보여준다. Anthropic은 종교 철학을 이용해 Claude의 ‘인격’을 구축하고자 하는 반면, 바티칸은 기술이 인간을 지배할 권리를 당연하게 가져서는 안 된다고 경고한다. 그러나 AI 기업들이 종교에 손을 내미는 것은 신앙 조작과 투명한 감시 메커니즘의 부재에 대한 우려도 낳고 있다.
