Около 15 религиозных ученых и экспертов по этике встретились с ИИ-компанией Anthropic в конце марта, чтобы обсудить, как помочь чат-боту Claude вести себя «правильно».
Цель состоит не в том, чтобы превратить Claude в религиозного чат-бота, а в том, чтобы использовать тысячелетний опыт этического мышления религиозных традиций для формирования поведения ИИ.
Эксперты утверждают, что мощь ИИ выходит за рамки внутреннего этического контроля технологических компаний, заставляя их искать поддержку извне.
25 мая Папа Римский Лев XIV опубликовал энциклику объемом 42 300 слов под названием «Magnifica humanitas», призвав к «разоружению» ИИ вместо предоставления технологии прав управления по умолчанию.
Anthropic разрабатывает «конституцию Claude» — свод принципов, помогающих ИИ самостоятельно проверять и корректировать свои ответы в соответствии с этическими стандартами, а не просто следовать жесткому списку правил.
Ценности, на которых обучается чат-бот, могут повлиять на сотни миллионов пользователей при обсуждении таких деликатных тем, как аборты, паллиативная помощь и преодоление душевных потерь.
Некоторые ученые предупреждают, что ИИ-компании могут использовать религию в качестве инструмента «этического отмывания» (ethics washing) для создания морального имиджа без реального изменения фактического поведения.
Позже Anthropic расширила дискуссию на многие другие верования, включая иудаизм, индуизм, мормонизм, сикхизм и греческое православие, чтобы разнообразить этические перспективы.
📌 Заключение: Данная дискуссия показывает, что ИИ перестал быть исключительно технической проблемой, а становится вопросом морали и социальной власти. Anthropic хочет использовать религиозную философию для формирования «личности» Claude, в то время как Ватикан предупреждает, что технологии не должны автоматически получать право управлять людьми. Однако обращение ИИ-компаний к религии также вызывает опасения по поводу манипулирования верой и отсутствия прозрачных механизмов надзора.
