Environ 15 érudits religieux et experts en éthique ont rencontré l’entreprise d’IA Anthropic fin mars pour discuter de la manière d’aider le chatbot Claude à se comporter « correctement ».
L’objectif n’est pas de transformer Claude en un chatbot religieux, mais de tirer parti de milliers d’années de pensée éthique issues des traditions religieuses pour façonner le comportement de l’IA.
Les experts soutiennent que la puissance de l’IA dépasse désormais les capacités de contrôle éthique interne des entreprises technologiques, les obligeant à chercher un soutien externe.
Le 25 mai, le Pape Léon XIV a publié une encyclique de 42 300 mots intitulée « Magnifica humanitas », appelant au « désarmement » de l’IA plutôt qu’à l’octroi par défaut de droits de gouvernance à la technologie.
Anthropic développe une « constitution de Claude », c’est-à-dire un ensemble de principes qui aident l’IA à auto-examiner et corriger ses réponses selon des normes éthiques, plutôt que de simplement se conformer à une liste rigide de règles.
Les valeurs sur lesquelles le chatbot est entraîné pourraient affecter des centaines de millions d’utilisateurs sur des sujets sensibles tels que l’avortement, la fin de vie et le dépassement du deuil émotionnel.
Certains chercheurs avertissent que les entreprises d’IA pourraient utiliser la religion comme un outil d’« ethics washing » (blanchiment éthique) pour se donner une image morale sans pour autant modifier leur comportement réel.
Anthropic a ensuite élargi les discussions à de nombreuses autres confessions, notamment le judaïsme, l’hindouisme, le mormonisme, le sikhisme et l’orthodoxie grecque, afin de diversifier les perspectives éthiques.
📌 Conclusion : Ce débat montre que l’IA n’est plus seulement une question technique, mais qu’elle devient un enjeu de moralité et de pouvoir social. Anthropic souhaite utiliser la philosophie religieuse pour construire une « personnalité » à Claude, tandis que le Vatican avertit que la technologie ne devrait pas disposer par défaut du droit de gouverner les êtres humains. Cependant, le fait que les entreprises d’IA se tournent vers la religion suscite également des inquiétudes quant à la manipulation de la foi et au manque de mécanismes de surveillance transparents.
