Etwa 15 Religionsgelehrte und Ethikexperten trafen sich Ende März mit dem KI-Unternehmen Anthropic, um darüber zu diskutieren, wie der Chatbot Claude zu einem „angemessenen“ Verhalten bewegt werden kann.
Das Ziel ist nicht, Claude in einen religiösen Chatbot zu verwandeln, sondern das jahrtausendealte ethische Denken von Glaubenstraditionen zu nutzen, um das Verhalten der KI zu formen.
Experten argumentieren, dass die Macht der KI die internen ethischen Kontrollmöglichkeiten der Tech-Unternehmen übersteigt, was sie dazu zwingt, externe Unterstützung zu suchen.
Am 25. Mai veröffentlichte Papst Leo XIV. eine 42.300 Wörter umfassende Enzyklika mit dem Titel „Magnifica humanitas“, in der er zu einer „Abrüstung“ der KI aufrief, anstatt der Technologie standardmäßig Governance-Rechte zu übertragen.
Anthropic entwickelt eine „Claude-Verfassung“, also ein Regelwerk, das der KI hilft, ihre Antworten selbstständig nach ethischen Standards zu überprüfen und zu korrigieren, anstatt sich nur an eine starre Liste von Regeln zu halten.
Die Werte, auf denen der Chatbot trainiert wird, könnten Hunderte von Millionen Nutzern bei sensiblen Themen wie Abtreibung, Sterbebegleitung und der Bewältigung von emotionalem Verlust beeinflussen.
Einige Gelehrte warnen davor, dass KI-Unternehmen die Religion als Werkzeug des „Ethics Washing“ (ethisches Reinwaschen) nutzen könnten, um ein moralisches Image aufzubauen, ohne dass sich das tatsächliche Verhalten zwingend ändert.
Anthropic weitete die Diskussionen später auf viele andere Glaubensrichtungen aus, darunter das Judentum, den Hinduismus, das Mormonentum, den Sikhismus und die griechische Orthodoxie, um die ethischen Perspektiven zu diversifizieren.
📌 Fazit: Die Debatte zeigt, dass KI nicht mehr nur ein technisches Problem ist, sondern zu einer Frage der Moral und der gesellschaftlichen Macht wird. Anthropic möchte religiöse Philosophie nutzen, um eine „Persönlichkeit“ für Claude aufzubauen, während der Vatikan davor warnt, dass Technologie nicht automatisch das Recht haben sollte, über Menschen zu herrschen. Dass sich KI-Unternehmen jedoch an die Religion wenden, weckt auch Befürchtungen hinsichtlich der Manipulation von Glauben und des Mangels an transparenten Aufsichtsmechanismen.
