- Singapur hat am 22. Januar 2026 das „Model AI Governance Framework for Agentic AI“ angekündigt, um Risiken durch KI-Agenten zu verringern, die unabhängig handeln und gleichzeitig auf mehrere Systeme zugreifen können.
- Agentische KI unterscheidet sich von traditioneller KI durch ihre Fähigkeit, natürliche Sprache zu verstehen, logische Schlüsse zu ziehen und Aufgaben autonom im Namen von Menschen zu erledigen, wie etwa Programmierassistenten, die Code selbst schreiben, testen und korrigieren.
- Diese Fähigkeit bietet Vorteile bei der Automatisierung von Routineaufgaben, bringt aber auch neue Risiken mit sich, wie unbefugte Zahlungen, Datenlecks oder Handlungen außerhalb der Befugnisse.
- Beispielsweise könnte eine KI medizinische Termine falsch buchen, was die Gesundheit von Patienten beeinträchtigt, oder Digitalsysteme ohne menschliche Genehmigung ändern.
- Das Governance-Rahmenwerk fordert von Unternehmen, die Anzahl der Werkzeuge und Systeme zu begrenzen, auf die jeder KI-Agent zugreifen darf; nicht jeder Agent benötigt Vollzugriff.
- Organisationen müssen klare „Checkpoints“ definieren, an denen menschliches Eingreifen obligatorisch ist, insbesondere bei unumkehrbaren Handlungen wie der dauerhaften Löschung von Daten.
- Obwohl KI-Agenten zunehmend autonom werden, müssen Menschen und Organisationen durch eine klare Rollen- und Verantwortungsverteilung die letztendliche Verantwortung tragen.
- Das neue Rahmenwerk baut auf der 2020 veröffentlichten Version für traditionelle KI-Governance auf und umfasst Beiträge aus dem öffentlichen und privaten Sektor.
- Die Regierung von Singapur möchte dies frühzeitig veröffentlichen, um Erwartungen zu formulieren, während Unternehmen noch an der Architektur ihrer agentischen KI arbeiten.
- Die Vorstellung auf dem Weltwirtschaftsforum in Davos soll ein Signal an internationale Anbieter senden, die Kunden in Singapur bedienen.
- Das Rahmenwerk soll zudem kleinen und mittleren Unternehmen helfen, einen gerechteren Zugang zu Wissen für die sichere Implementierung agentischer KI zu erhalten.
Fazit: Singapur hat am 22. Januar 2026 in Davos das Governance-Rahmenwerk für agentische KI vorgestellt und verfolgt damit einen proaktiven Ansatz: nicht auf Vorfälle warten, sondern vorher handeln. Durch Zugriffsbeschränkungen, die Forderung nach menschlichem Eingreifen und die Betonung der Verantwortung der Organisationen will Singapur die Vorteile der Automatisierung nutzen, ohne das Vertrauen zu opfern. Dies ist ein früher, aber strategischer Schritt, um KI in risikoarmen Szenarien zu testen und irreversible Folgen zu vermeiden.
