- Eine von der chinesischen Regierung finanzierte Studie warnt, dass die Integration von KI in Systeme zur Bewertung der sozialen Kreditwürdigkeit zu umfassender Verhaltensüberwachung und algorithmischer Diskriminierung führen könnte.
- Die Forschungsarbeit von Lin Jianxing, Doktorand der Rechtswissenschaften an der Sichuan-Universität, wurde im September 2026 im Journal of Sichuan Normal University veröffentlicht.
- Der Studie zufolge könnten Aufsichtsbehörden Big Data und Prognosealgorithmen nutzen, um die Online- und Offline-Aktivitäten der Bürger in numerische Bewertungen umzuwandeln.
- Diese Bewertungen könnten den Zugang zu Gesundheitsversorgung, Finanzkrediten und öffentlichen Dienstleistungen beeinflussen, ohne dabei unmittelbar die gesetzlichen Rechte und Pflichten der Bürger zu verändern.
- KI ermöglicht es staatlichen Behörden, Bedürfnisse zu erkennen, Risiken vorherzusagen, Ressourcen zu verteilen und Aufgaben der gesellschaftlichen Verwaltung zu automatisieren.
- Eine schlechte Datenqualität, undurchsichtige Algorithmen und unzureichende Kontrollmechanismen könnten jedoch zu fehlerhaften Entscheidungen oder Diskriminierung führen.
- Der Forscher warnt, dass die Zusammenführung von Verhaltensdaten aus verschiedenen Quellen Instrumente des Risikomanagements in Systeme zur Überwachung des individuellen Verhaltens verwandeln könnte.
- China treibt den Einsatz von KI in der öffentlichen Verwaltung voran. Die Provinz Anhui hat eine Plattform zur Überwachung sozialer Hilfsleistungen entwickelt, die Daten über einkommensschwache Bevölkerungsgruppen zwischen verschiedenen Behörden verknüpft.
- Einer von Stanford vorgestellten Studie zufolge besteht Chinas Sozialkreditsystem aus zahlreichen voneinander getrennten Programmen und nicht aus einem einheitlichen landesweiten Netzwerk zur Bewertung aller Bürger.
- Nur ein kleiner Teil der Städte hat lokale Systeme zur Verhaltensbewertung eingeführt. Einige Mechanismen überwachen Staatsbedienstete sogar strenger als normale Bürger.
📌 Die Studie verdeutlicht, dass auch innerhalb der chinesischen Wissenschaftsgemeinschaft eine vorsichtige Haltung gegenüber dem Einsatz von KI in der gesellschaftlichen Verwaltung besteht. KI kann die Fähigkeit zur Risikoprognose verbessern und eine proaktivere Bereitstellung öffentlicher Dienstleistungen ermöglichen, zugleich aber die Risiken übermäßiger Überwachung, mangelnder Transparenz und Diskriminierung erhöhen. Die zentrale Frage betrifft nicht nur die Genauigkeit der Algorithmen, sondern auch die Grenzen der Nutzung personenbezogener Daten, das Recht auf Rechenschaft und Erklärungen sowie die Kontrollmechanismen für automatisierte Verwaltungsentscheidungen.
