- Une étude financée par le gouvernement chinois avertit que l’intégration de l’IA dans les systèmes d’évaluation du crédit social pourrait entraîner une surveillance généralisée des comportements et une discrimination algorithmique.
- Les travaux de Lin Jianxing, doctorant en droit à l’Université du Sichuan, ont été publiés en septembre 2026 dans le Journal of Sichuan Normal University.
- Selon l’étude, les autorités de régulation pourraient utiliser les mégadonnées et des algorithmes prédictifs pour convertir les activités en ligne et hors ligne des citoyens en scores quantifiés.
- Ces scores pourraient avoir une incidence sur l’accès aux soins de santé, au crédit financier et aux services publics, sans pour autant modifier directement les droits et obligations juridiques des citoyens.
- L’IA permet aux organismes publics d’identifier les besoins, de prévoir les risques, d’allouer les ressources et d’automatiser les activités de gestion sociale.
- Toutefois, la mauvaise qualité des données, le manque de transparence des algorithmes et l’insuffisance des mécanismes de contrôle pourraient entraîner des décisions biaisées ou discriminatoires.
- Le chercheur avertit que le regroupement de données comportementales provenant de plusieurs sources pourrait transformer les outils de gestion des risques en systèmes de suivi des comportements individuels.
- La Chine encourage le recours à l’IA dans l’administration publique. La province de l’Anhui a développé une plateforme de suivi de l’aide sociale reliant les données sur les personnes à faibles revenus détenues par différents organismes publics.
- Selon une étude présentée par Stanford, le système chinois de crédit social se compose de nombreux programmes distincts et non d’un réseau national unique attribuant une note à tous les citoyens.
- Seule une faible proportion de villes a mis en place des systèmes locaux d’évaluation des comportements. Certains mécanismes surveillent même les fonctionnaires plus étroitement que les citoyens ordinaires.
📌 Cette étude témoigne de la prudence qui existe également au sein du milieu universitaire chinois quant à l’utilisation de l’IA dans la gouvernance sociale. L’IA peut améliorer les capacités de prévision des risques et favoriser une prestation plus proactive des services publics, mais elle peut aussi accroître les risques de surveillance excessive, de manque de transparence et de discrimination. L’enjeu central ne concerne pas uniquement la précision des algorithmes, mais aussi les limites de l’utilisation des données personnelles, le droit d’obtenir des explications et les mécanismes de contrôle des décisions administratives automatisées.
