- 中国政府が資金提供した研究は、AIを社会信用評価システムに組み込むことで、広範囲にわたる行動監視やアルゴリズムによる差別につながる可能性があると警告している。
- 四川大学の法学博士課程に在籍するLin Jianxing氏による研究は、2026年9月に『四川師範大学学報』に掲載された。
- 研究によると、規制当局はビッグデータと予測アルゴリズムを活用し、市民のオンライン・オフラインでの活動を数値化されたスコアに変換する可能性がある。
- こうした評価スコアは、法的な権利や義務を直接変更しなくても、医療サービス、金融信用、公共サービスへのアクセスに影響を及ぼす可能性がある。
- AIは、政府機関によるニーズの把握、リスク予測、資源配分、社会管理業務の自動化を支援する。
- しかし、データの品質の低さ、アルゴリズムの不透明性、監督体制の不備は、偏った判断や差別を招くおそれがある。
- 研究者は、複数の情報源から集めた行動データを組み合わせることで、リスク管理ツールが個人の行動を追跡するシステムへと変わる可能性を指摘している。
- 中国は公共行政へのAI導入を推進している。安徽省では、複数の行政機関が保有する低所得者層のデータを連携させる社会扶助監視プラットフォームが開発された。
- スタンフォード大学が紹介した研究によると、中国の社会信用システムは複数の独立したプログラムで構成されており、全国民を一律に採点する単一の全国ネットワークではない。
- 行動評価システムを導入している都市はごく一部に限られる。また、一部の制度では一般市民よりも政府職員が厳しく監視されている。
📌 この研究は、AIを社会統治に活用することについて、中国の学術界内部にも慎重な見方があることを示している。AIはリスク予測能力を高め、公共サービスをより積極的に提供することに役立つ一方、過度な監視、不透明性、差別のリスクを増大させる可能性もある。核心的な課題はアルゴリズムの精度だけではなく、個人データの利用範囲、説明責任を求める権利、そして行政上の自動化された意思決定を監督する仕組みにもある。
