- 중국 정부의 지원을 받은 연구는 AI를 사회신용 평가 시스템에 통합하면 광범위한 행동 감시와 알고리즘 차별로 이어질 수 있다고 경고했다.
- 쓰촨대학교 법학 박사과정 연구자인 린젠싱(Lin Jianxing)의 연구는 2026년 9월 《쓰촨사범대학교 학보》에 게재됐다.
- 연구에 따르면 규제 당국은 빅데이터와 예측 알고리즘을 활용해 시민들의 온라인 및 오프라인 활동을 수치화된 점수로 전환할 수 있다.
- 이러한 점수는 시민의 법적 권리와 의무를 직접 변경하지 않더라도 의료 서비스, 금융 신용 및 공공 서비스 이용에 영향을 미칠 수 있다.
- AI는 정부 기관이 수요를 파악하고, 위험을 예측하며, 자원을 배분하고, 사회 관리 업무를 자동화하는 데 도움을 준다.
- 그러나 데이터 품질 저하, 알고리즘의 불투명성, 불충분한 감독 체계는 잘못된 판단이나 차별을 초래할 수 있다.
- 연구자는 여러 출처의 행동 데이터를 결합하면 위험 관리 도구가 개인의 행동을 추적하는 시스템으로 변질될 수 있다고 경고했다.
- 중국은 공공 행정 분야에서 AI 활용을 확대하고 있다. 안후이성은 여러 정부 기관의 저소득층 데이터를 연계하는 사회 지원 모니터링 플랫폼을 개발했다.
- 스탠퍼드대학교가 소개한 연구에 따르면 중국의 사회신용 시스템은 여러 개의 분산된 프로그램으로 구성되어 있으며, 전국민에게 일률적으로 점수를 부여하는 단일 국가 시스템은 아니다.
- 지역 행동 평가 시스템을 도입한 도시는 일부에 불과하다. 일부 제도는 일반 시민보다 공무원을 더 엄격하게 감시하기도 한다.
📌 이 연구는 사회 거버넌스에 AI를 적용하는 것에 대해 중국 학계 내부에서도 신중한 시각이 존재한다는 점을 보여준다. AI는 위험 예측 역량을 높이고 공공 서비스를 보다 선제적으로 제공하는 데 기여할 수 있지만, 과도한 감시와 불투명성, 차별의 위험을 키울 수도 있다. 핵심 쟁점은 알고리즘의 정확성뿐 아니라 개인정보 활용의 한계, 설명을 요구할 권리, 자동화된 행정 결정에 대한 통제 및 감독 체계에도 있다.
