- Исследование, финансируемое правительством Китая, предупреждает, что интеграция ИИ в системы оценки социального доверия может привести к масштабному наблюдению за поведением граждан и алгоритмической дискриминации.
- Работа Линь Цзяньсина, аспиранта юридического факультета Сычуаньского университета, была опубликована в Журнале Сычуаньского педагогического университета в сентябре 2026 года.
- Согласно исследованию, регулирующие органы могут использовать большие данные и прогностические алгоритмы, чтобы преобразовывать онлайн- и офлайн-деятельность граждан в количественные баллы.
- Такие оценки могут влиять на доступ к медицинским услугам, финансовым кредитам и государственным услугам, даже если они напрямую не меняют юридические права и обязанности граждан.
- ИИ помогает государственным ведомствам выявлять потребности, прогнозировать риски, распределять ресурсы и автоматизировать процессы социального управления.
- Однако низкое качество данных, непрозрачность алгоритмов и недостаточные механизмы надзора могут приводить к ошибочным решениям или дискриминации.
- Исследователь предупреждает, что объединение поведенческих данных из различных источников может превратить инструменты управления рисками в системы отслеживания поведения отдельных людей.
- Китай активно внедряет ИИ в государственное управление. В провинции Аньхой разработана платформа мониторинга социальной помощи, объединяющая данные о малообеспеченных гражданах из разных государственных ведомств.
- Согласно исследованию, представленному Стэнфордским университетом, китайская система социального доверия состоит из множества разрозненных программ, а не представляет собой единую общенациональную сеть оценки всех граждан.
- Лишь небольшая доля городов внедрила местные системы оценки поведения. Некоторые механизмы контролируют государственных служащих даже строже, чем обычных граждан.
📌 Исследование отражает осторожное отношение части китайского академического сообщества к применению ИИ в социальном управлении. Искусственный интеллект может повысить эффективность прогнозирования рисков и сделать предоставление государственных услуг более инициативным, но одновременно усилить угрозы чрезмерного наблюдения, непрозрачности и дискриминации. Ключевой вопрос заключается не только в точности алгоритмов, но и в ограничениях на использование персональных данных, праве требовать объяснений и механизмах контроля автоматизированных административных решений.
