- Uno studio finanziato dal governo cinese avverte che l’integrazione dell’IA nei sistemi di valutazione del credito sociale potrebbe portare a una sorveglianza diffusa dei comportamenti e a discriminazioni algoritmiche.
- La ricerca, condotta da Lin Jianxing, dottorando in giurisprudenza presso l’Università del Sichuan, è stata pubblicata nel settembre 2026 sul Journal of Sichuan Normal University.
- Secondo lo studio, le autorità di regolamentazione potrebbero utilizzare i big data e gli algoritmi predittivi per convertire le attività online e offline dei cittadini in punteggi quantitativi.
- Questi punteggi potrebbero influenzare l’accesso ai servizi sanitari, al credito finanziario e ai servizi pubblici, pur senza modificare direttamente i diritti e gli obblighi giuridici delle persone.
- L’IA consente agli enti governativi di individuare i bisogni, prevedere i rischi, distribuire le risorse e automatizzare le attività di gestione sociale.
- Tuttavia, la scarsa qualità dei dati, la mancanza di trasparenza degli algoritmi e l’insufficienza dei meccanismi di supervisione potrebbero generare decisioni distorte o discriminatorie.
- Il ricercatore avverte che la combinazione di dati comportamentali provenienti da diverse fonti potrebbe trasformare gli strumenti di gestione del rischio in sistemi di monitoraggio dei comportamenti individuali.
- La Cina sta promuovendo l’impiego dell’IA nella pubblica amministrazione. La provincia di Anhui ha sviluppato una piattaforma di monitoraggio dell’assistenza sociale che collega i dati sulle persone a basso reddito tra diversi enti governativi.
- Secondo una ricerca presentata da Stanford, il sistema cinese di credito sociale è composto da numerosi programmi separati e non da un’unica rete nazionale che assegna un punteggio a tutti i cittadini.
- Solo una piccola percentuale di città ha introdotto sistemi locali di valutazione dei comportamenti. Alcuni meccanismi controllano i funzionari pubblici più rigorosamente rispetto ai cittadini comuni.
📌 Lo studio riflette la cautela presente anche all’interno della comunità accademica cinese riguardo all’applicazione dell’IA alla governance sociale. L’IA può migliorare la capacità di prevedere i rischi e rendere i servizi pubblici più proattivi, ma può anche aumentare i rischi di sorveglianza eccessiva, mancanza di trasparenza e discriminazione. La questione centrale non riguarda soltanto la precisione degli algoritmi, ma anche i limiti all’utilizzo dei dati personali, il diritto a ottenere spiegazioni e i meccanismi di controllo delle decisioni amministrative automatizzate.
