- La Cina ha pubblicato una nuova bozza di regolamento volta a controllare i servizi di IA in grado di simulare la personalità umana e impegnarsi in interazioni emotive con gli utenti, secondo Reuters.
- La bozza, emessa dalla Cyberspace Administration of China per la consultazione pubblica, indica il desiderio di Pechino di orientare l’implementazione dell’IA di consumo verso una maggiore sicurezza ed etica.
- Il regolamento si applica ai prodotti di IA disponibili pubblicamente in Cina che mostrano personalità, pensiero e stili di comunicazione simili a quelli umani.
- Le forme di interazione regolate includono testo, immagini, audio, video e altri metodi multimediali.
- I fornitori di IA dovranno avvisare gli utenti dei rischi di un uso eccessivo e intervenire quando vengono rilevati segni di dipendenza.
- Le imprese devono essere responsabili della sicurezza durante tutto il ciclo di vita del prodotto, dalla progettazione e addestramento al funzionamento.
- La bozza richiede l’istituzione di sistemi per la revisione degli algoritmi, la sicurezza dei dati e la protezione delle informazioni personali.
- Un obiettivo principale è sui rischi psicologici: i fornitori devono identificare lo stato dell’utente, valutando le emozioni e il livello di dipendenza dall’IA.
- Se gli utenti mostrano emozioni estreme o comportamenti di dipendenza, le aziende devono adottare le necessarie misure di intervento.
- Il regolamento stabilisce anche delle “linee rosse” sul contenuto: l’IA non deve generare contenuti che minacciano la sicurezza nazionale, diffondono voci o promuovono violenza e pornografia.
- Questa mossa avviene in un contesto in cui l’IA interattiva sta diventando sempre più simile all’uomo, dai chatbot emotivi ai robot umanoidi nelle zone industriali high-tech di Pechino.
📌 La nuova bozza di regolamento mostra che la Cina vuole controllare rigorosamente l’IA con interazione emotiva, considerando i rischi psicologici e la dipendenza come questioni critiche. Richiedendo la valutazione delle emozioni degli utenti, avvisi sull’uso eccessivo e interventi attivi, Pechino sta gettando le prime basi legali per l’IA “simil-umana”. Ciò potrebbe plasmare il modo in cui le aziende di IA progettano i prodotti in Cina e influenzare gli standard globali di governance dell’IA in futuro.
