- Due agenzie governative sudafricane, il Dipartimento delle Comunicazioni e delle Tecnologie Digitali e il Dipartimento degli Affari Interni, hanno sospeso un totale di quattro funzionari.
- La causa è stata la presenza nei documenti sulla politica dell’IA di citazioni accademiche “inesistenti”, sospettate di essere state generate dall’IA (allucinazioni).
- La bozza della politica nazionale sull’IA è stata ritirata dalla consultazione pubblica dopo la scoperta di almeno sei riferimenti falsi.
- Un altro documento riguardante l’immigrazione e la cittadinanza ha riportato errori simili nonostante l’approvazione di alto livello.
- Il governo ha ammesso che l’uso incontrollato dell’IA ha compromesso l’integrità dei documenti.
- Studi legali indipendenti sono stati incaricati di indagare e rivedere tutti i documenti a partire dal 2022.
- Le autorità applicheranno processi obbligatori di dichiarazione e verifica dell’IA nell’approvazione dei documenti.
- Il ministro Leon Schreiber ha chiesto l’applicazione di controlli sull’IA in tutto il governo.
- L’incidente solleva preoccupazioni sulla affidabilità delle politiche pubbliche se l’IA viene abusata.
- Necessità urgente: creare meccanismi per rilevare le allucinazioni e definire responsabilità chiare in caso di errori dell’IA.
📌 Conclusione: Quattro funzionari del governo sudafricano sono stati sospesi e la bozza della politica nazionale sull’IA è stata ritirata dopo la scoperta di almeno sei falsi riferimenti sospettati di essere generati dall’IA. L’incidente dimostra i gravi rischi dell’uso incontrollato dell’IA nella formulazione delle politiche. Sono bastate poche citazioni false per far ritirare documenti nazionali e sospendere funzionari. Ciò sottolinea che l’IA necessita di una supervisione rigorosa, con chiari processi di verifica e responsabilità per proteggere la fiducia pubblica.
