- Deux agences gouvernementales sud-africaines, le ministère des Communications et des Technologies numériques et le ministère de l’Intérieur, ont suspendu un total de quatre fonctionnaires.
- La cause est la présence dans des documents de politique sur l’IA de citations académiques « inexistantes », soupçonnées d’avoir été générées par l’IA (hallucinations).
- Le projet de politique nationale sur l’IA a été retiré de la consultation publique après la découverte d’au moins six fausses références.
- Un autre document concernant l’immigration et la citoyenneté a révélé des erreurs similaires malgré une approbation de haut niveau.
- Le gouvernement a admis que l’utilisation incontrôlée de l’IA a compromis l’intégrité des documents.
- Des cabinets d’avocats indépendants ont été engagés pour enquêter et réviser tous les documents depuis 2022.
- Les autorités appliqueront des processus obligatoires de déclaration et de vérification de l’IA lors de l’approbation des documents.
- Le ministre Leon Schreiber a appelé à l’application de contrôles sur l’IA dans l’ensemble du gouvernement.
- L’incident soulève des inquiétudes quant à la fiabilité des politiques publiques en cas de mauvaise utilisation de l’IA.
- Besoin urgent : établir des mécanismes pour détecter les hallucinations et définir des responsabilités claires en cas d’erreur de l’IA.
📌 Conclusion : Quatre fonctionnaires du gouvernement sud-africain ont été suspendus et le projet de politique nationale sur l’IA a été retiré après la découverte d’au moins six fausses références suspectées d’être générées par l’IA. L’incident démontre les risques graves d’une utilisation incontrôlée de l’IA dans l’élaboration des politiques. Quelques citations factices ont suffi à entraîner le retrait de documents nationaux et la suspension de fonctionnaires. Cela souligne que l’IA nécessite une supervision stricte, avec des processus de vérification clairs et une responsabilité définie pour protéger la confiance du public.
