- L’Afrique du Sud a été contrainte de retirer son projet de politique nationale sur l’IA après avoir découvert que de nombreuses citations dans le document étaient fausses et présentaient des signes de création par une IA générative.
- Le document était sur le point d’être finalisé au Parlement lorsque des références inexistantes ont été découvertes dans la liste des sources.
- Le ministre des Communications et des Technologies numériques, Solly Malatsi, a déclaré le 26 avril que cet incident portait gravement atteinte à l’intégrité et à la fiabilité de la politique.
- Il a souligné qu’il ne s’agissait pas d’une simple erreur technique, mais d’une conséquence du manque de vérification lors de l’utilisation de l’IA générative.
- Le projet initial proposait la création d’une commission nationale sur l’IA, d’un conseil d’éthique et d’un organisme de réglementation distinct.
- La politique comprenait également des incitations fiscales, des subventions et des fonds de soutien pour stimuler l’investissement du secteur privé.
- L’objectif de l’Afrique du Sud est de devenir le principal centre d’innovation en IA en Afrique.
- Le problème des « hallucinations de l’IA » continue de susciter la controverse en créant de la désinformation, en particulier dans les documents juridiques.
- Plus de 900 cas aux États-Unis ont recensé des avocats utilisant des documents d’IA contenant de fausses citations.
📌 L’incident a forcé l’Afrique du Sud à suspendre ses ambitions de leadership en IA lorsqu’une politique clé a été retirée en raison de graves manquements dans la vérification des données. Les fausses citations générées par l’IA ont sapé la crédibilité du document, alors que le plan prévoyait de grandes initiatives comme des organismes de régulation et des incitations économiques. L’affaire reflète également les risques mondiaux avec plus de 900 cas similaires, soulignant le rôle indispensable de la supervision humaine.
