- 南非被迫撤回其国家 AI 政策草案，因为发现文件中许多引文是伪造的，并有生成式 AI 创作的迹象。
- 该文件在议会即将完成时，在来源列表中发现了不存在的参考文献。
- 通信和数字技术部长索利·马拉齐（Solly Malatsi）于 4 月 26 日宣布，这一事件严重损害了政策的完整性和可靠性。
- 他强调，这不仅仅是一个技术错误，而是使用生成式 AI 时缺乏验证的后果。
- 最初的草案建议成立国家 AI 委员会、伦理委员会和独立的监管机构。
- 该政策还包括税收优惠、补贴和支持基金，以促进私营部门投资。
- 南非的目标是成为非洲领先的 AI 创新中心。
- “AI 幻觉”问题在产生误导性信息方面继续引发争议，尤其是在法律文件中。
- 美国已有 900 多起记录在案的案例，涉及律师使用包含虚假引文的 AI 文件。
📌 这一事件迫使南非暂停了其成为 AI 领导者的雄心，一项关键政策因严重的数据验证失败而被撤回。尽管此前的计划包括监管机构和经济激励等重大倡议，但生成式 AI 产生的虚假引文削弱了文件的可信度。该事件也反映了全球风险，有 900 多个类似案例，强调了人工审核不可或缺的作用。
