南非官员因引用 AI 生成的“不存在的研究”而被停职

• 南非政府的两个部门——通信和数字技术部以及内政部，共对四名官员实施了停职处理。
• 原因为其编写的 AI 政策文件中包含了“不存在”的学术引用，疑似由 AI 虚构（幻觉）。
• 在发现至少六处虚假参考文献后，国家 AI 政策草案已从公众咨询中撤回。
• 另一份关于移民和公民身份的文件尽管已获得高级批准，也被发现存在类似的错误。
• 政府承认，对 AI 使用缺乏控制损害了文件的完整性。
• 已聘请独立律师事务所调查并审查自 2022 年以来的所有文件。
• 当局将在文件审批中实施强制性的 AI 申报和检查流程。
• 里昂·施赖伯（Leon Schreiber）部长呼吁在整个政府范围内实施 AI 控制。
• 该事件引发了人们对如果 AI 被滥用，公共政策可靠性的担忧。
• 迫切需求：建立幻觉检测机制以及 AI 出错时的明确责任制。

📌 结论： 在发现至少六处疑似由 AI 生成的虚假参考文献后，四名南非政府官员被停职，国家 AI 政策草案也被从公众咨询中撤回。这一事件展示了在政策制定中不受控地使用 AI 的严重风险。仅需几处虚假引用就足以导致国家文件被撤回及官员停职。这强调了 AI 需要受到严格监管，并具备明确的验证流程和问责机制，以维护公众信任。