- 纽芬兰与拉布拉多省委托德勤撰写的一份长达 526 页、价值近 160 万美元的健康报告被发现含有疑似由生成式 AI 导致的错误,包括错误引用和不存在的学术文献。
- 《独立报》的一项调查显示,该报告使用了虚假的学术论文,引用了科学家们从未参与过的著作,甚至提到了从未合作过的“虚构”作者群体。
- 德勤加拿大坚称其报告中的建议是可靠的,并表示 AI 仅被“有选择地”用于辅助一些引用,并且目前的修改只涉及“少数”错误,不影响结论。
- 报告中引用的来自《加拿大呼吸治疗杂志》(Canadian Journal of Respiratory Therapy)的一篇研究论文在数据库中也无法找到。
- 被错误引用到一篇不存在的文章中的 Gail Tomblin Murphy 教授评论道,这种失真程度表明可能使用了大量的 AI;她警告说,如果支持政策的证据未经证实,将存在严重风险。
- 该报告侧重于虚拟护理、医疗人员留用和 COVID-19 的影响,而该省正面临医生和护士短缺的问题。截至周一,该文件仍保留在政府网站上。
- 根据信息公开请求,该省已分 8 期支付了费用。新任省长 Tony Wakeham 的政府尚未发表评论。
- 此事件发生于澳大利亚类似丑闻之后:德勤为支持福利政策而撰写的一份价值 29 万美元的报告被发现存在“AI 幻觉”(AI hallucinations),其中包含虚假的学术材料和错误引用。德勤随后承认使用了 Azure OpenAI,并更新了报告并部分退还了费用。
- 目前尚无加拿大是否要求德勤退款的信息。
📌 纽芬兰与拉布拉多省委托德勤撰写的一份长达 526 页、价值近 160 万美元的健康报告被发现含有疑似由生成式 AI 导致的错误,包括错误引用和不存在的学术文献。德勤否认 AI 撰写了报告,但承认使用 AI 辅助了引用。这是继澳大利亚事件之后的第二起丑闻,引发了对 AI 用于政府咨询文件时其准确性和责任性的担忧。
