AI 并不恐怖，恐怖的是人类仍然比相信机器更相信缺乏控制的判断

• 文章认为，关键问题不在于 AI 是否值得信赖，而在于系统如何设计以控制 AI 和人类的错误。
• 作者指出，大语言模型可能会编造信息并用假设填补空白，但人类记忆也经常是重构记忆而非准确存储。
• 作者举了一个关于高中音乐剧记忆的个人例子：记忆中参加了演出，实则只参与了布景，以此说明记忆的不准确性。
• 航空业通过检查清单、冗余机制、黑匣子以及调查未遂事故，达到了极高的安全水平。
• 医学也通过标准化的诊断流程和独立评估而非仅凭个人经验，改善了治疗结果。
• 在企业中，许多决策仍依赖于培训、经验和直觉，因此难以追踪错误。
• 2024年发表在《科学进展》（Science Advances）上的一项系统综述分析了77项研究，显示反偏见培训的效果有限。
• 更有效的因素包括清晰的流程、标准化的准则、减少自由裁量权以及在决策时的即时提醒，这些也是有效 AI 治理的基础。

📌 AI 和人类都不完美，因此不应对任何一方抱有绝对信任。组织不应只关注 AI 的准确性，而需要建立透明的流程、一致的标准、监督机制和类似航空及医学领域的错误控制机制。2024年涉及77项研究的分析也证实，高效的系统设计比仅仅改变个人认知更重要。