- 耶鲁大学教授K. Sudhir认为，许多企业在部署AI智能体（AI Agent）时低刻估了一个关键因素：那些运行组织却不存在于正式数据或官方流程中的潜规则。
- 文章以一个富裕客户要求更新其投资账户受益人的例子开篇。AI系统处理得堪称完美：对请求进行分类、完成手续并发送自动确认。然而，一位经验丰富的财务顾问会意识到，这是客户正在考虑将资产转移到其他机构的信号。
- 一个月后，该客户果真离开了公司。
- 没有任何AI犯错，但企业依然做出了错误的决定，因为它遗漏了人类通常能够察觉的隐性信号。
- Sudhir将这层无形的能力称为“隐性组织”（implicit organization）。
- 在他看来，每家企业内部都同时存在着两套操作系统。
- 第一套操作系统是正式的流程、政策、组织架构图和有记录的数据。
- 第二套操作系统则是员工每天都在使用的隐性知识网络、个人动机、经验和判断力。
- 隐性组织承担着正式系统难以取代的三大功能：协调、激励和自我约束。
- 协调发生在员工自发交流正式流程未作要求的信息时。
- 激励源自公司内部的文化、职业声誉和社交关系。
- 自我约束是指当感觉某些事情不对劲时能够停下来的能力，即使自己拥有执行该行动的正式权力。
- Sudhir认为，目前的AI智能体可以非常迅速地访问数据和流程，但它们并不会自动拥有这些隐性要素。
- 当企业用AI取代员工时，他们不仅改变了工作的执行者，还消除许多在底层默默运行的激励与控制机制。
- 作者以信贷审核员为例。AI可以优化贷款审批速度，但无法自发理解专家多年积累的客户关系风险或行业经验。
- Ramp被列举为一个积极的案例，其设计的AI智能体可以处理绝大部分请求，但会将棘手案例转交给人类评估。人类的这些决策随后会被用于随时间推移不断改进系统。
- 麦肯锡的Lilli系统和雅诗兰黛的ConsumerIQ已经成功实现了部分组织知识的数字化。
- 然而，作者强调，检索知识并不等同于拥有判断力。
- 多智能体（Multi-agent）系统特别容易出现故障，因为它们缺乏共同的历史和经验，且没有人真正承担总体责任。
- Sudhir援引的研究显示，多智能体系统的失败率可能在40%到80%之间波动。
- 他认为企业只有三种选择：将AI嵌入现有流程、基于旧流程重新设计，或基于对隐性组织的充分理解进行重新设计。
- 第三种方案被认为是唯一有效的途径。
- 另一个长期风险是，AI可能会颠覆年轻人才的培养过程。许多入门级工作正是员工学习判断、吸收文化和积累经验以成为未来领导者的场所。如果AI完全取代了这些工作，企业未来可能会失去有能力管理AI的人力资源。
- Sudhir建议，企业必须主动重新设计学徒制、监督以及对AI的批判机制，而不是仅仅专注于自动化。
- 📌 结论： AI智能体面临的最大挑战不是技术，而是那些每天帮助企业高效运行的无形要素。K. Sudhir将其称为“隐性组织”，包括任何系统都无法完整记录的经验知识、职业动机和判断力。当AI取代人类时，企业面临着无意中消除那些保护自身免受错误决策影响的机制的风险。在作者看来，在AI领域取得成功的公司不会是那些自动化程度最高的公司，而是那些最清楚什么不能被自动化的公司。
