- 多年来,企业 AI 战略基于“人机回环”模型,即人类审查、批准并对 AI 的每项建议负责。
- 随着企业必须处理数千个工作流、连续的数据流以及以秒而非天为单位的响应需求,这种模型正失去可扩展性。
- 人工批准造成了瓶颈;当数量超过处理能力时,“检查所有”很容易变成“什么都不检查”。
- AI 不再仅仅是仪表板或决策支持工具,而是正被直接集成到工作流中,自行触发行动并实时协调流程。
- “流中 AI(AI-In-The-Flow)”这一概念描述了 AI 成为运营流程的一部分,被授予在预定义边界内行动的权力。
- 监督不再依赖于持续的人工检查,而是基于嵌入式治理机制:基于角色的权限、策略约束、日志记录、监控和自动异常处理。
- 医疗保健领域的例子:AI 自动生成临床记录、更新病历并触发护理工作流。在客户运营中:AI 对工单进行分类,并在多个系统中协调和处理。
- 3 大驱动力:运营复杂性增加;能够自我协调任务的代理 AI(Agentic AI)的出现;来自 CEO 和董事会要求降低成本、缩短周期和控制风险的压力。
- 70% 的公司拥有跨职能的 AI 监督委员会,但只有 48% 实施了实际的安全护栏,导致许多组织在授予 AI 自动权力时犹豫不决。
- 领导者需要确定决策边界,将治理嵌入工作流,设计异常处理,并通过周期时间、单笔交易成本、错误率和恢复速度来衡量,而不仅仅是模型准确性。
📌 企业正从“人机回环”转向“流中 AI”,因为运营规模和复杂性超出了人工监督的能力。当 70% 的企业拥有 AI 委员会但只有 48% 拥有可执行的安全护栏时,治理差距成为主要障碍。现在的 AI 不仅提出建议,还在确定的边界内直接行动。成功取决于运营设计、嵌入式治理以及通过实际业务成果(而非仅仅是模型准确性)进行衡量。
