企业智能体全自动就够了吗?人工审批节点才是落地的关键设计
## 一、全自动智能体上线后,为什么业务部门反而不敢用了? 直接回答:因为全自动智能体在需要人工判断、审批确认或异常兜底的场景中,要么报错中断,要么越权执行了不该执行的操作,导致业务部门对智能体产生信任危机。 某制造业企业去年上线了一款全自动采购智能体:系统自动识别库存水位、自动生成采购单、自动发送给供应商。第一个月…
## 一、全自动智能体上线后,为什么业务部门反而不敢用了? 直接回答:因为全自动智能体在需要人工判断、审批确认或异常兜底的场景中,要么报错中断,要么越权执行了不该执行的操作,导致业务部门对智能体产生信任危机。 某制造业企业去年上线了一款全自动采购智能体:系统自动识别库存水位、自动生成采购单、自动发送给供应商。第一个月运行顺畅,采购周期缩短了约 40%。但到了第二个月,一批紧急物料因供应商临时涨价,智能体未做任何确认就按原价发出了采购指令,供应商拒单,产线差点停线。业务部门事后质问:「这台机器替我做了决定?出了问题谁负责?」 这不是个例。在已经落地的企业智能体项目中,一个被普遍忽视的实操痛点是:**很多团队把智能体设计成全自动,上线后才发现业务部门不敢用、合规不通过、异常场景无人兜底。** 合规部门的质疑更为直接:关键操作没有人工确认环节,风险谁来承担?从企业内控角度看,涉及资金支付、合同签署、客户数据变更等操作,若缺少人工审批节点,既不符合审计要求,也无法在出现异常时追溯责任。 ## 二、智能体落地需要回答哪三个「人机边界」问题? 直接回答:每个计划落地企业智能体的团队,必须回答三个核心问题——哪些操作可以全自动执行、哪些必须等待人工确认;异常场景谁来兜底、怎么兜底;审批节点如何设计才能兼顾效率与可控。 ### 问题一:哪些操作可以全自动执行,哪些必须等待人工确认? 划分标准通常取决于操作的风险等级和可逆性: - **低风险可逆操作**(如查询数据、生成报表、发送通知)——可全自动执行 - **中风险操作**(如修改配置、批量更新记录)——建议设置「执行前确认」节点 - **高风险操作**(如资金支付、合同签署、权限变更)——必须设置人工审批节点,且审批通过后才能执行 以企业智能体常见场景为例:知识库检索问答、内容采集与摘要生成属于低风险操作,可全自动完成;但智能体自动生成内容后直接发布到对外渠道,就属于中高风险操作,需要加入人工审核确认节点。 ### 问题二:当智能体遇到超出预设范围的异常场景,谁来兜底? 企业智能体在实际运行中一定会遇到预设范围之外的场景。例如:智能体调用工具 API 返回异常数据、知识库检索结果置信度低于阈值、用户输入的请求超出了智能体设定的权限范围。 针对这些异常场景,常见的兜底策略包括: - **自动降级**:当智能体无法完成高复杂度任务时,自动降级为「收集信息 → 转人工处理」模式 - **超时转人工**:智能体在指定时间内(如 30 秒)无法给出确定答案,自动生成工单转交人工处理 - **异常熔断**:当连续出现多次报错或异常时,暂停该智能体的自动化流程,通知运维人员介入 ### 问题三:审批节点的设计如何既不影响效率,又保证可控? 这是一个典型的「效率 vs 控制」权衡问题。实际项目中可参考以下设计原则: - **分级审批**:根据操作风险等级设置不同审批层级。低风险由流程负责人审批,高风险需多级审批 - **并行审批**:需要多角色确认的场景,可并行发送审批请求,以任意一方通过为准(适合紧急场景) - **超时自动规则**:审批人超过设定时间未响应时,按预设规则(自动通过 / 自动驳回 / 升级通知)处理 - **审批理由可追溯**:所有审批操作记录时间、操作人、审批意见,满足审计追溯要求 ## 三、编排中嵌入人工介入节点有哪些可行的设计思路? 直接回答:在 Agent 编排中嵌入人工介入节点,主要有三种设计模式——在流程节点插入审批/确认/回退点、在工具调用环节设置「确认-执行-反馈」三阶段模型、在知识库检索结果不达阈值时自动转入人工处理。 ### 模式一:流程节点中嵌入人工审批环节 在智能体编排的 DAG(有向无环图)中,可以在关键节点前后插入人工审批节点。这个节点的作用是:暂停自动化流程,等待指定角色的人工确认后,流程才继续执行。 以企业智能体编排平台(如 YCTunAgent 平台)为例,其 Agent 编排能力支持在工具调用节点之间插入「人工审批」节点,配置审批人、审批时限、驳回后回退位置等参数。具体操作步骤包括: 1. 识别需要人工介入的节点(如「生成对外发布内容」「执行数据库写入」) 2. 在该节点前插入「等待人工确认」步骤,配置审批人角色 3. 设置审批通过后继续执行、驳回后回退到指定步骤、超时后自动升级通知 4. 所有审批记录写入日志,支持事后审计追溯 ### 模式二:工具调用的「确认-执行-反馈」三阶段模型 工具调用是智能体与外部系统交互的核心能力。一个完整的工具调用过程可以拆分为三个阶段,每个阶段都适合插入人工干预: - **确认阶段(Pre-execution)**:智能体解析用户意图后,生成待执行的操作清单,提交给人工确认后再执行。适合「拟执行操作是否准确」的场景。…
https://www.fde.pub/community/forum/410