开沿科技
13305079753
方法论与思考

企业 Agent 哪些动作必须人工确认?

开沿研发中心·2026-08-29·4 分钟阅读
企业 Agent 哪些动作必须人工确认?

先给结论:企业 Agent 是否必须人工确认,应由动作风险决定,不由模型“有多确定”决定。 凡是涉及资金或库存、对外承诺、权限提升、不可逆变化、大范围对象以及法律或专业裁量,都应在执行前由有权人确认。

这套分级适合已经允许 Agent 调用 CRM、ERP、审批、消息或账号系统的企业;如果 Agent 只做检索、摘要和草稿,重点是数据权限与引用核验,不需要给每一步都加确认按钮。相反,把所有动作都塞进同一个“请确认”弹窗,会让员工形成机械点击,人审很快失去意义。

用 5 个维度判断是否人审

维度 低风险信号 必须人工确认的信号
可逆性 可一键撤回,且不会触发下游动作 删除、发布、生效后难以恢复
资金与库存 只读或生成核对清单 付款、退款、改价、库存释放或占用
对外承诺 内部草稿、内部提醒 向客户或供应商发出交期、价格、赔付、责任表述
权限变化 查询本人已有权限 提权、授权他人、创建高权账号、导出敏感数据
影响范围 单对象、低影响、可回读 批量对象、跨部门、跨组织或影响生产运行

只要任一列落入右侧,就不应让 Agent 自行放行。数据冲突、证据缺失或目标对象不唯一时,即使动作看起来可逆,也应升级给人判断。

四级动作分层

级别 典型动作 默认策略
L0 只读与草稿 查订单、整理差异、拟回复 自动执行,保留来源与日志
L1 低影响可逆 创建内部待办、补充非关键备注 可自动执行,限定对象和字段,写后回读
L2 受控业务写入 修改下一步日期、更新项目普通状态 按角色和场景配置确认;批量时强制确认
L3 高风险动作 付款、改价、库存放行、对外发送、权限提升、删除 有权人确认;必要时双人或专业岗位复核

分层不是按系统名称。CRM 里追加一条内部备注可能是 L1,修改客户负责人可能是 L2,修改合同金额就是 L3;同一个系统里也有不同风险。

人审卡片要让人真正能判断

一张合格的确认卡片至少要显示:

  • 谁发起、Agent 准备执行什么;
  • 目标对象的稳定 ID、名称和所属组织;
  • 修改前值、拟修改值、证据来源与规则版本;
  • 影响范围、可能触发的下游动作、能否回滚;
  • 授权有效期,以及拒绝、退回补证、转专业人三种出口。

只展示一句“Agent 建议执行,是否同意”,并不叫人审。审批人无法看到对象和影响,只能盲点。对于批量动作,还要展示总对象数、抽样明细和异常清单,不能把一百个不同风险的动作压成一次确认。

例如销售 Agent 准备给客户发送交期变更。它可以自动整理订单、库存和项目证据,也可以生成话术;但销售负责人要确认新日期和对外表述。确认后,Agent 还要重新校验订单版本是否变化,再发送并检查消息回执与 CRM 记录。人点了同意只是授权终点,不是业务终态。

三种常见错误

第一,把模型置信度当授权。模型可以判断自己是否缺信息,但无论分数多高,都不能因此获得付款或提权资格。

第二,把人审放在动作之后。先发消息再让人“追认”,对外承诺已经发生;先释放库存再审批,也已经影响履约。高风险确认必须位于执行前。

第三,批准后不复核上下文。人审排队期间,对象版本、金额或负责人可能变化。执行前必须检查批准所依据的对象版本仍然有效,变化则让批准失效并重新确认。

权限本身还要经过确定性校验,具体可看企业 Agent 权限三重校验;执行完成后则按写后回读 6 步核对真实终态。准备落地时,可从AI 落地五项工程把角色、风险级别、确认人和回读路径一起设计,避免最后只补一个形式化弹窗。

7
专注企业数字化
2000+ 家
服务企业
1000+ 个
交付项目
钉钉认证
服务商
把方法用起来

想就你公司当前的状况,聊一下下一步从哪切

看完文章你应该能判断大方向。如果想就具体场景再细聊「第一步先做哪个 / 现有系统能不能复用 / 大概多长周期」,可以加我们顾问微信——30 分钟,免费方案诊断。

看客户案例

常见问题

基于这个话题最常被问到的 3 个具体问题

Q1. 企业 Agent 的所有写操作都要人工确认吗?

不必。低影响、可逆、范围明确且有写后回读的内部动作可以按策略自动执行;资金、库存、对外承诺、权限提升和大范围动作必须确认。

Q2. 模型置信度高,能跳过人工确认吗?

不能。是否人审由动作影响和企业政策决定,不由模型自评置信度决定。高置信度也不能获得付款、授权或对外承诺权。

Q3. 人工点击同意后就算任务完成了吗?

不算。同意只代表授权执行;执行后仍要从权威系统回读结果,失败、部分成功或授权过期都应保持开放并交由责任人处理。

开沿研发中心

开沿研发中心

开沿科技的方法论与技术团队,把一线交付中的经验沉淀成可复用的方法。了解研发中心 →