Axon Agent 什么时候应该停下来问人

Axon AI 2026-05-31 AI 数字员工 Agents 数字员工
#Agent exception handling#Trust Mode#Axon Agent#AI 自动化边界
Axon Agent 什么时候应该停下来问人
摘要:Agent exception handling 应该被视为产品设计,而不是失败提示。好的 Axon Agent 会知道什么时候继续,什么时候把不确定性交给人。

Agent exception handling 是 AI 数字员工判断“该继续还是该停下”的产品机制:当来源冲突、负责人缺失、动作不可逆、权限不明或连续不确定时,Axon Agent 应该把任务交回给人,而不是假装自己有把握。团队最耗时的不是看到一次异常,而是重复手动修正、反复解释、最后仍然担心出错。很多自动化失败并不是模型不会写,而是系统没有设计停顿点。它一路往下跑,直到把错误带进邮件、文档、日程或客户沟通里。

NIST AI Risk Management Framework 把 AI 风险管理放在治理和可管理性框架里,OWASP LLM Top 10 也提醒应用层需要处理提示注入、敏感信息、过度代理等风险。对 Axon 来说,Trust Mode 不是一个漂亮的安全标签,而是 Agent exception handling 的核心界面:低风险步骤可以继续,高风险或不确定步骤必须停下来。

这篇文章不把异常写成“错误弹窗”。对团队来说,异常是工作事实:资料不一致、客户话术没有 owner、文件缺失、上游没有更新、同一字段出现两个版本。真正的产品质量,不是把这些问题藏起来,而是让 Agent 在合适的位置停下,并把原因说清楚。

异常不是失败,盲目继续才是失败

一个周报 Agent 读到两份状态相反的项目文档,应该继续生成吗?一个邮件 Agent 看到客户催促退款,但没有找到审批记录,应该自动回复吗?一个日程 Agent 发现会议时间冲突,应该自行删除旧会议吗?

这些问题的答案通常不是“让模型更聪明”。答案是让 Agent 有明确的异常规则。Codex 与 Axon 的自动化边界 讨论过类似原则:执行能力越强,越需要知道什么时候停。Axon Agent 的 Trust Mode 应该把这种停顿变成稳定体验,而不是靠用户事后发现问题。

自动化真正成熟的标志,不是永远不停,而是知道哪些不确定性不能继续传递。

四类应该停下来的情况

异常类型 例子 Agent 应该怎么做
来源冲突 两份文件给出不同交付日期 标出冲突来源,请 owner 选择
权限不明 要发送外部邮件,但收件人和内容敏感 生成草稿,不自动发送
动作不可逆 删除邮件、删除日历、覆盖原始文件 进入确认或授权
连续不确定 连续两次无法判断分类 停止扩散,写出不确定原因

这里的重点是“停止扩散”。一个不确定的小点,如果被自动带进下游文档,就会变成团队需要排查的系统性问题。

异常处理要写进工作流,而不是留给运气

Axon Agent 是可解释、可检查、可定时运行的 Skill Pipeline。每一步都应该知道输入来自哪里、输出交给谁、遇到什么情况要停下来。Agent Exception Queue Runbook 这类异常队列思路能帮助团队理解:Agent 不是一条只会向前的线,它应该有继续、等待、失败、需要确认等状态。

可继续:输入完整,输出低风险,结果只进入 workspace
需确认:涉及外发、承诺、删除、覆盖或敏感资料
需补料:缺少关键来源,或来源时间过旧
需转交:Agent 连续无法判断,owner 必须接手

这段规则看起来简单,但它能让团队少很多返工。没有异常规则的自动化,短期看很流畅,长期看会让人不敢信任。

一份异常日记比一串错误码更有用

Agent exception handling 最好留下人能读懂的记录。它不需要写成复杂日志平台,但至少要回答四个问题:

  1. 停在哪一步。
  2. 为什么停。
  3. 需要谁决定。
  4. 下一次如何避免同类问题。

这和 Workspace Artifact Acceptance Contract 的思路相连:输出不是一句聊天回复,而是可以验收、可以追踪、可以修正的工作产物。

Trust Mode 是自动化的语法

很多产品把权限做成一个开关:自动或手动。Axon 不应该这么粗糙。更好的方式,是把 Trust Mode 作为工作流语法的一部分:哪些 Skill Action 可以 auto,哪些需要 confirm,哪些需要 auth。这样团队才知道 Agent 不是“想做就做”,而是在明确边界内执行。

例如:

  • 读取 workspace 文件:通常可以自动。
  • 生成文档草稿:通常可以自动。
  • 修改原始文件:需要确认。
  • 发送外部邮件:需要确认或授权。
  • 删除资料:默认不应自动。

这不是为了降低效率,而是为了让自动化可以长期运行。团队真正害怕的不是 Agent 问一句“是否继续”,而是它在没人知道的情况下做了不该做的事。

FAQ

Q1:Agent exception handling 和普通报错有什么区别?

普通报错只是告诉用户系统失败了。Agent exception handling 要说明停在哪一步、为什么停、需要谁判断,以及下一次能否通过规则或资料补充减少同类停顿。

Q2:哪些动作必须进入 Trust Mode?

外发信息、删除资料、覆盖原始文件、修改日历、涉及客户承诺或敏感内容的动作,都应进入确认或授权。低风险读取和草稿生成可以更自动。

Q3:异常太多是不是说明 Agent 没价值?

不一定。早期异常能暴露团队资料边界和责任边界。真正的问题是异常没有被记录、没有 owner、也没有进入下一次工作流改进。

Q4:哪些步骤适合无人值守?

适合固定、低风险、可验证的步骤无人值守运行。涉及高风险、外发或不可逆动作时,必须保留 Trust Mode。这是产品边界,不是能力不足。

Q5:如何减少重复异常?

把高频异常归类:资料缺失、来源冲突、权限不明、输出格式不稳定。然后分别补充 workspace 资料、明确 owner、改写 User Skill 或调整 Agent 步骤。

下一步

如果你正在设计 Axon Agent,不要只写正常路径。想了解更多可控自动化的做法,可以从 Agent exception handling 开始:哪些情况继续,哪些情况停,停下来给谁看,下一次如何减少同类异常。开始使用 Axon 时,先把这些边界写进一个低风险工作流,再扩展到更复杂的团队任务。