人工智能挑战文档深度页
Agent 可靠性与可观测性
通过契约、限制、幂等、评测、追踪和人工升级提高端到端任务成功率。
学习目标
- 能说明Agent 可靠性与可观测性解决什么问题，以及何时适用。
- 能解释为什么“只测顺利路径”是误区。
学习前需要掌握
背景与问题
模型、工具、网络、状态和权限都是独立失败源，端到端可靠性通常低于任一局部组件分数。
概念定义
可靠性是系统在正常与异常条件下持续满足明确验收标准，并能解释和恢复失败的能力。
直观理解
可靠系统不只“通常能做”，还知道什么时候不能做、失败在哪里以及如何安全重试。
核心原理
每个边界都使用结构化输入输出契约。
限制步数、时间、成本和副作用。
离线评测、线上追踪和人工反馈形成闭环。
数学表达
串行流程的联合成功概率
A、B、C 分别表示规划、执行、验收三个环节达标。公式描述三者同时达标的概率，是条件概率的链式法则，不要求各环节独立。实际任务成功必须另有明确验收标准，不能把模型自报“通过”当作真实成功。
变量含义
A规划满足任务约束。B执行按约定正确完成。C结果满足预先定义的验收条件。P(B|A)在规划达标的样本中，执行达标的比例。P(C|A∩B)在规划和执行都达标的样本中，验收达标的比例。
计算步骤
- 1规划达标比例为 950 / 1000。
- 2在规划达标的任务中，执行达标比例为 855 / 950。
- 3在前两步都达标的任务中，验收达标比例为 838 / 855。
- 4三者相乘，得到 838 / 1000 = 83.8%。
变量解释
| 变量 | 含义 |
|---|---|
A | 规划满足任务约束。 |
B | 执行按约定正确完成。 |
C | 结果满足预先定义的验收条件。 |
P(B|A) | 在规划达标的样本中，执行达标的比例。 |
P(C|A∩B) | 在规划和执行都达标的样本中，验收达标的比例。 |
完整数值示例
从同一批任务统计端到端通过率
已知条件
- 以下数字仅为教学假设，不是实测数据。
- 1000 个任务中，950 个规划达标；其中 855 个执行达标；最后 838 个通过验收。
- 1
规划达标比例为 950 / 1000。
- 2
在规划达标的任务中，执行达标比例为 855 / 950。
- 3
在前两步都达标的任务中，验收达标比例为 838 / 855。
- 4
三者相乘，得到 838 / 1000 = 83.8%。
这批假设任务的联合通过率为 83.8%，不需要假设三个环节相互独立。
处理前后对比
- 不能直接相乘三个来自不同样本的总体通过率。
- 线上评估还应按任务类型和失败原因分组，检查验收标准是否可靠。
理解与实践步骤
- 1
定义 SLO 与验收集
- 2
为工具添加超时和幂等
- 3
记录完整轨迹
- 4
注入故障测试
- 5
分析并回归
实际应用
- 生产 Agent
常见错误
只测顺利路径
把重试当万能恢复
输入、输出与执行边界
输入
- 评测任务
- 运行轨迹
- 故障事件
输出
- 成功率、恢复率、延迟与错误预算
能力
- 生产 Agent
只读优先默认不要求审批
推荐学习资料
暂未收录相关资料
参考库不会生成虚假资源或无效外部链接。