这个问题挺关键的,工具调用失败在 AI Agent 系统里是常态,不是异常。核心思路是——先分类,再分级,最后兜底。我之前做 Agent 编排系统的时候,工具调用成功率大概在 85% 左右,剩下 15% 都得靠降级策略兜住。如果没设计好,整个 Agent 就会频繁报错,用户体验很差。第一步:错误分类(这是基础)不是所有失败都能重试,得先分清楚。我们当时分了三类:1. 可重试错误- 临时性问题,重试可能成功网络超时、连接池耗尽第三方服务 5xx 错误限流触发(429)2. 不可重试错误- 重试也没用,得降级参数校验失败(400)权限不足(403)资源不存在(404)3. 未知错误- 不确定,保守处理超时但不确定原因返回格式异常空响应或损坏响应分类逻辑很简单,但有个坑——别把所有错误都当可重试。我们之前就犯过这个错,结果一个参数错误重试了 5 次,最后还是失败,浪费时间还可能触发限流。第二步:重试机制(带退避和抖动)可重试的错误,不能无脑重试,得有策略:
