故障与错误恢复

何时使用

• Agent 反复调用同一工具毫无进展、陷入死循环或死亡螺旋
• 流式响应在思考/正文/工具调用参数中途断开，需要续写
• 模型 API 限流、过载、超时、输出触顶，需要重试或降级
• 上下文窗口溢出、压缩失败、轨迹结构损坏（工具调用缺配对结果）
• 主模型持续不可用，要把轨迹交给另一家模型接着跑
• 设计重试策略、熔断阈值、错误暴露边界
• 工具调用幻觉/参数畸形，需要让模型自我纠正

核心原则

故障分类学：四层。 先分类再处理，不同层的故障走完全不同的恢复路径：

• API 层：限流（429）、过载、请求超时、连接中断、输出触顶被截断。与任务内容无关，是基础设施噪声——可重试。
• 工具层：幻觉调用（调用不存在的工具）、参数畸形、执行抛异常，以及最危险的一种：工具反复返回同一错误，模型不加改变地反复重试。
• 上下文层：窗口溢出、压缩失败、轨迹结构损坏。
• 控制流层：死循环（相同操作无进展）与死亡螺旋（恢复逻辑自身又调 LLM、再次出错、连锁反应）。

检测：先分类，再计数。 第一个判断不是"要不要重试"而是"值不值得重试"：可重试错误（限流、过载、网络抖动）重试才有意义；不可重试错误（参数不合法、权限不足、工具不存在）原样重试一万次结果相同，必须改变输入或策略。生产级 Harness 维护一张"错误 → 恢复策略"的映射表，而不是笼统地"出错就重试"。单次错误之外还要检测模式：对"工具名 + 参数"计算指纹，相同指纹反复出现就是无进展循环的明确信号；每条恢复路径维护独立的连续失败计数，为熔断提供依据。

活性与完整性监控。 流式连接最危险的失败不是断开（会立即报错），而是静默卡死——连接建立但数据流停止。SDK 超时往往只覆盖初始连接而非传输过程，需要独立的空闲看门狗（超过设定时间无新输出即判定卡死，主动杀死挂起的流并重试）。可推广为：每个长连接都需要活性信号，而非仅依赖连接超时。完整性监控针对轨迹结构：发现工具调用缺少配对结果消息时，在注入上下文前自动修复配对，而不是把结构异常抛给模型或用户。产品模式可用占位符宽容修补，训练数据收集模式则拒绝修复——合成占位符会污染训练数据。

恢复：分级升级，逐级透明。 能用低级别解决就不升级：

1. 静默重试——可重试错误的默认动作。指数退避叠加随机抖动（避免客户端同步重试造成二次拥塞，尊重服务端的等待时长提示）；区分前台与后台调用：主循环失败要重试，标题生成、输入建议这类辅助性后台调用失败直接放弃，否则后台重试挤占主链路配额，形成"重试放大"。
2. 降级与接续——重试无效时改变请求本身。输出触顶：先静默提升输出上限重发，仍不够再在消息末尾追加元指令让模型从断点接续；主模型过载时降级到备用模型（先剥离旧模型私有格式块，否则新模型解析不了历史）；高成本模式被限流时暂时回落到标准模式。
3. 暴露给用户——所有自动手段用尽后才呈现错误，并附上已尝试过的恢复动作。

工具层错误走另一条路：不终止会话，把错误变成模型的输入。 幻觉调用收到"工具不存在"的结构化错误结果；参数校验失败收到附带输入约束提示的错误；畸形参数（该是对象却输出字符串）在执行前先程序化修复。错误以普通工具结果身份进入上下文，由模型下一轮自行纠正——喂回的错误越具体，自我纠正成功率越高。

错误处理的边界不是单次请求，而是整个恢复循环。 在确认无法恢复之前，中间错误不暴露给消费者（用户或订阅事件的下游系统）：恢复期间扣留错误消息，恢复成功则消费者毫无感知，所有手段均失败后才统一呈现。

跨厂商接管：带走文字，带不走凭证。 换一家模型把轨迹接着跑完，真正的障碍不是接口地址，而是轨迹里有只属于原厂商的东西。工具调用与结果各家结构不同但语义一致，重新渲染即可；难办的是思考——它由可读文字和厂商凭证（证明这段思考出自它自己）构成，文字换一家仍读得懂，凭证换一家就失效。且凭证未必附在思考上，也可能附在工具调用上（如 Google 的 thoughtSignature），所以"把思考删干净就安全"反而会在严格校验的厂商处失败。接管方案按最严格的一端设计：把历史工具调用改写成文字叙述，模型不再当作真正调用过，但至少能接着跑。由此得到设计原则：轨迹按中立格式存储——思考拆成可移植文字与不可移植凭证两个槽位，工具调用只记名称与参数，标识符渲染成具体请求时按目标厂商重新生成；切换时凭证一律丢弃，文字以普通内容身份带入。中立轨迹还服务于评估重放、训练样本构造、经验提取。

终止：每条恢复路径都要有上限。 恢复机制本身也可能失效：上下文压缩连续失败若干次就放弃压缩，权限分类连续失败就回退人工询问，输出接续最多固定轮数。阈值来自生产数据而非拍脑袋——Claude Code 的"连续 3 次"压缩熔断阈值来自真实会话统计（曾有会话连续失败三千余次，仅此一类无效重试每天全球浪费约 25 万次 API 调用；3 次是"绝大多数故障此前已恢复"与"继续重试基本无望"之间的经验拐点）。

死亡螺旋防护。 错误处理路径中的逻辑本身又调用 LLM，再次出错引发连锁。真实案例：上下文溢出触发"结束时自动提交代码"钩子，钩子调 LLM 生成 commit message 再次溢出，又一次触发钩子。防护两条：错误路径上禁用一切会再次调用模型的副作用逻辑（宁可丢掉自动记忆提取之类的辅助功能），以及用递归深度计数器检测并打断残余连锁。最后叠加全局终止条件：最大迭代轮数、会话预算上限、连续失败超阈值升级人工。

流式中断的三个断点、三种恢复方式。 断点可能出现在：思考中途、正文中途、工具调用参数中途。恢复方式：① 丢弃半截内容整轮重发（最贵但最稳）；② 把半截内容作为末尾 assistant 消息要求模型接着写（部分厂商原生支持，其余需显式标注待续写消息，没有该接口则退回下一种）；③ 追加一条元指令说明从断点继续。注意：半截的工具调用无法以原生结构回传，需先转成文字再让模型补完，拼接后重新解析校验；若半截输出里已有工具因流式提前执行，续写前按调用指纹去重，避免重复副作用；拼接处容易多出空白或重复字符——参数合法不等于语义正确。

实践模式

建一张错误 → 策略映射表（比"出错就重试"的根本改进）：

1. 捕获异常 → 归入 API/工具/上下文/控制流四层之一
2. 可重试？→ 指数退避 + 抖动静默重试（前台重试、后台放弃）
3. 改变请求可救？→ 提升输出上限 / 追加接续元指令 / 降级备用模型 / 回落标准模式
4. 工具层错误 → 结构化错误结果喂回上下文，让模型下轮自我纠正
5. 持续失败 → 查恢复路径的连续失败计数器，超阈值熔断（阈值从生产日志统计得出）
6. 全部失败 → 统一向用户暴露，附已尝试的恢复动作清单

流式恢复实现清单：记录断点类型（思考/正文/参数）；半截工具调用转文字 + 指纹去重；拼接后重新解析校验参数；对比三种方式的 token 成本与恢复成功率，选默认路径。

接管实现清单：轨迹存中立格式（文字/凭证分离）；渲染层按目标厂商重组；凭证一律丢弃；遇强制凭证校验的厂商，历史调用改写为文字叙述；切换后监控重复调用指纹。

常见陷阱

• 笼统"出错就重试"：不可重试的错误（参数不合法、权限不足）重试多少次都一样
• 只依赖连接超时：静默卡死（连接通但无数据）检测不到，必须配空闲看门狗
• 后台辅助调用也重试：重试放大挤占主链路配额
• 恢复期间把中间错误暴露给用户或下游事件订阅者
• 没有熔断上限：一条恢复路径连续失败三千次，白白烧掉海量 API 调用
• 错误处理路径自身调用 LLM：死亡螺旋，连锁故障
• 以为删掉思考就安全跨厂商接管：凭证可能挂在工具调用上
• 续写半截输出不按调用指纹去重：已执行的工具产生重复副作用
• 训练数据收集模式用占位符修补缺失消息：污染训练数据

配套代码

• chapter5/provider-failover/ — 实验 5-1/5-2：中立轨迹格式实现跨厂商接管（直传/剥离/中立三臂对照）与流式三断点接续
• chapter5/log-diagnosis/ — 诊断 Agent 读轨迹定位根因、生成回归测试、真实重放验证并建 Issue 的完整闭环
• chapter5/adaptive-log-parser/ — 自愈循环示范：解析失败不报错，而是把失败样本交给 Agent 生成代码、测试、热更新

深度阅读

• book/chapter5.md「故障与错误恢复」
• book/chapter5.md「Coding Agent」→「实现技巧」（并行工具调用、流式执行与级联中止）
• book/chapter1.md「Harness 工程：模型之外的竞争力」（纠正机制与"不暴露中间态"原则）