dsh-llm-net-retry
DeepSeek Harness(dsh)插件:重试网关以
finish_reason: "network_error" 上报的模型请求失败——这类失败被 dsh 原生重试策略归为不可重试,
导致整个 turn 直接硬失败。
背景
一些 OpenAI 兼容网关(如 OpenCode Zen)把自身上游连接的瞬时失败
作为流的终止 finish_reason 上报,而不是走 HTTP/传输层错误。截至 dsh 0.1.1-rc.2,两条
adapter 路径都把它误分类:
| 路径 | 产出的失败 | 原生分类 |
|---|---|---|
llm-pi-ai(openai-completions) |
Provider finish_reason: network_error |
PI_AI_ERROR——不可重试 |
llm-deepseek |
model stopped: network_error,code NETWORK_ERROR |
不可重试 |
dsh-llm-retry 只重试 provider retryableCodes 里的码(TRANSPORT、RATE_LIMIT、SERVER、
TIMEOUT、EMPTY_RESPONSE),于是没人重试,turn——包括 subagent turn——直接失败。
而这类故障立即重试几乎总能成功。
opencode 在上游修过同样的问题: 40282c1、 e0b9e68。
dsh 本体的修复已备好并充分测试(fork 分支
fix/network-error-retryable;
dsh 目前不接受外部 PR,已按官方渠道报告至
Discussions #3949)。
在修复合入前,本插件就是解决方案;合入后它也无害:只在整个 agent/request-error
waterfall 弃权时才行动,且绝不触碰 llm-retry 自身的重试计数。
工作原理
插件挂在 agent/request-error waterfall 的末端:
- 先调用
next()——provider 的策略执行器(dsh-llm-retry)先决策。任何一方决定重试, 该决策原样透传。 - 只有当所有 listener 都弃权,且失败消息命中漏网的 network 变体——
network_error/network-error/network error,或 pi-ai 对未识别网关 stop reason 的Provider finish_reason:渲染——才调度本插件自己的有界重试。 - 重试持久化且可见:
llm/retry/llm/retry-startedsession 事件,schema 与 llm-retry 兼容,TUI 无需改动即可展示。计数使用本插件自己的 policy key(net-retry:v1…), 绝不污染 llm-retry 的计数。
已被分类为 TRANSPORT 的失败(ECONNRESET、terminated、流截断、超时、HTTP 5xx)由原生
策略重试,本插件刻意不再重复匹配。
安装
dsh plugin --profile tui add @aiwayds/dsh-llm-net-retry
包内的 cordis.patch.yml 会以插件 id dsh-llm-net-retry 挂载。
⚠️ 所有
@deepseek-ai/*包都是 peerDependencies(由 dsh 闭包解析)——绝不要把它们当普通 dependencies 装进插件,否则会出现第二份 cordis 闭包和诡异的崩溃。
配置
dsh-llm-net-retry:
mode: on # 'off' 完全摘除 listener
maxRetries: 5
backoff:
initialDelayMs: 500
maxDelayMs: 10000
jitterRatio: 0.1
(~/.dsh/settings.yaml 里按插件 id 加段,与其他插件同机制。)
未知 key 报错。默认值对齐 llm-retry 原生策略(5 次重试、500 ms→10 s 指数退避、对称抖动 0.1)。
验证
- 单测:匹配表(正/负例)、注入随机数的退避计算、配置校验、真实 cordis context 上的决策链 (透传/重试/计数/abort/mode off/下游异常韧性)。
- e2e:真实 agent loop + 真实
llm-pi-aiopenai-completionsadapter,打脚本化本地网关 (前两次请求回finish_reason: "network_error")——第三次请求完成 turn、llm/retry事件落盘;负向对照(无插件)一次请求后 turn 即硬失败。 - 真实宿主:已在 dsh 0.1.0-rc.8 的
--profile tui(dsh-tui-pi)上实测,重试链 (指数退避、稳定 retryId、事件落盘、TUI 展示)全部正确。
npm test # 先构建:npm run build
e2e 在隔离的临时 $HOME 下运行,绝不触碰 ~/.dsh。
兼容性
面向 dsh 0.1.1-rc.x 的 agent/request-error waterfall 与 llm/retry 事件 schema。插件对
dsh 本体零侵入:无 monkey-patch、不替换服务,dispose 即干净移除。
许可证
MIT
No comments yet. Be the first to write one.