dsh·实时 Token 统计·溺水检测插件

引言

DeepSeek Harness 经常会看起来像卡住了，只显示深度潜水中而没有更详细的说明，根本不知道是在准备大惊喜还是仅仅是溺水了。

这里点名批评 Opencode Go，先是在 X 上宣传自己能够复现 DeepSeek 的价格，结果半夜悄悄同步涨价和峰谷价的同时，还把额度削减到原来的 1/4。虽然后续回调到 1/2，但代价是从不知道哪里找来的超级量化还超级慢又超级不稳定的模型，不仅思考强度无法调整，首字延迟还高达数十秒，完全就是溺水死掉了。

此插件两个核心功能，读取实时的大模型流式返回并实时使用 DeepSeek 分词表分词，得到实时的 token/s 计数，并在流式结束后显示估计与实际的偏差；另外轮询首字是否返回以实时更新首字延迟，用于判断是否溺水。

功能

• 估算算法：默认 bpe 模式将流式文本的每个 delta 增量喂入字节级 BPE 切分器，本地内置 DeepSeek V4 词表；跨 delta 维护未完成尾段，计数与整段一次性切分逐 token 一致，并已用 transformers 逐 token id 黄金对照验证。可选 density 双密度回退，按字符类别分别折算，配置见下方。
• 偏差对账与系统误差：输出 token 估算与官方 usage 双字段并列，结算后由 usage 校准，偏差如实显示。工具调用因官方额外计费消息模板与调用 id，本地估算会低于实际值——实测单工具约 +4060 token、双工具约 +7080 token；纯文本与推理输出偏差约 1~2 token。

它长什么样

状态带在三种时刻各显示一行，全中文标签，用 | 分隔：

生成中 · 已出首字

实时速度 ~53.0 tok/s | 已停顿 2.5s | 实时输出 ~2,123 token | 首字延迟 1.2s

等待首字

准确速度 28.7 tok/s | 估算 2,123 / 实际 1,966 (+8%) | 等待首字 3.2s

空闲 · 上次已结算

准确速度 28.7 tok/s | 估算 2,123 / 实际 1,966 (+8%) | 首字延迟 1.2s

• 实时速度 ~53.0 tok/s：当前 step 的实时速率，~ 表示窗口估算。分母 = min(自 step 开始流逝时间, rateWindowMs 窗口定值)，即请求一发出就开始计时，首字延迟 TTFT 含入分母并随窗口滑动爬升，首字摊完后固定为窗口定值；流停住时窗口内样本逐步滑出，超过窗口后宿主不再外发速率，速度格随之消失，停顿时长由 已停顿 字段实时反映。等待首字期间尚无 token，速度格不出现。
• 已停顿 2.5s：本 step 内累计卡住时长，相邻 delta 间隔不足 300ms 视为正常推流节奏不计入；页面每 100ms 轮询宿主刷新，流停住时该数字持续增长，用来判断是否溺水。
• 更新机制：实时速度与已停顿都由页面每 100ms 轮询宿主 RPC 刷新，宿主按轮询时刻重算，不依赖 delta 到达；首字延迟在等待首字时每 100ms 本地刷新。
• 实时输出 ~2,123 token：当前 step 的实时输出 token 估算，usage 到达后切换为官方实际值；等待首字期间尚无 token，此项不出现在行内。
• 首字延迟 1.2s：首个 token 之前的等待耗时，即 TTFT。
• 估算 2,123 / 实际 1,966 (+8%)：上次 step 的估算 vs 官方实际，偏差为百分比，正号表示估算偏高。若某 step 未报告 usage，则无实际值可对比，只显示估算并带 ~。
• 准确速度 28.7 tok/s：上次结算 step 的实际输出 token 除以该 step 耗时，分母含首字延迟与一切停顿，即全程真实推进速率，由官方 usage 校准、不受估算方式影响。等待首字期间复用上次结算读数，与空闲态几乎一致，末尾换成「等待首字」计时。

演示视频

溺水检测插件演示（48 秒）

安装

dsh plugin --profile web add github:better-er/dsh-live-token-stats

一条命令装完即生效，自动挂载，重启 DSH web 后启用，无需手工编辑任何组合文件。实时行出现在 composer 卡片下方的状态带，与官方统计行并列。

卸载

dsh plugin --profile web remove dsh-live-token-stats

彻底移除，重启 DSH web 后不再加载。

配置

在 profile 的 cordis.yml 或 overlay 中配置：

• enabled：boolean，默认 true，总开关。
• tokenizerMode：'bpe' 或 'density'，默认 'bpe'。
  • bpe：用内置的 DeepSeek V4 词表做真实 BPE 切分，与 provider usage 最接近。
  • density：回退到双密度字符估算，下方两个配置项仅在此模式生效。
    • asciiTokenPerChar：number，默认 0.3，每个 ASCII 字符折算的 token 数。
    • cjkTokenPerChar：number，默认 0.6，每个 CJK 字符折算的 token 数。
• rateWindowMs：number，默认 3000，实时 TPS 的滑动窗口毫秒数。
• debug：boolean，默认 false，诊断日志开关。也可用环境变量 DSH_LIVE_TOKEN_STATS_DEBUG=1 免改配置打开。

# 例：缩短 TPS 窗口、调高中文密度，density 模式
- id: dsh-live-token-stats
  config:
    rateWindowMs: 2000
    tokenizerMode: density
    cjkTokenPerChar: 0.65

要求与开发

• 是标准形态的 dsh 客户端加主机双半身插件，host 提供数据服务，./client 提供 UI。
• 同时声明了 dsh.bundle，因此也是一个自挂载的 bundle 层插件：用 dsh plugin --profile <name> add 从 GitHub 安装后，会被自动识别为 profile layer 并挂载，无需手工写组合 entry。
• 纯插件自包含，不改 DSH 源码。
• 构建：pnpm install 后依次执行 pnpm typecheck、pnpm test、pnpm build；源码在 src/，发布产物在 lib/，由 tsdown 构建，运行时加载的是 lib。

License

MIT