dsh-speed-monitor

DSH 插件「速度监控」：侧栏入口点开后，右侧面板用 DSH 自己的模型清单 测中转/官方接口的流式速度，默认每分钟一轮，可同时测多个模型。

侧栏                     主区域
┌─────────────┐   ┌───────────────────────────────────────────────┐
│ 新会话       │   │ 速度监控                          [ 立即采样 ]  │
│ 聊天         │   │ 采样间隔 [1 分钟] 测试模型 [+ 添加模型]        │
│ ⊙ 速度监控   │   │ ● astra-hub/deepseek-v4.1-flash  思考[low] ×  │
│ 更多         │   │ ● deepseek-official/deepseek-flash 思考[low] ×│
└─────────────┘   │ ┌ TTFB ┐ ┌ 总耗时 ┐ ┌ 吞吐 ┐                  │
                  └───────────────────────────────────────────────┘

功能

• 模型清单来自 DSH：Client 读 /api/settings/describe 的 llm-* 命名空间，合并 llm-pi-ai.providers 与 llm-deepseek.models，不在插件里硬编码模型。
• 多模型并列：每个模型一行，可增删；每行的模型、思考挡位各自独立保存。
• 默认每分钟一轮（可在 1/2/5/10/30 分钟间切换），每轮每模型 1 次请求。
• 默认目标：astra-hub / deepseek-v4.1-flash（异常时回落到清单里第一个模型）。
• 一张双轴图看全：左轴 ms（实线 = 首字节，虚线 = 总耗时），右轴 tok/s（点线 = 吞吐）；每个模型一种颜色。
• 密钥不出主机：按 apiKeyEnv 从 ~/.dsh/.credentials.yaml 读取，Client 拿不到。

数据来源

项	说明
模型清单	DSH 设置（llm-pi-ai / llm-deepseek 等命名空间）
请求	POST {baseURL}/chat/completions，stream: true、stream_options.include_usage: true
存储	~/.dsh/storages/speed-monitor.json（配置）、speed-monitor.jsonl（采样）、speed-monitor.providers.json（模型清单缓存）
密钥	供应商配置里的 apiKeyEnv，指向 ~/.dsh/.credentials.yaml 的字段

指标口径

字段	含义
ttfb_ms	请求发出 → 收到响应头
decode_ms	首个内容事件 → 最后一个内容事件
total_ms	请求发出 → 流结束
tokens	completion_tokens
tps_decode	解码吞吐 = tokens ÷ decode
tps_e2e	端到端吞吐 = tokens ÷ total

接口

方法	路径	说明
GET	/dsh-speed/api/state	{ config, providers, items, error }
POST	/dsh-speed/api/providers	写入模型清单 { providers }
POST	/dsh-speed/api/config	保存 { intervalMinutes, runs, targets }
POST	/dsh-speed/api/sample	立即采样，可带 { id } 只采一个目标

安装

1. 侧栏 → 插件 → 添加插件，粘贴仓库地址、.tgz 或本地目录
2. 启用后重启 DSH（Host 侧改动不热加载）
3. 侧栏出现「速度监控」入口，点开即见面板

常见问题

现象	处理
面板提示「还没有可用的模型清单」	DSH 设置里没有配置任何 llm-* 供应商
某行一直 --	该供应商 apiKeyEnv 在 ~/.dsh/.credentials.yaml 里没有值，或 baseURL 为空
曲线不动	采样间隔被调大；或全部请求失败（行内会显示红色错误）
想清零	删除 ~/.dsh/storages/speed-monitor.jsonl

License

MIT