dsh-plugin-quota
dsh 插件:实时用量仪表——本会话 token/步数/估算花费实时追踪,并给出下一步预估与会话窗口消耗预测(第几步撑满上下文、第几步烧完预算);同时是 dsh 插件家族的通用插件开发测试模板。
它做什么
- 实时追踪:监听
session/event(assistant/message usage),每次模型回复后实时累计本会话的输入/输出/缓存命中 token,带价格表时同时估算花费(微单位累计,显示时格式化); - 注入系统提示:每回合给模型一行实时仪表(
实时用量:13.8k tok / 50k ▰▰▰▱… · 5 步 · ≈0.0153 USD),预算超限模型自己看得见; - /qm 面板:本会话 + 今日全部会话合计,含预算进度条(
budgetTokens> 0 时)和超预算警告; - 下步预估:
assistant/message的inputTokens就是上一步的未命中前缀,于是下一步的提示词 ≈ 上一步 input + 上一步 output(历史增量)+ 15% 工具结果裕量,缓存前缀按原样复用;输出区间取本会话各步的 P50/P85,按匹配到该模型的那一行价格折算,给成一个区间而不是假装精确的单个数。跑第一步之前不编数字,明说"还没有已完成的步"; - quota_meter 工具:模型可自查,调用与结果都渲染成 generic 卡片(
presentCall/presentResult),卡片标题带下步 ~30k; - 会话窗口消耗预测(/qm 与 quota_meter 的两行,模型可自查自刹):
- 撑满预测:把每步的提示词读成
input + cacheRead + output,步间增量取中位数(一条巨型工具结果不能冒充斜率),于是"按当前增速,第 N 步(再 M 步)撑满 128k 上下文"。增速 ≤ 0 就说"看不到撑满的迹象",一个步都没有就说"还没有已完成的步",contextWindow没配就说算不出——绝不印 Infinity / 除零的数。contextWindow只能来自配置:dsh 不给插件暴露模型目录,所以它挂在prices[]行上,按匹价格同一个priceFor()子串命中; - 预算预测:
budgetTokens配了才有的数——"按当前增速,再 M 步烧到 100k(已用 53%)",没预算/没增速同样直说; - 注入系统提示的那一行不变长(它每回合都跟着走,加字既烧 token 又推前缀漂移),预测只在 /qm 和工具里出现;
- 撑满预测:把每步的提示词读成
- 对家族发布预算契约:见下表,别的插件读
summary.json就够了,不需要知道会话 id 长什么样。
落盘与跨插件契约
~/.dsh/quota/(或 dataPath 所在目录)下三个文件,全原子写:
| 文件 | 内容 | 谁读 |
|---|---|---|
totals.json |
{ <sessionId>: UsageTotals },本插件的内部账 |
quota 自己(重启续算) |
history.json |
{ <sessionId>: StepUsage[] },每会话最近 64 步,预测的根据 |
quota 自己 |
summary.json |
QuotaSummary:budgetTokens/maxSessionTokens/maxSessionRatio/nextTurnEstTokens/todayTokens/todayCostMicros/currency + contextWindow/stepsUntilFull/stepsUntilBudget |
家族契约:task-forge /relay 派发前读它,预算吃紧就提前警告 |
没配 budgetTokens 时 maxSessionRatio 是 null 而不是 0——"烧到几成"没有预算是无意义的,读方不能自己猜一个。contextWindow/stepsUntilFull/stepsUntilBudget 同理:没配模型窗口、或增速 ≤ 0 算不出撑满点时发布 null。这三个是追加字段,summary.json 与 history.json 的既有字段和语义都不动(task-forge、ide-hub 都在读),只加不改不删。每 4 步(以及 /qm-reset 后)重新发布一次。
作为开发模板
这个插件把家族插件会碰到的每个 seam 各演示一遍,且全部有装配层测试:session/event 事件接线、命令注册、defineTool(含 presentation hooks)、systemPrompt.section、原子写持久化、配置探针(坏配置启动点名)。新插件的脚手架从这里抄。
安装
dsh plugin --profile <你的profile> add <本仓库克隆路径>
配置
budgetTokens: 0 # 单会话 token 预算,0 = 不显示进度条
inject: true # 实时仪表注入系统提示
prices: # 按模型 id 子串匹配,命中才估花费
- match: space-bunny
currency: USD
perMillion: { input: 1, output: 2, cacheRead: 0.1 }
contextWindow: 128000 # 撑满预测的根据;缺省则该模型只报下步预估,不算撑满点
contextWindow 必须是正有限数,否则启动即报错点名 quota: prices[].contextWindow ...。只想给窗口不想要价格时,把 perMillion 留默认 0 即可(估花费自然不出现)。
借鉴来源与差异(不盲目抄)
| 来源 | 借鉴 | 改编 | 原创 |
|---|---|---|---|
| dsh-tool-web(官方) | presentCall/presentResult presentation hooks——工具卡片的正确渲染姿势(generic 卡契约) |
官方只给自己工具用;我们把 generic 卡变成家族工具的标准展示层 | —— |
| dsh-plugin-cost-ledger(自家) | session/event usage 折算、微单位计费 | 折算目标是"实时仪表"而非持久台账;价格按子串匹配极简化 | —— |
| dsh-plugin-task-forge(自家) | harness 装配层测试模板、原子写、store 模式 | —— | 当日聚合 fallback(currentSession 未知时按会话 id 含今日日期聚合) |
测试
npm run check # typecheck + node --test + tsc build
34 个测试:19 纯函数(折算/定价/格式化/gauge/卡片契约/预测模型 percentile·predictNextTurn·promptGrowth·projectWindow·projectBudget·summarise,含中位数斜率扛住 10× 离群步、增速 ≤ 0 不印 Infinity、契约字段只增不减)+ 15 装配层(真实 apply() 挂 mock ctx,真实 usage 事件驱动仪表/面板/section/预测行/撑满与预算两行/落盘契约/重置,contextWindow 坏值启动即拒,以及坏 history 文件的降级)。section 注入行有逐字节断言,防止提示词变胖。
No comments yet. Be the first to write one.