DSH HUB
HomePlugin StorePlugin PacksCommunityRankingsResourcesPublish Guide
Plugin source
Back to catalog

deepmean /

deepmean/dshModeltemperature

Verified

This plugin has no description yet.

★ 1 Stars0 Forks0 IssuesN/A Community rating0 Confirmed installs
View on GitHub
READMESource: master@c96501d9

dsh-per-model-temperature

给 DeepSeek Harness 用的按模型温度插件:在设置页里给每一条 llm-pi-ai 路由的每个模型单独配一个 temperature,并在请求真正发出去之前把它塞进去。

一个设置页 + 一个 agent/request 监听器,没有别的。


为什么非得是个插件

DSH 的 provider / model 配置里没有 temperature 这个字段 —— 它能配 reasoningEfforts、contextWindow、maxTokens、input、compat、headers……就是没有温度。

而温度在链路上其实是通的,缺的只是「谁来决定它」:

GenerateOptions.temperature
  → LlmCallConfig.temperature
    → pi-ai StreamOptions.temperature
      → dsh-llm-pi-ai 转发进请求体

问题出在生产者:agent loop 播种请求提案(seedConfig)时只带 provider / model / reasoningEffort / maxTokens,没有任何环节会产出 temperature。

唯一的缝是 agent/request waterfall —— 而它交给监听器的提案是 deep-frozen 的:

const proposedConfig = await this.dispatch.waterfall(
  'agent/request', { turn, step, signal },
  () => Promise.resolve(seedConfig),
)

所以监听器不能就地改,必须返回一个新对象。本插件做的就是这件事。


行为

按 provider + model 精确匹配,每次请求重新判定:

情况 结果
命中,且配了温度 注入该温度
命中,但温度留空 移除 temperature,走上游默认
没命中 移除 temperature,走上游默认

第三行是关键:提案会带上上一个 step 留下的值。如果只做「命中就注入」,那么一个为模型 A 配的温度会在会话中途切到模型 B 时跟着过去;同理,清空配置后旧值也会赖着不走。所以不命中时是主动清掉,而不是放着不管。


安装

这个包不在 npm 上,也不打算上。 package.json 里是 "private": true, 分发方式是 clone 仓库 + 本地 file: 安装。

新环境(首次安装):

git clone https://github.com/deepmean/dshModeltemperature.git
dsh plugin --profile web add "file:/绝对路径/dshModeltemperature"

或者手工两步:

  1. 在 profile 的 package.json 里加依赖:
    { "dependencies": { "dsh-per-model-temperature": "file:/绝对路径/dshModeltemperature" } }
    
  2. 把它加进 dsh.profile.bundles 数组(顺序即加载顺序)。

插件自带 cordis.patch.yml,装载时会插入自己的配置行,不用你再写一遍。

源码目录与「改完即生效」

本仓库就是安装源。怎么让改动生效,取决于当初怎么装的:

装法 机制 之后再改源码
dsh plugin add file:<源> pnpm 把文件复制进 .pnpm 存储,再在 node_modules 建符号链接 ❌ 不会自动同步,得重新装一次
node_modules 里放目录联接指向源目录 Node 穿透解析到真实路径 ✅ 立刻生效,改完刷新页面/重启即可

两种都行。想要「改完即生效」,用联接:

# 先删掉 pnpm 装出来的那份,再建联接
$nm = "$env:USERPROFILE\.dsh\profiles\web\node_modules\dsh-per-model-temperature"
Remove-Item $nm -Recurse -Force
New-Item -ItemType Junction -Path $nm -Target "C:\llmProj\modelConfig\dsh-per-model-temperature"

或者直接用脚本,它把上面这些连依赖检查、失败回滚一起做了:

node scripts/relink.mjs

⚠️ 用联接有个前提:Node 会从真实路径(而不是联接路径)往上找依赖,所以源目录必须自带 node_modules,否则 @deepseek-ai/schemastery 解析不到、插件加载直接失败:

cd C:\llmProj\modelConfig\dsh-per-model-temperature
npm install --omit=dev

(node_modules/ 已在 .gitignore 里,不会进仓库。)


架构:不依赖任何 dsh 补丁

这个插件只用 dsh 自带的能力:

用到的东西 谁提供 用途
Config(.volatile() 字段) cordis + schemastery 存配置,设置页可读写
ctx.configForms → settings.describe / mutate dsh-settings(核心) 设置页读值、写值
configEditor.edit dsh-config-editor(核心) 服务端把路由目录写回去
agent/request waterfall dsh-agent-loop(核心) 唯一能塞进 temperature 的缝
llm.listProviders / llm.listModels dsh-llm(核心) 读运行时路由与模型

没有一条来自 dsh-purge。 这一点很关键,因为早期版本靠 ctx.settings.register() —— 那个方法不是 dsh 的代码,是 dsh-purge 的 #42 补丁加上去的。后果是:每次 dsh update 覆盖 node_modules,补丁被冲掉, 插件静默失效(不报错、不崩溃、没日志,只是功能没了)。这件事发生过三次。

现在插件不再碰它。check-compat.mjs 会在源码层面断言这一点:

PASS  插件不调用 ctx.settings.register(= 不再依赖 dsh-purge 补丁)
PASS  插件不 inject settings

全新安装的 dsh

不需要任何补丁:

git clone https://github.com/deepmean/dshModeltemperature.git
cd dshModeltemperature && npm install --omit=dev
dsh plugin --profile web add "file:/绝对路径/dshModeltemperature"

装完启动即可。设置页里会出现「模型温度」,配置存在 profile 的 cordis.patch.yml 里(和所有其它插件一样),不在任何私有文件里。

从旧版本迁移

旧版本的记录在 ~/.dsh/settings-legacy.yaml。插件首次启动时如果发现原生 config 里还没有 记录,会把那份文件里的 per-model-temperature.entries 读出来写进原生 config,且只做一次(原生 config 一旦有记录就不再碰, 不会覆盖你后来的编辑)。

迁移完成后 settings-legacy.yaml 里那一节就是死数据了,可以删掉。其余 section 是别的插件的,别整个删。

更新 dsh 之后

node scripts/check-compat.mjs
node scripts/relink.mjs      # 若 node_modules 被换回实体副本

不需要重打 purge 补丁,也不需要检查 purge_status。

为什么链接会被冲掉

profile 用 file: 依赖装这个插件,pnpm 的做法是复制源目录。于是每次 dsh update 都会重跑安装:

你把 node_modules 建成指向源目录的联接(想要「改完即生效」)
        ↓
dsh update → pnpm 重新安装 → 联接被真实副本覆盖
        ↓
改动不再同步 —— 而且无声无息,没有任何报错

relink.mjs 就是干这个的:检测并恢复,幂等、可 dry-run。

node scripts/relink.mjs            # 检查并在需要时重建
node scripts/relink.mjs --dry-run  # 只看会做什么

它会先确认源目录自带 node_modules(链接生效后 Node 从真实路径找依赖,缺了会加载失败),换链接前把旧目录挪成 .pmt-copy-backup,建好后再真 import 一次验证;任一步失败会自动回滚。


用法

设置页里会多出一节 per-model-temperature。每一行三个下拉:

  • 提供商 —— 选项来自活的 llm-pi-ai 路由表,不是写死的
  • 模型 —— 跟着选中的提供商过滤;选完提供商再换提供商,模型会自动清空(旧模型属于另一条路由)
  • 温度 —— 预设 0 / 0.2 / 0.3 / 0.5 / 0.7 / 0.9 / 1 / 1.2 / 1.5 / 2,加一个「自定义…」

「自定义…」会把那一格变成输入框,在你填完失焦之后才落库 —— 所以中途不会写出半截值。留空 = 不下发,交回给上游默认。

存量值不会丢:不在预设里的温度(比如 0.35)会照原样渲染成输入框;配置里已经删掉的路由,那一行也仍然可见、可删。


生效时机(重要)

改了东西要做什么,取决于你改的是哪一层:

改什么 怎么生效 要重启吗
温度值(设置页里改) 立刻,下一次请求就读到 不用
温度值(手工编辑 settings-legacy.yaml) 不生效,而且会被覆盖 —— 见下 不用,但也没用
client.js(界面) 刷新页面 不用
index.js(服务端逻辑) 复制进 profile 的副本后重启;或借 HMR 在下一次 profile 重新组合时替换 视路径

两点说明:

一、温度只能走设置页改,别去手改那个 yaml。 dsh-settings 的 ensureLegacyDocument() 是 if (this.legacyDocument) return —— 只在启动时读一次,之后一直用内存里那份;而 persistLegacy() 会把内存里那份写回文件。你手改的内容不但读不到,还会在下一次保存时被直接盖掉。

二、服务端代码不是改完就自动重载的。 dsh 自带 HMR(dsh-base/cordis.patch.yml 里的 hmr 行,web 部署下默认启用),但它的 root: [] 表示不监听源码目录。它替换的是「profile 目录下已加载文件在磁盘上发生变化」的插件,触发时机是下一次 profile 重新组合(profile manifest、两份用户 patch、或 Plugin Manager 操作)。所以最稳的做法还是:改完 → 复制进 profile 的 node_modules 副本 → 重启。


为什么没有 top_p / top_k

因为它们在链路里根本不存在:GenerateOptions、LlmCallConfig、两个 adapter 里都没有这两个名字,而且提案在派发前就被 deep-frozen 了 —— 插件没有任何缝可以往里加字段。要做这个,得先改 harness 本身。

同理,本插件只管温度:推理档位和输入模态住在 provider 自己的 llm-pi-ai 段里,harness 已经有编辑入口;在这里再写一遍会出现两个写同一个键的人。


测试

四个脚本,都不需要浏览器:

node scripts/check-compat.mjs             # 31 passed, 0 failed  ← dsh 更新后先跑这个
node scripts/probe-native.mjs             # 25 passed, 0 failed
node scripts/test-temperature-client.mjs  # 87 通过 / 0 失败
node scripts/probe-live-record.mjs        # 14 passed, 0 failed
node scripts/relink.mjs                   # 更新后若变成实体副本,用它接回源目录
  • check-compat.mjs —— 兼容性哨兵。验的是现在的契约:插件没有 ctx.settings.register(不依赖补丁)、Config 三个字段都是 volatile (设置页能读写的前提)、settings.describe/mutate 与 configEditor 在、文件没有 UTF-8 BOM(BOM 会让 dsh 直接跳过整个插件)、 agent/request waterfall 还在、temperature 能否活着穿过 resolveCallWithInfo 与 pi-ai 转发层、磁盘副本与源码一致、运行中的 dsh 是否启动于当前代码之后。断了会直接给出该做什么。
  • probe-native.mjs —— 用假宿主驱动真实的 index.js:注入语义、 volatile 引用与普通对象两种入参、旧配置迁移(含"只迁移一次")、目录发布 (含单路由失败隔离、双重上限、幂等)、宿主缺服务时不抛错。
  • test-temperature-client.mjs —— 用最小 React 桩把 client.js 真跑起来。 覆盖「点添加没反应」、「三个字段都是下拉」、「换提供商必须清空模型」、 「自定义标记不能串行」、「点菜单滚动条不能把菜单关掉」、长列表过滤与 菜单视口定位等曾经真踩过的坑。
  • probe-live-record.mjs —— 端到端读你真实的那份配置(profile 的 cordis.patch.yml),逐条验证温度会被注入,并确认路由/模型目录已经发布。

npm test 会把前四个一起跑。这些脚本优先读已安装副本 ($DSH_HOME/profiles/<profile>/node_modules/...),读不到才回退到源码目录; 可以用 DSH_HOME / DSH_PROFILE_DIR / DSH_PACKAGE 环境变量指到别的部署。

下拉里为什么会有插件自己的路由

dsh-our-free-model、@opencode2dsh/dsh-plugin 这类插件用 ctx.llm.registerAdapter() 在运行时注册路由,它们不在 llm-pi-ai 的静态 providers 段里。设置页的路由来源有三个,按可信度排:

  1. routes / models 字段 —— 服务端在启动时(以及 llm/adapters-updated 时)把活目录写进本插件自己的 config。这是主通道: 客户端本来就在读这份 config,不依赖 remote API。
  2. remote 目录 —— llm/listProviders + session/modelCatalog,能拿到就用。
  3. 静态 llm-pi-ai 段 —— 兜底,只含手写声明的路由。

三个都没有的部署,下拉末尾还有「自定义提供商…」可以手敲 —— 但正常情况下用不到它。


兼容性

  • 对 @deepseek-ai/dsh 声明 >=0.2.0(optional peer,缺了也不会拦你装)
  • 在 0.2.1-alpha.4 上实测通过
  • 依赖 @deepseek-ai/schemastery 定义设置段

License

MIT

—/ 5

No ratings yet

Verified DSH bundle

Commit c96501d929eb

Community comments

No comments yet. Be the first to write one.

DSH HUB

A community index for DSH plugins. Not an official GitHub or DeepSeek AI product.

CommunityResourcesAPIAbout