DSH HUB
HomePlugin StorePlugin PacksCommunityRankingsResourcesPublish Guide
Plugin source
Back to catalog

tianyiming1 /

tianyiming1/dsh-plugin-local-prompt-bridge

Verified

Stock-safe DSH community plugin: local tokenize pressure + overflow to CONTEXT_WINDOW_EXCEEDED compact-retry

★ 0 Stars0 Forks0 IssuesN/A Community rating0 Confirmed installs
View on GitHubProject homepage
READMESource: main@b4d82447

dsh-plugin-local-prompt-bridge

topic: dsh-plugin

官方 DSH(桌面 / npx / 命令启动)可用的社区插件:本地 OpenAI-compat(llama.cpp 等)精算压力 + 溢出自动压缩重试。

不改、不替换任何 @deepseek-ai/* 包;升级官方 DSH 后只要重新装上本插件即可。

仓库:tianyiming1/dsh-plugin-local-prompt-bridge

做什么

对齐 Cursor / Codex / Claude Code 一类产品的上下文策略(按 token 账本,不是读显存 KV):

  1. 溢出改写(默认对所有 provider):把 exceed_context_size_error / 「超过 context」类 400,改成 CONTEXT_WINDOW_EXCEEDED,交给官方 compaction-basic 压缩再试。
  2. 主动精算(需配置 routes):步进前 /tokenize(失败则 /apply-template → content)。
    • 算出即将发出去的包有多大。
    • 超过 min(thresholdRatio × window, window − outputReserve)(默认约 90%,并预留生成空位)→ 合成溢出,让官方压缩历史再试。
    • 未超过则直接发(不再使用早期「软线假满」)。
    • 真撞上服务器上限仍靠第 1 条改写兜底。

默认 routes: []——不绑定任何个人模型 / 端口。装上即可获得全局溢出改写;主动压缩请按你自己的 llm-pi-ai provider 填写。

安装(web profile)

在 已关掉 的 DSH 里执行(或关掉后再启):

cd $env:USERPROFILE\.dsh\profiles\web
pnpm add github:tianyiming1/dsh-plugin-local-prompt-bridge

本地开发也可用 link::

pnpm add link:D:/deepseek-harness-workspace/dsh-plugin-local-prompt-bridge

然后编辑同目录 package.json,在 dsh.profile.bundles 数组末尾加上:

"@local/dsh-plugin-local-prompt-bridge"

配置主动压缩(可选)

在 你的 profile cordis.patch.yml 里覆盖插件 config:

- id: local-prompt-bridge
  config:
    routes:
      - provider: llama-cpp-local   # 与 llm-pi-ai 里的 provider id 一致
        baseURL: http://127.0.0.1:8080/v1
        contextWindow: 65536
    thresholdRatio: 0.90
    outputReserve: 4096

也可直接编辑本包 cordis.patch.yml(仅本地 fork / link 时)。

自测

  1. 确认本地 OpenAI-compat 服务在跑(若启用了 proactive routes)。
  2. 用平时的方式启动官方 DSH(桌面 / 命令),不要用 fork 源码。
  3. 启动日志应有:[local-prompt-bridge] active (rewrite=all-providers, ... compactAt=0.9 ...)
  4. 中等偏大 prompt(例如 40k / 64k)应直接放行;接近窗口或服务器超窗时应压缩再试。
  5. 临时关掉:从 bundles 去掉本包,或把 rewriteOverflow / proactiveCompact 设为 false。

与上游协议的关系

若官方日后合入可选 countPromptTokens / 更好的溢出分类,可把对应路由改成官方能力,再逐步关掉本插件的 proactive / rewrite 部分。
提案草稿见 DISCUSSION.md(官方暂不收外部 PR,请发到 deepseek-harness Discussions)。

License

MIT

—/ 5

No ratings yet

Verified DSH bundle

Commit b4d824475327

Community comments

No comments yet. Be the first to write one.

DSH HUB

A community index for DSH plugins. Not an official GitHub or DeepSeek AI product.

CommunityResourcesAPIAbout