DSH HUB
HomePlugin StorePlugin PacksCommunityRankingsResourcesPublish Guide
Plugin source
Back to catalog

yuehancn /

yuehancn/dsh-tool-browser

Verified

DeepSeek Harness plugin

★ 0 Stars0 Forks0 IssuesN/A Community rating0 Confirmed installs
View on GitHub
READMESource: main@701b1e9f

dsh-tool-browser

浏览器工具插件,给 DeepSeek Harness 用。

打开页面、按页面真正需要的方式等待、抽出正文、截图。 Playwright 装了就用真浏览器,没装就退回静态抓取 —— 并且明确说出来,因为「JavaScript 从没跑过」会改变抽出来的文字意味着什么。

browser_status      先说清楚有没有真浏览器
browser_fetch       拿到 HTML
browser_extract     只拿到可读正文(纯文本 / Markdown)
browser_screenshot  用真浏览器截 PNG

Playwright 是可选依赖。没有它,三个工具里有两个照常工作,第三个(截图)会明确报错而不是给一张空图。


为什么值得单独做

三件事单独看都简单,连起来才是问题。

第一,"等页面加载完"是四种等待共用一个名字。

策略 等的是什么
domcontentloaded DOM 树建好
load 所有资源(图片、样式)到齐
networkidle 网络安静下来(500ms 无请求)
selector 某一个元素出现

选错就是「把加载动画当成内容返回」。而且这里有个反直觉的细节:selector 不能同时用 networkidle 导航 —— 一个带轮询请求的页面永远等不到网络安静,而你要等的那个元素其实早就到了。所以代码里选 selector 时会把 goto 降到 domcontentloaded,真正的条件交给 waitForSelector:

await page.goto(url, {
  waitUntil: wait.strategy === "selector" ? "domcontentloaded" : wait.strategy,
  timeout: config.navTimeoutMs
});
if (wait.strategy === "selector") {
  await page.waitForSelector(wait.target, { timeout: config.navTimeoutMs });
}

第二,"抽出正文"是最容易悄悄失败的一步。 一个包着导航栏和 40 条页脚链接的 <article> 不是正文;靠猜 <div> 的嵌套层级也不是。这个插件按正文密度给候选子树打分,而不是相信标签名。

第三,静默退回是最坏的失败方式。 真浏览器挂了就悄悄用静态抓取,用户会以为拿到的是渲染后的页面。所以每个工具都返回 engine 和 engineNote:

{ "engine": "static",
  "engineNote": "the browser failed (net::ERR_TIMED_OUT); the content below is what the server returned without running JavaScript." }

安装

dsh plugin add dsh-tool-browser

想用真浏览器,再装 Playwright:

npm install playwright
npx playwright install chromium

没装也能用,只是页面里的 JavaScript 不会执行。先跑 browser_status 确认当前是哪种情况。

# cordis.patch.yml
plugins:
  dsh-tool-browser:
    workDir: "."
    outputDir: "browser-output"
    waitStrategy: domcontentloaded

抽取器是怎么选正文的

这是整个插件的核心,值得讲清楚。

打分的是密度,不是体量

第一版按「谁的总文字最多」选,结果永远是 <body>。原因是结构性的:任何页面的 <body> 都包含所有其他候选,所以「总文字最多」必然指向最外层元素 —— 连同导航栏和页脚一起返回,而这正是抽取器本该去掉的东西。

改成按每个候选自己的文字密度打分后,比较就被倒过来了:容器 = 它最好的子节点 + 外围杂物,所以密度严格更低,它就输了。

const density = (1 - linkDensity) * 0.7      // 正文比例
              + paragraphDensity * 0.2        // 分段程度
              + punctuationDensity * 0.1;     // 标点密度

三项各管一件事:

  • 正文比例 —— 不在链接里的文字占多少。200 条链接的站点地图可以很长,依然不是正文。
  • 分段程度 —— 正文是成段的,链接农场不是。
  • 标点密度 —— 句子有标点。这一项封了顶,免得一个超长页面靠体量压过比例。

这个改动之后,测试里那份夹具的 <article> 才终于赢过 <body>(149.5 vs 更低),导航栏、页脚链接农场、评论区一起消失。

剥杂物在打分之前

顺序不能反。<nav> <footer> <aside> <script> <style> 这些整体删除,然后才开始给候选打分 —— 否则一个塞满链接文字的导航栏会被当成正文参与评分。而扁平化必须放在最后,因为打分需要保留结构。

复数形式要认

类名在真实网页上复数远多于单数:comments、links、related-articles。第一版的提示词匹配只认单数,结果 class="comments"(最常见的评论区标记)完全没被惩罚 —— 这是测试逼出来的一个真实盲点。现在匹配器带一个可选的 s,同时保留词边界守卫,这样 contest 不会误伤 content、adventure 不会误伤 ad。


HTML → Markdown 的三个细节

反引号按内容加宽

内容里本身有反引号时,外围栏必须更长,否则会提前闭合、把后面半句当正文漏出去:

const longest = (text.match(/`+/gu) ?? []).reduce((max, run) => Math.max(max, run.length), 0);
const fence = "`".repeat(longest + 1);

顺序:代码在最里层

<strong><code>x</code></strong> 必须变成 **`x`**,不是 `**x**` —— 反引号会压制其他所有标记,代码必须包在最里面。

链接里的强调不能丢

链接分支必须跑在强调分支之前(那时 href 还能读),但这意味着它得自己处理内部标记。第一版用 htmlToText 扁平化标签文字,于是:

<a href="/docs/rollback"><strong>only sanctioned path</strong></a>

变成了 [only sanctioned path](/docs/rollback) —— 粗体没了。一个被加粗的警告变成了普通文字。修法是把强调转换抽成一个可复用的 inlineEmphasis,让链接分支也走它:

[**only sanctioned path**](/docs/rollback)

两个方向都在测试里钉了:<a><strong> 和 <strong><a>。

空标签的链接不能写成 <url>

<a href="/x"></a> 如果用 Markdown 的 <url> 写法,最后的通用标签清扫分不清它和真正的闭合标签,会整段删掉。所以用 [](url) —— 无歧义的 Markdown,能活过清扫。


一个被安全带出来的洞

outputPath 一开始就是 path.resolve(dir, filename)。看起来对,其实不是:

resolve("/out", "C:/Windows/system32/evil.png")  // → "C:\Windows\system32\evil.png"

resolve 会尊重绝对路径的第二个参数,所以截图能写到配置目录之外。../../ 穿越同理。修法是只取路径的最后一段,把盘符、前导斜杠和 ../ 一次丢掉:

const segments = raw.replace(/\\/gu, "/").split("/").filter((p) => p !== "" && p !== "." && p !== "..");
const name = segments.length > 0 ? segments[segments.length - 1] : "";

调用者选的是「文件名」,不是「位置」;位置是插件的事,永远是 outputDir。 这一条在测试里钉了 8 种逃逸尝试。


三个工具

browser_status

先问它。返回:有没有真浏览器、默认用哪个引擎、认识哪四种等待策略、输出目录在哪、当前默认值。

它不发起任何请求、不启动浏览器 —— 「浏览器可用吗」这个检查不该比它守护的工作更贵。

browser_fetch

拿到页面 HTML,可以顺手存盘。

参数 说明
url 必填,绝对 http(s) URL
mode auto(默认,浏览器优先、失败退回)/ browser(必须是真浏览器)/ static(只要静态)
waitStrategy 四种之一
waitForSelector CSS 选择器,隐含 waitStrategy=selector
saveAs 存到 outputDir 下的这个文件名
maxChars 返回的 HTML 截断到这个长度

saveAs 写的是完整页面,即使返回值被 maxChars 截断过 —— 存盘的人要的是整页。

mode 是承诺不是偏好:说 browser 就一定给真浏览器,没有就报错,不会悄悄退回。配置里还有 requireBrowser,让 auto 也不许退回。

browser_extract

只要正文。

参数 说明
url 必填
format text(默认)或 markdown
keepLinks Markdown 里保留链接语法,默认 true
includeLinks 附带返回整页链接表,默认 false
maxChars 截断正文

返回里带 selector(选中了哪棵子树)和 score(它的密度得分),所以一个奇怪的答案可以被诊断,而不是盲目重跑。

两个引擎必须对同一份文档抽出同一篇正文。 测试里有一条断言专门钉这个:如果浏览器跑和静态跑结果不同,工具的输出就取决于「这台机器碰巧装没装浏览器」,那是最难查的一类 bug。

browser_screenshot

真浏览器截 PNG。没有静态兜底 —— 一张没人渲染过的页面截图,就是一张空文档的照片,返回它比失败更糟。

参数 说明
url 必填
filename 存到 outputDir 下的文件名,默认带时间戳
fullPage 整页还是只截视口,默认 false
width / height 视口尺寸

一个框架规则:required 怎么写

defineTool 的 schema DSL 里,required 是挂在单个属性上的布尔标记,不是顶层的 required: [...] 数组:

url: { type: "string", required: true }        // ✔ 这样写
required: ["url"]                              // ✘ 报错

自己写数组形式会在插件加载时直接抛 JsonSchemaError: schema.required is not supported by the value schema DSL。

框架编译后会把这些标记上提成 required: [...] 数组,放在每一个 object 层级(根、参数、嵌套对象都算)。所以读者看到的是数组、作者写的是标记。这个差别在本插件里踩了两次才彻底弄清:第一次以为「数组到处都不许」,第二次才发现是「数组不许自己写,但框架会自己生成」。

数组的 items 例外:永远不带 required 数组,因为 allowRequired 在 items 和 oneOf 分支上都是关掉的。

配套的另一条(系列里已经踩过三次):每个嵌套 {type:"object"} 都必须显式声明 additionalProperties,数组的 items 也算嵌套对象。


依赖注入的坑:读对象,不要读字段

这个插件支持注入三样东西用于测试:fetchImpl、playwrightLoader、playwrightModule。它们挂在一个共享对象 ctx.transport 上。

第一版在 apply 里这么写:

const transport = ctx.transport ?? {};
const fetchImpl = transport.fetchImpl ?? undefined;   // ← 快照,错在这

对象是共享的,但字段被快照成了 undefined。 测试之后再往 transport 上装假 fetch,工具读到的还是当初那个 undefined,于是静默走真网络 —— 而测试以为自己装了假实现。

这比系列里之前踩过的版本更隐蔽:那个版本是「两个对象」,这个是「一个对象、字段被快照」。修法是在使用点实时读:

const transport = ctx.transport ?? {};
// 调用点:
await staticFetch(url, { ..., fetchImpl: transport.fetchImpl });

配套的守卫是 assertNoNetwork(calls, label):夹具装完假 fetch,工具跑完立刻断言「请求真的打到假实现了没有」。请求列表为空却拿到「网络错误」= 注入没生效 —— 把静默联网变成响亮失败。


测试

node _test/run-all.mjs

三个套件跑在各自独立的子进程里 —— 每个套件都会用 new Function 重建一份插件副本,同进程会互相污染模块缓存。

browser logic:        217 passed, 0 failed
browser integration:  157 passed, 0 failed
browser end to end:    48 passed, 0 failed

共 422 条断言,全套不碰网络。

  • test-logic.mjs(217) —— 纯函数白盒。密度打分、子树选择、实体解码、HTML 两个扁平化器、围栏加宽、标签配对计数器、等待策略解析、URL 校验、路径逃逸。
  • test-integration.mjs(157) —— 通过 defineTool 注册后的真实调用。schema 形状、注册开关、错误路径、两种引擎的切换与退回、saveAs 落盘、截图的 8 种路径逃逸。全部用假 fetch 和假 Playwright,一次真网络都不碰。
  • test-e2e.mjs(48) —— 一份故意难伺候的文档页,两个引擎各跑一遍。含:粘性导航栏、页脚站点地图、带 # shell 注释的代码围栏、粗体嵌套代码、粗体链接、有序/无序清单、相关文章块、30 条评论、以及一段文字与正文重叠的 <script>(漏剥就会多出正文)。

假浏览器

fakePlaywright() 只实现插件真正会调的那部分:chromium.launch、newContext、newPage、goto、waitForSelector、content、title、url、screenshot,以及两个 close。这样「导航超时后浏览器有没有被释放」这种事就能断言,而不需要真启动一个 Chromium —— 一个超时的抓取如果漏掉 finally,每次重试都会漏一个浏览器进程。


目录

dsh-tool-browser/
├── lib/index.js               插件本体(4 个工具 + 抽取器 + 两个引擎)
├── cordis.patch.yml           插件加载配置
├── _test/
│   ├── harness.mjs            用真实 dsh-tools 重建 apply,并暴露内部函数
│   ├── test-logic.mjs         217 条
│   ├── test-integration.mjs   157 条
│   ├── test-e2e.mjs            48 条
│   └── run-all.mjs            三个套件各自跑在子进程
├── LICENSE                    MIT
└── README.md

License

MIT © yuehancn


本插件属于 DeepSeek Harness 工具插件系列。同一系列还有 dsh-tool-comfyui、dsh-tool-gzh-publisher、dsh-tool-ocr、dsh-tool-media、dsh-tool-subtitle、dsh-tool-invoice、dsh-tool-qrcode、dsh-tool-epub、dsh-tool-podcast、dsh-tool-mining、dsh-tool-notion。

—/ 5

No ratings yet

Verified DSH bundle

Commit 701b1e9f88ff

Community comments

No comments yet. Be the first to write one.

DSH HUB

A community index for DSH plugins. Not an official GitHub or DeepSeek AI product.

CommunityResourcesAPIAbout