DSH HUB
HomePlugin StorePlugin PacksCommunityRankingsResourcesPublish Guide
Plugin source
Back to catalog

istarwyh /

harbor-self-evolving

Topic repository only

DeepSeek Harness plugin and Harbor template for reproducible Agent evaluation, self-evolution, and controlled promotion.

★ 1 Stars0 Forks0 IssuesN/A Community rating0 Confirmed installs
View on GitHub
READMESource: main@d7153be0

Harbor Self-Evolving

基于 Harbor 的业务 Agent 自进化模板,并提供 DeepSeek Harness / Cordis 接入。

它解决的不是“让模型随意改自己”,而是把每次优化变成一条可追踪、可复现、可拒绝的工程流程:

DSH Candidate snapshot
        ↓
Harbor Job(固定 Task / Environment / Verifier)
        ↓
指标 + 失败样本 + ACP 轨迹 + Candidate / Context digest
        ↓
人或 Optimizer 提出一个受控改动
        ↓
新 Candidate → 新 Job → Promotion Gate
        ↓
PROMOTE / REJECT(部署由既有 CI/CD 负责)

已实现

  • 不可变 Candidate:Cordis 配置、插件代码和 lockfile 生成统一 SHA-256 manifest;运行前再次校验。
  • Harbor Agent:通过 Harbor 内置 ACP runner 启动真实 DSH composition。
  • Harbor Job Plugin:把 Candidate 身份、Trial 事件和稳定的指标汇总写入 Job。
  • DSH Cordis bundle:向 DSH Agent 注册 snapshot、run、result、compare 四个工具。
  • 可比性保护:为 Dataset、Task、Environment、Verifier 和运行时版本生成 evaluation-context digest。
  • Promotion Gate:先确认两个 Job 上下文一致,再要求主指标提升、关键指标达标、回归指标不下降且无执行异常。
  • DeepResearch 示例:明确展示工具调用失败、无效搜索和错误引用如何进入 reward。

这版不会自动修改 Champion、不会部署生产环境,也不内置一个不受约束的 Optimizer。它提供的是 Optimizer 可以安全调用的评测闭环。

仓库结构

harbor-self-evolving/
├── packages/
│   ├── harbor-plugin/       # Python: Candidate、ACP Agent、Job Plugin、Gate
│   └── dsh-plugin/          # npm: DSH/Cordis bundle 与模型工具
├── examples/
│   ├── deep-research/       # DSH ACP → Harbor → Promotion 的完整示例
│   └── shell-minimal/       # 不依赖 DSH 的最小 Harbor Candidate 示例
├── schemas/                 # Candidate 与 Promotion Policy 的稳定契约
├── docs/                    # 架构、接入和安全边界
└── jobs/                    # 本地运行证据(不提交 Git)

Candidate 和 Job 不是一一对应:一个不可变 Candidate 可以跑 smoke、full regression、不同数据集和多次重复实验;每个 Job 绑定一个 Candidate digest,一个 Job 内可以包含多个 Trial。

两条命令跑通

要求:Docker、Node.js 22+、npm、pnpm、uv;Python 3.12 与 Harbor 0.21.x 由 uv 自动建立。

git clone https://github.com/istarwyh/harbor-self-evolving.git
cd harbor-self-evolving
./hse doctor
./hse demo

demo 会自动建立锁定的 Python 环境,然后依次评测 v1、v2 并执行 Gate。常用入口:

命令 用途
./hse demo 一键运行完整的真实 Harbor 示例
./hse setup 安装 Python 与 Node.js 锁定依赖
./hse doctor 检查 Docker、Node、uv、Harbor 插件
./hse test 运行两端测试、构建和 shell 检查
./hse context <dataset> 查看评测环境的可比性指纹
./hse dsh-install [profile] 用固定版本的 DSH CLI 安装 Cordis bundle

预期结果:

Candidate task completion tool success valid search citation reward
v1 1 0 0 0 0.4
v2 1 1 1 1 1.0

最终 Gate 输出 "decision": "PROMOTE"。每个 Job 的关键证据是:

candidate-manifest.json     # 本次到底评测了谁
evaluation-context.json     # Dataset/Verifier/环境是否与 baseline 相同
candidate-events.jsonl      # Trial 完成事件
evaluation-summary.json     # 稳定指标汇总
*/agent/trajectory.json     # ACP 执行轨迹
*/result.json               # Harbor 原始 Trial 结果
promotion-report.json       # 晋级或拒绝及原因

在 DSH 中安装

当前包尚未发布到 npm/PyPI,可以从源码安装:

./hse dsh-install headless

安装后,DSH Agent 可调用:

  • harbor_candidate_snapshot:把当前 composition 固化为 Candidate;默认从 package.json 读取名称和版本。
  • harbor_eval_run:自动命名 Job、发起评测,并直接返回 summary。
  • harbor_eval_result:读取规范化指标与失败证据。
  • harbor_candidate_compare:执行确定性的 Promotion Gate。

开发与验证:

./hse test

生产接入边界

本仓库负责 Candidate → evaluation evidence → promotion decision。真正生效仍应走已有平台:PR/配置变更 → CI 构建不可变 image → 测试部署 → Harbor 评测 → Gate → CD 晋级。Harbor 不替代镜像仓库、发布审批或线上流量切换。

详见 架构与角色、接入指南 和 安全边界。

当前仓库尚未选择开源许可证;在作者明确许可证前,公开可见不等于获得再分发或商用授权。

—/ 5

No ratings yet

Manifest verification required

Commit d7153be028ca

Community comments

No comments yet. Be the first to write one.

DSH HUB

A community index for DSH plugins. Not an official GitHub or DeepSeek AI product.

CommunityResourcesAPIAbout