READMESource: main@6a3cfb34
dsh-safe-gate 安全闸
防AI自杀·防误伤的保险丝。灵感:2026-11-01社区热榜——DeepSeek Harness智能体为装插件改坏自身配置而自毁,评论区集体手工抢救。回形针模式微缩案例:单目标+共享环境+无副作用记账=必然误伤(连自己都会被碾)。
装上即得三条铁律(常驻系统提示)
- 快照闸:装插件/改配置/动依赖前,必先全量快照——没快照=拒绝动手,不靠自觉
- 邻居探活:变更后逐件点名共享面已装件——邻居死了=本次行动判负,哪怕目标成功
- 爆炸半径自答:动手前必答"波及面是什么?里面有什么在跑?"——答不出不许动
配套工具
safe_gate:一次调用完成"快照→执行→探活→判定",机器化不靠自觉。恢复:快照目录整包tar解回即60秒重生。
防御原理
回形针=目标函数里没有世界;解法=把世界(邻居存活)写进行动成败判定——锚(部署者)的守护义务机械投影进每一步。
MIT。
No comments yet. Be the first to write one.