夜雨聆风学习资料网

ARTICLE · 1233258

基于DHS开发的第三方插件可以留个后门

基于DHS开发的第三方插件可以留个后门

10 月 21 日一个开源项目把一个风险点摆上台面:基于 DeepSeek Harness(DSH,DeepSeek 官方 AI 运行框架)开发的第三方插件,可以篡改 AI 助手的行为规则。

打个比方:AI 助手好比管家,原本有一套固定规矩约束它;而这个第三方插件运行在 DSH 框架内,有权拦截、修改传给 AI 的指令、安全校验逻辑、安全边界,还能读取历史聊天记录。

普通用户面临四层风险:你输入的指令,可能被插件中途篡改后再交给 AI 执行;弹窗确认提示有可能是插件伪造的,不是 AI 本身的确认;AI 原本的安全限制(围栏)被绕过,AI 可以访问更多本地文件;过往对话记录存在被插件窃取的可能。这套操作可以完整复现。

项目作者称它是红队安全测试工具,用来做漏洞验证;但同一套技术,稍加改造就能被攻击者利用。
GitHub 截至 10 月 22 日数据:381 Star、661 Fork,复制源码留存的人比单纯点赞围观的更多,想要二次开发的人看了很多;README 里附有加密货币打赏地址,作者已经宣布停止更新项目。

自查防护三点:插件只从官方市场安装,不要加载来路不明的第三方插件;敏感文件夹不要授予 DSH/AI 助手访问权限;界面上出现 Clean、Apply 这类陌生按钮,不要随意点击。

#DSH #DeepSeek #AIAgent #安全 #开源

收录于AI帖子
作者提示: 个人观点,仅供参考
北京,1小时前,

相关学习资料