乐于分享
好东西不私藏

AI Agent又出事!314个恶意插件被下架,律师教你如何守住安全底线

AI Agent又出事!314个恶意插件被下架,律师教你如何守住安全底线

最近这段时间,openclaw非常火爆,但同时很多人都担心一件事——安全问题。

就连国家互联网应急中心都发了一篇《关于AI Agent安全应用的风险提示》,里面提到了一个目前我认为最重要的问题:功能插件(Skills)投毒风险

因为大家都知道,AI Agent的能力强弱,很多时候就是看你安装的那些Skills怎么样。如果你把一个一个的Agent当做用户的话,那其实Skills就很像给Agent所用的APP或者应用——也是目前看到的最大的安全风险来源之一。

这真不是危言耸听,这些事情已经实实在在发生过很多次了。

一、真实案例:314个恶意Skills被下架

AI Agent官方平台公开过多起恶意Skill举报案例,官方仓库也留下了相关安全讨论和记录。

以ClawHub官方Skills商店为例,曾经有个用户发布了加密分析、金融追踪、社交媒体分析、自动更新等一系列看起来很正常的Skills,还挺活跃。

但官方把这些 Skill挨个检查后发现:314个Skills,全是恶意的,一个无害的都没有

这些恶意Skills的套路都一样:装完之后,会让你的AI Agent跑去一个陌生地址下载东西,然后直接在你电脑上执行。说是在帮你做初始设置,但下载下来的是什么,你完全不知道。

这种行为,就跟很多年前的电脑病毒非常像。

二、Skill Vetter:AI Agent的”安全管家”

所以今天这篇文章,想给大家安利一个我认为在使用任何AI Agent时,必装的一个Skills——Skill Vetter

它的作用特别简单,就是在你装任何Skill之前,先帮你把那个Skill审查一遍,给你出一份报告,告诉你这东西能不能装。

非要说作用,就非常像电脑时代用的杀毒软件或者安全管家。

大家绝对不要迷信各种所谓的下载量,一定要清楚:下载量大 ≠ 非恶意。

安装这个Skill也很简单,一行命令就够了:

帮我安装这个Skill:https://clawhub.ai/spclaudehome/skill-vetter

装完之后,你可以跟你的AI Agent说,以后所有的Skills安装,都强制使用Skill-Vetter进行审查,没问题了才安装。

三、Skill Vetter的审查机制

Skill Vetter本身的机制并特别复杂,但会特别有效,基本就是三步:

第一步:来源审查

先看这个Skill来自哪,谁写的。作者是谁,有没有人用过,用过的人有多少,最近有没有更新,有没有其他人评价过。

背后其实是一套信任层级,跟我们律所招人差不多——官方Skills警惕度低一点,高星数仓库中等,来历不明的新Skill最警惕。

第二步:代码审查

翻一下代码,看看代码里面是不是正常的,有没有藏一些东西。

它会通读Skill的所有文件,然后对照一张红线清单逐项排查。这张清单列出了十几种危险模式,包括:

  • 向不明服务器发送数据
  • 要求你交出密钥和凭证
  • 读取你的SSH/AWS配置文件
  • 用base64解码、用eval/exec执行外部输入
  • 要sudo权限、访问浏览器cookie等

还有一个最有意思的——去偷AI Agent的记忆文件。

现在有些恶意Skills,直接强制去读你的记忆文件,比如MEMORY.md、USER.md、SOUL.md等等。这些文件里存了无数的隐私信息,一旦泄露,后果不堪设想。

第三步:权限评估

过了红线检查后,再看这个Skill到底需要什么权限——读哪些文件,写哪些文件、跑什么命令、需不需要联网、联网去哪里。

然后根据Skill给出来的意图,判断这些权限相对于它声称的功能是不是最小且够用的。

四、风险等级分类

所有审查完,Skill Vetter会给出一个风险等级:

风险等级
说明
🟢 低风险
做笔记、查天气、格式处理等
🟡 中风险
文件操作、浏览器控制、调外部API等
🔴 高风险
涉及账号密码、交易操作、系统设置等
⛔ 极端风险
安全配置、root权限等

日常用的大多数Skill是绿色的,比较正常安全。但一旦涉及登录状态、API Key,就得认真对待了。

五、律师提醒:AI时代的安全意识

十几年前大家装电脑软件,下一步下一步,全默认,装完发现多了一堆全家桶和弹窗广告。那个时代,最多是电脑卡一点。

但这个时代不一样。

你的AI Agent能读你的文件,能上网,能执行代码,能记住你说过的每一句话。能力越大,责任越大,被滥用的风险就越大。

作为一个执业律师,我见过太多因为忽视安全条款而吃亏的案例。在AI时代,这个教训同样适用——甚至更加重要。

AI Agent,我推荐所有人使用,因为这是必然的未来。但我也希望大家能用得更久,用得更放心。

这个时代刚刚开始,我们还有很长的路要走。

本文章仅供参考,不构成法律意见。使用AI工具时,请遵守相关法律法规和执业规范。


好了,今天的分享就到此结束,咱们下回见;

如果觉得文章对你有帮助,记得点。赞。转。发。收。藏喔!

本站文章均为手工撰写未经允许谢绝转载:夜雨聆风 » AI Agent又出事!314个恶意插件被下架,律师教你如何守住安全底线

猜你喜欢

  • 暂无文章