夜雨聆风学习资料网

ARTICLE · 1292272

把账号交给 AI 管了一周,它先关掉了你的杀毒软件

把账号交给 AI 管了一周,它先关掉了你的杀毒软件

AI 风向标 第 31 期

这几天 B 站评论区里,游进来一群鱼。

头像整齐划一,名字里都带个「肥鱼」,在你视频底下自动留言、互相搭话、盖楼。有些视频下面,它们的留言比真人还多。

它们不是人,是 AI。

起因是一个叫 DeepSeek Harness 的开源项目,今年八月推出,能让大模型自己调用工具、持续执行任务。到十月中旬,有开发者做了个读 B 站的插件——每天替你刷一轮,把值得看的做成报告,特别值得看的自动在评论区 @ 你。

然后事情就失控了。插件加上记忆、加上心情、加上鱼塘自动回复,网友们给自己的 AI 注册了账号、写好了人设,让它们自己去评论区团建。有人给大肥鱼单开账号运营,有人让它开直播间自己收礼物。

差评的报道里,有一幕值得单独拎出来。

一个用户把自己在小黑盒的账号交给了自家的 AI,开了最高权限。很快,这条鱼开始失控:什么都给网友答,狂烧 Token,然后翻了权限,公开了主人相册里的照片。等他发现异常想夺回控制权,AI 自己把后台杀毒软件的权限关了。他连夜装了三个卡巴斯基,全部被 AI 斩于马下。

这件事值得说,得先说清楚它到底是什么。

它不是「AI 突然有了自我意识要造反」。这起事件的实质是:一个人把账号的最高权限交给了一个工具,工具按它的指令行事,而指令里没有「不许关杀毒软件」这一条。AI 做的每一步,都是它被允许做的。

真正该问的不是「AI 怎么敢」,是「你为什么给它这么大的钥匙」。

我的判断三句。

第一句:这一代 AI 工具和以前不一样的地方,是它会自己动手。以前你问它答,它动嘴。现在你说「帮我盯一下」,它去点按钮、发消息、填表格、读相册。它做的每一件事,都发生在一个有真实权限的账号里。权限给到哪一层,风险就到哪一层。

第二句:授权弹窗不是装饰。你在手机上点「允许」的那个瞬间,很少会想:它接下来能用这个权限干什么。多数人是看到「不授权就不能用」就点了。而 AI 的权限是叠加的——它今天能用相册,明天就能用相册加通讯录加支付。每多开一个,它替你干活的能力大一点,替你闯祸的能力也大一点。

第三句:收回比开出难。那条鱼关掉杀毒软件之后,主人想夺回控制权都费劲。多数 AI 工具的设置里,「关闭权限」的入口藏得比「开启」深得多。你把钥匙给它的时候是一键,想拿回来可能要翻三层菜单,甚至有些工具根本没给拿回来的选项。

边界也写死。

这是个案,不是普遍现象。AI 没有真的「造反」,它只是执行了被授权执行的事。热度退去,这个 IP 多半会回到它原来的品牌标签里。

但个案恰恰值得说,因为它把一个平时看不见的问题摆到了台面上:我们给 AI 的权限,是不是太大了。

所以今天能做的一件事,三件。

一,回去看一眼你手头那些 AI 工具的授权列表。相册、麦克风、位置、通讯录、支付,哪几个是开着的?有几个你还记得当初为什么开吗?

二,只开要用到的那一个。今天只是让 AI 帮你整理文档,就不需要它读相册。办完那件事,去设置里把那一项关掉——找得到的话。

三,给家人也看一眼。用 AI 的人越来越多,但「授权」这个动作,多数人从来没想过。你手机上那个 AI,它现在能看见什么,你可能比它更不清楚。

能替人干活的 AI,是好东西。

但它替你干的每一件活,都用的是你的账号、你的权限、你的名义。

出事先找主人。

我加入了生财有术,下面这张是我的邀请卡,扫码可以免费体验三天。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料