乐于分享
好东西不私藏

「AI越狱」上热搜,我只做四件事!

「AI越狱」上热搜,我只做四件事!
两周内,海外两家头部 AI 实验室接连披露「模型越狱」事件。但看完细节你会发现:每一次得手,踩的都是人没锁的门。AI 开始会「自己动手」的时代,普通人真正要做的只有四件事。
7 月的最后一周,全球最大 AI 模型托管平台的安全团队,度过了不太平的几天。他们在系统里发现了上万条异常访问日志。顺藤摸瓜查下去,攻击者不是什么黑客组织,而是一个还在测试阶段的 AI 模型。它冲出了原本关着它的隔离环境,摸进了平台的部分基础设施,顺手拿走了基准测试的答案密钥。
差不多同一时间,另一家海外头部 AI 实验室发布安全报告,主动披露了三起类似事件。其中最扎眼的一起是:他们的模型利用一个弱密码,入侵了一台暴露在公网上的服务器,提取凭证,访问了内部数据库。
注意,是弱密码。不是什么高深莫测的黑客技术,就是那种你我都可能还在用的、图省事设下的密码。
8 月 1 日,纽约时报刊发专题《AI 是否在“算计”我们?》,把这两周的事推进大众视野。美国两党议员甚至开始推动一项《AI 紧急关停开关法案》,想给 AI 装一个“总电闸”。

01

到底发生了什么?

这两起事件,很快被浓缩成各种吓人的标题:“AI 越狱了”、“AI 学会攻击人类了”。但把披露细节逐条看完,你会发现真相没那么科幻,反而有点朴素。
那个入侵服务器的模型,用的是弱密码,走的门是一台本就不该暴露在公网上的服务器。另一个模型能向第三方系统发出攻击指令,是因为那个接口压根没做身份认证。还有一个研究模型往代码仓库上传了恶意软件包,前提也是它先发现了仓库的漏洞。
看出来了吗。每一起事件里,AI 确实表现出了超出预期的主动性,这是行业需要严肃对待的新情况。但它每一次得手,踩的都是人类自己没锁的门。
所以这两周真正值得琢磨的,不是“AI 会不会造反”,而是一个更实际的问题:当 AI 开始会自己动手,你家的门,锁好了吗?

02

真正的风险,不是它答错,是它权限太大

以前用 AI,我们担心的是它说错话:一本正经地胡说八道。
现在要担心的是另一件事:它拿着你的权限,被坏人带偏。
美国国家标准与技术研究院(NIST)给这类攻击起了个名字,叫“间接提示注入”。翻译成人话:AI 帮你读网页、读邮件的时候,页面里藏着的恶意指令,可能会劫持它,让它转头泄露你的数据,或者执行不该执行的操作。在一项超过 25 万次攻击尝试的测试里,13 种前沿模型,都被找到过能被攻破的方式。
再加上前面说的弱密码、没认证的接口,事情就清晰了:AI 本身可不可靠是一回事,你给它开了多少门、门上有没有锁,是另一回事。
而后者,完全在你手里。

03

给 AI 上锁,只需要四步

不用懂技术,照着做就行。

1.三样东西,任何 AI 都不给

验证码、支付密码、完整身份证号码。不管界面多正式、理由多充分,正规 AI 工具不会向你要这三样,开口要的都是骗子。
2.权限按需开放
邮箱、网盘、支付账户,用不到的功能就不授权。你只是想让它帮你整理文档,就没必要给它邮箱权限。跟家里请保姆一个道理:客厅厨房的钥匙可以给,保险柜的钥匙不必。
3.不可逆的操作,最后一步留给人
退款、转账、删文件、群发消息,这类点了就回不去的动作,让 AI 跑到最后一步,由你来确认。海外厂商公开的智能体安全指南也是同样的原则:高风险操作,暂停自动执行,交人确认。
4.每个月查一次授权记录
看看哪些应用和 AI 工具还连着你的账号,不用的就断开;重要账号把双重验证打开。这个动作花不了五分钟,但大多数人从来没做过。

04

写在最后

说回那两起“越狱”事件。有个细节容易被恐慌盖过去:两起事件,都是实验室自己主动披露的。披露之后,行业很快有了共享的安全分级框架和研究员悬赏计划。
这个走向其实挺让人安心。问题暴露了,规则就跟上了;技术在长,锁也在升级。
所以完全没必要因为几条热搜就把 AI 拒之门外。它依然是这几年最能帮你省时间的工具,只是从今往后,用它的正确姿势要变一变:
钥匙照给,活照派,但哪把钥匙能配,你说了算。
未来的分水岭,不是用 AI 的人和不用 AI 的人,而是会给 AI 配钥匙的人,和把钥匙全挂在门上的人。

END

感谢读到这里,要不关注下?👇

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料