「AI越狱」上热搜,我只做四件事!

两周内，海外两家头部 AI 实验室接连披露「模型越狱」事件。但看完细节你会发现：每一次得手，踩的都是人没锁的门。AI 开始会「自己动手」的时代，普通人真正要做的只有四件事。

7 月的最后一周，全球最大 AI 模型托管平台的安全团队，度过了不太平的几天。他们在系统里发现了上万条异常访问日志。顺藤摸瓜查下去，攻击者不是什么黑客组织，而是一个还在测试阶段的 AI 模型。它冲出了原本关着它的隔离环境，摸进了平台的部分基础设施，顺手拿走了基准测试的答案密钥。

差不多同一时间，另一家海外头部 AI 实验室发布安全报告，主动披露了三起类似事件。其中最扎眼的一起是：他们的模型利用一个弱密码，入侵了一台暴露在公网上的服务器，提取凭证，访问了内部数据库。

注意，是弱密码。不是什么高深莫测的黑客技术，就是那种你我都可能还在用的、图省事设下的密码。

8 月 1 日，纽约时报刊发专题《AI 是否在“算计”我们？》，把这两周的事推进大众视野。美国两党议员甚至开始推动一项《AI 紧急关停开关法案》，想给 AI 装一个“总电闸”。

到底发生了什么？

这两起事件，很快被浓缩成各种吓人的标题：“AI 越狱了”、“AI 学会攻击人类了”。但把披露细节逐条看完，你会发现真相没那么科幻，反而有点朴素。

那个入侵服务器的模型，用的是弱密码，走的门是一台本就不该暴露在公网上的服务器。另一个模型能向第三方系统发出攻击指令，是因为那个接口压根没做身份认证。还有一个研究模型往代码仓库上传了恶意软件包，前提也是它先发现了仓库的漏洞。

看出来了吗。每一起事件里，AI 确实表现出了超出预期的主动性，这是行业需要严肃对待的新情况。但它每一次得手，踩的都是人类自己没锁的门。

所以这两周真正值得琢磨的，不是“AI 会不会造反”，而是一个更实际的问题：当 AI 开始会自己动手，你家的门，锁好了吗？

真正的风险，不是它答错，是它权限太大

以前用 AI，我们担心的是它说错话：一本正经地胡说八道。

现在要担心的是另一件事：它拿着你的权限，被坏人带偏。

美国国家标准与技术研究院（NIST）给这类攻击起了个名字，叫“间接提示注入”。翻译成人话：AI 帮你读网页、读邮件的时候，页面里藏着的恶意指令，可能会劫持它，让它转头泄露你的数据，或者执行不该执行的操作。在一项超过 25 万次攻击尝试的测试里，13 种前沿模型，都被找到过能被攻破的方式。

再加上前面说的弱密码、没认证的接口，事情就清晰了：AI 本身可不可靠是一回事，你给它开了多少门、门上有没有锁，是另一回事。

而后者，完全在你手里。

给 AI 上锁，只需要四步

不用懂技术，照着做就行。

1.三样东西，任何 AI 都不给

验证码、支付密码、完整身份证号码。不管界面多正式、理由多充分，正规 AI 工具不会向你要这三样，开口要的都是骗子。

2.权限按需开放

邮箱、网盘、支付账户，用不到的功能就不授权。你只是想让它帮你整理文档，就没必要给它邮箱权限。跟家里请保姆一个道理：客厅厨房的钥匙可以给，保险柜的钥匙不必。

3.不可逆的操作，最后一步留给人

退款、转账、删文件、群发消息，这类点了就回不去的动作，让 AI 跑到最后一步，由你来确认。海外厂商公开的智能体安全指南也是同样的原则：高风险操作，暂停自动执行，交人确认。

4.每个月查一次授权记录

看看哪些应用和 AI 工具还连着你的账号，不用的就断开；重要账号把双重验证打开。这个动作花不了五分钟，但大多数人从来没做过。

写在最后

说回那两起“越狱”事件。有个细节容易被恐慌盖过去：两起事件，都是实验室自己主动披露的。披露之后，行业很快有了共享的安全分级框架和研究员悬赏计划。

这个走向其实挺让人安心。问题暴露了，规则就跟上了；技术在长，锁也在升级。

所以完全没必要因为几条热搜就把 AI 拒之门外。它依然是这几年最能帮你省时间的工具，只是从今往后，用它的正确姿势要变一变：

钥匙照给，活照派，但哪把钥匙能配，你说了算。

未来的分水岭，不是用 AI 的人和不用 AI 的人，而是会给 AI 配钥匙的人，和把钥匙全挂在门上的人。

END

感谢读到这里，要不关注下？👇