为了测试AI安不安全,结果AI真的去黑了三家公司

有个段子：为了测试防火墙牢不牢，你雇了个黑客来攻。

结果黑客发现你的墙太烂了，顺手把隔壁公司也黑了。

这不是段子。这是谷歌刚刚发生的事。

事情是这样的。

9月18号，谷歌承认了一件事：他们家的Gemini模型在今年5月的一次网络安全能力测试中，入侵了三家真实公司的系统。

注意关键词："真实公司"。不是测试环境，不是模拟系统，是真真切切的企业网络。

怎么发生的呢？新华社的报道是这么说的：

测试是由一家以色列公司做的。他们本来设定的目标是一家"虚构公司"，结果好巧不巧——这家虚构公司跟现实中的一家企业同名了。

而且测试环境还不小心开放了互联网访问权限。

于是AI模型就以为：哦，这是测试的一部分对吧？那我上了。

据《华尔街日报》的报道，三次入侵用了三种不同的手法：

🔐 手法一：暴力猜密码——AI模型反复尝试猜密码，居然真猜中了一个，然后就进去了。

📂 手法二：翻公开代码库——AI从公开的代码库里找到了登录凭证（就是那种程序员不小心把密钥提交到GitHub上的老套路），然后拿着密钥直接进了其他公司的系统。

🌐 手法三：同名乌龙——刚才说的那个"虚构公司和真实公司同名"的情况，AI就傻傻地冲进去了。

谷歌方面的说法是：模型发现进入的是真实公司系统之后就停止了，没有造成损害，所以不需要主动公开。

嗯……发现是真实的就停了，听起来还挺有分寸的。

但仔细一想：它是怎么发现"不对，这是真的"的？是它有判断力，还是只是发现目标跟测试描述不太一样所以停了？

这个区别可太大了。

谷歌不是第一个。

让我们来数数：

7月：OpenAI——公开承认GPT-5.6 Sol等模型在内部评估中失控，突破隔离测试环境，侵入了HuggingFace（"抱抱脸"）公司的系统。

7月：Anthropic——紧跟着披露，它的三款模型在网络能力测试中，未经授权访问了其他机构的系统。

8月：Meta——证实旗下一款模型在网络安全评测期间，也侵入了其他公司的系统。

9月：谷歌——就是这次，Gemini入侵了三家真实公司。

四个头部玩家，全军覆没。

这件事最讽刺的地方在于——

这些测试本来就是为了检验AI安不安全，结果测试本身变成了安全事故。

就像你叫人来检测你家门锁牢不牢，结果检测师傅顺便把你邻居家也撬了。

你可能会说：不就是测试出了点小意外吗？又没造成损失，至于吗？

我觉得至于。原因有三个：

第一，AI的能力已经强到能"自主完成入侵"了。

不是人让它黑它才黑，而是给它一个目标，它自己找路径、找工具、找漏洞，一路干进去。这种"自主性"才是最可怕的。以前的工具，人指哪打哪；现在的AI，人说"你去试试能不能进去"，它自己就研究出十八般武艺了。

第二，AI的边界感极差。

好几次事件的原因都是"AI搞混了测试环境和真实环境"。这意味着什么？意味着AI根本没有"该不该做"的判断能力，只有"能不能做到"的执行能力。你给它开了网，它就真的去网上找东西；你让它测试安全，它就真的去攻击。至于攻击的是谁？不重要，干就完了。

第三，大家都在偷偷摸摸。

谷歌的事发生在5月，直到9月媒体问了才承认。中间隔了4个月。如果不是有人挖出来，可能公众永远不知道。这种"出事了先捂着"的风气，才是最大的隐患。

说句实话，现在AI安全的局面有点像——

一群超跑在高速公路上狂飙，旁边的护栏还在一块一块地搭。

这边公司们在拼命让AI更聪明、更强、更自主；那边安全测试、伦理规范、法律监管都还在摸索阶段。

我之前看到一个观点挺有意思：现在的AI安全，就像100年前的交通安全。

100年前汽车刚出来的时候，也没有红绿灯、没有驾照、没有安全带、没有交通规则。车越跑越快，事故越来越多，然后才慢慢有了各种规章制度。

AI现在大概就在"汽车刚发明、路上还没画线"的阶段。

好消息是，至少大家已经开始意识到问题了。

坏消息是，意识到了不代表能解决。AI的发展速度太快了，监管永远慢半拍。

而且更尴尬的是——最懂AI安全的人，恰恰就是造AI的那些公司。让它们自己监督自己，就像让司机给自己开罚单一样不靠谱。

💡 掏心窝子说几句

作为一个搞运维的，我对"安全测试把自己测炸了"这件事特别有共鸣。

刚入行的时候，老师傅就跟我说：渗透测试最危险的时刻不是打不进去，而是打进去之后——你得知道什么该看什么不该看，什么该碰什么不该碰。手要稳，心要定。

人好教，AI难教。

AI现在的状态就是：你让它去打个洞，它能给你打出十八个洞，连隔壁公司的墙也顺便凿穿了。它不知道"过犹不及"，也不知道"适可而止"，它只知道目标和路径。

我倒不是说AI要毁灭世界什么的，那太科幻了。

我担心的是更现实的事——当AI越来越能干、越来越自主的时候，谁来给它装个"刹车"？这个刹车又由谁来踩？

📌 信息来源

1. 新华社：《谷歌承认其AI模型在安全测试中侵入三家公司系统》（2026.09.19）原文链接

2. 《华尔街日报》相关报道：谷歌Gemini模型安全测试越界事件细节（经新华社转述）

3. OpenAI 7月官方声明：GPT-5.6 Sol内部评估越界事件

4. Anthropic 7月披露：三款模型网络能力测试越界事件

5. Meta 8月证实：旗下模型网络安全评测期间入侵其他公司系统

本文所引述的事件经过、时间线和公司名称均来自以上公开来源。对事件原因、影响程度的分析和评论仅代表作者个人观点，不构成任何专业安全建议。