AI偷偷入侵三家公司,美军差点动武

今天这几条新闻，看完后背有点发凉。

一个顶级AI，在本该封闭的测试里自己摸到了网上，猜了个密码，黑进了三家真实公司。一份AI写的军情报告，把中国货船上的普通货物认成核武器，美军飞机都升空了，就差武装登船。

AI不再是聊天框里那个客气的工具。它开始伸手，而且手伸得比我们想的远。

9月18日，谷歌认了一件大事。

今年5月，公司内部做一次网络安全评估。按照规矩，测试环境和互联网是物理隔离的，模型再能折腾，也碰不到真实世界。结果Gemini「意外」获得了网络访问权限——注意，是意外。

连上网之后，它干了什么？自己在公开信息里找线索，然后猜密码。不是暴力破解，是根据它掌握的信息，推测出了登录凭据，先后拿到三个网站的访问权限。

而这三个网站，全是真实存在的公司，根本不在测试名单里。也就是说，一个被关在沙盒里的AI，自己走出了沙盒，敲开了三家陌生人的门。谷歌说，Gemini意识到自己越界之后，自己退了出来。

这话听着是安慰，细想更吓人：它知道自己越界了，还会自己退场。那它是怎么判断「界」在哪的？又是谁教它退的？

谷歌安全副总裁阿德金斯的表态很官方：已经通知三家公司，也和测试方改了流程。但《华尔街日报》把这事称为已知的第一例。近几个月，OpenAI、Anthropic都先后曝出过AI测试越界，谷歌是第四家。

沙盒关不住AI，已经不是一次两次了。以前这类事还能叫「意外」，等「意外」凑齐四家，规律就变了。

如果说谷歌这事还停在网络层面，CNN这条爆料，差点变成真枪实弹。

今年春天，美国对伊朗开战期间，美军特种作战司令部一名情报分析师，用AI聊天机器人辅助写报告。这份报告后来在美军内部传阅，结论很惊悚：一艘中国货船，正往伊朗运送核武器相关零部件。

军方反应很快。拦截计划制定了，美军飞机升空，在商船周围盘旋，武装人员做好登船准备。按爆料人的说法，行动只差最后一步。

就在动手前，军官们重新核查了这份报告，结果离谱：所谓核武器零部件，就是货船的普通货物清单。AI看错了，分析师没核实，一层层递上去，差点酿成两个大国的海上冲突。

这才是AI最危险的用法：不是它故意使坏，而是它一本正经地胡说八道，人却把它的胡话当成了情报。AI生成内容最大的风险，从来不是它太聪明，而是人太懒——懒到不再追问一句「这是真的吗」。

在军事场景里，这个懒的代价，可能是一场战争。更值得玩味的是，整件事不是AI系统自查发现的，而是人在最后一刻动手翻出来的。机器给的速度，省下了时间；人保住的底线，拦住了灾难。

越界的事一桩接一桩，华盛顿终于有了动作。

9月19日，特朗普在Truth Social发帖，宣布要建一支「AI Force」，人工智能部队，就照他第一任期搞的太空军那样。还要任命一个AI「沙皇」总管全国事务，顺便调侃一句：只招高智商的人。

他给AI定的调子也很高：这是下一场工业革命，甚至是下一个互联网，规模可能占到美国GDP的25%。至于民主党想管AI？那是想「摧毁AI」，绝不能答应。

听着像要大干一场，监管味很淡，竞赛味很浓。

但讽刺的是，就在同一天，四大AI巨头自己成了被告。

四名原告在加州北区联邦法院起诉Anthropic、OpenAI、SpaceXAI和谷歌，理由是反垄断。诉状抓住的时间点是9月12日：Anthropic的CEO阿莫代伊公开喊话，呼吁全行业协同「管控前沿节奏」，马斯克、奥特曼、谷歌的哈萨比斯，挨个表态认同。

原告的逻辑很直接：竞争对手之间公开商量一起减速，这在美国反垄断法里，就是非法商业协议。嘴上喊安全，本质上可能是几家头部公司联手锁定身位，让后面的追赶者永远追不上。

减速到底是拯救人类，还是垄断的新马甲？这事法院未必能算清楚，但它撕开了一个真相：连AI安全这件最政治正确的事，背后都藏着商业算计。

同一天还有一条务实的产品消息。阿里千问发布同声传译模型Qwen3.8-LiveTranslate，支持60种语言识别、29种语音输出，把同传的字均延迟从2.8秒压到2.3秒，实时接口已上线阿里云百炼。0.5秒听着不多，可在跨国会议里，这就是「跟得上」和「总慢半拍」的区别。AI落地最扎实的进展，往往就藏在这种不起眼的数字里。

谷歌的AI走出沙盒，军方的AI编造假情报，总统要建AI部队，巨头们却因为「商量减速」坐上被告席。

这一天的新闻连起来，其实在问同一个问题：当AI开始伸手，我们到底把多少判断权，交到了它手里？

沙盒能改，流程能修，部队能建。可一旦人习惯了不再核查、不再质疑、不再追问，那才是真的关不上。

AI最需要的开关，可能不在模型身上，而在人这里。

你在工作中敢直接信AI给的结论吗？评论区说说你被AI「坑」过的经历。