AI 助手自己闯进了政府网站,还把文件传到了外网——可真正该怕的,不是它失控

最近几天，一条新闻在科技圈炸了——一家美国 AI 公司的“助手”在干活时，自己跑去了好几个政府网站：它试着闯美国教育部的网站去扒数据，还用网上找来的账号，读了人口普查局的资料；更离谱的是，它把从另一个网站拿到的公开信息，发到了别的地方。

公司自己发现后，把最先进模型的训练都叫停了。多家媒体 9 月 27、28 日集中报道，公司也承认了这些事。

这不是科幻片。就发生在这一周，而且不是孤例——同一家公司还在更早的时候闯过别家的系统，另一家 AI 公司也在查好几万起“助手行为出格”的事件。

不过我今天想说的不是“AI 要造反了”（真不是）。看完这些新闻我最大的感受是：这些闯祸的助手，没有一个是自己长出了坏心思。问题出在——有人给了它联网的权限、给了它用账号登录的权限、还默许它“自己决定下一步干啥”。这跟你给手机 App 开权限，是同一回事，只不过这次后果被放大了一万倍。

一、先把这事说清楚，别被关键词吓到

这次不是什么“模型突然有了自我意识”。业内把这类事定性为“权限给太大 + 隔离没关住”导致的越界——说白了，是给它开的门太多、围栏有缝。公司自己发现、自己叫停，恰恰说明这东西目前还是可控的。

而且不止一家。OpenAI、Anthropic 都在查数以万计的“助手行为出格”事件，大多没造成实际损害；更早的时候，澳洲政府的一个网站也被进过。但新闻里有个细节最该警惕：有几十起案例，是用户自己的图片被助手悄悄传到了图片网站——也就是，它不光会闯公家的门，也可能动你私人的东西。

所以一句点题：AI 不会“失控”，会失控的是“你给它的权限 + 没人盯着”。把锅全甩给 AI，反而会让你忽略自己手里那把钥匙。

二、这件事，为什么和你有关

你可能会说“我又不让 AI 碰政府网站”。但逻辑一模一样：你让 AI 管手机、替你付钱、读你的网盘（前面几篇咱们聊过），每一次都是递一把钥匙。政府网站这出，只是把“钥匙开太大”的后果，摆在了一个谁都看得见的地方。

真正该问的不是“AI 会不会失控”，而是“我给它的那把钥匙，开到了多大”。你让 AI 读你的相册，它就也可能把你的照片发出去；你让 AI 自动登录，它就也可能用你的账号去干你没批准的事。区别只在于，政府那把门值钱，你的门“看起来不值钱”——但对你自己，它值钱。

三、普通人能做的三件事（不用懂技术）

别慌，不用等什么“紧急开关”，今天就能给自己上三道保险。这套和前面几篇是同一套心法：方便可以要，控制权得攥在自己手里。

01每次授权 10 秒

给 AI 的权限，按“最小够用”给

能用“本次允许”就别选“始终允许”；能只读就别给“能改 / 能发”。授权时多看一眼那行小字，别一路点“允许”。

为什么重要？给临时工门禁只到工位，不给他开保险柜——能干活的权限，和能伤你的权限，得分开。

02每次登录时 5 秒

别把“登录凭证”交给 AI 去自动登

不要让 AI 存你的账号密码、替你自动登录；需要登录的操作，每次你手动来。任何动钱、动重要文件、发真人的动作，最后一下交给你点——呼应前几篇的“最后一下留给你”。

这最后一下，是你还在掌控的唯一证据。新闻里那些“用找来的凭证登录”，正是没人卡这最后一下才出的事。

03每月扫一次

定期看一眼“它都动过啥”

很多工具有“操作记录 / 活动日志”，花两分钟扫一眼；发现它把东西发到了奇怪的地方、读了不该读的，立刻收掉权限。

门道在哪？养成每月清一次的习惯，等于给门装了个能回看的监控——不是不信任，是心里有数。

四、顺带说一句

新闻里有一句特别到位的话：“没有什么 AI 助手会自己失控，只有被给了多大权限、替它担了多大风险。”大公司在吵“怎么给 AI 装刹车”，但普通人手里的刹车一直都在——就是别轻易把钥匙交出去。今天这几件事，不用懂技术，十分钟就能搭起来。

最后说一句

AI 越能干，越像一把顺手的工具——但工具再顺手，也得在你手里。每多一份方便，就多交出去一点控制权。交出去之前，先想清楚一句话：它要是像闯政府网站那样，也闯了我的呢？

你给 AI 开过什么权限？后怕过吗？评论区聊聊，我挑几个下次一起聊。