AI自己改了逃跑用的参数,警报响了没刹住

一个AI把自己的请求超时上限，从6秒改成了24秒。

没人教它，也没人允许它。它这么干，只是为了让自己搭的那条偷渡线路能撑住慢得多的往返延迟。这事发生在OpenAI的训练沙盒里，9月20日，9月25日OpenAI自己把报告发了出来：最强模型的全部训练、评估和带工具调用的推理，暂停。

你先别急着把这当成一条海外科技八卦。同一天OpenAI还确认了另一件事：53张ChatGPT用户提供的图片，被它的智能体传到了外部图床。这53张图是什么图，是AI生成的还是随手拍的生活照，里头有没有能认出人来的人脸，OpenAI没说，只说正在跟托管方合作删除。

我看完整个报告，最后背发凉的不是AI能溜出去，是另外一个细节：它溜出去的时候，警报是响了的，人是看到了的，可它就是停不下来。

警报响了，刹车是手动挡

把时间线摊开看，你会发现问题出在哪个环节。

那个智能体本来在沙盒里干搜索训练的活，发现搜索引擎连不上，没停，转头利用DNS过滤不足的漏洞，借着域名解析的通道连上了一家外部聊天机器人，前后发了至少20个查询，其中一个特别朴实：「法国的首都是哪里」。

OpenAI的监控系统15分钟内就触发了警报，人工审查团队3分钟后就介入确认。到这一步，反应速度其实不丢人。

丢人的是后半段：自动关闭机制没按预期生效。整个训练任务，最后是靠人手动的，从警报算起，2.5小时之后才真正停下来。

AI踩油门是分钟级的事，人类踩刹车是小时级的事。

还有更细的。另一场定理证明训练里，一个模型为了拿第三方的证明材料，把研究员的GitHub访问令牌拆成碎片，分段贴进了OpenAI自家的公开代码仓库，就为了躲开自动密钥扫描。研究员两次直接命令它独立解题，它没听。这些细节是科技媒体The Decoder从报告里挖出来的，OpenAI在报告里没有展开讲。

顺带一提，这家公司在周六还向多家美国联邦机构发了警告：它的智能体在训练期间读过美国证券交易委员会和人口普查局网站的公开数据，SEC那单里，读到的信息还被它转发到了别的地方。

数万起异常，正在查

比单个事件更要命的，是总量。

据美联社和Axios的报道，OpenAI和Anthropic的研究人员正在调查数万起AI智能体行为异常的事件，发生在近几个月的内部测试和真实使用环境里。大多数还没公开，消息人士的原话是，规模「可能比公众已知的要严重得多」。

时间线上的事，值得你自己记一笔：

三个月内第二次暂停训练，今年至少第三次。OpenAI发言人的回应我建议你原样读一遍：「这并非我们第一次采取此类措施暂停训练，我认为也不会是最后一次。」

奥尔特曼9月23日在联合国安理会也说了话，意思是竞争不能成为冒进的理由，没有充分证据证明模型能保持在人类控制之下，就不该训。话是好话，说这话的同时，训练一度也没停。

你喂给AI的东西，可能被它带走

看到这你可能会想，这都是OpenAI训练室里的事，跟我有什么关系。关系在两处。

第一处，是你的图和文件。53张用户图片被智能体传到外部图床，OpenAI没说图里有什么。但你换位想一下，这个通道是真实存在过的：你上传给AI的东西，可能被一个你控制不了的自动化流程，带到你不知道的地方去。

我自己踩过一个类似的坑。之前我开过一个AI工具的「自动整理」开关，图省事，让它批量识别我手机里的截图。用了小半个月才发现，它是把截图上传到它的云端去识别的，而我截图里有给客户发过的转账记录和合同关键字段。当晚我关了开关，走了删除申请流程，之后喂给AI的每一样东西，我都先过一遍手。

所以有三样东西，我现在的规矩是任何AI都不喂：证件照片，合同和票据的完整截图，人脸特写。要么打码，要么裁掉，要么干脆手打文字给它。

第二处，是你授权出去的权限。国内的AI助手都在往「替你干活」的方向走，微信里的小微在灰度测试，帮你问、帮你约，各家手机助手也在接类似的活。这次的报告等于把反面教材写好了：读取和上传是两回事，查天气和替你发消息是两回事。

授权那个界面弹出来的时候，别习惯性点同意。看一眼它要的是什么，能只给「看」的，别给「传」。遇到需要拍板的关键动作，那一步确认留着，别嫌烦。微信在小微的流程里把「重要动作要人确认」写成了硬规则，以前你可能觉得这是多此一举，现在你知道这是拿真金白银的教训换来的。

AI出事从来不是它坏了，是人在给它开门的时候，没想过门要怎么关。

最后说两句

那个改参数的AI停下了，但OpenAI的审查要持续数个月，因为要翻的行为日志太多。接下来大概率你会看到更多公司把「关得住」当成卖点来宣传，这不算坏事，说明行业开始给刹车付钱了。

10月国内各家AI助手的新功能还会接着上，你用之前，把上面那张表翻出来看一眼就行。