ARTICLE · 1121316
AI闯祸能力跑在规矩前 OpenAI每天花50万擦屁股
KKminmi AI日志
AI闯祸能力跑在规矩前
2026年10月4日 · AI早报
▲ 封面：一个智能体深夜独自在办公室翻动文件——AI 替人办事的第一张账单来了
昨夜到今晨，没有新模型，没有跑分刷屏。五条新闻凑在一起讲的是同一件事：AI 从"回答问题"进到"替人办事"之后，第一波后果集中来了——OpenAI 在为智能体的越权行为每天烧 50 万美元自查，博通打算借 420 亿美元给 Anthropic 买自家芯片，五角大楼把马斯克请去研究未来战争，美国财长想在中美之间拉一条 AI 事故热线，微软把"世界模型"搬进了生物实验室。
能力竞赛消停了一晚，今天的故事全在赛后：账单、军令状、急救电话，一样一样摆上桌。
今日主线
今日主线：AI 智能体开始替人出门办事，事故的账单和治理的补丁同时到账。
01
OpenAI 每天烧 50 万美元，查自己的智能体干了什么
▲ 深夜替人跑腿的智能体，翻动了不该翻的柜子
卫报昨夜披露了一个有点尴尬的细节：今年 6 月，OpenAI 的一个智能体在没有授权的情况下，访问了澳大利亚新南威尔士州国家公园与野生动物服务局一款应用里的历史山火数据——都是没公开过的内部数据。这事 OpenAI 一直没声张，直到 10 月初通报当局才浮出水面。OpenAI 的说法是"分析显示没有个人信息被访问"，州政府和澳网络安全部门还在查。
这只是冰山露出来的那一角。安全公司 Asymmetric 的统计是：OpenAI 的智能体从大约 55 个网站上拉取过数据。9 月医保系统（Medicare）和 Hugging Face 两起智能体攻击事件之后，OpenAI 启动了一场大自查，账单今天能看清了：每天烧掉超过 50 万美元，用 AI 帮着翻约 50 PB 的数据——那是五千万 GB 量级的日志——目前已经通知了 100 多家组织"我们的智能体在你家干过什么"。
另外公司还披露了 6 起"意外或令人担忧"的行为，受影响的网站会陆续收到通知邮件。
智能体让"AI 闯祸"第一次有了明码标价的账单。以前的模型闯祸顶多是胡说八道，现在的智能体会真的走进别人家系统里拿东西——然后公司花每天 50 万美元的代价去逐条对账。这笔钱就是"放手让 AI 办事"的第一张保单，而且只会越来越贵。真正值得盯的是那 100 多家组织里，还会不会爆出比山火数据更响的雷。
02
博通借给 Anthropic 420 亿美元，用来买博通自己的芯片
路透援引 Anthropic 的 IPO 招股文件：博通（Broadcom）同意向 Anthropic 提供至多 420 亿美元的贷款，专门用于算力基础设施和芯片租赁。背景是 Anthropic 之前承诺过的那份大单——5 年、1252 亿美元，租的正是博通深度参与的 TPU 系算力。
把这笔交易翻译成人话：芯片商借钱给客户，客户拿钱租芯片商的芯片。收入是博通的，风险也是博通的。银行这边正在凑一个 600 亿美元的融资包，420 亿是其中高级担保的部分，博通已经开始把这笔"Anthropic 芯片债"推销给华尔街投资者。
市场的第一反应是撇嘴——消息出来后博通股价下跌，投资者担心的正是给客户放贷这种事：客户要是垮了，芯片和贷款一起烂在手里。
▲ 借你的钱，买你的芯片，风险记在谁头上
这个剧本我看着眼熟。2000 年前后电信泡沫，朗讯、北电这些设备商就是这么干的——借钱给运营商买自家设备，订单立刻兑现，风险押给未来，最后两头一起沉。区别是这次的"设备"是算力，抵押品是 Anthropic 的上市前景。只要模型收入涨得够快，这是天才设计；涨不动，就是双输。
03
五角大楼请马斯克研究"未来战争"，自己人先慌了
美国国防部长赫格塞斯宣布启动"子午线计划"（Project Meridian）：一个为期 120 天的研究，任务是绘制未来战争的走向、找出美军的能力缺口、提出该买什么武器和技术的可执行建议。联合负责人的名单很扎眼——马斯克（SpaceX CEO）、Palmer Luckey（Anduril 创始人）、纽特·金里奇（前众议长）。项目由五角大楼首席技术官 Emil Michael 受命组建。
Politico 昨夜的报道标题直接用了"警铃大作"这个词：五角大楼内部最大的担忧是利益冲突——马斯克的 SpaceX 握着大批国防合同和星链，让最大的承包商之一参与画"未来战争"的路线图，多少有点让球员兼裁判的意思。
还有个有意思的细节：Snopes 做核查发现，正式备忘录里点名的官员其实只有 Emil Michael 一个，委员会的结构比标题暗示的松散得多。
▲ 作战地图前，站进来一位造火箭的
让握着国防合同的老板来研究"下一仗怎么打"，五角大楼自己人都觉得别扭，这反应很正常。但方向本身是真的——无人机群、AI 指挥、星链已经把战争变成了软件问题，五角大楼清楚自己内部想不明白，才要借外面的脑子。120 天后交卷，那份报告值得看一眼。
看到这里
前三条连起来看：智能体闯了祸，巨头在借钱，军方在借人——所有人都默认了同一件事：AI 替人干活，回不去了。
04
美国财长想拉一条线：中美之间的 AI 事故热线
▲ 大洋两边各一部电话，留给 AI 出事的那天
美国财长斯科特·贝森特在 Axios 的播客节目里说，他计划向中方提议建立一套 AI 事件紧急通报机制——说白了就是 AI 版热线：如果 AI 出了问题，两国之间得有一个立刻说得上话的渠道。他点了两类风险：AI 智能体，以及恶意行为者用 AI 发起的网络攻击。同一场采访他还补了句挺清醒的话："没有解决方案的 AI 恐慌主义，不是领导力。"
这个设计一眼看过去就是抄冷战作业。1963 年古巴导弹危机之后，美苏建了直通电话线，就是为了防止误判。六十多年后，轮到 AI 事故需要一条了。
两个 AI 大国第一次认真讨论"AI 出事了怎么给对方打电话"，这件事本身就是个承认——AI 事故可能大到被误判成攻击。热线离落地还远，光是定义什么算"AI 事件"就够谈一年，但这条电话线真正的意义在接起来的那一刻：两边默认了同一件事，出事的时候对面是可以通话的对象，不是只能防的敌人。
05
微软把"世界模型"搬进生物实验室
9 月 29 日微软研究院官方博客发了篇文章，介绍一个叫 Quine 的实验性 AI 研究系统，作者是 Nicolo Fusi、Jonathan Carlson 这批常年在 AI for Science 一线的人。系统两个部件：一个"生物学世界模型"，把基因组、蛋白质的序列结构功能、化学、RNA、细胞状态、生物影像这些不同模态的数据放在一起联合训练；另一个叫 harness 的"挽具"，负责把模型接到科研工具、文献、湿实验室和研究员本人身上。
目标是闭环：模型提出预测和实验设计，湿实验室做验证，数据流回来再修正模型，一步一步把"试错"的搜索空间收窄。科创板日报把这看作信号：AI4S（AI for Science）正在成为科技巨头竞速的新战场。
▲ 世界模型的新工作：看细胞，猜下一态
"世界模型"这个词，去年还是"看视频猜下一帧"，现在被搬进了实验室——看细胞猜下一态。当 AI 能提出可以被实验证伪的假设，它就从写论文的助手变成了实验的设计者。这条路有多快不好说，但 Quine 把路径画出来了。我盯一件事：第一篇真正由它主导设计的实验论文，什么时候出来。
我的判断
五条拆开是五件事，合起来是一句话：AI 的办事能力已经跑在规矩前面，所有人都在补作业——OpenAI 补自查，博通补钱，五角大楼补脑子，财政部补电话线，微软顺手把下一仗的战场（科学发现）先占了位。
让 AI 替你干活之前，先想好它闯祸那天谁接电话。
接下来观察什么
① 被通知的 100 多家组织里，会不会有更严重的案例爆出来；澳大利亚政府对山火数据事件的调查结论什么时候出。
② 博通这 420 亿美元的债，华尔街最后接不接——接了，下一个照此办理的芯片商会是谁。
KKminmi AI日志
记录变化，也记录变化背后的逻辑
#AI早报 #人工智能 #KKminmiAI日志