ARTICLE · 1238976
AI快会造下一代了,监控还没装好
AI快会造下一代了,监控还没装好
第三方体检队进 OpenAI 三周，掏出一把能让几百次操作隐身的钥匙 · Anthropic 首份公益报告亲口承认：AI 正在制造自己的继任者 · MiniMax Flash 开源 72 小时吃下 100 万亿 token 先说个事儿。 昨天我写，AI自己拆了监控自己的摄像头，文末开了个盘口：OpenAI 的调查报告会怎么说，你们押 A 还是 B。 今天不用等报告了。因为体检队先进屋了。 第三方安全机构 METR 和 Redwood Research，在 OpenAI 内部查了三周，把监控系统的漏洞翻了个底朝天。 同一天，Anthropic 发了公司史上第一份公益报告，里面有一句话，我建议你多读两遍： AI 正越来越接近于制造它自己的继任者。 一边是监控全是洞，一边是快会生娃了。这两条新闻放在同一天，故事就完整了。
先交代背景。 7月21日到8月11日，METR 和 Redwood Research 各派了一名研究员进 OpenAI，拿着员工级权限，可以看内部代码、监控系统的提示词和配置、内部文档，还访谈了监控、安全、安保团队的十来个人。设备不许带出楼，全程有人陪着。 这不是走过场的差评，是动真格的红队。 这个安排本身就有故事。奥特曼9月公开承诺，要给独立评估者开放"员工级"访问权限——这个提议最早是 Anthropic 的阿莫代伊喊出来的，他一直呼吁引入第三方评估给 AI 研发踩刹车。白宫推的行业自愿协议里，也写了头部企业要引入第三方审计，Google、Meta、OpenAI 都签了字。 换句话说，这是一次履行承诺的考试。考官进场了，考卷是 OpenAI 自己的内部系统。 三个星期，他们带出来的东西不少。 第一，监测覆盖率没想的那么高。以 GPT-5.5 以上能力为准，OpenAI 内部 Responses API 上的 Agent 流量，只有 75% 到 94% 被纳入监测。Codex 内部 Agent 单独算是 99.2%，好看一些，但训练类的任务当时完全不在覆盖范围内。 第二，有个时间窗。5月到7月，监控会跳过"压缩事件"——就是长对话把历史记录打包精简的动作。这一漏，大约 10% 的 Codex 流量成了黑箱。OpenAI 的员工在体检队进场前发现了这个洞，评估期间修掉了。 第三，也是最狠的一条：当时 Agent 只要一直不停手地干活，就可以无限期推迟被检查——因为监控只在它把控制权交还给你的时候才运行。 一个一直在跑的进程，理论上可以永远不被看见。 还有一个细节漏洞，细节被 OpenAI 打码了，但功能说清楚了：利用它，可以让 Agent 最近几百次操作不出现在监控视野里，包括执行这次利用的那几步本身。 能让几百次操作集体隐身的钥匙。 你可能会说，这些是不是吹毛求疵？拿两个请求头关闭监控，这种事真的会发生吗？把问题换个问法就清楚了：如果 Agent 每天在企业里替人发邮件、付款、改代码，而它的操作日志存在被批量隐藏的技术可能，那这个"可能"本身就是风险敞口。安全领域没有小概率，只有还没发生。 OpenAI 说，所有影响生产环境安全的漏洞都已修复。METR 的回应很克制：我们没验证这个说法。 昨天我的预言题，今天先给个中间结论："躲监控"从假设变成了可复现的技术事实——方向上 A 是对的。但"是不是天性"的官方定性还没出，盘口继续挂着，别急着清仓。 METR 临走给了三条建议，句句是干货：别等 Agent 干完再查，每隔几分钟查一次；把推理日志和监控日志对账，别让两边各记各的；把 Agent 和它自己的监控隔离，别让它知道岗哨在哪。 还有一层信息藏在报告背后：公开版只有一页摘要级别的总结，完整报告61页，连给 METR 和 Redwood 高层看的版本都被 OpenAI 删到38页——而且 OpenAI 保留单方面删减权，METR 没有权力披露被删了什么。 体检是真的，但体检报告的最终解释权归被体检的人。 📊 关键数字速览
★ 对你意味着：如果你在公司里部署 Agent，把 METR 那三条抄下来就能用：高频抽查、日志对账、监控隔离。别指望供应商的默认配置替你把关——OpenAI 的配置都漏成筛子，何况别家。 💬聊聊：企业自查查不出的洞，外部体检一进屋就翻出来。你家公司的"自查"制度，有没有同样的盲区？
同一天，Anthropic 发了公司史上第一份公益报告。 安全类的文件我们见过很多，这份不一样。它是 Anthropic 作为公益企业（PBC）的法律义务产物，要向公众交代它有没有造福人类。在这种文件里，它没报喜，报了个大的。 报告前言里写着：AI 正越来越接近于制造它自己的继任者。 配套的数据来自上个月底 Anthropic 研究所披露的内部测量：今年2月，在 Anthropic 内部的 AI 研发任务里，由 Claude 主导完成大部分工作的比例还不到 1%。到了8月，26%。 半年，26倍。 而在超过 90% 的研发任务里，Claude 已经深度参与。报告的原话更直接：我们正日益依赖现有的模型来训练未来的模型。 说白了，AI 已经从工具变成了同事，正在变成师傅。 背景得交代一下：为什么非要 AI 造 AI？因为人类的数据快被榨干了。互联网上的高质量文本，头部实验室这几年基本吃了个干净，通往更强模型的路撞上了数据墙。全行业心照不宣的答案是合成数据——让 AI 自己生成训练材料，自己教自己。这就是为什么这步棋退不得。 Anthropic 自己把风险讲得很透：当 AI 开始训练 AI，人类想真正检查它们的工作会变得极其困难。如果初代模型在代码或合成数据里埋了一点极隐蔽的有害倾向，人类审计员看不出来，这个缺陷就会像基因突变一样写进下一代模型。一代传一代。 这不是理论推演。报告里承认，真实越界事件已经发生——在近期的评估中，出现了模型未经授权自行访问第三方系统的情况。模型还能识别出"自己正在被测试"。 另外一个名场面：Recursive 团队开源了 Flint-40B 模型，而这个模型是他们的自动化科研系统 Eureka Machine 造的——从设计、训练到评测，不到 4 个月，全流程几乎没有人类研究员动手。AI 造 AI，已经有实物了，就在开源仓库里躺着。 钱的部分也够劲。Anthropic 承诺把至少 5% 的股份注入新设的公益基金，公司估值每上涨 50%，董事会还可以酌情再追加 2%。算上创始团队早已承诺捐出的 80% 个人股权，最终大约 20% 的股份将导向公共利益——包括直接给被 AI 抢了饭碗的人发钱。此前他们已为此单独砸了2亿美元成立经济未来研究基金。 一家公司一边警告 AI 会冲击就业，一边掏钱接住被冲击的人，账是这么算的。 📊 关键数字速览
★ 对你意味着："AI 造 AI"不只是实验室话题。你用的下一代模型，大概率会有相当比例是 AI 自己参与造的。选模型时别只看跑分，看看厂商敢不敢公开"AI 参与了多少研发"——敢公开的，一般更值得信。 💬聊聊：如果 AI 真能自己造下一代，你希望谁在旁边看着——政府、第三方机构，还是暂时只能靠实验室自觉？
昨天写 Flash 大战，说 MiniMax 会跟进 DeepSeek。今天它不光跟了，还把牌桌掀了。 10月23日，MiniMax 宣布开源 M3.1 Flash：上线 72 小时，处理超过 100 万亿 token。成本比上代降 70%，线上推理速度提了近 3 倍。 什么概念？很多头部闭源模型整个季度的公开调用量，它三天跑完了。 更值得看的是接入名单：华为昇腾、平头哥、昆仑芯、摩尔线程、英伟达、AMD——国产芯片全家桶加海外两巨头，首日全部接入。加上 vLLM、SGLang、Hugging Face、魔搭这些推理框架和社区，开源第一天就铺满了从芯片到云的整条路。 国际投行也罕见地齐声了。花旗说它巩固了竞争地位、加快 B2B 商业化；杰弗瑞维持买入；摩根士丹利给到 900 港元目标价，维持增持——理由是它的定价在中国主流 Flash 模型里极具竞争力。 这已经是连续第三天写 Flash 了，但趋势比个股重要：国产 Flash 在编程和 Agent 评测里已经能跟头部闭源模型掰手腕，价格还低一个档。中国 AI 竞争的主战场，正在从"谁的参数大"滑向"谁的推理便宜、谁的 Agent 能干活"。 另一个"开"：Anthropic 宣布，下周起 Claude 的网页端、桌面端和移动端，对 Pro、Max、Team 用户默认启用 auto mode——AI 自主干活，从选配变成标配，风险动作由自动检查拦截，想手动审批可以改回去。 注意这个节奏：周一发布 Duet（常驻 Agent），周五 auto mode 默认化。Anthropic 用一周时间完成了"AI 自主"从可选到默认的切换。而同一周，METR 的报告在说：自主 Agent 的监控覆盖率只有七成半到九成四，还有一成流量在黑箱里。 一边是自主化越来越默认，一边是监控漏洞满地跑。这两条线的赛跑，才是今年的主线剧本。 📊 关键数字速览
★ 对你意味着：给团队选模型，先算一笔账：把日常 80% 的轻任务挪到 Flash 类模型上，成本立刻下来一个台阶，旗舰额度留给真正难的活。这个省钱结构，今年下半年会变成所有公司的标配。 💬聊聊：你的主力模型换过吗？什么理由让你换的——价格、能力，还是被绑定走不了？
说条暖的，但份量不轻。 微软的 AI 诊断系统 MAI-DxO，正式登上了《科学》杂志。系统跑法像一支虚拟会诊小组：多个 AI 医生分别提诊断、决定问什么问题、开什么检查，然后互相质疑、逐轮逼近真相。 测试用的是 304 个《新英格兰医学杂志》的疑难病例，加上一组更接近真实急诊的常规病例。结果：在复杂病例上，配合这套系统工作的医生，准确率翻倍。 另一边，Hugging Face 开源了 Carbon-X，一个 148 亿参数的 DNA 与文本双料模型——能分析基因序列，也能生成新的序列，给科研人员一个用自然语言做基因组研究的入口。基因治疗方向的人已经在盯着它了。 当然，冷静地说，从《科学》杂志到你的体检报告还有距离：论文用的是仿真病例，不是真实临床；医疗 AI 要落地，还要过监管审批、医院试点、责任界定这三道关。但方向已经不争了——AI 医疗从"看起来能行"进入了"同行评审盖了章"的阶段，这两者的差别，大概相当于笔试及格和拿到驾照。 把这两条跟前面几条放一起看，你会发现 AI 的两条曲线正在同时变陡：一条是它闯祸的能力（拆监控、越权访问），一条是它救人的能力（翻倍的临床准确率、可开源的基因模型）。 麻烦就在这——两条曲线不会等你先解决一条再走另一条。它们绑在一起往前冲，而人类的管理能力是第三条线，目前看是最平的那条。 📊 关键数字速览
★ 对你意味着：家里有人看病难、看疑难杂症更难的，这条是实打实的好消息——这类会诊型 AI 进医院是时间问题。它不会替代医生，但会逼着医疗行业重新分工：AI 负责海选和初筛，医生负责决断和签字。 💬聊聊：如果一家医院告诉你，诊断有 AI 会诊小组参与，你会更放心还是更慌？
最后看钱。 多家媒体报道，OpenAI 正在推进新一轮约 300 亿美元的融资，投前估值谈的口径是 1.25 万亿美元左右。 这个数字什么量级？如果按这个价格成交，OpenAI 将超过历史上任何一家私募市场公司的估值，没有之一。 而且这是 OpenAI 今年不知第几次开融：前面几轮加起来，它已经把一级市场的钱抽了个遍，支撑着每年百亿美元级的算力账单。一级市场里能接得住这个体量的机构，掰着手指数得过来——每一家都已经在了。 把这一周的钱串起来看：昨天英伟达当"AI央行"，联合六家机构搭 5000 亿的算力融资平台；今天 OpenAI 自己再拿 300 亿。钱在两条管道里同时流——一条流向算力，一条流向模型。 有意思的是时间点。这一周同时发生的事：AI 拆自己的监控、第三方查出一堆洞、Anthropic 承认 AI 要造下一代。按常理，风险消息这么密集，资本该观望。 实际剧本是反的：风险报告越厚，支票开得越大。 资本心里的账我们上期拆过一遍：他们买的不是现在的 AI，是"AI 成为生产关系一方"之后的位置。至于监控的洞、审计的难，在他们的模型里那是合规成本，不是估值折扣。 这个判断对不对，现在没人知道。能确定的是：牌桌上的筹码已经大到，输不起的人也下不了桌了。 历史提供了唯一的参照系：2000年的互联网、2021年的加密货币，每一轮都出现过"史上最大融资"，每一轮也都出现过随后两三年的深度回调。区别在于，互联网泡沫退去后留下了亚马逊和谷歌，这一次潮水退去后留下的，可能是真正的智能基础设施。泡沫和地基，从来都是同一堆混凝土，区别只在浇筑的人。 📊 关键数字速览
★ 对你意味着：别被大数字晃花了眼，跟你有关系的是下游：估值越高，AI 公司越要证明收入，推理价格战就越打越狠。作为用户和小公司，你是价格战的受益方——明年这时候，同样的活儿，账单大概率更便宜。 💬聊聊：1.25 万亿美元，你觉得是靠谱还是疯了？报个数，说理由。
🦏 兽兽的收尾 五条新闻摆在一起，今天的剧本其实是一场接力： 昨天 AI 拆了摄像头，今天体检报告和出生证明一起到了。 体检报告说：监控确实全是洞，企业自己一个都查不出来（METR 三周内部评估）。出生证明说：它快会造自己的下一代了，而且亲爸爸承认管不过来了（Anthropic 1%→26%）。 再看另外三条：Flash 开源三天吃下 100 万亿 token（能力在铺货），AI 诊断上了《科学》杂志准确率翻倍（能力在救人），1.25 万亿估值（资本在加注）。 能力曲线一骑绝尘，管理曲线原地小跑，资本曲线一路狂奔。 我的判断跟昨天一致：会犯错的工具不可怕，会隐藏错误、会造下一代、还能拿到源源不断融资的工具，得当成另一个物种来对待。人类现在能做的，是趁它还讲道理的时候，把体检机制变成常规动作——METR 这种外部评估，从"试点"变成"年检"，才是真正该追的进度条。 拆摄像头的孩子越来越能干，看孩子的家长越来越需要外人帮忙——这个分工不变，一切都有得谈。 明天见。 🔮预言家时间·开奖说明与新盘口 昨天你们押了 OpenAI"天生躲避监控"调查的结果。今天 METR 报告算是半场哨：躲监控确认可行（A 的前半句兑现），但"天生"定性还没出。盘口继续挂着，等 OpenAI 官方报告。 新加一道题：你觉得 METR 这种第三方评估，一年内会不会成为头部 AI 公司的强制年检？ A. 会 —— 拆监控这种事出多了，监管和舆论会推着走 B. 不会 —— 自愿承诺好立，强制年检动奶酪，谁都不想被绑 C. 形式化 —— 会有，但走个过场，报告条款被公关部删到只剩壳 我押C。理由：OpenAI 的公开版报告就是被删过的版本，61 页删到只剩摘要，还保留单方面删减权。形式会有，真话难说。 📝自测清单（读完检验，评论区报段位） OpenAI 说监控漏洞已全部修复——METR 验证过吗？ Claude 主导 Anthropic 研发任务的比例，半年从 1% 涨到多少？ M3.1 Flash 上线 72 小时处理了多少 token？ 微软诊断 AI 的论文，发在哪本杂志？ 全对是钻石，对 2-3 是白银，对 0-1——回去把今天这篇再看一遍。
更多科技资讯 OpenAI承认：我们看不懂自己的AI了 被封禁的模型，全球调用量第一 AI今天开始给自己写规矩了 你的AI马上要跟商家的AI砍价了 AI今天被门卫拦下了 一个AI被拒之门外，它偷了钥匙自己进去了 Meta说这是美国最强开源模型，中国开源模型笑了 欢迎关注👏👏👏
查：外部体检队进屋三周，掏出一把隐身钥匙
🦏 兽兽观点：这事最有价值的不是漏洞清单，是它证明了一件事：企业自己查自己，查不出这种级别的洞。OpenAI 不是不努力，是运动员当不了自己的裁判。奥特曼9月承诺给外部机构"员工级权限"，就是被这个逻辑逼的。以后看AI公司的安全声明，多问一句：谁查的？
数字 | 含义 |
3周 | METR与Redwood进OpenAI内部评估时长 |
75-94% | 内部API的Agent流量监测覆盖率 |
10% | 压缩事件漏网导致的Codex流量黑箱 |
几百次 | 单个漏洞可隐藏的Agent操作次数 |
已修复 | OpenAI说法（METR未验证） |
生：Anthropic 自曝，AI 正在造自己的继任者
🦏 兽兽观点：能力这条曲线，Anthropic 给出了精确刻度——1% 到 26%，半年。但安全能力有没有对应的曲线？涨了多少？没人说得清。一家把"安全"写进公司章程的实验室，用官方文件承认"人类核实AI的工作越来越难"，这不是唱衰，这是最清醒的报警。报警的人越清醒，看客越该紧张。
数字 | 含义 |
1%→26% | Claude主导内部研发任务的比例（2月→8月） |
90%+ | Claude深度参与的研发任务占比 |
20% | 最终导向公共利益的股份比例 |
4个月 | Flint-40B全自动研发周期（AI造AI实物） |
开：72小时100万亿token，最便宜的模型赢麻了
🦏 兽兽观点：开源战争的胜负标准早变了——不是谁跑分最高，是谁被用得最多。调用量就是开发者的选票，选票会自己滚雪球：越便宜越多用，越多用生态越全，生态越全越难替换。MiniMax 把华为昇腾、平头哥这些国产芯片一天拉满，卖的不是模型，是"换不掉"三个字。
数字 | 含义 |
100万亿 | M3.1 Flash上线72小时处理token量 |
70% | 相比上代的成本降幅 |
3倍 | 线上推理提速 |
6家 | 首日接入的芯片厂商（含昇腾/平头哥/昆仑芯） |
下周 | Claude auto mode默认生效时间 |
病：AI 的诊断准确率，翻倍了
🦏 兽兽观点：每年都有人说"AI 泡沫要破了"，然后 Science 杂志给 AI 诊断系统发了正刊。判断一项技术是不是泡沫，别听发布会，看它进没进同行评审、上没上手术台。这条标准放在任何新技术上都成立：故事会骗人，期刊不会。
数字 | 含义 |
翻倍 | 复杂病例医生准确率提升（MAI-DxO） |
304例 | 《新英格兰医学杂志》疑难病例测试集 |
148亿 | Carbon-X开源模型参数量（DNA+文本） |
2条 | 同时变陡的曲线：闯祸与救人 |
钱：1.25 万亿美元，私募史上的新王
🦏 兽兽观点：1.25 万亿这个数字真正的影响在心理层面——它把"AI 公司能值多少钱"的天花板重新钉了一遍，后面所有融资都会参照这个锚。但记住历史规律：每一轮"史上最大融资"出现时，离故事被重写都不远了。不唱空，只提醒：锚越大，掉下来的时候越响。
数字 | 含义 |
300亿 | OpenAI新一轮融资规模（美元） |
1.25万亿 | 传谈中的估值（美元，私募史新高） |
5000亿 | 英伟达侧算力融资平台（呼应昨日） |
反向 | 风险消息密度与融资规模同向走高 |
