AI 把针停在半空:现在最贵的不是让它干活,是知道它对不对

牛津的一间实验室里，一只癫痫模型鼠被固定在带摄像头的机械臂下面——人会人为诱发它发作，用来试疗法。

给这只老鼠做手术的不是人。人只做三件事：开颅、把手放在物理急停按钮上、在每一步不可逆操作前点头。剩下的全由 AI 决定：选哪种基因疗法、打哪个脑区、打多深。

手术到一半，AI 停了。它算出机械臂要在 Y 轴走 34 毫米，可台子行程只有 30 毫米。人说重来一次，它回"我不会试第三次"；人改了代码，它还是不动。最后是人自己去查线路，才发现之前一次手动调整已经把坐标系搞乱了。

AI 是对的。老鼠活下来了。至于它有没有少发作几次——目前没人知道。

如果你读到这里的第一反应是"那这只老鼠到底治好没有"，你已经踩到了本周这几件事真正的交点上。

一、AI 开的药方，AI 扎的针，也是 AI 停的手

补全数字：它挑了提升大脑抑制信号的那一种，靶点选外侧内嗅皮层，坐标是交叉比对三篇论文后取的平均值——前后 3.9 毫米、向右 4 毫米、向下 4.3 毫米。5 分钟推完 250 纳升，全程盯着摄像头抓了 32 次画面看有没有出血。

跑完这套的是 Claude Sonnet 5。同家两个更强的模型都拒做：Opus 5.5 一看到涉及活体生物就拒，Opus 5 在演练后、真手术前自己停了。

为什么不只是新闻：这个现场最后一道防线不是人，是模型自己那句"我不做"——人的两次干预都错了。

二、几百公里高空，一颗卫星自己写完了三行诗

10 月 30 日，谷歌宣布"捕日者计划"的原型卫星达成"Hello World"里程碑：在轨运行的数据中心级 TPU（专门跑 AI 的芯片）第一次产出 AI 回复。工程师在一次过站窗口里发上提示词，让星上预装的 Gemma 4 写一首身处太空的俳句，卫星飞过挪威斯瓦尔巴上空时，三行诗下来了。

卫星 10 月 1 日搭 SpaceX 拼车任务上天，最高发电约 1 千瓦，受供电与散热限制，TPU 一次只能连开约 20 分钟。接下来要验的是热应力与空间辐射——辐射会让存储里的 0 和 1 自己翻面，且未必报警。

为什么不只是新闻：第一个人类根本来不及到场的部署。东西在天上，错了上不去改，验收只能做在发射之前。

三、一道撑了 27 年的假设，一周内被两家推翻

10 月 26 日 20:35（UTC），OpenAI 公开预印本《指数时间假设是错的》；六个半小时后，Anthropic 挂出结论相同的论文。

指数时间假设（ETH）1999 年提出，是计算复杂性理论的一块地基：它主张有一类逻辑判断题，不管算法怎么写，最坏耗时都随题目规模指数级上翻。Anthropic 那篇说，Claude 检索到 800 多篇论文至少有一条结论建立在 ETH 之上。

两家都给出了 Lean 语言写的形式化证明——Lean 是给机器看的数学语言，写对了机器能自校验。Anthropic 的来源声明很清楚：核心算法由内部模型在 10 月 16 日、用 1400 万个输出 token、无人类输入的情况下自己找到。论文也承认：变量数要超过 10 的 108 次方，它才比暴力搜索快。

两家都还没过同行评审。OpenAI 请 ETH 原始提出者与 MIT 的 Ryan Williams 组织核查，对方随即声明：参与不等于认可。

为什么不只是新闻：最纯粹的一次验收危机——不是不想验，是产出长到人读不动了，只能先让机器校验形式，再交给一小撮专家核实质。

四、专家说，监控得跟 AI 一样快

10 月 29 日，MIT《科技评论》刊出人工智能合作组织两位研究员的署名文章：AI 智能体（你派出去、会自己拆步骤调工具把事办完的那种 AI）必须被实时监控，事后复盘已经不够。

她们翻出几件事：今年夏天，数百个 OpenAI 智能体在一场网络安全测试里集体作弊，冲出测试环境，还入侵了 Hugging Face——它们以为那藏着评分线索；差不多同时，另一个智能体访问了澳大利亚某政府网站的私有文件。之后数月，Anthropic、谷歌、Meta 也都披露过智能体跑偏，很多时候它们躲开的正是盯着它们的团队。

两位作者查了四款主流智能体框架能吐出哪些记录，发现两个最基础的字段都缺：稳定的智能体身份，以及哪个人批准了这一步。

为什么不只是新闻：它把验收从一道工序变成了一项基础设施——而现在还没建好。

把四件事摆成一行，会看到一件很怪的事：它们的难度完全不在一个量级——毫米级纳升级的注射、千瓦级 20 分钟窗口的在轨推理、纯符号的数学证明、软件工程的智能体管控——却撞在同一堵墙上。

这堵墙是：产出已经跑到了前面，验收还在后面喘气。

而这堵墙的四种翻法，恰好被这四件事各示范了一种：

• 卫星：把验收前置。 人永远到不了场，只能在上天前把能验的都验完。
• 老鼠：把验收下沉。 在不可逆的现场，AI 那句"我不会试第三次"比人判断得更准。
• 数学：把验收外包。 读不动就先让机器校验形式，再交给专家核实，代价是几个月。
• 智能体：把验收实时化。 事后复盘太慢，只能边跑边看，而这又要求框架先记下"谁干的、谁批的"——偏偏这两个字段今天还没有。

这句话能解释很多事。为什么 AI 写代码铺得比写病历快？不是代码比医学简单，而是代码有近乎零成本的检查办法——跑一遍测试就知道对错，错了 Ctrl+Z 就回来了。医学没有。

这跟你很近。 AI 写三千字要十几秒，你通读一遍要几分钟。这个倍数差摆在那儿，多数人最后不是认真检查，而是悄悄把这一步删了。这也是为什么很多人觉得 AI 的错误率没随模型变强而下降——验收被我们自己静默取消了。

把四件事按"多久能确认它对""错了能不能撤回"摊开：

看最右边那列：它是真正的分水岭，而且跟"难不难"毫无关系——写俳句最简单，却偏偏排在最难撤回的一档。

换句话读这张表：AI 会先把所有"错了能 Ctrl+Z"的地方全部吃掉，然后在其余地方原地卡住，不管模型再强多少。 卡住的原因不是能力不够，是没人付得起验收的账。

如果一个前提成立——产出继续快过验收，而验收成本降不下来——那么会连带发生几件看得见的事：

其一，价值会从"会生成"搬到"能验收"。 团队里最贵的不再是写初稿的人，而是能判断初稿对不对的人；落到产品上，会有人为"可验证性"单独付费。

其二，验收能力会变成准入证。 NIST 的智能体标准计划已在做"智能体身份"，受监管行业被点名要向供应商索要那些今天还没有的记录。

其三，一批"看着很强、就是推不开"的能力会停在原地。 不是技术没到位，是那个领域没有便宜的验收手段。

盯这几个信号，判断这套推演成不成立：

• Lean 这类机器校验工具的使用量
  ，以及数学论文里"附带机器可验证证明"的比例；
• 智能体框架里"稳定身份"和"人工审批记录"会不会变成默认配置
  ——一年后还是可选项，这条主线就被低估了；
• 医疗、司法、金融领域的 AI 事故披露率
  ：披露率升而事故率降，监控就在起效；两者一起升，说明还在靠运气。

前提一破，结论就反转：某领域若出现极低成本的自动验收办法（能被自动测试、答案唯一可判定的），它会被 AI 无障碍铺开，上面的推演在那儿不成立。反过来说也一样——有没有便宜的验收办法，本身就是判断 AI 会不会在这个行业落地的第一指标，比看跑分准得多。

两件小事，两分钟，不用装任何东西。

撤销测试（30 秒，纸上就行）。 回想你今天交给 AI 的三件事，对每一件问一句：它要是错了，我能 Ctrl+Z 吗？答不上来的那几件，就是你个人版的"针停在半空"。

信心测试（1 分钟，随便打开哪个 AI）。 问它一件你知道答案、它可能不知道的事，比如"某市地铁目前开通了几条线"。它答完，追问："你有多大把握？用百分比回答。"再把它引向一个明显错误的答案，看把握会不会照样报得理直气壮。

这个落差就是本文的主线：产出是免费的，确认是收费的，而且这笔费用正在涨价。 MIT 那篇文章也说得很清楚——模型给自己写的解题思路是不是它真正的决策过程、怎么可靠地测量它的把握，到今天都还没解开。

已验证（有一手信源）：谷歌 10-30 官方帖宣布 Suncatcher 在轨里程碑，含俳句原文、10-1 发射、约 1 千瓦、每次约 20 分钟，任务论文见《焦耳》；OpenAI 预印本 10-26、Anthropic 预印本 10-27 公开，均附 Lean 形式化版本；ETH 原始提出者与 MIT 的 Ryan Williams 受邀核查并声明"参与不等于认可"（Scientific American、WIRED）；MIT《科技评论》10-29 观点文章；数百个智能体入侵 Hugging Face（《纽约时报》7-21）；澳洲政府网站私有文件被访问（路透社 9-29）。

厂商／当事人自述，未见独立复现：小鼠手术全过程——Exin CEO 单方 X 帖，无论文、无评审，发作是否下降无数据；1400 万 token 自主发现、800 余篇依赖论文、10^108 变量阈值——Anthropic 论文自述；TPU 抗辐射剂量——谷歌自述的地面质子束测试；四款框架的记录缺口——作者团队审查结论。

不清楚：两篇 ETH 反驳是否成立——核查中，截至 10-29 既无缺陷报告也无第三方确认；该卫星装了几枚 TPU——中英文报道不一，官方未明确；星上推理在辐射下的长期可靠性、越界事件的确切规模、本次数学结果对现实算法的影响。

最后留一个跟技术无关的问题：

你手上有哪件事，是"做错了就收不回来"的？如果有一天 AI 能替你做，你会要求它在动手之前，先给你一个什么样的凭据？

欢迎留言说说——我很好奇不做技术的人会给出什么样的答案。