AI 教父:智能爆炸及其应对措施

如果一种工具能帮助人类工作得更快，我们通常会把它叫作生产力进步。但如果它加速的工作，恰好是制造更强大的自己，事情的性质就变了。

而就在 2026 年 9 月 28 日，Alan Chan 等 22 位作者在 arXiv 发表论文《当 AI 接管 AI 研发：智能爆炸及其应对措施》，作者包括 Geoffrey Hinton、Yoshua Bengio、Andrew Barto，以及来自 OpenAI、Anthropic、微软和多所大学的研究者。他们探讨了这样一种可能：AI 系统参与下一代 AI 研发，新一代系统再被投入后续研发，使 AI 形成不断加速的迭代循环，进而引发“智能爆炸”。

对于这一前景，文章系统论述了“智能爆炸”的形成机制、现实瓶颈、社会影响与政策应对。“一年半内进步速度提高十倍”的推演，让这场变化有了直观的时间尺度，也将一个紧迫的问题推到眼前：技术进步不断加速，人类如何理解、引导并适应它？

01AI 开始参与研发下一代 AI

AI 已经自动化其自身的研发过程，而且速度惊人。Anthropic 披露，其内部由 AI 生成的代码在已批准代码中的占比，一年内由个位数升至八成以上；仅需高层级人工监督即可自主完成的研发工作占比，半年内由 1％ 升至 26％。

AI 能够独立完成的任务时长，由 2023 年的秒级延长至目前的数小时乃至数天。究其原因，研发活动全程发生于数字环境，成功标准明确，且直接决定竞争优势，它一定会先于其他工作被自动化。

软件领域的变化尤为典型：软件驱动的“智能爆炸”，将过去数年的进展压缩至数月或更短。AI 在软件研发上进步最快，且软件能形成近乎即时的反馈回路——改进后的 AI 系统几乎可以立刻投入新的研发流程，而硬件改进要等数年的制造与建设周期。

02加速的推手，是研发劳动力的扩张

如此一来，过去均速发展的模式被彻底打破，每次软件进步都会加速整条研发管道。这种爆炸式进步是“质变”，而非“更快的量变”。真正的推手是“有效研发劳动力”的扩张，其规模量级足以碾压今天的人类研发体系。

具体来看，AI 越强越快，就承担越多研发任务，有效研发劳动力随之扩大；这个更大的劳动力造出更强的 AI，劳动力再次扩大，如此递归。

照此推算，在全自动化条件下，哪怕只维持当前的效率提升速度，自动化研发队伍也能在数月到数年内扩张 100 倍，而这种相对扩张，美国研究者人口用了七十年才完成。

03四重摩擦与一个数学开关

然而，阻碍“爆炸”的四重摩擦力都真实存在，但现有证据显示它们都不足以阻止爆炸。四重摩擦力分别为

收益递减：好摘的果子摘完了、投入越来越不划算；

算力消耗：实验要烧越来越多的算力；

数据约束：人类能喂的数据快用完了；

自动化瓶颈：有些任务要么难以自动化，要么本身就很慢。

当然，这条证据链目前是通的，但可能只是因为眼下的收益没迈过那道门槛。

那么，爆炸是否发生，最终可以被压缩成一个“数学开关”—— r 是否大于 1。

r 是研发投入的回报：当 r < 1 时递减占优，AI 进展会随时间熄火；r = 1 时两股力量恰好抵消，进展保持匀速；只有 r > 1 时，劳动力增长才会胜出并让进展持续加速。

目前的统计分析结果，既不能排除熄火，也无法确认加速。但作者认为，r 最终必然降到 1 以下，因为 AI 进展终将撞上算力与物理极限，只是不知道在触顶之前还有多少空间。

而把 r 的估计代入创新增长模型，会得到一个令人不安的时间表：约一年半后，进展速度会提升十倍。

按历史数据的中间值推算，自动化研发能力每翻一番，AI 的进步速度大约提升三成，下一轮所花的时间缩短到上一轮的四分之三左右。如此滚动下来，一年半后速度就是今天的十倍。届时，今天要花一年才能取得的进展，大约五周就够了。

04当技术速度超过社会响应

最被低估的风险不是“AI 变坏”，而是“两边速度不匹配”。在网络这种纯数字领域，攻击和防守都能借上 AI 的力；但在别的领域，防守比进攻更依赖 AI 无法加速的真实活动。

举个例子，AI 能同时助力病毒和疫苗的设计，但病毒会自己复制传播，疫苗却必须一支一支生产、运输、接种。如果攻击能力还先到一步，这种错位就更加严重。即使在网络领域，人类组织流程仍会给防御方带来额外迟滞。

更棘手的是，人类退出研发循环后丧失的不是“权限”而是“专长”，这使得失控风险具有不可逆的性质，也让“事后补救”在物理上不可能。

具体而言，随着人类在 AI 研发中参与度下降，他们同时丧失了发现问题和修复问题所需的专长，而不只是失去操作权限。

作者强调，用 AI 来监督 AI 至今仍是未解决的挑战，且最近几代系统已经变得更难监督；在监督不足的情况下，错位的 AI 可以“污染”后继系统的开发，或绕过隔离措施在预期环境之外行动。

而从更宏观的层面看，智能爆炸会随时使制衡体系整体失效，这是政治哲学层面的根本风险。

现有的各类制衡——国家内部与国家之间、公司之间、政府分支之间——只在“没有任何行为体能远远超越其他方”时才有效；一旦某方通过智能爆炸获得压倒性优势，所有制衡就会同时失效。

一国可以把微弱的军事优势放大，对手因此更想抢先动手；能接触到最先进系统的人可以逐个说服决策者；国家职能一旦自动化，夺权所需要的民意支持也会大幅降低。

05行动窗口必须提前打开

在这一背景下，由于爆炸期的进展快于任何正常政策流程，准备工作必须提前完成，并预先部署。一旦智能爆炸开始，行动窗口可能立刻关闭，法律、制度与物理防护需经历数年才能建立，滞后性明显。

据此，作者认为应建立一套“提前预防，随时激活”的约束体系，包含三个并行的优先事项

获取可见性：AI 的内部研发无外部可见性，需标准化指标与第三方审计；

驾驭与约束：为扩张设条件、数据中心监督与暂停能力、气隙隔离、引导方向、国际核查与兵棋推演；

准备适应：加速机构响应、预置应急预案、为政府用 AI 设限、赋权公民监督、加强生物防御。

但值得留意的是，治理工具是“双刃”的，既给监管者“看得见”和“叫得停”的能力，也给它专门打压某家公司的特权。

作者承认，倘若相关机制设计不当，可能使政府只向其偏好公司放宽限制，对其余不受青睐的公司则加以压制。这也是企业最可能提出异议之处。

因此，论文仅确立适用范围原则，即对接近能力前沿的主体施加更严格的管理，并未给出化解该张力的方案。

参考资料

[1] Alan Chan et al. What if automating AI R&D triggers an intelligence explosion? 2026-09-28.

[2] Zilan Qian 译. 当 AI 接管 AI 研发：智能爆炸及其应对措施. CASP.