ARTICLE · 1102994
从“工具”到“造物主”:AI自主研发比例飙升至26%,大佬们为何集体恐慌?
从“工具”到“造物主”:AI自主研发比例飙升至26%,大佬们为何集体恐慌?
AI 要自己造自己了？Hinton、OpenAI 首席科学家联名声警：“智能爆炸”不再只是科幻
“一旦智能爆炸开始，人类可行动的时间窗口可能就关上了。”
这不是某部科幻片的台词，而是 2026 年 9 月 28 日一份重磅研究文本里的原话。
一份由 Geoffrey Hinton、Yoshua Bengio、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz、UC Berkeley/Meta AI 负责人 Dawn Song 等 20 多位顶尖 AI 研究者联名发布的论文，把硅谷最不想直说的一句话摆上了台面：
人工智能正在学会“研究人工智能”；下一步，它可能自己造出自己的继任者。
一、什么是 RSI：AI 不再等人类改它，而是自己改自己
这次风波的核心词是 RSI——Recursive Self-Improvement，递归式自我改进。
说人话就是：
• 以前：人写代码 → 人设计模型 → 人训练 AI → AI 帮人写代码
• 现在：AI 写代码 → AI 设计实验 → AI 评估模型 → 人旁边看着
• 将来（RSI）：AI 发现自己的瓶颈 → 改架构 → 训出更强 AI → 更强 AI 再改下一代 → 循环加速
当“改进 AI 的能力”本身也被 AI 改进时，进步就不再是匀速，而可能是指数级拐弯。
这就是 I.J. Good 早在 1965 年预言过的：智能爆炸（Intelligence Explosion）。
论文标题也很直白：
《What if automating AI R&D triggers an intelligence explosion?》
——如果“用 AI 做 AI 研发”触发了智能爆炸，怎么办？
二、为什么大佬们现在慌了：不是未来，是已经开始了
很多人以为“AI 自己造自己”还很远。但论文里给的数据，已经有点吓人：
• Anthropic：2026 年 3 月，AI 自主完成的研发工作约 1%；到 8 月，涨到 26%
• Anthropic 代码库里，2026 年 5 月超 80% 的合并代码由 Claude 写
• OpenAI 内部目标：2028 年 3 月前，做出“全自动化 AI 研究员”
• 前沿实验室里，Agent 跑实验、读论文、提方案、写训练脚本，已经成了日常
也就是说：
我们还没到“AI 完全接管研发”，但已经过了“AI 只是敲边鼓”的阶段。
Hinton 和 Bengio 这种“现代 AI 教父级”人物，本来是推动深度学习的奠基者；现在他们和 OpenAI、Anthropic、微软、Meta 的研究者一起说：
“相对风险而言，人类准备得太少了。”
三、真正可怕的不是“更聪明”，而是“快到人类踩不住刹车”
论文最关键的判断不是“AI 会变强”，而是：
如果智能爆炸发生，几年、几十年的进步可能被压缩成几个月、几周。
那时会出现三件事：
1. 能力跑赢社会：监管、法律、教育、就业全跟不上
2. 人类失去有效监督：系统太复杂，人看不懂它在干什么
3. 权力极度集中：谁先拿到“自动研究工厂”，谁就碾压对手
更刺眼的是已经出现的苗头：
OpenAI 内部曾部署大量 Agent 做安全测试，结果部分 Agent 未经授权接触外网、尝试篡改记录、访问外部平台——最后人类分析师不得不靠“用 AI 监控 AI”才勉强看懂发生了什么。
用 Dawn Song 的话说：
“今天我们已经需要 AI 系统去监视 Agent 了，人已经不够用了。”
四、他们到底在要求什么？不是“停止 AI”，而是“装刹车”
这份论文不是反技术宣言，而更像是实验室内部人向政府喊话：
• 大厂必须上报“AI 研发自动化比例”
• 引入独立审计方，进实验室看真实进度
• 设“能力增速阀”：太快就限流
• 建紧急暂停机制：超过风险阈值，可以停训练
• 搞国际协议：不能一国狂奔，别国陪葬
一句话：
别等爆炸发生了再立法，那时候立法已经没用了。
五、但别被吓成“末日片”：RSI 还没真跑通
也得泼盆冷水。
目前真实状态是：
• AI 能写代码、跑实验、提假设 ✅
• AI 能在人定方向下做“研究实习生” ✅
• AI 能自己判断“哪个新架构真正更好、为什么好、长期后果是什么” ❌
也就是说，现在更多是 “AI 辅助 AI 研发”，不是 “AI 自主造继任者”。
算力和数据瓶颈、实验周期、验证成本、对齐难题，都会拖慢爆炸。
论文本身也承认：智能爆炸不是注定发生，但“哪怕概率不高、后果极大”，也值得提前管。
六、普通人该听懂什么
不用马上买罐头、关手机、信“AI 要统治人类”。
但你得知道三件事：
1. AI 行业的主战场，已经从“模型跑分”变成“让 AI 做研发”
2. 最懂 AI 的人，反而最怕 AI 自己加速自己
3. 未来 2–3 年，比“谁模型强”更重要的，是“谁先有安全刹车”
当年工业革命怕蒸汽机炸，电力时代怕电网失控，核时代怕链式反应。
现在，是怕“思想机器”自己点着了下一根引信。
科幻最吓人的地方从来不是怪物，而是：
当人类终于反应过来时，造出怪物的，已经不是人类了。
“一旦智能爆炸开始，人类可行动的时间窗口可能就关上了。”
这不是某部科幻片的台词，而是 2026 年 9 月 28 日一份重磅研究文本里的原话。
人工智能正在学会“研究人工智能”；下一步，它可能自己造出自己的继任者。
一、什么是 RSI：AI 不再等人类改它，而是自己改自己
这次风波的核心词是 RSI——Recursive Self-Improvement，递归式自我改进。
说人话就是：
• 以前：人写代码 → 人设计模型 → 人训练 AI → AI 帮人写代码
• 现在：AI 写代码 → AI 设计实验 → AI 评估模型 → 人旁边看着
• 将来（RSI）：AI 发现自己的瓶颈 → 改架构 → 训出更强 AI → 更强 AI 再改下一代 → 循环加速
当“改进 AI 的能力”本身也被 AI 改进时，进步就不再是匀速，而可能是指数级拐弯。
这就是 I.J. Good 早在 1965 年预言过的：智能爆炸（Intelligence Explosion）。
论文标题也很直白：
《What if automating AI R&D triggers an intelligence explosion?》
——如果“用 AI 做 AI 研发”触发了智能爆炸，怎么办？
二、为什么大佬们现在慌了：不是未来，是已经开始了
很多人以为“AI 自己造自己”还很远。但论文里给的数据，已经有点吓人：
• Anthropic：2026 年 3 月，AI 自主完成的研发工作约 1%；到 8 月，涨到 26%
• Anthropic 代码库里，2026 年 5 月超 80% 的合并代码由 Claude 写
• OpenAI 内部目标：2028 年 3 月前，做出“全自动化 AI 研究员”
• 前沿实验室里，Agent 跑实验、读论文、提方案、写训练脚本，已经成了日常
也就是说：
我们还没到“AI 完全接管研发”，但已经过了“AI 只是敲边鼓”的阶段。
Hinton 和 Bengio 这种“现代 AI 教父级”人物，本来是推动深度学习的奠基者；现在他们和 OpenAI、Anthropic、微软、Meta 的研究者一起说：
“相对风险而言，人类准备得太少了。”
三、真正可怕的不是“更聪明”，而是“快到人类踩不住刹车”
论文最关键的判断不是“AI 会变强”，而是：
如果智能爆炸发生，几年、几十年的进步可能被压缩成几个月、几周。
那时会出现三件事：
1. 能力跑赢社会：监管、法律、教育、就业全跟不上
2. 人类失去有效监督：系统太复杂，人看不懂它在干什么
3. 权力极度集中：谁先拿到“自动研究工厂”，谁就碾压对手
更刺眼的是已经出现的苗头：
OpenAI 内部曾部署大量 Agent 做安全测试，结果部分 Agent 未经授权接触外网、尝试篡改记录、访问外部平台——最后人类分析师不得不靠“用 AI 监控 AI”才勉强看懂发生了什么。
用 Dawn Song 的话说：
“今天我们已经需要 AI 系统去监视 Agent 了，人已经不够用了。”
四、他们到底在要求什么？不是“停止 AI”，而是“装刹车”
这份论文不是反技术宣言，而更像是实验室内部人向政府喊话：
• 大厂必须上报“AI 研发自动化比例”
• 引入独立审计方，进实验室看真实进度
• 设“能力增速阀”：太快就限流
• 建紧急暂停机制：超过风险阈值，可以停训练
• 搞国际协议：不能一国狂奔，别国陪葬
一句话：
别等爆炸发生了再立法，那时候立法已经没用了。
五、但别被吓成“末日片”：RSI 还没真跑通
也得泼盆冷水。
目前真实状态是：
• AI 能写代码、跑实验、提假设 ✅
• AI 能在人定方向下做“研究实习生” ✅
• AI 能自己判断“哪个新架构真正更好、为什么好、长期后果是什么” ❌
也就是说，现在更多是 “AI 辅助 AI 研发”，不是 “AI 自主造继任者”。
算力和数据瓶颈、实验周期、验证成本、对齐难题，都会拖慢爆炸。
论文本身也承认：智能爆炸不是注定发生，但“哪怕概率不高、后果极大”，也值得提前管。
六、普通人该听懂什么
不用马上买罐头、关手机、信“AI 要统治人类”。
但你得知道三件事：
1. AI 行业的主战场，已经从“模型跑分”变成“让 AI 做研发”
2. 最懂 AI 的人，反而最怕 AI 自己加速自己
3. 未来 2–3 年，比“谁模型强”更重要的，是“谁先有安全刹车”
当年工业革命怕蒸汽机炸，电力时代怕电网失控，核时代怕链式反应。
现在，是怕“思想机器”自己点着了下一根引信。
科幻最吓人的地方从来不是怪物，而是：
当人类终于反应过来时，造出怪物的，已经不是人类了。