夜雨聆风今年二月，OpenAI的GPT-5.3-Codex上线时，官方介绍里有一句颇耐人寻味的话：这是人类「第一个由AI参与创造自身的模型」。
消息传开，社交媒体上大家都在讨论——「智能爆炸」要来了？
AI开始自己给自己写代码、自己训练自己，岂不是像滚雪球一样，越滚越快，直到某天早上我们醒来，发现机器已经不需要人类了？
这种焦虑并非空穴来风。
近一年来，从OpenAI的Codex到Anthropic的Claude Code，AI编码工具确实在进化——它们不再只是帮你补全下一行代码的「自动联想」，而是开始独立拆解任务、调试训练脚本、甚至参与模型评估框架的编写。
在人工智能的学术里，它有个专门的名字：「递归自我改进」（Recursive Self-Improvement）。
现在人类工程师的角色更像包工头或监理：只需每天给这位「AI码农」分配任务并监督进度。
正如近期张晓珺与Google DeepMind研究员姚顺宇的对话中提到的，姚顺宇已很少亲自写代码，大部分工作都交由AI完成。
可以说，人类负责搭建框架、设定目标，AI则承担具体的「脏活累活」。
这也解释了为何最近AI迭代速度越来越快：从过去数月推出一个新版本，到如今几周就实现一次性能提升——很大程度上，正是因为AI正在参与自身的升级迭代。
既然如此，那它能“无限变聪明”吗？
直觉上，好像是一个永动机：变聪明 ➔ 写出更好的代码 ➔ 变得更聪明 ➔ 写出神级代码……
但如果我们把近半年的学术论文、基准测试成绩单和数据中心电费账单放在桌上，仔细审视，会发现这幅图景远比「大模型自身左脚踩右脚不断进化」的直觉复杂得多。
理想很丰满，现实却总有落差。AI的进化绝非没有尽头。
问题主要集中在以下三个方面：
一、能砌墙，不等于能盖楼
先说说AI现在到底能写多好的代码。
如果你只看SWE-bench这类主流基准测试，成绩确实亮眼：在SWE-bench Verified上，OpenAI的Codex能拿到约80%的分数，Claude Opus 4.6紧随其后，达到80.8%；
即便是在更贴近真实复杂场景的SWE-bench Pro上，Codex也有56.8%的通过率。
在模拟终端环境的Terminal-Bench 2.0里，Codex甚至以77.3%领先。
数字漂亮得让很多开发者开始把AI当成「不知疲倦的高级码农」——分配任务、验收成果，人类只负责在 Slack 上催进度。
但基准测试是一回事，真实世界的端到端复杂任务是另一回事。
北京大学今年发布了一个叫PRBench的测试，要求AI阅读真实的物理学论文，从头复现算法并跑出定量结果。
在这个没有标准答案、充满模糊性和跨领域推理的战场上，表现最好的模型均分也仅在三四成徘徊，完全自主跑通复杂流程的成功率几乎为零。
换句话说，AI能修好GitHub上一个明确标注的bug，却搞不定一篇论文里隐含的假设和边界条件——它能补好一堵墙的裂缝，但面对整座大楼的结构力学，依然会手足无措。
更隐蔽的问题藏在代码库的深处。
2026年初的一篇独立研究追踪了使用自主编码代理的团队，发现这些工具虽然短期内能提升产出速度，却会在代码库里埋下结构性的复杂度炸弹：注释密度增加了两成以上，但代码的可维护性持续恶化，长期迭代速度反而可能下降。
AI像一个手速极快的泥瓦匠，砌砖的精度无可挑剔，可一旦让它独立设计承重结构，它往往会为了赶工而偷偷拆掉承重墙——反正短期内房子不会塌。
麻省理工学院等机构的多项研究也指出，AI缺乏长周期视野下的代码规划能力，一旦让它自行修改数千万行的核心系统，很快会因为顾此失彼而写出冲突代码，导致模型性能不升反降。
所以，人类工程师的角色并没有消失，只是从「砌砖的」变成了「看图纸的」——画蓝图、定规范、在AI跑错方向的时候把它拽回来。
AI可以优化一堵墙的砌法，但让它独立发明Transformer这种级别的底层架构，目前仍超出其能力边界。
二、数学家已经证明了「近亲繁殖」的宿命
如果说编码能力只是第一道门槛，那么递归自我改进本身在数学上就更不乐观。
今年2月，伦敦国王学院和牛津的研究者在arXiv上贴出了一篇论文，把递归自训练形式化为离散时间动力系统，然后证明了一个令人沮丧的定理：如果外部真实信号的比例随时间趋近于零——也就是AI越来越依赖自己生成的数据——系统必然走向退化动力学。
他们给出了两种具体的崩溃模式。
第一种叫「熵衰减」：有限采样效应会导致分布多样性单调流失；第二种叫「方差放大」：缺乏持续的外部锚定，系统会像随机游走一样逐渐漂移。
用大白话说，就是让AI反复吃自己的排泄物来获取营养，最终产出的不是更聪明的代码，而是越来越趋同、越来越僵化的乱码。论文的结论很直白：在当前基于KL散度的生成学习范式下，完全自主的递归密度匹配会收敛到退化不动点。
这不是杞人忧天。
业界已经给这种现象起了名字：「模型崩溃」（Model Collapse）。
它意味着，哪怕AI的代码生成能力再强，只要训练数据闭环、缺少人类真实世界的反馈和创造性输入，几代迭代之后就会陷入近亲繁殖。
碳基生命的灵光一现——那种带着错误、偏见和跳跃式直觉的创造力——恰恰是硅基循环里最稀缺的输入。
不过，这里需要划一条重要的边界：这个数学证明严格针对的是「当前主流深度学习范式」。
它不意味着递归自我改进在「所有可能的未来架构」下都永远不可能实现，而是说，在今天我们熟悉的这套基于概率分布拟合的训练体系里，完全自主的闭环进化是一条死胡同。
三、能源和芯片，是造物主给AI套上的物理枷锁
再退一步，即便AI突破了算法和数据的瓶颈，它还有一关过不去：电和芯片。
很多人误以为软件是虚拟的，只要代码足够优美，算力就可以无限膨胀。但代码终究要在物理世界的芯片上跑，消耗真实的电和能源。
据第三方研究者估算，GPT-3的训练已经需要约1,287兆瓦时电力，排放552吨二氧化碳，相当于一百多户美国家庭一年的用电量。
到了GPT-4，训练能耗陡然攀升至约5万至6.2万兆瓦时，是前者的四十多倍，碳足迹超过6,900吨——需要说明的是，OpenAI从未官方披露过精确能耗账单，这些数字来自学术界的独立推算，不同研究之间的估算存在差异，但量级是可信的。
这还只是一次性训练。
一旦模型上线，推理成本更像一个无底洞。有研究者推算，ChatGPT每天处理数十亿次查询，消耗的电力可能在数百兆瓦时级别，每两三天就能把训练时攒下的家底花光。
放大到整个产业，国际能源署的数据显示，2024年全球数据中心耗电约415太瓦时，到2030年预计飙至945太瓦时，几乎相当于日本全国的用电量。
在美国，数据中心2023年已经吃掉全国4.4%的电力，高盛预计到2028年这一比例可能翻倍至6.7%到12%。AI服务器的能耗增速是其他计算领域的四倍。
更麻烦的是Scaling Law本身的争议。
确实有一些独立研究发现，在特定任务上，模型超过一定规模后收益出现放缓迹象——例如知识类任务在300亿参数后、数学推理在700亿参数后、代码生成在340亿参数后，提升曲线开始走平。
但与此同时，Anthropic、OpenAI等前沿实验室则认为，通过改进架构、数据质量、推理时计算以及软硬件协同优化，Scaling Law正以新的形式持续。
换句话说，「规模越大效果越好」这条铁律是否正在失效，目前学界尚无定论。但可以确定的是，每一次想要「聪明十倍」，都不再是改几行算法就能搞定的事，而是需要十倍以上的显卡集群，以及为之供电的核电站。
AI可以自己写代码优化训练流程，但它没法在几秒钟内变出一百万张英伟达H100，更没法自己挖两万吨煤给数据中心烧。
那么，「终结者」离我们还有多远？
答案是：在当前的技术范式下，还很远。而且瓶颈不在代码，而在物理学和数学。
用AI辅助开发下一代AI，这条路不仅可行，而且已经发生了——它是一场货真价实的生产力革命。
但指望它通过「左脚踩右脚」实现无休止的「神级进化」，则是对工程现实的浪漫误读。
模型崩溃的数学定理、数据中心逼近物理极限的能耗曲线，以及AI在长周期架构设计上的持续乏力，构成了三道高墙。
在可预见的未来，AI依然是那个埋头砌墙、手速惊人的超级泥瓦匠；而真正决定摩天大楼长什么样、朝哪个方向生长的那支笔，仍然握在人类手里。
至于更远的未来？
物理定律没有给递归自我改进颁发「永不可能」的通行证。
新的学习理论、非传统的计算架构、甚至我们此刻无法想象的范式，或许会在某天部分撬开这三道枷锁。
至少目前，我们还能安心地睡个好觉。
