AI正在加速自我进化,留给人类的时间不多了

6月5日，Anthropic发表了一篇警示文章，《When AI buildes itself》，当 AI 开始建造自己，不禁要思考，我们人类角色将如何改变？

在 AI 发展的历史中，人类长期主导着每一个开发环节。但如今，在 Anthropic，我们正将越来越多的AI开发工作委托给AI系统自身，这极大加速了我们的工作进展。

图源：Anthropic

汉化：MarsKr

如果这一趋势走得足够远，再配合充足的算力，最终可能诞生一个完全自主设计并开发自身继任者的AI系统，这就是递归自我改进（Recursive Self-Improvement）。

我们尚未完全抵达这一步，且它并非必然发生。但Anthropic Institute的最新报告显示：这一趋势可能比大多数机构预想的来得更早。

AI已在显著加速AI自身的开发。一个最直观的例子是：如今Anthropic工程师平均每个季度输出的代码量，是2021-2025年期间的8倍。

这些趋势意味着AI能力将在未来几年大幅跃升。它可能带来科学、医疗等领域的巨大福祉，但也可能大幅增加人类失去对AI控制的风险。当系统能自主构建后继者时，安全、监控和行为引导将变得至关重要。

01

—外部世界的证据：AI能力加速提升

AI 模型能可靠独立完成的任务长度，正在每4个月翻一番（此前是每 7 个月）。

图源：Anthropic

汉化：MarsKr

若趋势延续，今年内 AI 就可能处理需人类数天完成的任务；2027年，甚至可能达到数周量级。

在基准测试上也呈现饱和趋势：

02

—Anthropic内部证据：AI已深度参与开发

构建前沿模型主要分为工程（写代码、搭建基础设施、训练模型）和研究（设计实验、解读结果、决定下一步）两大类。

在工程领域：Claude能接手不完全明确的问题，自主找出解决方案。人类只需提供目标，无需提供具体方法。

在研究领域：Claude已能在执行明确实验时匹配甚至超越熟练人类，但在大方向判断和目标选择上，仍存在明显差距。这正是当前AI与“自主设计继任者”之间的关键鸿沟。

代码产出爆炸式增长：

图源：Anthropic

汉化：MarsKr

尽管代码行数不是完美指标（更重视质量而非数量），但这清晰反映了生产力加速。员工主观调查也显示：2026年3月，中位员工认为使用Mythos Preview后，产出提升约4倍。

Claude不仅写得多，还写得越来越好：

代码质量方面：2025年底Claude代码略逊于人类，如今已接近持平，预计年内将超越。Anthropic现在使用Claude自动审查代码变更，甚至能捕捉到顶尖工程师之前遗漏的部分bug。

研究能力同样突飞猛进：

一位Anthropic员工感慨：“我大约一年前开始深度依赖Claude，现在已经5个月没亲自写代码了。”

03

—未来工作形态：人类角色正在收窄

证据显示，人类在AI开发各环节中的角色正在缩小：

人类当前的比较优势在于研究品位与判断力：选择重要问题、判断结果可信度、识别死胡同等。

但即使人类仅负责“方向设定”，AI也能让每个人“驾驭”远超以往的工作量，从而实现复合加速。

04

—三种可能的未来

05

—我们该怎么办？

如果能有效放缓前沿AI开发，为社会适应和对齐研究赢得时间，将是好事。但单方面放缓可能让最不谨慎的行动者领先。

Anthropic认为，建立可验证的全球协调机制至关重要。我们将开展研究并推动构建相关系统，以便在多国前沿实验室达成一致时，能可靠验证各方确实暂停或放缓开发。

图源：Anthropic

汉化：MarsKr

未来几个月，我们将组织政策制定者、研究者、公民社会和AI公司的对话，共同探讨递归自我改进的含义及协调方案。欢迎更多外部声音参与这场至关重要的审议。

AI的未来，不仅取决于技术，更取决于我们今天的选择。

参考

https://www.anthropic.com/institute/recursive-self-improvement