“AI即将失控”?Anthropic上市前罕见发出警告

估值近万亿美元、正处于上市前静默期的AI巨头Anthropic，突然罕见在官方博客上发出了一则概念警示。

（图片由AI生成）

在过去几十年里，人类始终主导着人工智能的每一个开发环节。然而，AI 公司 Anthropic 最新披露的数据表明，这一格局正在悄然改变，未来 AI 或将实现完全自主地设计和开发自己的后继者，即“递归式自我提升”。

AI正从“工具”变“主导者”

Anthropic在官方博客罕见地披露了以下数据：

代码主导权转移：截至2026年5月，Anthropic合并入代码库的代码中，超过80%由Claude撰写。而在2025年2月Claude Code发布前，这一数字仅为个位数。

效率爆发式增长：2026年第二季度，Anthropic工程师平均每季度交付的代码量，是2021-2025年的8倍。文章特别指出，这一增长并非因为公司奖励代码行数，而是因为AI系统代写了绝大部分代码，人类工程师的角色转向“指导和审查”。

这些数据共同指向一个趋势，即AI不再只是被开发的工具，而正在成为开发活动的主导者。

在 Anthropic 看来，如果这一趋势持续发展，并配合足够的计算资源，最终将导向一个关键节点：AI 系统能够完全自主地设计、开发并迭代出更强大的下一代 AI 系统。这被称为递归式自我提升。

“递归自我改进”：两年内可能成为现实

所谓递归式自我提升，指的是AI系统无需人类干预，自主设计、改进并生成更强大的继任者的能力。这种能力一旦实现，将形成一个自我加速的闭环：每一代AI都比上一代更强，迭代速度将远超人类参与的传统开发模式。

Anthropic表示，这一阶段“尚未到来”，但“可能比大多数机构准备应对的时间来得更早。”Anthropic 内部研究负责人认为，某些模型可能在两年内具备此能力。

基于此，Anthropic提出一个在AI行业颇为罕见的主张：全球应协调考虑暂停或放缓前沿AI的开发。

Anthropic 最近完成高达 650 亿美元的融资，估值接近 1 万亿美元，并已向美国证券交易委员会提交公开上市文件。在这样一个资本市场的关键节点，任何一家即将登陆公开市场的公司，通常都会倾向于向投资者呈现乐观、可控的增长叙事。

然而，Anthropic选择了反向操作。