AI最前沿公司，竟然想按下“暂停键”？

2026年6月5日，Anthropic在官方博客发布了一篇长文：《当AI开始建造自己》。
文章里最核心的一句话是：AI正在以超出预期的速度，参与到AI自身的研发过程中。
也就是说，AI不再只是帮人写代码、改Bug、做实验，而是开始进入一个更危险也更关键的阶段：它可能会参与设计、测试、训练下一代更强的AI。
这就是所谓的“递归自我改进”。
简单理解就是：AI自己造AI，而且一代比一代更强。

Anthropic公布了几组内部数据，非常震撼：
第一，Claude已经参与编写了Anthropic超过80%的生产代码。而在一年多前，这个比例还只是个位数。
第二，Claude处理高难度开放式任务的成功率，半年内从26%提升到了76%。
第三，在一次内部工程任务中，Claude自主修复了800多个API错误，并把错误率降低了约1000倍。如果交给人类工程师，可能需要数年时间。

更值得关注的是，AI提升的不只是执行能力，还有“判断下一步该做什么”的能力。
过去，人类研究员决定方向，AI负责辅助执行。
现在，AI已经开始参与研究路径选择，甚至在某些评测中，给出的方案被认为优于人类研究员当时的选择。
这也是Anthropic真正担心的地方。 如果AI研发逐渐自动化，未来可能会出现这样一种局面： AI不再只是工具，而是研发主体。 当AI能够自主设计更强的AI，人类可能很快就跟不上它的进化速度。
所以Anthropic呼吁全球主要AI实验室考虑暂停前沿AI开发，或者至少建立一套可以互相核查的减速机制。 但争议也随之而来。

有人认为，这是Anthropic作为头部AI公司的责任感。 也有人质疑，这可能是在用“安全”的名义抬高行业门槛，让大公司获得更大的竞争优势。
毕竟，真正能满足严格监管和安全审查的，往往只有Anthropic、OpenAI、Google这些巨头。
问题是：就算风险真实存在，AI真的能停下来吗？ 在全球AI竞争如此激烈的今天，任何公司、任何国家，似乎都不愿意先踩刹车。
这篇文章最重要的意义，也许不是告诉我们AI一定会失控，而是提醒我们： 当AI开始建造自己的时候，人类必须提前想清楚，我们到底还掌握多少主动权。 你觉得AI发展应该暂停吗？