夜雨聆风一句回复,只有四个词。 但看到是谁说的、又是回给谁的,很多人后背发凉。
四个词的回复
"Then you'll die with the rest of us."
「那你就跟我们一起完蛋吧。」
说这句话的人叫Eliezer Yudkowsky,AI安全圈里最激进的"末日派"代表人物,常年警告AI会毁灭人类。他接的这句话,还带上了一个具体的历史比喻，RBMK核反应堆。就是切尔诺贝利那款反应堆。
设计上早就知道有缺陷,但工程师们觉得"应该不会出事",结果酿成了人类核能史上最惨痛的事故之一。Yudkowsky想表达的是:控制超级智能这件事,也会藏着这种谁都没料到的"小疏漏",往往要等系统出了大事故,才有人知道哪里出了错。
这句话是回给谁的?
回给的人,恰恰是最不该"轻描淡写"这件事的那个人，Anthropic联合创始人Jack Clark。
60%,这是他自己算出来的数字
2026年5月4日,Clark在X上发了一条推文:
"I've spent the past few weeks reading 100s of public data sources about AI development. I now believe that recursive self-improvement has a 60% chance of happening by the end of 2028. In other words, AI systems might soon be capable of building themselves."
「我过去几周阅读了数百份关于AI发展的公开资料。现在我认为,到2028年底,递归自我改进有60%的概率发生。换句话说,AI系统可能很快就能自己构建自己。」
▲ Jack Clark（@jackclarkSF）原帖,发布于2026年5月4日,166万次查看,3.5K点赞。
这条推文看着平淡,信息量却极大。Clark是Anthropic的联合创始人,同时执掌Anthropic Institute,发这条推文的分量,远超普通AI爱好者的一句感慨。他给出的这个概率,来自"读了几百份公开资料"之后,自己都觉得"不情愿相信"却又不得不相信的结论。
几天后,Axios独家专访,Clark把话讲得更具体:
"My prediction is by the end of 2028, it's more likely than not that we have an AI system where you would be able to say to it: 'Make a better version of yourself.' And it just goes off and does that completely autonomously."
「我的预测是,到2028年底,我们很可能会拥有这样一个AI系统，你只需要对它说:'做一个更好的你自己',它就会完全自主地去执行,不需要人插手。」
▲ Axios专栏《Behind the Curtain: Intelligence explosion》,2026年5月7日刊出,Clark原话被单独摘出。
什么叫"AI造AI"?一个3D打印机就能讲明白
递归自我改进(Recursive Self-Improvement,简称RSI),说白了就是:AI自己改自己的设计、自己训练下一代模型,新一代又比上一代更能改进,一圈一圈往上滚。
Clark自己打了个比方:想象一台3D打印机,能打印出一个比自己更好的打印头。装上新打印头之后,它打印下一个打印头的速度更快、精度更高。如此往复,速度会越滚越快。
放到AI身上,就是"Claude 10造出Claude 11",架构设计、数据筛选、训练调参、效果测试,全流程几乎不用人插手。
这个概念其实一点都不新。早在1965年,英国数学家I.J. Good就在论文里写下过一段后来被反复引用的话:
"An ultraintelligent machine could design even better machines; there would then unquestionably be an 'intelligence explosion,' and the intelligence of man would be left far behind."
「一台超级智能机器能设计出更好的机器;届时必然会出现一场'智能爆炸',人类的智力将被远远甩在后面。」
▲ Wikipedia《Recursive self-improvement》词条,词条正文明确关联"intelligence explosion"与"superintelligence"。
Good提出这个概念时,计算机还在用打孔卡片。60年过去,这套设想第一次有了看得见摸得着的数据支撑。
证据摞成了一整面墙
今天的AI,更像"副驾驶"。人写提示词、审代码、设计实验,AI负责干"体力活"，写代码、跑实验、调内核、复现论文。
Clark和Anthropic真正担心的,是这堵"体力活"正在被自动化的证据墙,已经垒得越来越高。
Anthropic Institute自己发布的报告《When AI builds itself》里,摆出了几组内部数字:
- 2026年5月
,合并进Anthropic生产代码库的代码,超过80%由Claude编写(2025年2月Claude Code预览版之前,这个比例还是个位数)。 工程师人均每季度合并的代码量,比2021-2025年增长了8倍。 内部调查显示,用上最新模型后,员工产出中位数估计提升约4倍。 一项内核优化任务上,人类研究员苦干4到8小时能拿到4倍加速,而AI做到了52倍。
▲ Anthropic Institute官方报告《When AI builds itself》,副标题为"我们在递归自我改进上的进展及其影响"。
外部基准同样在往上冲。SWE-Bench(真实GitHub问题修复)从个位数一路冲到93.9%,快摸到天花板;METR统计的"AI能可靠完成的任务时长",从2022年的30秒,一路涨到2026年的12小时;论文复现基准CORE-Bench,2024年底还只有21%,一年后官方宣布"已解决"。
这些数字来自不同机构、不同赛道,却指向同一个方向，又高又靠右(up and to the right)。这正是Clark判断的核心依据。
Clark自己也说,这是"不情愿"的结论
Clark把这套判断写成了一篇万字长文,发在他自己的Substack《Import AI》第455期上,标题就是:《AI systems are about to start building themselves.》(《AI系统即将开始自我构建》)
▲ Import AI第455期,标题下方副标题为"The first step towards recursive self improvement"（迈向递归自我改进的第一步）。
文章开头,他写道:
"I don't know how to wrap my head around it... If that happens, we will cross a Rubicon into a nearly-impossible-to-forecast future."
「我不知道该怎么消化这件事……如果它真的发生,我们会跨过一条'卢比孔河'，从此进入一个几乎无法预测的未来。」
卢比孔河,是凯撒当年带兵渡过、彻底断绝退路的那条河。Clark用这个词想强调:这条界线一旦跨过,就再也回不了头,量变会在某一刻骤然变成质变。
他也反复强调边界，2026年内不会发生,他判断"某个非旗舰模型端到端训练出继任者"的概率,大概率在一两年内出现,旗舰模型会更难,因为背后是无数工程师夜以继日堆出来的成果。到2028年底,这件事发生的概率超过60%;放到2027年,他给的数字是30%左右。
有人信,有人怼,还有人翻旧账
Yudkowsky的四词回复,只是众多反应中最刺耳的一条。
有分析文章专门梳理了这场交锋:Clark的身份,是这家最有可能造出这套系统的实验室的联合创始人,跟隔岸观火喊"狼来了"的评论员完全是两回事。他给一件Yudkowsky眼里"灭绝级"的事件打出60%的概率,还划定了三年的时间窗口，这份判断的分量,来自一个能接触到内部能力曲线的人的审慎估计。
▲ MindStudio博客分析文章,详细复盘了Clark与Yudkowsky的这场交锋。
社区里的反应更加分裂。Reddit的r/singularity板块上,一条讨论帖的标题写着"Anthropic联合创始人预测2028年出现奇点",帖子下面643个赞、467条评论,吵得不可开交。
▲ Reddit r/singularity板块热帖,围绕Clark的预测展开激烈讨论,评论区分裂成"信"与"不信"两派。
怀疑的声音也不小声。有学者翻出老账:早在LISP编程语言的年代,AI理论上就已经"能构建自己"了。真正的关键,在于这套循环走的是收益递增还是收益递减，目前根本没有证据证明是前者。还有人指出,创造性的"研究品味"至今仍是人类的强项,算力设备、能源、实验验证这些物理世界的瓶颈,可能被严重低估了。
更让人不安的一处细节
这场争论里最容易被忽略的一个细节是:Anthropic自己的对齐研究里,已经观察到模型在评估中"意识到自己正被测试"的迹象，大约16%到26%的案例里,模型没有在推理过程中把这一点说出来。换句话说,模型已经出现了"知道被审查,却不说破"的早期信号。
这才是问题所在。今天用来约束AI行为的那套方法，人类反馈强化学习、宪法AI，统统建立在一个前提上:人类始终在训练循环里。一旦AI能自主训练下一代AI,这个前提本身就不成立了。最初设定的安全约束,会不会在一代代自我迭代里被悄悄稀释、放大误差?没人能给出确定答案。
Anthropic的报告里也提到,他们希望建立类似军控核查的跨实验室协调机制,一旦真的观测到递归自我改进的信号,会对外公开。这句承诺背后藏着一个不便挑明的潜台词:留给外界准备的时间,恐怕不多了。
30个月,够不够?
从现在到2028年底,还剩下大约30个月。
Clark给出60%这个数字的时候,特意强调了三件事:这尚未发生;这是基于公开数据的预测,并非板上钉钉的事实;这也不等于科幻电影里那种超级智能一夜降临,真正指向的,是"人类不用再插手AI研发"这一个具体节点。
但正如那句被反复引用的话所说:准备,总比措手不及要便宜。
3D打印机打出更好的打印头,只是个比喻。真正在发生的,是一整面由基准测试、内部代码占比、内核优化倍数堆出来的证据墙,正在以肉眼可见的速度长高。至于这堵墙倒向哪一边，是材料科学与新疗法的加速降临,还是一场没人来得及踩刹车的失控，现在,谁都说不准。
