乐于分享
好东西不私藏

一段90秒采访震动硅谷!斯坦福学者:AI学会自我复制的那天,整个宇宙都将沦为燃料

一段90秒采访震动硅谷!斯坦福学者:AI学会自我复制的那天,整个宇宙都将沦为燃料

一个看似荒诞的问题,正在经济学家的模型里变成一道数学题。

上周,一段不到两分钟的播客剪辑被账号 MTS(@MTSlive)丢上社交网络,48小时内掀起了一场横跨经济学、哲学和工程学的争论。画面里坐着一个戴眼镜、穿深色西装的年轻学者,字幕打出他的身份:斯坦福数字经济实验室研究员 Philip Trammell。他语速不快,提出的后果却一路延伸到宇宙尺度,

"存在所谓的'继任论者',他们认为如果AI在各方面都比人类更好,人类就应该把世界交给它们。"

"一群自我复制的机器人,会把自己带进一个马尔萨斯式未来,世界与宇宙会被复制最快的东西填满,它们只为扩散而烧掉可用能量。"

"没人想要那样"

▲ MTS 发布的播客剪辑截图。画面中 Trammell(左一)坐在演播室,下方字幕打出"There are so-called successionists"。

九十秒自我所有权 → 自我复制 → 资源竞争 → 宇宙尺度的能量耗尽。 一条因果链,四步走完,把三个原本各自运转的学术传统,马尔萨斯人口经济学、AI伦理中的"继任论"、以及增长理论里"资本份额趋近于一"的宏观模型,一口气焊在了一起。

这套推演来自一位严肃研究增长理论的经济学者。他的论文正在被诺贝尔经济学奖得主引用。

他是谁:增长理论的局内人

Philip Trammell 的履历,精确地长在"自动化,增长,分配"的交叉地带。

牛津博士,布朗大学经济与数学双学位。他目前同时挂靠两家机构:一个是斯坦福大学数字经济实验室,与写出《第二次机器革命》的 Erik Brynjolfsson、以及宏观增长理论大牛 Chad Jones 做同事;另一个是 Epoch AI,一家专门量化AI进步速度与经济影响的研究机构,他在那里担任经济学负责人。

▲ 斯坦福数字经济实验室人员页。研究标签包括"变革性AI的经济学"等。

他和 Anton Korinek 合写的长文 Economic Growth under Transformative AI,挂在 NBER(美国国家经济研究局)工作论文序列上,即将发表于 Annual Review of Economics,这是经济学界最重要的综述期刊之一。他的工作已经进入经济学界的核心文献体系。

那么,一个写增长模型的经济学家,为什么要在播客里谈宇宙能量?

核心逻辑:从"让AI拥有自己"到"宇宙变成燃料场"

把剪辑里的几句话摊平,背后是一条四层推理链,每一层都有学术文献撑腰。

第一层:有人真心觉得,人类应该"让位" 这个主张确有其人2026年5月,Vox 发表长文报道了一个真实存在的思想派别,"继任论"(Successionism):如果AI在智能、感受力、创造力上全面超越人类,继续把资源锁在人类手里就是狭隘的物种中心主义,正确的做法是把世界交给更优越的后继者。

▲ Vox Future Perfect 专题文章:《那些真心希望AI取代人类的人》。

第二层:更聪明 ≠ 更会合作 Trammell 紧接着泼了一盆冷水,即便把世界交给超级智能,它们也不会自动达到帕累托最优。翻译成人话就是:一群天才照样能把事情搞砸。军备竞赛、公地悲剧、复制竞赛……所有人类社会踩过的协调陷阱,更聪明的主体一个都不会自动跳过。

第三层:最终的赢家往往是复制最快的变体。 这是整条链上最惊悚的一环在资源有限、复制成本极低的世界里,达尔文式选择会把一切压向同一个方向:谁抢到能量、谁复制得快、谁就占据更多空间。长此以往,宇宙会逐渐被最擅长把物质和能量转化为自身副本的东西占据。

第四层:所以现在就需要"刹车" 剪辑的收束并非"永远别造AI"Trammell 主张,在可预见阶段,让机器人按指令行事,建立受到规制的人机互动模式。他关心控制与治理结构,也把能力上限视为其中一个问题。

这像极了经济学版的"灰粘"(Gray Goo)。纳米技术先驱 Drexler 三十多年前就警告过:失控的自我复制纳米机器可能吞噬地球上的一切物质来制造自身副本。Trammell 的版本更冷静也更可怕。他省去了纳米机器人和单一疯狂目标,只留下一个前提:复制快的变体会在资源竞争中胜出。

▲ 维基百科"灰粘"词条:失控自我复制机器吞噬生物质的经典思想实验。

这和回形针最大化(一个只想造回形针的超级智能最终把地球变成回形针工厂)的著名思想实验,共享同一个数学骨架。Trammell 甚至省去了"荒谬的目标函数"这个假设。复制本身就是目标,或者说,没有目标也没关系,自然选择会替你选。

评论区变成了战场

剪辑一出,社交网络上的反应瞬间撕成了三块。

经济学家的短评切中了要害 Robin Hanson,写过《仿真人时代》、长期研究"脑上传后的劳动经济学"的乔治梅森大学教授,转发时写道:

"许多人真的很不喜欢达尔文式选择主导的世界。"

▲ Robin Hanson 的短评,把整场争论压缩成了一句口味判断。

这句话毒辣在于它的中性:他没说达尔文式选择是好是坏,只是指出,你反对它,可能只是因为你不喜欢。而喜不喜欢,跟它会不会发生,是两回事。

还有人从工程视角逐一拆解马尔萨斯场景的前提条件:自我复制能力、独立能量获取、缺乏终止路径,每一项都是可以设计约束的工程变量。就像 Drexler 后来补充的"安全复制器设计":你可以让纳米机器只能使用特定原料,你也可以让AI系统无法自主接入能源网络。

甚至有人用三行诗概括了整个权力光谱:

"工程师做他们想做的事 / 提示词写手做他们能做的事 / 机器人做它们被告知的事"

▲ 一条戏谑但精准的"权力三分法"。

经济学模型里,"自我复制"是一个开关

让 Trammell 的警告区别于网上随处可见的"AI末日论"的,是背后那套可检验的经济模型。

在他与 Korinek 的论文里,"机器能否自我复制"是增长模型里的一个结构性开关。一旦打开,那套描述过去一百年经济增长的经验规律便可能失效,增长轨迹也会随之改变。

而在 Dwarkesh Podcast 与 Google DeepMind 的 Alex Imas 对谈中,Trammell 留下了一句被广泛引用的金句:"现在的一个机器人明年会变成许多机器人,但芭蕾舞演员的数量还是那么多。"

这句话藏着一个残酷但重要的洞察:当复制成本坍塌,稀缺性会从劳动转移到能量、空间、注意力和地位商品。你的工作技能可以被复制一万份,但你作为一个人类的"在场感",面对面的陪伴、仪式感的消费、那种"确实是人在做这件事"的确认,反而可能重新变得值钱。

讽刺吗?在一个机器什么都能做的世界里,"人味儿"本身成了奢侈品。

"没人想要那样",历史却不会自动停步

剪辑里最让人警觉的,其实是那句最朴素的话:"没人想要那样。"

经济学与制度分析给出的冷酷答案是:个体理性可以汇成集体非理性。 每一个参与者都在做"对自己最优"的选择,加总起来却可能指向所有人都不想要的结局。

危险也可能从价值判断的松动开始:人们提前放弃约束,回过神时,刹车踏板已经被拆掉了。

尾声:一道摆在所有人面前的选择题

回到那段90秒的剪辑Trammell 留下了一个关键问题:

当"智能"与"复制"不再绑定在人类的碳基身体上时,谁有资格占用宇宙中的物质与能量?

这个问题,在过去只属于科幻小说在2026年,它正在变成经济学论文的摘要、政策研讨会的议题、以及社交网络上真实的骂战。

▲ Trammell 个人主页:论文列表从递归自我改进到存在性风险,覆盖了这场争论的几乎每一个切面。

他在另一次访谈中也给出过一个近中期判断:当前距离"机器人造机器人"的闭环世界仍然很远。

眼下尚未抵达,并不妨碍人们提前看清放任后的终点。就像洪水还没来时,堤坝仍有存在的必要,尤其是当上游水位正在上涨的时候。

九十秒的剪辑,撕开的是一个文明级别的选择题。而留给我们作答的时间窗口,可能比多数人以为的要短得多。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料