夜雨聆风一段90秒的访谈剪辑，把一个遥远却惊人的问题摆到了镜头前。
画面里，一个戴眼镜、穿棕红T恤的男人坐在演播室左侧，胸前的名牌写着：Stanford Digital Economy Lab。他语速不快，却抛出了一个极端结局：
"一群自我复制的机器人，把自己拖进马尔萨斯式的未来。世界和宇宙，将被复制最快、只为扩张而烧掉全部能量的东西填满。"
没人想要那样
说这话的人叫Philip Trammell，牛津博士，斯坦福数字经济实验室研究员，同时也是AI预测机构Epoch AI的经济学负责人。他用生产函数、替代弹性和增长稳态模型研究一个问题：当机器人能造机器人，文明的底层方程式会发生什么。
答案让人脊背发凉
▲ MTS账号发布的访谈剪辑帖，四段引文呈现了完整的推演链条
"把世界交给AI"，硅谷正在认真讨论的疯狂提案
要听懂Trammell在怕什么，得先认识一群人。
他们叫AI successionists，"AI继任论者"。这种立场已进入严肃讨论：Vox旗下Future Perfect专栏记录了纽约科学院一场关于"Worthy Successor"（值得的继承者）的闭门会议。与会者讨论，如果AI在智能、感知力、甚至幸福感上全面超越人类，人类是否应该主动让位？
强化学习之父Richard Sutton公开表达过类似观点。LessWrong上也有人分析这种思潮如何形成：当AI风险带来的认知失调越来越强，一部分人会把"被取代"包装成光荣、英雄，甚至历史必然。
这就是Trammell要对抗的思想地形。
当机器人能造机器人：经济学的"恐怖方程式"
Trammell把这份担忧写进了数学模型。
他与经济学家Anton Korinek合写的综述论文 Economic Growth under Transformative AI，已在学术界广泛流传，核心结论简洁到残忍：
仅仅把生产完全自动化，让机器可以自我复制，就足以大幅抬高增长率，并打破长期定义前沿增长的"卡尔多事实"。
▲ 斯坦福数字经济实验室论文页，摘要中可见"machines can self-replicate"与"breaking the Kaldor Facts"
"卡尔多事实"听起来学术，其中包括人均产出稳定增长等长期规律。从蒸汽机到互联网，这些规律维持了很久。Trammell的模型提出，一旦机器具备闭环复制能力，增长曲线可能陡然上翘，过去的稳态也会随之断裂。
这像是马尔萨斯的诅咒换了个壳200年前，马尔萨斯讨论人口几何增长与有限资源之间的张力。如今，可按几何级数增长的对象换成了机器人。当复制速度甩开一切配套资源，马尔萨斯的幽灵便会以硅基形态复活。
章鱼的繁殖速度，与20%的年增长率
Trammell也给出了自己的中心估计。他把自身立场放在奇点论圈子与主流经济学家之间，并列出一组数量级：
- 超级智能在2040年前出现的概率
：10–20%。奇点论者觉得板上钉钉，传统经济学家觉得痴人说梦，他取中间。 - 人形机器人更可能先来。
奇点论侧会拿章鱼做类比，章鱼每年的繁殖倍率约25万倍，如果机器人工业按类似速度扩张……经济曲线会疯掉。 - 他的中心猜测
：偏好、监管与创新会大幅约束那个"章鱼基线"。本世纪GDP增长率可能从目前的2–3%抬升到每年20–30%，依然远低于章鱼繁殖倍率。
这组估计给访谈中的警告加上了边界：在一组标准假设下，模型可能走向那个烧光宇宙的结局；他的中心预测温和得多
我们离"机器人造机器人"还有多远？
Trammell自己也问了这个问题。在一篇Substack短文中，他提出了一个巧妙的度量指标：NAPCS（网络调整后的私人资本份额）。
思路很直觉：追踪生产一台机器人的全部成本，沿供应链一路往回查，钢铁的冶炼、芯片的制造、工厂的建设，最终有多少钱是付给"资本"的增值，多少是付给"人类劳动"的？当这个比例趋近100%，闭环就合上了：机器在供应链意义上自给自足，不再需要人类劳动来"再生产自己"。
他查了数据，结果出人意料地……平静计算机与电子产品的NAPCS约为40%，且长期走平。也就是说，按这个进度条衡量，我们离"机器人造机器人"的世界，远得很。
▲ Trammell写道，按该指标衡量，我们仍远未到机器人造机器人的阶段
Carl Shulman在80,000 Hours播客中提醒，一旦自复制工业系统能以数月为周期翻倍，一年十几次倍增就能撕开数量级的鸿沟。
40%到100%的进程也可能在某个临界点突然加速。
帕累托前沿的幻觉：就算全是AI，也会打架
Trammell在剪辑里还提出了一个容易被忽视的问题：
"智能群体并不必然达到对它们而言的帕累托前沿。它们可能陷入各种协调失败。"
换成日常语言：就算世界上全是超级智能AI，它们也未必能合作。 资源抢占和公地悲剧都可能由博弈结构产生。只要存在竞争性复制的激励，不管主体是碳基还是硅基，都可能陷入"每个个体理性行动、集体结果灾难"的囚徒困境。
"烧光宇宙能量"的恐怖来自选择压力：无数"理性"的自复制机器缺少协调机制，复制最快的变体占据最多资源，最终把整个宇宙推入热力学终局。
整个过程甚至不需要恶意或阴谋
评论区的战场：谁在反对，谁在追问
这段剪辑传开后，评论区本身就成了一场微型思想实验。
AI企业家Daniel Faggella画了一条精确的分界线：以取代为目标的继任主义是愚蠢的，但以守护为目标，"审慎确保生命过程在生物或非生物基底上繁荣"，是站得住脚的。替换和转化，一字之差，天壤之别
▲ Faggella的切割：Successionism（替代）愚蠢，Stewardship（守护）可取
而foomagemindset的批评更为犀利：Trammell提出"AI未必更擅长实现人类所珍视之事"，这在继任论者的框架里说服力有限。继任论者可能继续追问：如果AI的幸福比人类的幸福更多、更深，人类的偏好凭什么成为宇宙级的道德约束？
▲ 一位自称非继任论者的用户认为，这套论证仍难以说服继任论者
过渡期的答案：让机器人听话，暂时的
Trammell在剪辑最后给出了自己的立场，措辞谨慎：
"你想要的，是某种让我们都能繁荣的未来规划。就目前而言（for the time being），我认为可行的做法是让机器人听指令行事，并在我们与它们之间建立良好监管的互动模式。"
这里的关键词是"for the time being"。他的建议指向过渡期：在协调机制尚未建立时，默认保持人类可控，避免放手让复制最快的系统取得全部资源。
这是经济学家能给出的最冷静的建议，也是最低限度的安全阀。
然而，这道安全阀够不够用？当NAPCS从40%开始加速爬升，也许是明年，也许是十年后，人类是否还来得及建立那套"良好监管的互动模式"？
没人知道
但至少现在，一位斯坦福经济学家用方程式标出了悬崖的边缘。剩下的问题是：我们会不会在看清悬崖之前，就已经纵身跃下？
