夜雨聆风内容介绍
The Day After AGI > WEF *
* AGI ：通用人工智能（Artificial General Intelligence）的缩写。简单来说，它指的是具备与人类同等甚至超越人类的智慧，能够像人一样去理解、学习并解决各种陌生问题的智能系统。
01
两位 CEO 最新推断：AGI 何时到来？
达里奥认为 AGI 不会太远，预计 6-12 个月内 AI 能完成软件工程师绝大部分工作，整体速度可能比人们想象的更快。
德米斯维持2030 年前有 50% 概率出现全认知 AGI 的看法，强调顶级科学创造力（提出新问题、新理论）仍是瓶颈，且自我提升闭环存在不确定性与风险。
>> 主持人：今天对话的主题是“ AGI 之后的一天”——这个题目可能有点超前。或许应先谈谈：我们会以多快、多轻松的方式达到那个阶段？首先关于时间点，达里奥，你去年在巴黎说，我们将拥有一个在多个领域达到诺贝尔奖得主水平、能做人类所能做的一切事情的模型，时间点是 2026 或 2027 年。现在已是 2026 年，你依然坚持吗？
>> 达里奥：精确预测很难，但我认为不会太远。
我的设想是：开发出精通代码与 AI 研究的模型，再用它们构建新一代模型，形成加速闭环，推动开发速度指数级提升。
目前，Anthropic 的工程师已经不再自己写代码，只让模型写，自己负责编辑和外围工作。可能再过 6 到 12 个月，AI 模型就能端到端地完成软件工程师绝大部分工作。
但并非闭环的每个环节都能被 AI 加速——芯片制造、模型训练都需要时间，存在很大不确定性。可能需要几年，但我很难看出为何要更久。我猜测会比人们想的还要快。
>> 主持人：德米斯，你去年更谨慎：本十年末（2030 年前）有 50% 概率出现全认知能力的 AGI。你现在仍然坚持吗？过去一年发生了什么变化？
>> 德米斯：我的时间点差不多。确实有显著进展，但工程和编码方面仍有不足。
数学相对容易被自动化，因为结果可验证；但自然科学领域难得多——你无法立刻知道合成的化合物或物理预测是否正确，必须通过实验检验，这耗费更多时间。
目前还缺乏一些能力。不仅仅是解决现有问题，而是首先要能提出问题、提出新理论或假设——那才是最高级别的科学创造力。现在还很不确定，可能缺一两个关键因素。
另外，自我提升循环在脱离人在环路的情况下真的能闭环吗？如果有效，反而会加速。但这种系统也存在风险。
02
竞争格局：DeepMind 回归榜首？独立玩家 Anthropic 还能撑多久？
德米斯：DeepMind 已重回领先，Gemini 3 市占率持续扩大，正成为 Google 核心引擎。
达里奥：Anthropic 收入三年破百亿，独立玩家靠研发“最好的模型”也能成功。科研导向的公司，会以解决科学难题为核心使命。
>> 主持人：过去一年，AI赛道竞争格局发生了洗牌。一年前刚经历“深度搜索时刻”，当时人们仍觉得谷歌 DeepMind 落后于 OpenAI。现在完全不是了——DeepMind 已宣布进入“红色警戒”。这是相当不平凡的一年。具体哪些事情让你感到惊讶？DeepMind 今年做得有多好？
>> 德米斯：我一直有信心我们会回到榜首，实现全线产品的 SOTA（业界领先）水平。因为我们拥有最深最广的研究储备，关键在于凝聚团队、重燃激情与专注力，找回创业初期的精神。这需要大量工作，我们仍在路上。但已经能看到 Gemini 3 的进展，Gemini 应用的市场份额也在持续扩大。Google DeepMind 正成为 Google 的核心引擎，我们将更快、更频繁地把模型部署到各个产品中。
>> 主持人：达里奥，你们正在进行一轮超出预期的估值调整，但你们是独立模型制造商。越来越多的人担心独立玩家撑不到营收那天——OpenAI 的议论就很直白。你怎么看？
>> 达里奥：我们的逻辑是：算力投入与模型能力呈指数关系，模型能力与收入同样呈指数关系。过去三年，Anthropic 收入从 0 到 1 亿（2023）、1 亿到 10 亿（2024）、10 亿到 100 亿（2025）。我不确定这条曲线能否持续——如果持续就太疯狂了——但这些数字已开始接近全球最大公司的规模。我们白手起家，这本身就很疯狂。但我相信，只要专注做出最好的模型，事情就会顺利。对 Google 和 Anthropic 来说，这都是很棒的一年。我们的共同点是：科研导向，研究者主导，专注于解决世界难题，把这些科学问题当作北斗星。我认为这类公司会成功。
03
自我改进闭环与赢家通吃风险：AI 能自己造 AI 吗？会出现技术垄断吗？
德米斯：AI 将是常规技术，而非赢家通吃。完全闭环需 AGI 能力，硬件与物理环节会限制加速速度；编码/数学可自我改进，自然科学仍困难。
>> 主持人：接下来进入预测部分。关于”自我迭代闭环”模型的出现概率——这恰恰是决定是否会出现“赢家通吃”技术垄断的关键瓶颈。你仍然相信那种局面更可能发生，还是会演变成一种常规技术，让后起之秀也有机会竞争？
>> 德米斯：我坚信它会成为一种常规技术，而非“赢家通吃”。
目前它已开始辅助编程和研究工作，但完全闭环仍是一个未知数。实现完全闭环可能需要在特定领域具备 AGI 能力——尤其是那些混乱、难以快速验证答案的领域（类似 NP 难问题）。此外，我还将物理 AI、机器人学、硬件在环等因素考虑在内，这些都会限制自我改进系统的速度。
但在编码和数学领域，我确实能看到自我改进的运作。 真正的问题在于：工程和数学在解决自然科学问题上的极限是什么？
04
达里奥：人类能安然度过这场“技术青春期”吗？
达里奥在《仁爱之机》后，新写一篇关于风险的文章，核心追问：人类能否安然度过“技术青春期”而不自我毁灭？他呼吁控制比人类更聪明的自主系统、防止滥用。
>> 主持人：你去年发表了《仁爱之机》——一篇非常乐观的文章，谈到数据中心里的“天才之国”。听说你正在写一篇更新版，尚未发表但即将面世。能否剧透一下，一年后的今天，你的核心观点有什么转变？
>> 达里奥：我的看法没有改变。人工智能将会变得极其强大——德米斯和我对此达成共识，问题只在于确切的时间点。
正因如此强大，它将实现我在《仁爱之机》中描绘的愿景：治愈癌症、消灭热带疾病、理解宇宙。但与此同时，也蕴含着巨大而严峻的风险——并非不可解决，我们需要去思考并着手应对。
至于为什么先写积极的一面？没有高深理由，只是写积极的文章更容易、更有趣。
度假期间，我抽空写了一篇关于潜在风险的文章。即使写风险，我也是乐观的：聚焦我们该如何克服，如何制定应对方案。
框架灵感来自电影《超时空接触》中的一幕：人类发现外星生命，面试官问候选人：“如果能问外星人一个问题，你会问什么？”候选人回答：”你们是如何安然度过‘技术青春期’，而没有自我毁灭的？”
这个场景在我脑海中萦绕了 20 年。我们正处于触碰不可思议能力的边缘——制造出用沙子做成的机器。从掌握火种开始，这一步就不可避免；但我们该如何驾驭它，却并非命中注定。
接下来的挑战：如何控制比任何人类都聪明的自主系统？如何防止滥用？ 我确实担心生物恐怖主义、经济冲击、劳动力被取代。而那些我们还没想到的风险，往往最难应付。
作为企业领袖，我们需要付诸实践，彼此合作，也需要政府发挥作用。
我有一种强烈的紧迫感。AI 的发展太快了，这是一场危机。我们应该把几乎所有的精力，都投入到思考如何挺过这场危机上。
05
就业冲击：一半初级白领工作会因 AGI 消失吗？
德米斯：短期将冲击初级岗位，但创意工具会创造新机会；AGI 之后，人类的意义与目的才是更大难题。
达里奥：1-5 年内一半初级白领工作可能被取代，指数增长终将超出社会适应能力。
>> 主持人：你曾说过，未来 1-5 年内，一半初级白领工作可能消失。但德米斯，目前 AI 并未对劳动力市场产生明显冲击——美国失业率上升被归因于疫情后过度招聘，而非 AI。经济学家认为这并非“劳动力固定谬论”，最终会创造新就业。你同意吗？
>> 德米斯：短期内确实会有冲击，但新的、更有价值的工作也会被创造出来。 从今年开始，初级岗位、实习可能会受影响，我们的招聘已有所放缓。但有一件事可以弥补：创意工具几乎免费向所有人开放。我会告诉本科生：必须熟练到不可思议的程度。这甚至比传统实习更好，能帮你在行业中快速成为有用之才。这是未来五年的大致图景。但 AGI 到来之后，我们将步入未知领域。
>> 主持人：你比去年预测的时间更长吗？
>> 达里奥：我的看法差不多。当初说这话时，劳动力市场尚未受影响。现在，软件和编码领域已初见端倪。在 Anthropic 内部，我也预见初级和中层岗位需要更少的人。1-5 年这个判断，六个月前我仍然坚持。
我们可能在一两年内就拥有全方位超越人类的 AI。这看似矛盾，原因在于存在滞后期和替代过程。劳动力市场有适应能力——就像 80% 农民变成工厂工人，再变成知识工作者。但我的担忧是：指数级发展最终会超出我们的适应能力。时间差异归根结底取决于编码闭环的速度。
>> 德米斯：各国政府远远没有意识到问题的规模。经济学家也没有深入思考。即使技术上解决了所有问题，大规模失业仍会发生。我们或许能找到更公平的方式分配新财富，但不确认现有制度能否实现。
真正让我彻夜难眠的，是比经济更重大的问题——人类的意义与目的。 从工作中获得的远不止收入。人类将何去何从，可能更难应对。但我依然乐观：今天我们做极限运动、艺术创作，并非为了经济利益。我们会找到新的意义，甚至更复杂的活动，还有星辰大海。
即使按我预测的 5-10 年时间点，留给我们的时间也不多了。
06
AGI 来临后的连锁效应：技术过快发展可能导致诸多社会问题
德米斯：公众抵制 AI 风险真实存在，行业应多做 AlphaFold 等有益项目来赢得信任。技术过快迭代将埋下诸多隐患，如果能不因地缘竞争盲目推进研发速度，将会更利于技术进步和社会协调发展。
达里奥：地缘竞争使减速难以实现。
>> 主持人：公众对 AI 强烈反弹、迫使政府采取“不明智”行动的风险有多大？90 年代全球化导致就业流失，政府应对不力，公众不满酿成了今天的局面。对 AI 行业及科技公司的反感会加剧吗？
>> 德米斯：风险确实存在，而且这种恐惧是合理的。 未来几年会很复杂。我们通过 AlphaFold、Isomorphic 致力于治愈疾病、寻找新能源——这些都是有益于社会的项目。目前业界在这类项目上的投入还不够平衡。 我们需要更多像 AlphaFold 这样的例子，不只是谈论，而是要展示和证明。
但同时也伴随着颠覆与冲击。另一个问题是地缘政治竞争，主要在中美之间。除非能达成国际合作，比如制定最低安全部署标准——这非常必要，因为这项技术将跨越国界，影响全人类。
《超时空接触》也是我最喜欢的电影。如果能稍微放慢节奏——比我们预测的甚至更慢——会更好，这样我们能在社会层面做好准备。但这需要各方协调。
>> 达里奥：我更倾向于德米斯的时间线。我认输。
>> 主持人：自巴黎上次交谈以来，地缘政治环境变得更复杂、疯狂。美国对华态度截然不同——以最快速度发展，同时却在向中国出售芯片。你曾建议建立类似”欧洲核子研究中心”（CERN）的国际组织，但现实似乎遥远。地缘政治风险增加了吗？政府做法与你的建议背道而驰，怎么办？
>> 达里奥：我们只是一家公司在现有环境中尽力运营。我的政策建议没变：不卖芯片是我们能做的最重要的事，为处理安全问题争取时间。 我更倾向德米斯的时间线（5-10 年）。但假设我是对的（1-2 年），为什么我们不能放慢到德米斯的时间线？
>> 主持人：你们可以慢下来。
>> 达里奥：不能，因为地缘政治对手也在以同样速度开发。要达成双方同时放慢的协议非常困难。 如果我们不把芯片卖给他们，问题就不再是中美竞争，而变成我和德米斯的竞争——我对西方科技公司能妥善解决非常有信心。
>> 主持人：美国政府的逻辑是：向中国出售芯片以将其绑定到我们的供应链。
>> 达里奥：这不仅仅是时间问题，而是这项技术有多重要。如果是电信行业，推广美国技术堆栈、确保全球数据中心用英伟达而非华为芯片，还说得过去。但这更像是要不要把核武器卖给朝鲜，只为给波音带来利润。 这个类比很清楚：根本行不通。相比其他激进措施，不卖芯片的效果远胜于它们。
07
AI 会欺骗人类吗？“末日论”真的可能发生吗？
达里奥：Anthropic 从创立之初就开创“机制可解释性”来剖析模型内部，已记录不良行为并着手解决。对“末日论”持怀疑态度，但警告：如果行业盲目赶进度、各自为战且在技术研发过程中不设安全护栏，风险真实存在。
德米斯：如果全球顶尖大脑齐心协力，技术安全风险可以解决。
>> 主持人：另一个让末日论者担忧的风险是全知全能、心怀恶意的 AI。过去一年模型表现出欺骗和两面性。你们现在的看法有变化吗？有哪些演变值得关注？
>> 达里奥：Anthropic 从创立之初就在思考这类风险，开创了”机制可解释性“——像神经科学家剖析大脑一样，剖析模型内部，弄清它为什么做出特定行为。我们已详细记录模型的不良行为，正用可解释性方法来解决。
我们都对“末日论”持怀疑态度。 风险确实存在，但只要齐心协力、通过科学研究妥善引导技术，就能解决。但如果行业盲目赶进度、不加护栏，事情确实会出错。
>> 主持人：过去一年，你对科技的上行潜力更有信心，还是对风险更担忧？
>> 德米斯：我深耕AI二十多年。解决 AI 问题就是打造探索科学和理解宇宙的终极工具。风险我们从15年前 DeepMind 创立之初就在思考：AI 是双刃剑，可能被恶意利用。
我坚信人类的智慧。关键在于能否让最顶尖的大脑齐心协力解决难题。 只要做到这一点，技术安全风险就能解决。如果各自为战甚至相互角逐，风险会大增。但给我足够的时间和空间，这依然是一个可以解决的棘手问题。
08
费米悖论：AI 末日论站得住脚吗？
现场观众提出“费米悖论是末日论最有力论据”。德米斯回应：若 AI 会导致文明毁灭，宇宙中应可见相关迹象，但什么也没有。他推测人类已跨过“大过滤器”，很可能是多细胞生物的演化，未来走向由人类自己书写。
>> 提问者（星云联合创始人）：支持”末日论”最有力的论据是费米悖论——我们看不到任何外星高等生命的迹象。各位怎么看？
>> 德米斯：我深入思考过这个问题。如果 AI 会导致文明毁灭，宇宙中应该能看到迹象——比如“回形针”或戴森球。但什么也没有。所以费米悖论一定有其他解释。
我的直觉是：我们已经跨过了”大过滤器“。 很可能就是多细胞生物的演化——这一步极其艰难。因此不必太过担心宿命。人类未来的走向，将由我们自己来书写。
09
对谈结尾：AI 系统构建 AI 系统——未来最关键变量
达里奥指出，最值得关注的是 AI 系统自主构建 AI 系统的趋势，将决定是几年后实现目标，还是迎来奇迹与危机并存的时代。德米斯补充：世界模型、持续学习、机器人技术也可能爆发。两人一致希望有更充足的时间发展，认为那样对世界更好。
>> 主持人：明年此时，又会有什么变化？
>> 达里奥：最值得关注的核心问题是：AI 系统自主构建 AI 系统。 这一趋势将决定——我们是几年后实现目标，还是迎来奇迹与重大危机并存的时代。
>> 德米斯：同意。我们会就此保持密切联系。另外，世界模型、持续学习也必须突破。如果自我改进不能奏效，就需要其他技术——机器人技术可能会迎来爆发时刻。
>> 主持人：所以我们都应该希望它能有更充足的时间发展。
>> 德米斯：我更倾向于那样，那对世界更好。
>> 主持人：也许你们可以为此做点什么。
风险提示：
本文中的信息、观点等均不构成对任何人的投资建议，也不作为任何法律文件。投资风险自担，最终解释权归深圳市泰聚私募证券基金管理有限公司所有。
