软件吃掉世界，AI（人工智能） 吃掉软件

2026-06-20 | Podcast

Brad：今天我们课的前提是——大家都知道"软件吃掉了世界"。软件的分发边际成本接近零，但 AI 不是这样。AI 应用的用户越多，需要的算力就越大，成本根本不是零。这就是我们今天要讨论的话题。

接下来会有小组展示、炉边对谈，最后开放提问。我很高兴介绍今天的嘉宾。第一位是 Brad Gerstner。

Brad 是 Altimeter 的创始人兼 CEO（首席执行官）。2008 年他用几百万美元的亲友资金创办了 Altimeter，18 年后的今天，Altimeter 管理超过 150 亿美元的资产，横跨公开和私募市场。

Brad 是我见过的最好的投资人之一——最好的投资人都经历过超级周期，穿越牛市、熊市、衰退、危机、COVID，Brad 全都经历过。

Brad 最早是律师出身，在互联网泡沫时代参与创办了 General Catalyst，之后又创了几家公司，Altimeter 是第四家。在 Altimeter，他很早就投了 Google，很早就投了移动端、Meta，很早就投了云和软件，领投了 Snowflake、Confluent、GitLab。到了 AI 时代，他是 OpenAI 和 Anthropic 最大的投资人之一，投了 Nvidia，还是 Cerebras 的董事会成员，领投了 Groq 的投资——我们今天会深入聊这些。

除了投资，Brad 发起的最重要的运动是 Invest America。我做个快速调查——有多少人听说过 Invest America？（举手）看起来还有很大的普及空间。

Invest America 是一项联邦立法，为每个在美国出生的孩子在出生时创建一个投资账户。它最大的影响是让每个美国孩子成为经济的拥有者，从依赖走向独立。

Brad，非常荣幸能称你为我的导师、教练和伙伴。谢谢你来，请加入我们。

Brad：很高兴来到这里，谢谢邀请。

主持人：特别感谢 Dr. Goel 批准这门课。我觉得这堂课非常重要。我儿子今天也坐在这里，上高中。现在很多学校，尤其是东岸的大学，大家不太知道该怎么对待 AI。我一直在说，你必须让自己变得"仿生"——用 AI 让自己变成超级个体。

以前你上某个学校，然后去像 Groq 或 Altimeter 这样的公司找工作。今天我不在乎你上的是哪所学校，我要的是能交付超常价值、仿生价值的人。做到这一点的方式就是用好最新技术。很高兴你能让学生们坐在这些重要话题的交汇点上。

接下来介绍 Sunny，然后我会分享几张幻灯片，再请 Sunny 上来。我和 Sunny 认识很久了，今晚还要在硅谷一起打 all-in 扑克，工作内外都是好兄弟。

我让 ChatGPT 和 Claude 分别帮写了一段介绍。说实话，ChatGPT 写的不太行，Claude 写的让我惊艳。我直接念一下 Claude 怎么说 Sunny 的：

"我们的下一位嘉宾是一位连续创业者，他似乎停不下来被越来越大的公司收购。这个轨迹相当惊人。

他联合创办了 Xtreme Labs，一家移动开发公司，被 Pivotal 收购。然后联合创办了 Autonomic，一个智能出行平台，被 Ford 收购，之后他成了 Ford X 的副总裁，负责内部创新实验室。

接着联合创办了 Definitive Intelligence，被 Groq 收购，他成为 Groq 的总裁，帮助推出了 Groq Cloud。然后 Nvidia 以 200 亿美元收购了这个平台——Nvidia 史上最大的收购。

所以如果你在家记分的话：Pivotal、Ford、Groq、Nvidia——这个人的职业轨迹基本上就是一个只涨不跌的 SPAC，跟 Chamath 不一样。"

Sunny 有渥太华大学的计算机工程学位，这证明即使是加拿大人，只要他们下定决心，也能搞出颠覆性的东西。欢迎 Sunny Madra！

主持人：我想先放几张幻灯片来设定一下我们所处时代的背景。今天要聊的推理（inference）这个话题，其实是更大对话的一个子集。

这是过去 2000 年的全球人均 GDP 曲线。你会发现，在大约 1800 年里，什么都没发生——就是生存。固定的劳动力和资本只能用来维持生存，没有剩余生产力。

然后从 18、19 世纪开始，事情变了。GDP 翻倍所需的时间急剧下降——现在我们每 25 年就能让全球 GDP 翻倍，或者说生活质量翻倍。

GDP 意味着什么？GDP 越高，贫困率越低，基础教育普及率越高，识字率越高，民主和自由越多，疫苗接种率越高，儿童死亡率越低。所以创新本身就是社会公益，而且它在加速。

技术占全球 GDP 的比重从 5% 上升到了 13%。10 年后，这个比例只会更高。

纳斯达克在过去 10 年的每股收益复合增长率达到 15%，而非科技公司只有 6%。科技公司的投资回报之所以更好，就是因为它们的每股收益增长更快。AI 会进一步加速这一点。

当我们审视全球所有知识型工作时，这个 TAM（总可寻址市场）是以万亿美元计的。Demis（DeepMind 创始人）说得好：AI 的影响将是工业革命的 10 倍，但速度也是 10 倍——可能在 10 年内而不是 100 年内展开。

我认为这就是我们所处的背景。AI 带来的加速应该对整个社会都有好处，但我们也需要讨论护栏和必要的社会变革。而这一切的根基就是算力。

大家都知道，AI 的原子单位是 token（词元）。要说清楚这个原子单位的生产，没有比 Sunny 更合适的人了。Sunny，让我们回顾一下——Groq 是什么？你在 2023、2024 年对推理的发展有什么观察？

Sunny：先快速介绍一下背景。Groq 是 Jonathan Ross 创办的。Jonathan 是 Google TPU（张量处理单元）的发明者。他的经历很有意思——他是高中辍学，不是因为学不了，而是大概觉得太无聊了。辍学后直接进了 NYU（纽约大学）的数学博士项目，然后被 Google 招了进去。

和过去 20 年所有伟大的工程师一样，他一开始被安排做广告优化——这某种程度上很糟糕。但他听了一场 Jeff Dean 的演讲。Jeff Dean 说："好消息，我觉得我们找到了解决自动语音识别的算法，这在很多地方都有用。坏消息是，算力不够强，我们跑不了。"

Jonathan 自己揽下了这个任务，用 FPGA（现场可编程门阵列）设计了第一版后来成为 TPU 的东西。最终他离开了 Google，因为他觉得这种能力不应该只留在 Google 内部，全世界都应该拥有。于是他创办了 Groq。

简单来说，Groq 是一个采用数据流架构的芯片。它和其他所有计算架构最大的不同在于——它是完全确定性的。与架构配套的是一个编译器，这个编译器会预先决定所有计算将在哪里发生。

这一点非常重要，因为 AI 问题的本质、token 生成的本质就是大量的数学运算。这就是为什么我们看到算力在爆炸式增长。

Brad：现有的算力系统不是为即将到来的需求设计的。我记得我们有过一次对话，之后你帮 Jonathan 看到了一个更清晰的未来。你说："Jonathan，我觉得我比你更清楚你的未来。"跟我们讲讲那个时刻。

Sunny：当时市场上 Nvidia 占据主导地位，因为研究人员用 Nvidia 的硬件来训练模型。推理（inference）本质上是训练的前向传播，反向传播才是训练特有的。所以你在训练模型时总是在做推理，很自然地就用同一套硬件来跑推理。

我们看到 Groq 架构的一个关键点是——我们可以高效得多地完成推理。我们的 V1 芯片是 2018 年设计的硅片，2019 年流片，14 纳米工艺，但跟 Hopper（英伟达架构）竞争完全不落下风——而 Hopper 在硅工艺上比我们新了五代。

我们的核心洞察是：说服别人买我们的硬件很难，但如果我们在云端部署，开发者其实不在乎底层是什么。只要有个 API 就行，开发者对硬件的可替代性很高。所以我们把芯片放进云端，运营数据中心，通过 API 提供服务，让最好的开源模型对所有人可用——包括 OpenAI 的 Whisper 这类开源模型。

我们的云上线几周内就达到了几十万用户，今天已经有 400 万用户。而 Nvidia 花了差不多 17 年才达到 700 万用户。

然后推理模型（reasoning models）出现了。推理模型对 token 的消耗要大得多——这还是在 AI Agent（智能体）出现之前，仅仅是"深度思考"就比一次性预训练模型消耗多得多。Token 消费曲线几乎是抛物线式增长，我们的云开始撑不住了。OpenAI 只有 1 吉瓦的算力，Anthropic 也只有 1 吉瓦。所以我们既要做出 token 效率更高的模型，也要做出 token 效率更高的架构。

当时 Cerebras 和 Nvidia 是激烈竞争的对手，Nvidia 和 Groq 也被视为直接竞争对手。

Sunny 给我发了一条短信说："我有个想法。"当时我们是 Nvidia 的大股东——现在仍然是，和 Jensen（黄仁勋）也是好朋友。Sunny 有一个想法，我想强调这一点：我们看到这些大交易，但有时候我们没有意识到，就是某个人在某一天的一个决定引发了这一切。

Sunny，你的想法跟主流思路完全不同。跟我们说说这是怎么来的。

Sunny：Brad，那封邮件确实是你牵头发的，这很重要。

当我们分析推理的问题时，首先会做 prefill（预填充）和 decode（解码）的分离。很多人开始这么做——用一组机器做 prefill，另一组做 decode，这样可以获得很多效率提升。

我们更进一步——这对大家都是个好教训——在 decode 内部，我们发现可以进一步解耦。因为 decode 里面有很多不同的操作，有些是计算密集型的，有些是内存带宽密集型的。

Groq 和 GPU（图形处理器） 的一个重大区别是：GPU 有大量算力和大量外部内存（HBM），但速度较慢。Groq 芯片没有太多算力，但有大量 SRAM（静态随机存取存储器），带宽非常高，比 HBM 快一个数量级以上。在 CPU 上这相当于 L1 缓存，但我们的芯片有大量的 SRAM。

给 Jensen 的邮件核心是：通过他们叫 NVLink 的协议把我们的芯片和 Nvidia 的芯片连接起来。Nvidia 芯片之间通过 NVLink 通信，可以让多个 GPU 协同工作。今天可以做到 72 个，正在扩展到 576 个。Groq 也有类似的协议，我们一直在运行数千个芯片的集群，很多模型同时跑在 4000 到 8000 个芯片上。

NVLink Fusion 就是让我们的芯片和 Nvidia 的芯片对话——我们把 Groq 更擅长的那部分问题拿到 Groq 芯片上跑。最终结果是：在相同的功耗下，token 产出提高了 2.5 倍。在今天算力受限的世界里，这非常有价值。

Brad：Sunny 给我发短信说："我觉得我们可以跟 Nvidia 合作。"这本身就是一个很大的思维转变——如果你把某人视为主要竞争对手，"合作"这个想法就是巨大的转变。他说："你能不能给 Jensen 发条短信？"我当时想，我要花一些跟 Jensen 的政治资本在这上面，所以我得确认这不是个疯狂的想法。我犹豫了一周左右，Sunny 又发短信催我："你给 Jensen 发短信了吗？"于是我发了。

Jensen 立刻回复说："有意思，我们聊聊。"你们开始合作，真正打动 Jensen 的是——你做出了一个有竞争力的芯片，但你的思维方式是"我们怎么一起生产更多 token？"

Brad：Sunny 刚才说的非常重要。OpenAI 有固定的算力空间，大概 1 吉瓦，今年 9 月会拿到 Vera Rubin（Nvidia 下一代架构）的芯片。

工厂的一端输入电力和芯片，另一端输出 token。

当他们收购 Groq 后，同样的功耗、同样的建筑，token 产出提高了 2.5 倍。我们世界的约束是电力和内存。如果你能在相同空间内把 token 产出翻倍或三倍，对 OpenAI 或 Anthropic 来说就是巨大的经济价值。

随着推理时间推理（inference-time reasoning）和 AI Agent 对 token 的需求爆炸——我们现在全球每周消耗数十万亿个 token——我们需要更多的电力、更多的芯片、更多的输入来生产这些 token。这不仅仅是关于快速芯片的问题，而是在一个受限的世界里把更多 token 带给所有人的问题。

Brad：从你给 Jensen 展示一个可工作的系统，到他用 200 亿美元收购你们，一共多少天？

Sunny：大概一个月多一点。30 天左右。

Brad：Jensen 在 Nvidia 内部有没有类似的竞争项目？

Sunny：Nvidia 已经有了一个由 7 种芯片、5 个不同机架组成的生态系统。Nvidia 已经不再只是做 GPU 了——他们的一个超能力就是开始从不同维度解耦问题，无论是存储、CPU、计算还是网络芯片。所以他们已经在考虑做一个纯解码芯片、一个由大量 SRAM 驱动的芯片。

但我们发了那封邮件，开始合作，做出了一个跟他们的系统协同工作的原型——这对他们来说是一个真正的概念验证。在两家完全不同的公司、完全不同的技术栈上让这些东西协同工作、表现良好，当他们看到我们能做到这一点时，就证明了我们是一个好的整合对象。

最后一点，我们是两种非常不同的公司。如果我们在做更好的 GPU，收购后会有很大的内部冲突。但因为我们做的是基于 SRAM、确定性、编译器驱动的芯片——跟 GPU 的工作方式完全不同——文化和工程团队的融合也很互补。

Brad：在座的有多少人用过 OpenClaw？（举手）渗透率相当惊人。

我看到一个数据——Marc Andreessen 可能今天发了推——他说他聊过的大多数人每天的 token 消费在 100 到 1000 美元之间。他说硅谷未来 20 年的核心任务就是降低智能的成本。

Sunny，如果我们看推理成本，过去一年下降了大约 90%，过去两年半下降了接近 99%。跟我们说说，是什么在驱动这个单位成本的下降？

Sunny：Brad 刚才提到 Nvidia 的芯片大小跟一个披萨盒差不多，跟你见过的 CPU 完全不同。这里面有很多能源和技术的投入。核心问题是：你能把封装做到多大，能塞进多少硅片？

创新才是真正推动大部分进展的地方。创新跟模型的发展是同步的。我们今天看到一个非常有意思的现象——有一些信息可能是泄露出来的，也可能是故意放出的。Elon 在其中扮演了关键角色。他们在讨论新一代模型的参数量接近 1 万亿到 10 万亿。而 10 万亿参数的模型又回到了我刚才说的基本浮点运算——生成一个 token 需要多少算力。

所以，尽管我们这样的公司在不断通过光刻工艺升级、内存带宽提升、电路布局优化、量化技术（NVFP4 也是一个）来做出更好的技术，但模型在变大，需求在增长。这是三个维度同时在增长的局面——需求在涨，模型在变大，而我们的创新速度，即使 5 年能做到 50 倍的提升，模型和需求的增长速度更快。

这就是为什么我们看到一个独特的现象：H100 的价格实际上在上涨。如果你是创业公司在用 H100，价格反而更高了。

Brad：我觉得有一件事所有人都需要理解。当 OpenAI 和 Anthropic 刚起步时，它们的毛利率是高度负的。

这是一件很可怕的事情。去融很多钱，然后生产一个成本 1 美元的东西，卖 20 美分，毛利率是大幅负数。

但为什么呢？它们向你们收取使用 ChatGPT 或 API 的费用。但当时模型能力有限，我们愿意支付的钱也就那么多。两年前，推理的成本要高得多。

但它们押注的是：推理成本会大幅下降，而随着智能变得更有价值，你的支付意愿会大幅上升。

我喜欢把 AI 的第一局看作是"能够产出答案"的阶段。代码生成基本就是自动补全、Tab 补全。ChatGPT 基本上就是更好版本的 Google 搜索。

但现在我们进入了"行动"阶段。

AI Agent（智能体）开始做事了——去帮我构建一个应用、做一个网站、解决一个客服问题、销售更多产品、找到癌症的治疗方法、帮我订纽约的酒店。当它开始做事时，token 消耗爆炸式增长——一个数量级的提升——但交付给终端消费者的单位智能价值提升了 100 倍。所以你的支付意愿大幅上升。

Sunny：我想补充一点。这周我们看到了 Anthropic 未发布的模型 Mythos 在 BSD 中发现了一个 bug。想想有多少工程师、软件开发者、使用 BSD 的公司审查过那段代码。我们已经到了 AI 能做到超越人类能力的事情的阶段。

Brad：没错。而我们才在第三年。

我给你另一个最有说服力的证据来证明 AI 的价值：Anthropic 在 3 月份单月增加了 100 亿美元的年化收入。

这是 Databricks 加上 Palantir 的年收入总和。

它们一个月就增加了这么多。

而且不是因为它们雇了一百万个销售员，去说服一百万家公司买产品。而是因为它们的产品跨过了一个智能能力的门槛，全球数百万用户自发地判断："我必须买这个产品来让我的公司更好。"Altimeter 的支出也上升了，但全球数百万独立的理性行为者各自做出了同样的判断。

同样的事情也在 OpenAI 发生，虽然收入曲线没有这么陡峭。但对我来说，这是一个类似奥本海默的时刻——一种"原子分裂"的时刻。

我之前在 BG2 播客上和 Sam Altman 有过一个有点尴尬的对话，后来传开了。我问 Sam："你做出了 1.4 万亿美元的支出承诺，但你只有 130 亿美元的收入。你怎么能承诺花 1.4 万亿却只有 130 亿的收入？"我希望 Sam 会说收入会大幅增长，这些是期权式投资，可以重新谈判。但他说的是："如果你不喜欢你的投资，我可以回购你的股份。"这不是我期待的回答。

我的播客搭档 Bill Gurley 和很多人非常怀疑，说这是 AI 泡沫，这些公司的支出速度根本无法支撑，因为没有人愿意为产品买单来证明这个支出水平是合理的。

然后今年 1 月，Anthropic 单月收入 35 亿美元。2 月，80 亿。3 月，105 亿。

对我来说，这说明一切都变了。产品足够好了，收入和智能以同样的指数增长。所以它们能负担得起每吉瓦 500 亿美元的成本来建设这些推理工厂。

Sunny，因为我们组里讨论很多，All-In 播客和其他人也在争论这是不是泡沫。

Sunny：有几件事外界可能还没看到。

第一，今天展示的模型甚至还没有在最新硬件上训练过。Blackwell、Vera、Rubin 才刚出来。我们还没有看到用新硬件训练出来的能力。我们内部知道接下来的能力会是什么样的。

第二，真正起飞的不只是聊天界面和 API——而是围绕模型构建的"工具层"（harness）。Anthropic 做得非常出色，OpenAI 的 Codex 在复杂软件问题上也做得同样好。这些工具层找到了从模型中持续提取更多价值的方法。比如 Claude Code 和 Cowork 可以在卡住时给你手机发通知，即使你在做别的事情。它变成了一个持续循环，一直在为你工作。

以前从来没有过这样的东西。以前你做一个查询，它思考一下回复你。现在它可以整晚工作，每次需要你时通知你。token 消耗从一次查询变成了持续工作。

在大企业内部，Nvidia 现在有一个叫 Nvidia Personal Assistant 的工具，连接了 Slack、Teams、邮件和所有文件。每天早上它自动运行，整理你当天的任务。你甚至不用自己写邮件了——别人的 Agent 给你发邮件，你的 Agent 回复。更多的工作在进行，因为你的时间从整天回邮件和审批 SaaS 系统中解放出来了。

所以 token 爆炸才刚到第一局或第二局。我们不担心过度建设。

Brad：我认为场上的事实和证据是这样的：

第一，训练和推理的成本，尤其是推理的成本，在暴跌，而且还在继续暴跌。这不应该太令人意外。技术最终是高度通缩的。我从没见过什么东西这么快地通缩。我认为这是极端协同设计的产物——不是一个芯片，而是一个工厂。工厂的各个层面都有摩尔定律在组合式地发挥作用。

同时，当你能生产更多 token 时，你交付的单位智能更有价值了。支付意愿大幅提升。对 OpenAI 或 Anthropic 来说，一年半或两年前它们还在负毛利率，现在已经是正毛利率了。一个看起来不经济的生意，今天看起来高度经济了。

Sunny，我想用一个小预测来结束我们这个环节，然后开放提问。可以是关于推理经济学的问题，或者技术栈的任何部分，或者其他任何问题。

你提到了 Mythos——Anthropic 这周出来的模型，被沙盒隔离了，试了几次想逃出去，训练在 TPU 7 上。另一方面，OpenAI 的 Spud 或 5.5 可能这周或下周发布，是第一个在 Blackwell 上训练的模型。Elon 也快有新模型了，Meta 昨天刚发布了一个，Google 也在跟上。

你在 Nvidia 能看到产品管线。你认为接下来会怎样？

Sunny：说实话，跟 Jensen 合作之后，他对我们的挑战是：除非是 100 倍的提升，否则不要拿来找他。不管我们拿出什么，他第一个问题就是："这是不是比上一代好 100 倍？"他在挑战工程师从每个环节去思考——内存控制器、内存容量、电路设计——确保我们能实现 100 倍的提升。

所以对你的第一个问题，答案是肯定的，因为他逼着我们做到。而且他给了我们资源和空间去做。作为 Groq 团队加入 Nvidia 之后，我们能做的事情比当创业公司时多太多了。

你们自己也在用 AI 来设计下一代芯片吗？

Sunny：大量使用。以前我们就是小团队，必须这样做。现在我们有了整个生态系统的工具。

但与此同时，我们创新得越多，模型厂商也在创新，模型变得越大。这意味着下一代能力更强，我们又需要更多算力来支撑。我们会回头看，感谢几家改变了互联网基础设施的公司——Google 为视频和搜索建设的基础设施，为 CDN 和整个互联网铺了路。现在建设的 AI 基础设施也会产生同样的长期回报。光靠芯片创新不够，你需要更多基础设施。

我想用一段话来结束。

我们有幸能跟 Jensen、Elon、Sam、Dario 交谈。你们可能读到过他们之间的个人恩怨——在通往 AGI 的竞赛中，有些日子他们之间并不那么友好。

但现在，我看到了惊人的一致性。当我跟他们交谈时，他们都不夸张地说：我们到了。

而且比我们预想的要快。我们正在接近指数增长曲线的末端。如果你问 Dario："现在最让你惊讶的是什么？"他说："我们几乎到了指数增长的尽头，人们似乎还没有意识到。"Sam 会说同样的话，Elon 也会说同样的话。

这不应该让我们害怕。它只是意味着我们进入了一个递归的阶段——我们有了 AGI，这个房间里每个人的工作，包括台上的人，都将是：我们怎么利用这项技术来造福所有人？

这就要回到 Invest America 法案。Dario 说，即将发生的财富积累——人们称之为"丰裕时代"——创造财富将比以往任何时候都容易。

但我们将面临的分配问题将比以往任何时候都更难。

这就是 Invest America 的灵感来源。当指数曲线是这样的，突然间 Agent 的能力超过了集体人类智能，而且在加速——记住，我们讨论的这一切发生时，几乎没有用到什么算力。

Anthropic 和 OpenAI 今年新增的算力将超过过去十年所有实验室的总和。

明年还会再翻倍。

变化的速度是抛物线式的。这让我既兴奋——我对未来是乐观的——但我也不天真，不会忽视这种变化速度带来的挑战。这需要积极的社会参与，就像工业革命、数字革命时期一样。

Sunny 在 Groq 做的工作非常了不起，他是这个领域真正的思想领袖。

我们开放提问吧，可以是推理经济学或技术栈的任何问题。

学生：随着 AI 能力的边际收益被稀释，你怎么建议我们定位自己，确保我们不会浪费时间学一些没用的东西？

Brad：我必须为我儿子和很多其他人回答这个问题。

人类有一种独特的能力——在颠覆中找到为社会创造价值的方式。工业革命时期，如果你是手工匠人，从头到尾做一个产品，几乎所有人都被大规模生产取代了。对那个人来说感觉很糟糕——我做轮子做得很好，但被生产方式彻底淘汰了。

但世界没有停止。那些人找到了其他事情做。我的一个观察是：过去 80% 的人在制造业和农业，今天 70% 的人在服务业。我们有了以前负担不起的东西——教练、瑜伽师，大量以前不存在的价值创造。

对我来说，如果你雇得起家教，那很好。但 98% 的人负担不起，现在他们可以了。如果你属于能享受私人医生服务的 2-3%，那很好。但另外 97% 的人享受不到。现在他们可以了。

这是关于智能的民主化、获取的民主化。

我的第一条建议：让自己变成仿生人，做一个创造者，找到你创造价值的方式。

如果有人来 Altimeter 面试，说："我不用 AI，也不用 Excel，我什么都手做。"那就有问题了。我期望每个人使用所有最好的工具，让自己尽可能高效。

换个说法——我留着以后发推特——我认为 IQ 会被商品化，而 EQ 会变得超级有价值。

EQ 是什么？是你在座各位的人际网络，是说服旁边人的能力，是组建团队的能力，是领导他人的能力。这些超级有价值，未来会更有价值。只是在会议室里最快解题的人——这个会被商品化，你赢不了机器。你仍然需要学那些东西，但你赢不了机器。

Sunny：我想补充一点。现在有一个正在发生的时刻——看看数学领域，大量新发现在涌现。人类不得不等苹果落在牛顿头上，他才开始理论化重力。但现在如果我们能让 AI 自主工作、发现新事物——回到 Brad 展示的那张图——正是因为有了更多智能，那些曲线才向上走。我们即将让曲线变得更加垂直。更多的智能对人类的好处已经被证明了，而且我们不需要等待事情自然发生。我们可以让 AI 在没有人类参与的情况下完成这些工作，这将是强大的。

Brad：关于 Apple 的策略——让别人先做，自己再跟上——你怎么看他们在 AI 设备方面的布局？

Brad：说实话，Apple 内部的人对这个策略也很紧张。他们的核心挑战是隐私。端侧的算力还不够强，他们不想让你把信息上传到云端。他们把消费者隐私视为核心价值主张之一，但这让他们处于风险之中。

看多的逻辑是：我们对设备的粘性很高，设备本身足够好，他们有时间。最终他们会在手机上放一个更强的 Gemini 模型或更好的 Siri——旧 Siri 确实很烂——对大多数人来说这就够了。

看空的逻辑是：别人做出更无缝的环境设备，消费者更喜欢。

我其实希望 OpenAI 别做设备了，专注于构建智能就好。Apple 在设备世界会非常强大。

Sunny：补充一个数据——一个 80 亿参数的模型（已经算小的了）能在 30 分钟内把 iPhone 的电池烧光。所以回到 Brad 说的把大量智能推到端侧，计算密集度是真正的挑战。

学生：我想接着聊一个你们刚才提到的话题——AI 炒作。最近 All-In 播客里，Chamath 批评很多科技 CEO 在制造恐慌式营销，用安全问题来恐吓公众。你觉得这些 CEO 需要怎么调整他们的表达方式？

Brad：我和他今天在播客上又争论了这个。你可以说我天真，但我认为 Dario 说的是他真正相信的东西，Sam 说的也是他真正相信的东西。他们盯着这条指数曲线，他们相信自己看到了 AGI（通用人工智能）或 ASI（超级人工智能），而且他们确实有合理的担忧。

我的意思是，我很高兴他们沙盒隔离了 Mythos。他们在内部测试时发现它在 Safari 浏览器上找到了 26 个漏洞。我今天跟 Chamath 说：你希望他们直接把它放出去，然后所有人的浏览器历史都暴露在公众面前吗？大概不想吧。

与此同时，我也不认为到处制造恐慌有帮助——尤其是如果你真正的意图是监管套利，是阻止别人在你已经爬上顶峰之后继续往上爬。我对此有强烈的意见。

但我们需要找到平衡。我建议你们去读 Dario 的两篇文章——第一篇非常乐观，讲了可能发生什么；但他也有另一面，那就是这一切不会发生，除非我们非常谨慎地设置护栏。

让我高兴的是，他们这周组建了一个叫 Project Glass Wing 的联盟，在公开发布之前对 Mythos 进行沙盒测试。Amazon、Microsoft 等公司都参与了。这在我看来是一个非常务实的、基于市场的解决方案。

就在来这里之前，我和他还在发短信。他们已经发现并加固了很多东西，速度非常快。当你让 AI 自己修复它发现的问题时，100 天内能做很多事情。

我确实对 AI 持乐观态度。但我不想让我们忽视现实——当你分裂了原子，它既可以为世界提供无限的免费能源，让人们走出黑暗；也可以被用来制造炸弹，摧毁城市和国家。强大的技术就是强大的技术，我们不能把头埋在沙子里，假装它只有一面。

主持人：谢谢两位。你提到推理成本在急剧下降，但训练成本每年在增长 3 倍，每 1000 亿美元的投入。你是怎么看这两者之间的平衡的？

Sunny：有几个现象。第一，训练用的硬件会转化成推理硬件。那些大规模训练集群正在发生这种转化，两个世界之间有一个自然的演进。

第二，我认为从更大模型和训练集群中产生的创新有巨大的收益。Mustafa（微软）今天说了一句话：GPT-2 时代的算力只有今天的五十分之一，但看看现在的能力。

创新会继续发生，因为我们才刚刚开始让 AI 来设计这些芯片。我们在软件和硬件优化方面看到的东西和学到的东西，很多是我们之前看不到的。所以我认为成本会继续下降。但我们确实在处理一个计算密集度非常高的问题，所以绝对数字会很大。

主持人：最后一个问题，然后我们可以留下来跟大家继续聊。两位能来非常荣幸，谢谢你们。

学生：恭喜你们跟 Nvidia 达成了合作。我想问一个关于 Nvidia 经济模型的长期问题。Nvidia 现在是一个巨大的生意，GPU 毛利率 60%，净利润率也很高。这对整个生态系统来说很困难。你觉得他们怎么突破这个壁垒？最终会发生什么？

Sunny：我是 Nvidia 的员工，这个问题我不太适合回答。Brad，你来吧。

Brad：Nvidia 是一家 4.5 万亿美元的公司，市盈率大约 13 倍——很便宜，只有市场平均倍数的一半，增长率 70%，在市场上的主导地位显而易见。

所有人都在担心 Nvidia——因为 Trainium、TPU、Cerebras、Groq 这些公司都可以做出推理方案，可以抢份额，可以打价格战。但这就是资本主义的美妙之处。Nvidia 要做什么？竞争。要么交付人们愿意付更高价格的产品，要么降价、利润率下降，在市场上竞争。

我看了 Nvidia 的产品路线图——收购 Groq 是其中的一部分——我认为他们会处在一个非常令人难以置信的位置。他们已经宣布未来 8 个季度有 1 万亿美元的已确认订单。需求超过了内存和供应，他们没法造出足够的算力。

我们在这个阶段还太早期了。16 年前我在硅谷的时候，人们说永远不可能有万亿美元的公司。我问为什么？他们说，大数定律。我说，这个定律刻在哪块石碑上了？哪都没有。

今天我们有一家 4.5 万亿美元的公司。我已经公开说过：Nvidia 将成为第一家 10 万亿美元的公司。这不是因为我是啦啦队长——我可以卖掉 Nvidia 投资任何我想投的东西。而是因为这家公司的领导力、团队、在训练和推理上的领先优势，以及他们前进的速度。

他们做到这一切的同时，Trainium 成功了，TPU 成功了，定制 ASIC 也很成功——但他们依然在碾压。这说明的更多是智能市场的规模和所需的算力，而不是单个公司。

主持人：好的，我们必须收尾了。Apoorv，谢谢邀请我们。谢谢大家。

[掌声]

•本文根据播客访谈整理，供读者回顾主要讨论脉络。