ARTICLE · 988304
AI基础设施竞赛:当瓶颈从模型转向机器 | a16z Podcast
a16z Machine Age Fund 四人圆桌:芯片、内存、电力、冷却与系统重构
小苔花注:a16z 为 AI 硬件设立11亿美元 Machine Age Fund,背后的判断是:模型能力已不再是唯一瓶颈,芯片、内存、互连、电力、冷却、建筑和专业工人正在共同限制供给。
圆桌最有价值之处,是把“需求无限”拆成可检验的经济问题:超大规模云厂商资本开支激增、关键产能预订到2028年、推理 Token 强度持续上升,而每模型定制 ASIC 也开始具备经济性。需要继续验证的不是 AI 有没有需求,而是供给扩张速度、能效提升和新进入者能否把巨额资本投入转化为可持续利润。
只要有足够的基础设施,任何问题都可以解决。
Ben Horowitz
我们迎来了一项全新的技术。这是有史以来最重要的技术,而它需要一整套全新的基础设施。
Martin Casado
通常谈到基础设施,我们说的是服务器、存储和网络。但这一次,范围一直向下延伸到铜矿。它的影响面就是这么广。
过去要建造某种东西,面对的是工程问题;现在感觉真正的约束来自资源。无论衡量单位是不是 Token,我们都在向系统投入巨额资金,再由系统产出结果。眼下的瓶颈,在于系统能力还无法匹配我们投入的资源。
Raghu Raghuram
一家领先内存供应商说,仅满足今天已有的需求,就要占用他们三年的产能。
Erik Torenberg
如果这只基金实现了我们的预期,五到十年后的世界会是什么样?
Ben Horowitz
美国赢得基础设施竞赛,那会非常棒。
Erik Torenberg
Ben、Martin、Raghu,欢迎。
Ben Horowitz
谢谢。
Raghu Raghuram
好的,谢谢。
Erik Torenberg
我想先引用 Marc 的一句话来介绍这只新基金:“这是我一生中最大的技术革命,显然比互联网更大。可与之相比的是微处理器、蒸汽机、电力,或许还有轮子。”各位,请介绍一下 Machine Age Fund。Ben,先从你开始。
Ben Horowitz
事情的本质是,我们拥有了一项全新的技术,也是有史以来最重要的技术。每当我们使用基础设施的方式发生剧烈改变,就需要一套全新的基础设施,而这一次的冲击尤其巨大。我们不仅需要新芯片、新的系统软件,还需要新的供电方式,需要替代铜,几乎每一个环节都要改变。
这是一个非常令人振奋的时期,尤其在这个新时代的硬件层面,我们需要一种新的投资方法。
Martin Casado
我同意。至少在计算领域,通常谈基础设施时,我们指的是服务器、存储和网络;这一次却一直延伸到铜矿,影响范围就是这么广。第二,过去三年模型能力持续提高,模型本身已不再是瓶颈。AI 又在让模型以越来越快的速度变好。如今瓶颈转移到了我所谓的“模型以南”的所有层,因此我们必须着手解决这些问题。
Raghu Raghuram
我只想快速补充一点。我们倾向于追随创始人。过去几年,我们看到攻克复杂硬件问题的强团队明显增加。我不知道准确数字,周末试着估算了一下:以前顶尖创始人带来的项目中,硬件项目或许只占5%;现在我会说已经超过20%,甚至达到30%。
创始人群体通常比风险投资人聪明得多,他们已经把这里识别为一个非常活跃的创新领域,并开始行动。其实说过去有5%可能都算慷慨了。
Ben Horowitz
对,过去的比例非常低,可能只有3%。
Erik Torenberg
请解释一下,哪些宏观条件促成了这种变化,让大量创始人开始追逐这些想法?他们看到了什么,才认为现在可行?
Martin Casado
最明显的是,AI 的需求近乎无限,因此供应链的每一个环节都承受着压力,甚至包括制造内存所需的材料。AI 还有一个很独特的地方:当需求和增长近乎无限时,企业担心的重点会变成利润率,也就是效率。通常你会担心增长,担心能不能让人买你的产品;这里不用担心需求,问题是能否以可盈利的方式满足需求。
许多效率限制完全来自硬件的物理边界。因此,AI 浪潮的商业模式也在给现有系统施加巨大压力,因为这些系统并不是为 AI 及其工作负载设计的。业界已经形成一种广泛认识:必须改变核心组件,提高效率,才能推动增长并释放企业价值。
Erik Torenberg
我们怎么知道这里确实是需求超过供给,而不是又一个炒作周期?
Raghu Raghuram
今天有很多证据。首先,最善于判断需求的一批公司正在签发巨额采购订单。看看超大规模云厂商就知道了。
Erik Torenberg
对。
Raghu Raghuram
它们的资本开支正在爆发式增长。据说大型超大规模云厂商明年的资本开支合计将达到1万亿美元,今年大约是7000亿美元。它们处在行业中枢,能看到来自各处的需求:前沿实验室需要算力,AI Native 公司需要算力,企业客户也在要算力;美国和海外市场的需求都能看见。
如果说谁对需求最有能见度,就是这些公司,而它们正在以前所未见的幅度提高资本开支,这是非常明确的信号。其次,我们每天接触的公司全都在高速增长。应用公司增长惊人,前沿实验室的增长也惊人,而且已有公开记录。因此,从需求侧看,这不是炒作周期的信号从未如此清晰;与此同时,价格也在上涨。
Martin Casado
我们过去从未见过芯片价格这样上涨。
Ben Horowitz
芯片价格以前总是下降,一直如此。看价格曲线,本来一路向下,现在却反转向上。
Erik Torenberg
对。
Ben Horowitz
而且我们知道,今天真正触及的可服务市场可能只有5%到10%。
Martin Casado
从全局供给看,产能基本都已经预订到2028年。情况严重到几千块 GPU 都出现过持续数天的竞拍。当然另一端是需求。正如 Raghu 所说,我们正在看到这个行业历史上增长最快的一批公司。
Raghu Raghuram
与此同时,AI 能完成的工作单元及其价值也在不断提高,但底层消耗的 Token 数量却按数量级增长。聊天可能用100个 Token,而一个 Agent 可能要用几千个。
需求从两端扩张:一方面,每个工作单元消耗越来越多的 Token;另一方面,受益人群也在扩大,不再只有开发者,而是会覆盖所有知识工作者,并进一步扩展到更广泛的人群。这就是我们看到的趋势。
Erik Torenberg
你们刚才说,关键供应组件已经售罄到2027年,甚至2028年。
一个行业的产能被预订到那么多年以后,究竟意味着什么?
Ben Horowitz
我不知道历史上是否发生过这种事。回想互联网时代的大规模建设,当时铺设的大部分光纤其实是投机性的,根本没有点亮。大家还记得“暗光纤”吧?而今天基本上每一块生产出来的 GPU 都已经预售。
当时并没有达到今天这种程度。1998、1999年前后确实缺带宽,但真实需求没有那么大,因为互联网上的用户还不多。这是一个双边问题:公司都在抢着上网,理论上需要更多带宽,但另一端未必有足够用户消费。要真正消耗大量带宽,还需要视频等高带宽应用,可当时因为许多与数据中心带宽无关的原因,视频并不可行。
那一轮闻起来有点相似,但不是今天这样。现在所有产能都在满负荷运行,有人把买来的 GPU 以四倍价格转卖,完全是另一回事。
Martin Casado
我们还缺电力和冷却能力。与此同时,由于巨大的政治阻力,建设本身也非常困难。在我的职业生涯中,从未见过这种局面。
Raghu Raghuram
我讲一个简短的例子。我最近和一家大型上市公司的 CFO 交流。这家公司过去一直非常抵触迁移到云端,自己保有大量服务器。他们盘点资产时发现,仅服务器内存的升值,就足以支付整家公司迁云的费用。我们确实处在一个极不寻常的环境中。
Martin Casado
没错,我们缺很多东西。电力、冷却、内存、GPU,几乎你能说出的都短缺。
Raghu Raghuram
行业旗舰会议 Hot Chips 正在 Stanford 举行。一家领先内存供应商说,仅满足今天已经存在的需求,就要占用他们三年的产能。注意,这只是当前需求,甚至还没有算未来需求。
Erik Torenberg
所有环节同时短缺,是因为人们低估了模型会有多强、会有多实用,因此无法预见需求吗?
Ben Horowitz
我甚至不认为只是低估。这些东西几乎凭空出现,我们进入这个周期才四年。即便一开始就有一个完美的预言家,我也不认为我们能建出所需产能。
Martin Casado
产能根本不可能及时建出来。
Ben Horowitz
对,不可能。芯片周期通常要三到四年;从破土到建成数据中心要四到五年。
Martin Casado
而且还要接入电力。你要么自建电源,要么同时自建和接入外部电源,这都不容易。传统机器学习产业如果能增长20%到30%,已经是非常优秀的增速;它现在却连接到一个基准增速达到三位数的 AI 软件产业。
两者之间的脱节显而易见,供需缺口非常大。
Erik Torenberg
那么,为什么这只基金没有在五年或七年前成立?为什么当时这还不是同样好的投资类别?
Ben Horowitz
我愿意认为我们来得正是时候,不过至少早两年成立也会很合适。
Martin Casado
几乎每一个计算时代都能找到崛起的独立公司。大型机向客户端服务器迁移时,出现了一批公司;转向互联网时,出现了 Cisco 和 Juniper;即便大型数据中心主要由云厂商纵向整合推动,也诞生了 Arista。
因此,硅和硬件一直存在投资机会,只是过去的变化相对有限,可能只需要一家芯片公司、一家交换机公司。而今天每个环节都在改变。Ben 说得对,我们或许可以更早启动,但现在变化幅度如此之大,成立专门基金已经是显而易见的选择。另一个因素是,对智能的需求正陡峭上升,看不到尽头。
已经采用 AI 的公司,使用量都在快速增长;大多数公司还没有深度采用;消费者也才刚刚开始。因此 Token 需求很可能接近每年增长1000%,而供给不可能以这种速度增长。
为了让基础设施跟上这种增速,我们必须在所有环节投入的工作极其庞大,沿途会出现很多投资机会。更重要的是,现有硬件系统架构都为另一个计算时代而建。问题不只是需要更多产能,还需要建设不同类型的基础设施。各类系统都在触及原设计对应的物理极限,Ben 所说的铜就是一例。
逐项检查每个类别,都能找到现有技术的边界,因此需要技术突破才能进入下一个阶段。
Erik Torenberg
我想再深入谈谈需求。从聊天机器人到推理、Agent,再到多 Agent,单项任务消耗的 Token 每一步都按数量级增加。
Ben Horowitz
没有谁比 AI 更喜欢使用 AI。
Erik Torenberg
为什么这种增长会持续发生,而不是趋于平稳?你认为它会一直延续下去吗?
Martin Casado
有几个原因。至少眼下,我们实现扩展的方式依赖大量推理,也就是大量 Token。强化学习需要大量推理,思维链需要大量推理,长时间运行的 Agent 当然也需要大量推理,这一直是我们扩展能力的主要方法。
再退一步看宏观趋势:过去建造东西是工程问题,增加工程师并不能线性扩展,这就是“人月神话”所描述的工程自然约束。如今更像是资源约束。无论衡量单位是不是 Token,我们都在向系统投入巨额资金,再由系统产出结果。眼下真正的瓶颈,是系统能力无法匹配投入的资源。
Token 可能只是当前扩展曲线上的表现形式,但我们已经没有过去那种由工程复杂度形成的自然调节器。因此,这个趋势应该会延续,我们必须建设相应供给。
Ben Horowitz
最简单的理解方式是,只要有足够的基础设施,任何问题都可以解决。
说到底,
需要的是 GPU、电力和资金。只要问题没有耗尽,需求就不会耗尽,这正是挑战所在。
Raghu Raghuram
AI 让自己不断变好的答案,是使用更多 AI。推理是一个基础构件,它会被反复使用,所以每向前一步,Token 数量都会成倍增加。
Martin Casado
还有自催化效应。用 AI 创造更多 AI,例如生成 GPU 内核,本身当然会在过程中使用更多 AI。过去的模式是资金投入后,面对一个工程问题;我们知道它可能需要两年,通常还会失败,这就是自然调节器,最后才在另一端得到产品。现在,资金投入与硬件创造智能之间几乎没有阻隔,因此限制变成了创造供给的能力。
这是非常不同的局面。
结果会是更多 GPU,以及更多相应系统。
Ben Horowitz
没错。
Martin Casado
这就是循环。只要拥有资金、GPU 和数据,在可预见的未来就能继续扩展这些系统。
Erik Torenberg
这很有意思。过去十年,一种普遍看法是流向初创公司的钱太多了,我们给这些公司过度融资,风险投资的资金也太多。Ben,请进一步解释这意味着什么。过去人们怀疑,向行业投入更多资金是否真能带来更大成果;而我们在内部讨论时提到,在某种程度上,这个市场能有多大,取决于我们共同投入多少。
Ben Horowitz
创业界过去有一条人人都知道的规律:如果我领先你两年,而你试图靠招聘一千名工程师追上来,你只会毁掉自己的公司,这从来行不通。“人月神话”说,九个女人不可能一个月生出一个孩子。可现在,这件事居然可行了。当然不是去招聘十万名工程师,而是投入30亿美元,点亮一个强大的集群。
随后,Grok 可能突然从无到有地出现并成为现实,Kimi 或其他系统也一样。如今可以用钱解决问题,而且几乎任何问题都可以通过增加投入得到进展。这与我们经历过的一切完全不同,我们所有人都在做心理调整。
Erik Torenberg
ChatGPT 应用每周活跃用户已达10亿,而全球大约有3000万开发者,他们占用了相当一部分算力需求。结合人们实际使用 AI 的方式,我们应如何理解现在和未来的算力需求?
Raghu Raghuram
这是一条逐级扩展的路径。ChatGPT 最初是面向普通人的应用;随后进入专业编程,现在又借助编程能力为知识工作者构建了很出色的工具,这是下一个前沿。全球有超过10亿知识工作者,这一层的需求还有很长的增长空间。再看他们承担的工作,包括工作流、自动化等,随后会进入由 Agent 承担的后台流程。
每推进一级,都可能解锁一个数量级的新增需求,而我们才刚刚起步。
Ben Horowitz
现在又有了 Grokbot。编程领域发生的变化,正在通过电脑操作扩展到所有计算机用途,于是新一轮需求出现了,未来肯定还会有更多。眼下需求看起来几乎没有上限,而且我们还没谈具身 AI 或机器人,那又会带来一批需求。
Erik Torenberg
Martin 是这方面的专家。按我的理解,Grokbot 的一部分能力使用了电脑操作,就像一个人坐在电脑里敲键盘。
Martin Casado
我上周末真的用它更新了许多服务的信用卡信息,还取消了一批我一直懒得处理的订阅。这不是编程,而是真正的电脑操作。
Erik Torenberg
突然之间,你创造出了大约5亿名知识工作者,只不过他们全都坐在电脑里面。接下来会怎样?
Martin Casado
我确实认为 Marc Andreessen 的类比是对的:这更像蒸汽机或电力。我们引入了一种可以转化为工作的全新东西。现在已经有一些非常明显的应用,但未来三四十年,我们可能会不断把计算能力投入各种问题。任何具有明确奖励信号的问题都有机会被解决。我们才刚刚掌握语言和代码,并开始探索电脑操作。
接下来还有科学、材料、生物学,当然创意也是巨大的用途。我们正处在漫长旅程的极早期,传统软件工程这个关键瓶颈已经被移除。瓶颈当然会转移,其他地方也会出现更复杂的问题,但把计算投入各种问题的长周期才刚开始。我们应预期这种算力需求持续数十年。
Erik Torenberg
既然提到了 Grokbot,Martin,请谈谈它。我们在内部会议上讨论过,什么让你印象最深?我们几乎以所有可能的方式参与其中,但你究竟觉得它哪里最有意思?
Martin Casado
整个行业经历了几次关于 AI 如何进入生活的认知转变。最初,我们觉得只要把 AI 加进产品里,做成搜索框或聊天窗口,让它回答问题就行。后来 OpenClaw 出现了。我们开始意识到,仅仅把它做成更好的 Google,可能不是完整形态。
也许它应该成为一个独立系统,作为你的延伸,共享你的密钥、知道你的密码,替你完成原本由你做的事,更像一个人的延伸。Grokbot 真正做对的是再向前一步:为什么不把它直接当成一名员工?它是独立实体,不需要特殊访问你的密钥;它拥有自己的电脑和浏览器。
因为底层使用的是全球最聪明的一批模型,它能够完成员工能做的事情。现在每当我想完成一件事,第一反应常常是它能否替我做,答案经常是可以,甚至包括意想不到的任务。显而易见的用途是管理日历、预约会议;不那么显然的用途包括阅读邮件并分类。我没有告诉它具体怎么做,它却知道真正执行分类前应先向我确认。
系统已经足够成熟,只需给出较高层级的任务,它就能采取相当复杂的行动。
Erik Torenberg
Ben,我知道你一直在思考这种系统如何融入组织,也长期研究文化。你怎么看?
Ben Horowitz
看看我们自己就知道了。这像是拥有一种新员工,而且数量会很多。我们花了很多年才学会如何与普通人类员工合作;现在又多了一类员工,当然存在学习曲线。它们可能烧掉大量 Token、花很多钱,却没有产生任何有效结果;也会遗忘、编造,可能表现良好,也可能行为糟糕。
它们还会带来安全问题,但也可能极其高效。我们正在学习如何把它们整合进组织,让它们与真正的人类员工良好协作。我不会坐在这里宣称自己已经破解了全部方法,说公司已彻底自动化,接下来会逐步清除所有人类。我们离那还很远。我们真正探索的是,如何让每个人都变得更强,同时避免失控的机器人把公司搞垮。
Raghu Raghuram
很有意思。我们尝试过几种把 Agent 引入系统的方法,最后采用了 Martin 的洞见:把它们当成人来对待,然后让事情运转起来。事实证明,这是在组织内部持续推进 Agent 最稳健的方式。
Erik Torenberg
我想回到供给侧,更深入地讨论瓶颈。刚才提到数据中心、芯片架构、系统软件和设施本身都不是围绕 AI 设计的。如果从一开始就按 AI 需求来设计,它们会是什么样?我们应如何建立理解这件事的思维模型?
Martin Casado
可以从一个前提出发:原有基础设施模型必须改变。逐项检查每个类别,都能看到它在哪里崩溃,然后依次解除瓶颈。推理引擎需要大量内存,在计算的同时生成新 Token。于是要问:怎样优化整体?需要什么样的内存和计算?两者如何通信?各自需要多少电力?如果耗电这么多,又该怎样冷却?最后,怎样把这些组件组合起来?
行业和许多创始人正在做的,就是把问题拆成基本组件,确定计算的准确性质。例如,大量工作是矩阵乘法,那就围绕它优化计算;Token 是逐步生成的,内存应如何分层布置;同一芯片内、不同芯片之间乃至数据中心之间,应如何互连;每种数据传输又消耗多少电力。必须逐层拆解,再从基本构件重新设计。
这正是我们看到的工作,也是机会所在。
我提供一个理解格局变化的思维模型。今天训练一个前沿模型可能要花30亿到50亿美元,推理收入至少要收回这笔投入,假设为了形成可行生意需要做到两倍,也就是100亿美元。若能提高20%的效率,就相当于节省20亿美元,而20亿美元足以开发一块 ASIC。
行业已经到了一个有趣节点:仅凭单个模型的资本投入,为每个模型定制 ASIC 都可能在经济上成立。传统软件拥有大量状态,变化也很动态;模型权重则是固定的。我们不知道未来是否真的会走向“一模型一 ASIC”,但这个思维模型很好地说明了,架构会如何围绕巨额资本投入变得更定制化。
行业历史上或许从未创造过一个直接投入50亿美元的数字资产,它将对硬件提出前所未有的要求。
Erik Torenberg
顺着这个话题,单机架功率需求正从大约5至10kW升到100至150kW,计算密度约提高70倍;冷却也从风冷转向必须使用液冷。由此会产生哪些投资机会?
Ben Horowitz
首先,当每个机架达到这种功率水平时,交流电已经行不通了,这是非常剧烈的变化。系统会转向直流电,而直流系统本身也需要冷却,并且非常危险。颇具讽刺意味的是,Edison 当年宣传直流电时,曾声称交流电很危险,还通过电击动物来演示。
Martin Casado
那匹马。
Ben Horowitz
对,那匹马。事实证明,就他自己的供电方式而言,他又确实抓到了一些要点。仅电力系统就会发生非常大的变化。冷却方面,风冷转向液冷已经发生;任何最先进的数据中心现在基本都采用液冷。
但在当下的政治环境中,仅仅液冷还不够,还得是环保的液冷;仅仅使用直流电也不够,电力方案必须为社会增加供给,而不是从社会抽走电力。少数数据中心过去行为不佳,大约10%的设施浪费了很多水。虽然还没到开心果或杏仁种植消耗的水平,但确实可以大幅提高效率。还有些数据中心只是电力寄生者,不向电网回馈。
这种做法必须结束,我们已经越过了不可逆的门槛。这要求达到许多企业尚未投入的工程水平。机架如此密集,楼板设计也必须承受相应重量,这不是纸面问题。几乎所有东西都需要大幅增加。设备噪声也很大,数据中心必须加厚墙体,否则会扰乱周边社区,我不认为任何州会接受这种结果。
Martin Casado
因此,许多现有建筑的架构和设计已经彻底过时。进入 Feynman 代际后,今天只有更少一部分数据中心还能适用。大家都在谈内存涨价,但涨得最快的领域之一其实是钢筋混凝土。
Raghu Raghuram
数据中心向机架输送800V电压后,危险性大幅提高;同时,我们没有足够多具备数据中心800V系统经验的电气承包商,因为这已经属于高压。美国只有约2%的电工取得直流电相关认证。Meta 正在开展培训计划,免费培养人员从事这项工作,这很像一支新型就业队伍。
人们总说 AI 会夺走所有工作,但 AI 也会创造大量新的电工岗位。
大型云和数据中心运营商还在积极试验机器人,用来组装设备、把服务器安装进数据中心等。随着 AI 演进,这种应用会越来越多。
Martin Casado
顺便澄清一下,我们正在募集的这只基金聚焦计算机科学基础设施,也就是模型运行其上的一切计算机科学系统,包括芯片、网络、互连、存储,可能一直延伸到电力。
Erik Torenberg
请再谈谈机器人方向。相较于 American Dynamism 团队,这只基金会做什么?我们应如何理解两者的分工?
Martin Casado
我们关注 AI 将运行其上的任何平台。AI 的重大突破之一,是让计算机能够与物理世界互动:它能看、能听、能说,这意味着新的平台。人们最简单的说法是“边缘设备”,但这个词本身并不具体。它可以是移动设备、CDN、笔记本电脑,也可以是能够四处移动的具身设备。
作为专注基础设施的投资人,我们不投资监管极重或高度垂直化的行业,但凡是能让 AI 进一步进入现实世界的计算机科学平台,我们都会非常感兴趣。
Erik Torenberg
回到数据中心。到2028年,新数据中心可能需要额外44GW电力,而电网预计只会新增约25GW。
Ben Horowitz
等一下,我们总在使用“GW”这个词。
Raghu Raghuram
不是说我们会有100GW之类的规模吗?
Erik Torenberg
Martin,1GW到底有多大?
Martin Casado
它非常大,规模相当于多个足球场所覆盖的城市用能,大约对应5万人。
Ben Horowitz
你是说什么?具体怎么理解?
Martin Casado
大致来说,
相当于5万户家庭的用电。
Erik Torenberg
也就是一座城市。
Ben Horowitz
对,5万户家庭。我在 Arizona 的 Flagstaff 长大,那座城市连大学人口算在内,大约有4万到6万人,整体耗电还不到1GW。
Erik Torenberg
也就是说,1GW足以点亮整座城市,并为它提供空调。
Martin Casado
对,这个规模非常大。
Ben Horowitz
但我们平时把“GW”这个单位说得太随意了。
大家都在谈 GW,可真正投入运行的1GW级数据中心屈指可数,我们还有很长的路要走。为什么公用事业公司和超大规模云厂商不能更快建设?原因太多了。首先,眼下仍需要人来完成普通施工;更重要的是要取得许可,还要接入电力。电力接入本身是一场受监管的竞标和争夺,可利用的天然气、电网等资源都很有限。
与此同时,还必须自建电源,而变压器、涡轮机及相关设备也都短缺。所有东西都得凑齐。这不是软件问题,不能靠一群工程师周末加班来解决,真实瓶颈的交付周期并不容易压缩。全球最优秀的人都在想办法缩短周期,但这非常困难。需求又没有放缓,我们已经落后,而需求目前每年增长约10倍,供给根本不可能同速增长。
Martin Casado
情况糟到什么程度?现在新公司如果要获得 GPU,常常只能去 Mexico、Australia 或其他国家,因为在美国实在太难。
Ben Horowitz
我们禁止在国内建设数据中心,等于把大量就业和长期经济机会送给其他国家。
Raghu Raghuram
更合理的做法是设定统一标准,要求数据中心回馈社区:改善电力供给,不产生噪声和用水问题,同时增加就业。所有项目都应遵守这个标准,而且现在已经有数据中心做到了,这不是未来幻想。有些地方的能源费率逐年下降,因为数据中心自备电源,白天向州电网供电,夜间在城市不需要高负荷时再从电网取电。
电厂始终要按峰值容量发电,而数据中心昼夜负荷稳定,城市负荷则白天高、夜间低,两者可以形成共生关系。
Erik Torenberg
拉远一点看。这个名字我们讨论过一段时间,为什么“Machine Age”能准确概括这只基金在做的事?
Martin Casado
我先回答。Ben 完全正确,“人工智能”这个词用错了,我们本来应该把它叫作“机器智能”。
Erik Torenberg
请展开说说,为什么?
Martin Casado
因为它未必像人类那样思考。它是人类思想的缓存,是人类思想的集合。但到今天为止,我们并不知道怎样把一个毫无知识的 AI 放进现实世界,让它自行重建语言。我们实际构建的是一个能从人类已经学会的一切中学习,再以有生产力的方式使用这些知识的系统。
AI 作为计算机科学术语已有70年历史,覆盖很多不同事物,也背负了科幻作品、Nick Bostrom 等人赋予它的诸多含义。首先,我们只是承认它真正是机器智能;其次,我们要强调“机器”。这件事有一种深刻的反讽:恰恰是提出“软件吞噬世界”的那批人,如今发现把钱投入系统后,限制你的竟然是底层的实体机器。
硬件在这一轮浪潮中极其重要,我们希望名称能承认这一点。
Raghu Raghuram
下一轮智能突破将由底层机器的质量创造,这基本就是名称的由来。
Ben Horowitz
而且这个名字很酷。
Erik Torenberg
听起来不错。
Raghu Raghuram
很有未来感。
Erik Torenberg
考虑到 AI 基础设施已经投入巨额资金,这些业务又极度资本密集,新公司是否已经错过了能以实质规模切入的阶段?为什么不是英伟达、CoreWeave 等现有公司占据市场最大份额?
Raghu Raghuram
这些现有公司当然都做得很好。但正如前面讨论的,要让增长和改进速度延续,无论指标是每美元每秒 Token、每瓦 Token、每机架 Token,还是电力,只要想提高10倍,就需要新创新。新创新历来来自优秀创始人,他们从第一性原理出发,用不同方式解决问题。下一轮跃迁正需要这种创新。
Martin Casado
这是市场规律。假设现有硅芯片巨头的市值达到数万亿美元,现实确实如此。
即使只拿到其中5%,也足以成为一家巨大的非上市公司。你可以说英伟达也能做,但如果它正专注于占业务90%、同时仍高速增长的部分,为什么要分心?云时代我们也问过,Amazon 为什么不做这个;Microsoft 时代同样会问,Microsoft 为什么不做。
市场存在一条自然规律:企业达到一定规模后,边缘地带会为创新留下巨大空间。
Ben Horowitz
我们的合伙人 Alex Rampell 说过一个很有趣的故事。他曾创办 TrialPay,想向当时的 Facebook 销售服务。时任企业发展负责人 Dan Rose 对他说:“Alex,你的业务听起来能捡到很多银砖,但我面前的金砖多到都捡不过来,最不可能做的事就是回头找银砖。”
英伟达正处于这种位置。
Raghu Raghuram
完全同意。对于模型提供商,如果你的产品正好落在 OpenAI 或 Anthropic 最关注的三到五个领域之一,竞争可能很艰难;但在这些领域之外,市场扩大后通常会碎片化。回想 Ford 早期,1913年的 Rouge River 工厂几乎把一切纵向整合:水、煤和橡胶树进去,汽车出来。
Ben Horowitz
顺便说,Ford 还在 Amazon 丛林里买下了整片橡胶种植园。
有一本很精彩的书叫《Fordlandia》。为了完全掌控纵向供应链,他在 Amazon 丛林里建了一座名为 Fordlandia 的城市,里面充满美国式的露天音乐台、冰淇淋等设施。它一度运转良好,直到管理者要求所有人准时参加活动,居民受不了这种管束,项目随之崩溃。
今天的汽车产业当然有多层供应商,也有大量专业公司。市场扩大时会碎片化,增长放缓后往往又会整合。整合可以通过收购发生,也可以由新挑战者崛起推动,这就是非上市市场永恒的循环。
Raghu Raghuram
用例正在成倍增加。最大公司可以抓住最大用例,但高价值用例实在太多,正如 Martin 所说,任何一家巨头都很难把它们全部做好。
Martin Casado
推理过去可能只有一种简单架构,现在已经变得非常复杂,因此必然存在用不同方法优化的空间。
Ben Horowitz
还有一件很有意思、常被忽略的事。标准软件技术的利润率几乎是天然产生的,不完全是技术问题。业务一旦跑通,利润率通常很好,无论交付软件还是提供软件服务,基本都是如此。AI 未必延续这个规律。我们可能进入一个新阶段:硬件优化对业务上行空间的意义,达到过去从未有过的程度,因此机会很多。
Erik Torenberg
让我们更深入谈谈基金会投资哪些公司。可以从各个细分行业开始,也可以举几个已经投资的例子,虽然我知道有些项目还没公布。Raghu,你带我们梳理一下?
Raghu Raghuram
正如前面所说,每一个类别都是细分行业。最明显的是计算芯片,但今天只做一块芯片已经不够,必须做完整系统。系统内部可能需要内存创新、网络创新、电源芯片创新等。每一个类别都有机会诞生达到上市公司规模的企业,都是我们正在研究的方向。
所有组件组合起来后,外层还需要软件来自动化系统、管理设备集群,这也是重要领域。这些层级相互叠加,每个类别都很重要。
Erik Torenberg
这些公司与通常的公司有什么不同?从已经公布的项目就能看出,它们的首轮融资往往非常大,达到数亿美元。它们需要不同类型的创始人吗?相较于传统软件,我们在建设和投资这类企业时还应注意哪些差异?
Ben Horowitz
一个显著差异是,在产品问世前就要投入大量资金,这是行业性质决定的。大型模型也是如此,但模型的路径相对更明确;硬件系统的风险更高,需要的钱也比我们过去做过的一些项目更多。
此外,许多芯片创始人来自上一轮产业周期。
真正懂得怎样制造内存的人,年纪通常不轻。这也是差异之一,但同时令人兴奋。
Raghu Raghuram
这些创始人还必须是“系统型创始人”。不能只是一名研究者或优秀计算机科学家,还要能设计芯片或整个系统,随后思考它如何真正制造、谁来供应,以及一系列下游环节。构建软件时通常不用考虑这么多。最优秀的创始人会从一开始就思考完整生态系统,黄仁勋是这方面的 Michael Jordan。
由于瓶颈众多,所有环节必须共同成立,才能开始设计。这是非常不同的一项特征。
Martin Casado
还有两个重要的环境因素。第一,实验室对新供给极度渴求,愿意与初创公司合作,因此我们很早就能获得有效信号;有些实验室会在硬件尚未交付前,就与公司签署协议。五年前完全不是这样,你不可能拿着一套尚不成熟的硬件去卖给 Google。第二,资本可得性已经大幅改善。
业界普遍认为现在正是重塑这些基础设施的时候,后续轮融资有大量资金可用。投资自然也更适合流向资本充足的领域,整体环境已经不同。
Erik Torenberg
Patrick Collison 几年前提到,当代似乎少了些年轻创始人,不像 Zuckerberg 在大学里做出下一个 Facebook,或 Bill Gates 创办 Microsoft。当然,像 Michael Truell 这样的年轻创始人仍在打造标志性公司。
但正如你所说,这些硬件公司似乎由更多年长创始人建设,二十岁出头的人更少。你认同吗?原因是什么?
Ben Horowitz
我认为这印证了 Raghu 的观点。如果要构建技术复杂、供应链复杂、还必须真正制造产品的企业,经验会有帮助。看看马斯克或 Travis Kalanick,他们年轻时创办的也是软件公司。即便最优秀的创始人,也需要先积累建设公司和技术的经验,才能进入更复杂、更精密的领域,因为这里有更多活动部件。
学习怎样经营公司本来就很难;如果连产品也没完全理解,还要边建公司边学习,初次创业者面对的曲线会非常陡。Michael 很年轻也很聪明,但他构建的是相对纯粹的软件 AI 产品。
Martin Casado
另一端是马斯克或 Travis 这样经验足够丰富的人。我认为 Michael 十年后可能也能做这种事,但今天会很难。
还要记住,整个产业和学术界过去二十年都降低了对这个方向的关注。机会始终存在,却从未是增长中心;增长领域一直是软件、网络等。因此,从大学毕业或在大公司积累过相关经验的人才本来就很少。
Ben Horowitz
实习生不会去实习“造一块芯片”,但现在许多事情正在改变。新公司会培养出整整一代懂得怎样做这件事的创始人,他们会更早进入行业。马斯克留下的最大遗产之一,当然是创办了伟大的公司;但从 SpaceX 走出的企业家正在改变整个工业体系,这份遗产或许比公司本身还大。计算机科学和硬件领域也会发生同样的事。
Raghu Raghuram
事实上,我们有一项投资就是由两位二十多岁的创始人创建的。但走进他们的办公室,也能看到经验丰富的人才。这是理想组合。
Erik Torenberg
对。
Ben Horowitz
创始人本人不一定必须经验丰富,但必须能调动并吸收这些经验。
而且还要能和经验丰富的人合作,对方也必须足够优秀。这里确实很复杂。
Erik Torenberg
说到经验,我们正在推出一只规模很大的新基金,却没有新增 GP。是因为你们以及团队其他成员在这个领域已经积累了很多经验,只是这些能力过去一直潜藏着、没有完全发挥吗?
Martin Casado
这很有意思。我们的背景本来就来自硬科技,反而几乎需要有人提醒我们不要因为熟悉而忽略它。职业生涯中,我们一直深度处在硬件环境里,自然会被它吸引。多年来我们显然一直在投硬件:很早就投资了 SpaceX、Anduril、Astranis、Waymo 等公司。
因此,这种能力本来就在我们的 DNA 里,并不一定需要大幅增加团队能力,新基金更像是把既有积累正式集中起来。
Erik Torenberg
如果这只基金实现了我们的预期,五到十年后的世界会发生什么变化?
Ben Horowitz
希望美国能赢得基础设施竞赛。届时会有大量高效、极其环保的数据中心,芯片、内存和电力都非常充裕,那会很棒。我们始终认为美国是一个特殊的地方,它不仅对生活在这里的人重要,也对世界各地想作出贡献、完成超越自身之事的人重要。这里可能是一个人一无所有地来到,却能做出深远事业的最佳地方。
我们希望这种状态延续下去。如果美国失去技术领先地位,它就无法延续;世界会进入另一个时代,由另一个国家主导,而那个国家或许拥有不同的价值观。
Erik Torenberg
谢谢,今天就到这里。
Martin Casado
很高兴参加,十分有趣。谢谢。
Ben Horowitz
谢谢。
Raghu Raghuram
谢谢。
●●●● 苔藓花园 · MossGarden