🔍 小宇宙app搜索 “ 硅谷投研圈 ” ，即可收听完整音频并在评论区和我们互动

本期节目邀请到曾在Amazon负责大模型推理优化的Hongbo Shi，与我们一同从大模型推理视角探讨当下最热门的话题：中美AI大战和Token出海。

我们从中美AI大模型技术差距趋势出发，探讨了开源与闭源模型在数据利用和社区迭代上的优势与劣势，针对Token成本对AI行业未来趋势的影响进行讨论，分析了中国AI芯片与模型出海、AI时代数据壁垒与隐私保护、中国云服务商与Token生产、AI推理优化技术的成本和效率，以及围绕英伟达芯片和AI芯片架构进行讨论。

在节目的最后，嘉宾也分享了个人的一些持仓思路。如果你对科技产业、宏观趋势、二级市场、投资经验等话题感兴趣，记得订阅我们，每周五零点准时更新！

声明：本节目所有观点均不构成任何投资建议。

本期话题成员

Hongbo Shi（嘉宾）：曾在 Amazon 模型团队负责大模型推理优化，现在 AI 推理平台公司 Parasail 负责大模型推理优化。

Luis（主播）：BitsLab CEO，前《硅谷密探》合伙人，二级市场沉浮10年，践行价值投资。

Timeline：

00:28 Token出海是否会成为中美AI大战的核心战场？

04:26 从推理视角看中美AI大战：Token出海未来趋势到底是什么？

09:56 为了吸引用户，很多Token公司其实都在赔钱

14:55 开源大模型是闭源大模型最严厉的父亲

22:46 中国模型出海的优势到底有哪些？

34:49 AI时代，数据的壁垒才是真壁垒

42:04 未来中国Token出海的增量在哪里？

44:00 为什么中国大模型的Token性价比最高？

53:13 推理是AI商业化的核心战场

58:00 从技术视角解读二级市场存储、光通信等AI产业链为何忽然大涨

01:01:00 英伟达能否在芯片领域继续保持领先？

《硅谷投研圈》播客整理逐字稿

主持人Luis：

欢迎收听《硅谷投研圈》。过去几年，中美两国成为全球 AI 竞争的核心力量。

美国在闭源大模型领域依然保持领先，代表公司包括 OpenAI、Anthropic 等；而中国则在开源大模型领域快速发展，DeepSeek、Qwen、GLM、Kimi、MiniMax等模型正在全球范围内获得越来越多关注。

未来几年，中美 AI 竞争可能不只是模型能力的竞争，更会延伸到 AI 基础设施。其中一个非常重要的方向就是：

Token 出海。

Token 是大模型运行过程中最基本的计算单位。未来 AI 应用规模化发展，本质上需要大量 Token 的生产、分发和消费。那么，Token出海会不会成为中美 AI 大战的新战场？中国和美国分别具备哪些优势？今天我们邀请到Hongbo Shi，一起从推理（Inference）的角度，讨论 Token 出海、开源模型竞争，以及 AI 基础设施未来的发展趋势。

你怎么看 Token 出海这个趋势？它会成为中美 AI 竞争的重要战场吗？

Hongbo Shi：

我觉得这个趋势会越来越明显。因为我们公司也和 OpenRouter 这样的模型分发平台有合作，通过观察 OpenRouter 上不同模型的 Token 使用情况，可以大致了解当前市场情况。目前，除了 OpenAI、Claude 这类闭源模型之外，在开源模型领域，中国模型已经占据非常重要的位置。比如 DeepSeek、MiniMax、GLM 等模型，在海外都有大量使用。

当然，这里面需要区分两个概念：一个是中国模型被海外用户使用；另一个是中国公司直接向海外提供 Token 服务。这两个并不完全一样。比如一个中国模型，可能由海外公司部署在当地服务器上提供服务，那么它的 Token 消耗并不一定直接来自中国企业。

但从整体趋势来看，中国模型出海已经取得了非常明显的进展。

主持人Luis：

除了欧美市场之外，你觉得未来哪些地区可能成为 Token 出海的重要市场？

Hongbo Shi：

我觉得未来除了美国、中国之外，东南亚、非洲、中东等新兴市场都会成为重要方向。

欧美市场在选择 AI 产品时，会非常关注：数据隐私、合规要求、地缘政治因素。因此，美国 AI 产品天然具备一定优势。但是对于很多新兴市场来说，他们可能更加关注价格和模型能力。

如果一个模型足够智能，同时价格明显更低，那么它就会拥有竞争力。从这个角度来看，中国模型可能具备优势。因为中国拥有大量优秀开源模型，同时在工程优化、基础设施成本方面也具有竞争力。未来 AI Agent 真正普及之后，低成本、高效率的 AI 基础设施会越来越重要。

主持人Luis：

目前市场非常关注一个问题：中国开源模型和美国闭源模型之间的差距，未来会越来越大，还是越来越小？

Hongbo Shi：

我认为从过去两年的趋势来看，差距正在快速缩小。以前 GPT-4 这样的顶级闭源模型和开源模型之间存在明显差距。但现在通过 Artificial Analysis 等第三方评测可以看到，DeepSeek、GLM、MiniMax等模型，在很多能力维度上已经非常接近。甚至部分任务中，开源模型已经可以达到甚至超过一些闭源模型。

当然，大模型能力不是单一指标。它包括：数学能力、编程能力、推理能力、知识理解能力。

目前闭源模型依然有优势，但很多优势来自模型之外的部分，比如用户反馈体系、Agent 工具调用、产品体验、数据闭环，这些可以理解为 Model Harness。

例如 Claude 受到欢迎，并不仅仅因为模型本身，而是因为它在实际使用场景中的体验非常成熟。但随着开源生态发展，这些能力未来也可能逐渐被补齐。

主持人Luis：

你刚才提到一个非常重要的观点：未来竞争不仅是谁的模型更聪明，而是谁能够更低成本生产 Token？

Hongbo Shi：

因为 AI 和传统互联网最大的区别，就是成本结构不同。传统互联网时代，一个用户请求通常只是：搜索数据库中的已有信息，然后返回结果。但大模型不同。用户提出问题之后，模型需要实时计算并生成内容。每生成一个Token，背后都需要大量：GPU 计算、内存资源、网络通信、电力消耗。

所以 AI 时代，用户越多，并不一定意味着成本越低。因为用户增长同时意味着 Token 消耗增加。未来大模型竞争的核心，不只是智能水平，而是如何更高效、更便宜地生产 Token。

主持人Luis：

DeepSeek 的出现为什么会引起全球关注？

Hongbo Shi：

我觉得主要有三个原因。第一，它证明开源模型可以快速追赶闭源模型。过去大家认为，最先进的大模型一定掌握在美国大型科技公司手中。DeepSeek 出现后，市场发现：通过优秀的工程优化，即使算力有限，也可以做出非常强的模型。

第二，它推动了 AI 成本下降。DeepSeek 的价值不仅在模型能力，更重要的是推理效率。未来 AI Agent 会大量消耗 Token。如果每一次调用成本过高，很多应用无法商业化。所以降低 Token 成本非常关键。

第三，它改变了行业关注点。过去大家关注：谁拥有更多 GPU。现在大家开始关注：谁能够更高效利用 GPU。AI 竞争正在从单纯算力竞争，转向效率竞争。

主持人Luis：

很多人认为 AI 的上半场是训练，下半场是推理。你怎么看？

Hongbo Shi：

我非常认同。训练只发生一次。但是推理每天都在发生。未来 AI Agent 普及之后，一个智能体可能：长时间运行、自动调用工具、分析大量数据、完成复杂任务，这会产生巨大的 Token 消耗，所以未来真正产生商业价值的，是推理基础设施。Token 服务未来会形成新的产业链，未来 AI 产业链可能分成三层：

第一层：模型公司。例如 OpenAI、Anthropic、DeepSeek 等，负责训练基础模型。

第二层：AI 基础设施公司。负责：模型部署、推理优化、API 服务、企业级解决方案。例如 OpenRouter、Fireworks AI、Together AI、SiliconFlow。

第三层：硬件基础设施。包括：NVIDIA GPU、HBM 存储、AI 芯片、数据中心。未来，大部分企业不会自己购买大量GPU，也不会组建完整 AI 团队。他们需要的是：更简单、更安全、更低成本地使用 AI。

这就是 AI 基础设施公司的机会。

主持人Luis：

中国企业做 Token 出海最大的优势是什么？

Hongbo Shi：

优势主要有三个：第一，开源模型丰富。中国目前拥有大量优秀开源模型；第二，工程优化能力强，中国企业非常擅长在成本约束下进行效率优化；第三，基础设施成本相对较低，包括：电力、数据中心、工程人才。

但挑战也非常明显，最大的问题是信任和合规。很多海外企业愿意使用中国模型，但不一定愿意直接使用中国服务器提供的 API。尤其医疗、金融、政府等领域，对数据隐私要求非常高。所以未来中国企业可能更多通过：本地化部署、私有化服务、AI 基础设施输出进入全球市场。

主持人Luis：

最后聊一下芯片。NVIDIA 目前拥有巨大优势，但未来推理市场会不会改变竞争格局？

Hongbo Shi：

我觉得 NVIDIA 的训练优势依然非常强。最大的壁垒不是GPU，而是 CUDA 生态。但推理市场可能不同。推理更加关注：成本、能耗、延迟、部署效率。

因此未来可能出现更多竞争者。包括：AMD、Google TPU、中国 AI 芯片企业。尤其推理芯片，因为更加依赖工程优化，所以中国企业存在机会。

未来 AI 竞争不会只是谁拥有最大的模型，而是谁拥有完整的 AI 基础设施体系。包括模型、Token 成本、芯片、数据中心、商业生态。

主持人Luis：

今天我们从 Token 出海聊到了模型竞争、推理优化、AI芯片。可以看到，AI的竞争正在进入新的阶段。未来真正决定 AI 产业格局的，可能不是谁训练出了最强模型，而是谁能够让 AI 更低成本、更大规模地进入现实世界。感谢洪波今天的分享。

我们下期节目再见。

节目中提到的网站：

https://artificialanalysis.ai/