---

Podcast · 播客精华

---

Why Hardware-Software 

Co-Design

 Is AI’s Real 100x

—

软硬件协同设计是实现 AI 效能百倍提升的关键，而非单一层面的硬件升级。在半导体研究机构 SemiAnalysis 创始人 Dylan Patel 与红杉资本的对话中，这位 12 岁起就在硬件论坛当版主、对芯片供应链有极深理解的专家分享了对算力底层逻辑的洞察。

过去几年，AI 效能的飞跃并非只靠 NVIDIA 芯片性能的线性增长，而是模型架构与硬件设计的深度协同。

以 DeepSeek 为例，其模型架构就是针对 Hopper 平台的混合专家模型（MoE）进行了极致的算力与存储优化。这种协同导致了算力生态的明显分化：Google 的 TPU 虽然优秀，但在运行专为英伟达架构优化的 DeepSeek 时表现并不理想，因为两者底层的矩阵乘法单元和网络拓扑结构截然不同。

Dylan Patel 认为，当我们跨越多个抽象层进行协同设计时，原本单层只能带来 2 倍的提升，最终会产生乘数效应，带来 100 倍的突破。

Claude 

—

发布了全新一代基座模型 Claude Sonnet 5。新模型在推理、代码、工具调用和知识工作领域相比上一代 4.6 版本有了实质性飞跃，其性能表现直逼 Opus 4.8，但保持了更低的定价。目前该模型已成为 Free 和 Pro 用户的默认模型，并已在全平台同步上线。

分享了 Box 在企业级 Agent 基准测试（Box AI Complex Work Eval）中对 Sonnet 5 的实测结果。他指出新模型在处理财务尽职调查、成本分析等复杂多步任务时表现显著优于上一代，在复杂无结构数据处理中展现了极强的推理能力。

此外，他还指出 Fable 5 及后续前沿模型的发布表明，实验室与政府、行业伙伴开展合作进行前沿安全审查正在成为新常态。

针对备受开发者期待的 Fable 5 重新上线，澄清了关于 Claude 安全过滤器的疑问。他解释说，由于部分常规代码和调试任务容易被安全分类器误判并回退到 Opus 模型，团队目前正在持续优化安全分类算法以减少误报，力求在防范滥用与保障开发者体验之间取得更好的平衡。

提出了一个关于 AI 算力成本的直觉性思考：每个 Token 的价格并不等同于完成每次实际任务的成本。在包含多次调用的 Agent 循环和工作流中，由于更聪明的模型出错更少、重试次数明显降低，其最终解决任务的总算力支出往往比便宜但需要反复调试的模型更划算。

宣布广大 Linux 用户期待已久的 Claude Desktop 官方 Linux 版本已经正式推出。

指出传统产品经理在构建 AI 原生产品时的最大痛点是缺乏“魔法思维”，容易受困于敏捷框架、指标和渐进式思考。他建议 PM 们应该假设自己拥有 100 年后的技术，并以此逆向设计用户体验，因为那些曾经属于未来的技术今天其实已经触手可及。

推荐了芯片初创公司 Etched 的设计理念。他指出，目前的 AI 算力之所以昂贵，很大程度上是因为大多数工作流仍运行在 LLM 出现前设计的通用硬件上，而 Etched 是首个完全针对现代 Transformer 推理从零构建的专用硬件系统，有望大幅降低推理成本。