AI for Science真正的瓶颈,不是发现,而是验证

原视频封面

大模型已经会推理、会写代码、会调用工具，也开始进入药物、材料、数学和物理研究。于是一个诱人的想象出现了：只要让 AI 不断提出假设、设计实验、分析数据，科学发现就会像软件迭代一样加速。

但 AI 能给出更多答案，不等于科学能更快前进。答案必须被验证；一旦进入真实世界，实验周期、成本、设备、因果解释和人的判断，都会重新成为瓶颈。

这也是硅谷101与前 Google DeepMind 资深研究科学家曹原这场对话最值得保留的主线：AI for Science 真正稀缺的，不只是发现能力，而是把“提出一个可能答案”变成“建立一个可以相信的新知识”的完整闭环。

本文根据 109 分钟完整访谈的 Bilibili 平台字幕、全片硬字幕 OCR 与全片 ASR 交叉校订后压缩重组。公司路线、科研案例和时间表主要按访谈观点呈现，未逐项扩写为独立新闻事实；关于新概念、数学本质和长期 AGI 路径的判断，属于嘉宾的个人立场。

一、为什么 AI for Science 在这个时间点升温

过去两年，大模型最明显的变化，不只是“知道得更多”，而是推理、编程和工具调用开始连成工作流。一个科研 agent 可以先根据已有观测提出下一步假设，再写代码分析实验数据，发现异常后回看历史记录，更新方案，继续下一轮。

这里真正重要的是模型外面的 agent harness：任务怎么拆、什么时候调用工具、怎样保存记忆、失败后如何回退、下一轮用什么信息继续。单个回答再聪明，如果不能稳定地在长流程里保留状态，也很难成为科研系统。

所以，AI for Science 并不是突然从零出现。AlphaFold 等垂直模型证明了结构化科学问题可以被机器学习推进；今天的新变化，是通用模型开始有机会担任“实验室主管”，调用专门模型、数据库、代码和实验设备。

二、什么样的科学问题，最适合今天的 AI

曹原给出的判断可以压缩成三个条件：第一，问题能够被表征；第二，过程能够被计算；第三，结果能够被快速验证。三者越清楚，AI 的进展越快。

1. 可表征：对象能够转成序列、结构、图、数值或其他稳定输入。
2. 可计算：模型能够搜索、模拟、预测或生成候选方案。
3. 可验证：系统能够较快判断候选是否正确、有效或优于原方案。

生物制药因此成为最先被看好的领域之一。它本来就有巨大的市场，流程相对结构化，数据较丰富，而传统新药研发周期长、成本高。即使 AI 不能立刻生成一款最终上市的药，它也可以在靶点、分子结构、实验设计和数据分析等中间环节创造价值。

材料同样重要，却更难用一套标准方法覆盖。金属、皮革、生物材料、稀土和半导体材料面对完全不同的制造、应用和供应链。发现一种新结构只是第一步，谁来制造、用在哪里、如何进入下游，决定了价值能否真正落地。

约 29:05：AI 最终仍要走向物理世界接受验证

当前 AI 最喜欢的是“答案可以很快被判对错”的问题。科学最难的地方，恰恰是很多答案无法立刻被判定。

三、真正的瓶颈：把答案送进物理世界

为什么 coding agent 发展得这么快？因为闭环足够短。代码写完，可以编译、运行测试、观察错误，再继续修改。某些数学问题也能进入形式验证系统，由机器检查证明是否成立。反馈快，模型就能迭代快，用户也更容易建立信任。

科学不同。模型可以在信息世界里生成一个核聚变装置、一种新材料或一个新药方案，也可以先做 in silico 模拟；但结论若要成为科学知识，最终仍要进入物质世界。设备要搭、样品要制备、实验要运行，失败还可能来自流程、环境、测量或理论本身。

这使 verification 不再是“看一下答案”的末端步骤，而是决定整个系统速度的基础设施。反馈需要几个月，AI 再快也只能等待；一次实验成本极高，模型就不能靠无穷试错获得能力。

? 39:35????????????????????

自动实验室、云实验室和专用机器人因此格外关键。如果实验操作足够标准化，模型可以通过 API 下发任务，机器人完成移液、混合、测量和记录，再把结果送回模型。闭环越自动，等待越短，科研系统越接近软件式迭代。

但“把机器人接进来”不是全部。更现实的优化，是让模型少做几次昂贵实验：更好地利用历史失败、更准确地选择下一组候选、更清楚地区分异常来自数据还是假设。科研 agent 的推理、记忆与工作流，必须和实验基础设施一起改进。

这不是简单的 AI for Science，而是 AI and Science：为了做更好的科学，AI 本身也必须被更困难的科学问题反向训练。

四、答案越多，验证债务越大

当生成成本快速下降，新的问题会出现：答案增长得比验证能力更快。访谈提到，数学网站上已经可能堆着许多 AI 生成的解答，却没有足够的专家逐份检查。即便形式系统确认一个证明正确，人仍然要判断它是否有洞见、是否值得理解、是否能够打开新的方向。

软件行业也有类似处境。AI 可以生成大量能运行的代码，但如果工程师不理解结构，维护、调试和重构的成本可能上升。结果正确、过程可解释、长期可维护、对人有价值，并不是同一个指标。

? 86:22????????????????????????

可以把这种结构叫作“验证债务”：系统不断借助生成能力制造候选，却把检查、理解、复现和长期维护留到以后。这个词是本文对访谈的编辑性概括，不是嘉宾原话。它提醒我们，模型产出越多，验证体系越不能只是附属环节。

五、比验证更深的难题：新概念从哪里来

如果验证速度被大幅提高，AI for Science 就解决了吗？曹原的答案是否定的。模型可以在已有表征空间里搜索、组合和优化，但真正重大的科学进展，往往需要定义新的对象、提出新的概念，或者找到一种此前不存在的解释框架。

数学尤其能暴露这个边界。给定定义、引理和规则，模型也许可以搜索出很长的证明；但特征值、微积分、黎曼度量这类概念，本身不是把既有符号排列得更久就自然出现的。它们来自抽象：从许多不同现象中抓住一个稳定、可迁移的结构。

约 48:30：verification 是当前瓶颈，新见地与新概念是更深挑战

因果也是同类问题。语言模型常能在熟悉表述下完成推理，但换一种措辞、交换前提顺序，结果就可能变化。相关性可以从数据里学到；“X 通过机制 M 导致 Y”，则要求系统理解干预、反事实和世界运行方式，而不能只匹配最常见的文本表达。

因此，真正的发现不只是随机生成一个从未见过的想法。创新很容易，合理也不算难；最难的是同时满足 novelty 与 feasibility：足够新，又能被知识、机制和实验支持。

六、神经网络之外，为什么还需要符号系统

神经网络的优势，是从海量、模糊、有歧义的数据里学习表征。你很难用几条规则完整定义“猫”，但模型可以从许多图像里学到相似结构。它的弱点是知识关系容易隐藏在参数中，难以精确读取、更新和验证。

符号系统正好相反。数学公式、代码、知识图谱、实验流程和 Lean 形式证明，都能显式表达关系与规则，便于推导和检查；但它们很脆弱，也无法靠人工规则覆盖真实世界的全部模糊变化。

所以更现实的路线不是二选一，而是混合：让神经网络负责感知、语言和候选生成，让符号结构保存知识骨架、跨论文关系、逻辑约束和验证工具。问题仍然是，怎样既突破模型原有概率分布，又不为了“创新”而胡乱生成。

七、AI for Science 不只有一条时间线

把 AI for Science 说成“很快商业化”或“必须等几十年”，都过于简单。靶点、分子、模拟、数据分析、实验设计和科研工作台等中间层能力，已经可以形成产品；让系统独立提出诺贝尔级问题、创造新概念并完成物理验证，则是完全不同的长期目标。

访谈中的五年、二三十年只是个人估计，不是确定时间表。更重要的判断是：科学不是 AI 的一个普通插件。若一个模型能在高不确定、长反馈、强约束的科学任务中工作，它的推理、记忆、工具使用和自我改进能力，也会反过来提升其他知识工作。

这也重新定义了人的位置。未来人类未必负责亲手完成每一步计算，却仍要定义什么问题重要、设计怎样的验证足够可信、判断一个正确答案是否有意义，并为把结论带进现实世界承担责任。

AI 可以让假设变得廉价，但科学不会因此自动变得廉价。真正决定新时代是否到来的，是我们能否让验证、理解和判断跟上生成的速度。