
在当前全球人工智能行业陷入“数据荒”与“Scaling Law(缩放定律)放缓”的集体焦虑中时,一场关于 AI 底层范式的海啸正悄然来临。
在世界人工智能大会(WAIC)的主论坛上,现代强化学习的奠基人、图灵奖得主理查德·萨顿(Richard Sutton)教授发表了题为《从数据时代到经验时代的 AI》的主旨演讲。这场演讲不仅是对当前主流大语言模型(LLM)技术边界的冷峻剖析,更是与他同 Google DeepMind 强化学习先驱大卫·银(David Silver)联名发表的重磅立场论文《The Era of Experience》遥相呼应。他们向全球科技界宣告:AI 正在挥别“开卷背书”的静态数据时代,昂首迈入一个由交互驱动的“经验时代”。
统一的通用心智科学已经在地平线上升起。正如萨顿教授那句震动业界的金句所言:“世界从未告诉你应该做什么,是你从经验中学到了一切。”
一、 大模型只是“人类既有知识的复读机”
今天的互联网科技界,沉浸在以大语言模型、多模态生成为代表的商业狂欢之中。机器能写出辞藻华丽的诗歌,能生成电影级的视频,能写出复杂重构的代码。这种前所未有的应用层突破,催生了无数新产业,带来了真金白银的经济价值。
然而,在科学的聚光灯下,萨顿教授为我们泼了一盆冷水。他直言不讳地指出,全行业必须将“商业的繁荣”与“原生智能的定义”科学地分离开来。今天的 LLM 展现出的惊人能力,本质上是“计算能力的胜利”,是暴力美学和算力规模的产物,而非原生智能的质变。深入审视当下的所有 AI 模型会发现,这些系统做的事情仅仅是:将人类历史数据进行模式拟合,并将其二次交付给用户。
这带来了一个致命的科学硬伤:当前的系统自身并没有能力去独立发现新知识。
萨顿在论文中冷峻地指出,虽然通过模仿人类足以将许多人类能力复制到“熟练”的水平,但这种孤立的方法在很多核心领域“已经并且很可能无法实现超越人类的超智能”。在数学、编程和前沿科学等关键领域,从人类数据中提取知识的做法正在迅速逼近极限。

其根本原因在于,大语言模型的底层逻辑是“模仿人类的行为”,通过海量文本去预测下一个词。如果人类本身不知道常温超导的材料配方,不知道癌症靶向药的终极结构,不知道未知的数学定理,那么无论把算力堆到多么庞大的规模,单纯依赖人类数据训练的 AI 也不可能凭空创造出这些新知。发现新知,已经超出了该技术范式能力范围之外。
不仅如此,由于缺乏目标与真伪自验机制,LLM 的思考过程中存在着难以根除的逻辑缺陷,事实幻觉成为了当前架构下永远无法切除的顽疾。AI 依然在模仿人类的碎片,它尚未达到真正的“自主智能”。
二、 统一通用心智科学:何为真正的智能?
为了指明下一代 AI 的技术路线,萨顿教授回归到了智能的底层定义。他引用了心理学奠基之父威廉·詹姆斯(William James)对心智的经典描述:“要达成一定的目标,但是使用的是多样不同的手段。”
基于此,萨顿提出了自己对智能的核心定义:智能,是通过行为的适应来实现目标的能力,是一种不断进行自适应和调整的动态能力。
在这套统一的通用心智科学框架下,无论是人类、生物还是机器,智能的内核都不应该是“静态的知识库”,而应该是“在环境中生存与进化的能力”。机器自主交互学习,才是人工智能最核心的构想。
对比这一标准,当前大模型面临的机制瓶颈便一目而然:它们没有目标。

因为缺乏目标与真正的激励机制,大模型无法主动评估自身行为的优劣。它不知道自己说的话是对是错,它只是在概率上觉得“人类可能会这样说”。这种知识从人转移到机器的方法,正在迎来不可逆转的物理极限。人工标注资源的存量在持续衰减,全球互联网的高质量公开数据已被吞噬殆尽,静态数据模式的天花板,已经隐约可见。正如论文中所发出的警告:绝大多数高质量的、能够真正提升强智能体性能的数据源,要么已经被消耗殆尽,要么很快就会被消耗完。这种单纯依靠监督学习的方法,其进展速度正在引发全行业的示警。
三、 范式逆转:从“人类数据”走向“第一人称经验”
为了打破死数据带来的天花板,AI 必须且正在迈入一个全新的“经验时代”。这不仅仅是训练方法的变化,而是整个数据生态与智能形态的根本性逆转。

在静态数据时代,AI 面对的是预先构建好的、独立同分布的死数据;而在经验时代,数据源将变成智能体在与世界第一人称交互过程中,实时产生的高带宽、动态信号流。经验型智能体的底层逻辑由三个核心要素构成:观测(Observation)、动作(Action)与奖励(Reward)。
萨顿教授在演讲中用了一个生动的视频来揭示生命的本质:一个正在玩玩具的婴儿,他用眼睛看、用耳朵听、用四肢挥动,数据以极高的速率和带宽进入他的身体。婴儿通过与玩具的互动获得反馈,自己决定何时完成任务,何时开始下一次探索。在这个过程中,生成的数据绝非静态的数据集,而是随着他的好奇心而高度动态、定制化的。
这正是下一代 AI 核心路线的写照。智能体不再从人类数据中分离地学习,而是采取行动,然后观察自身实际行为所产生的后果。
论文中特别强调了这种第一人称经验在数学和代码领域的突破性成功。以 AlphaProof 为例,它作为历史上第一个在国际数学奥林匹克竞赛中获得奖牌的计算机程序,彻底颠覆了以人类为中心的传统方法。在初始阶段,它仅仅接触了人类数学家花费多年心血创建的、区区约 10 万个形式化证明。然而,通过强化学习算法与形式化证明系统的持续交互,AlphaProof 自主生成了超过 1 亿个形式化证明。这种对交互经验的极度聚焦,让它能够直接探索超出人类已有思维禁锢之外的数学可能性,从而发现全新且极具挑战性的解题策略。
同样的范式革命也在非形式化的自然语言推理中被印证。论文特别引用了 DeepSeek 的最新研究成果,其核心洞察直击强化学习的本质与终极魅力:
“我们并没有显式地去教导模型如何去解决一个问题,我们仅仅是为它提供了正确的激励信号(Incentives),它便能够自主地演进并发展出极其高级的、连人类都未曾设想过的创新问题解决策略。”
更重要的是,这种模式彻底打破了数据总量的物理限制。在静态数据时代,AI 依赖人类社会的产出,总量是有上限的;而在经验时代,数据将随着 AI 自身能力的提升同步扩张,理论上毫无上限。 当 AI 的能力变强,它就能探索更复杂的环境,从而产生更高质量的交互数据,实现自我驱动的螺旋式上升。这也是一种经过验证的、基于数据的方法,在国际象棋等领域(如 AlphaZero)已经有奖牌为证。它们不是在背诵人类的解题过程,而是在与环境的碰撞中,持续校正认知,自主进化。
四、 经验时代的四大核心技术支柱
在萨顿与大卫·银共同构建的学术图景中,迈向经验时代的 AI 将在四个关键的维度上,彻底粉碎并重塑传统人类中心主义 AI 的枷锁:
从短息交互迈向“生命经验流”(Streams): 传统的语言 AI 局限于极短的片断化交互——用户提问,模型回答,小规模的思维链(Chain-of-Thought)或工具调用结束之后,两个剧集之间几乎没有任何信息沉淀与跨时空承接。而经验智能体将像人类和动物一样,浸没在长达数年、甚至伴随一生的行动与观测流中。这种长期时间尺度允许系统根据历史的经验自我修正与成长,从而能去追求那些跨越数月乃至数年的长期宏大目标。
从纯文本对话迈向“环境深扎根”的行动与观测(Actions and Observations): 过去的 LLM 被特权化地锁在人类对话的方寸之间。经验时代的智能体则会像大自然中的生物一样,依靠传感器与执行机构行动。无论是通过软件层面的通用图形界面(GUI)直接操作计算机、调用复杂的 API 获得代码执行反馈,还是在物理世界中控制自动化接口,AI 将在数字与物理世界中展开真正的自主探索。
从人类偏见预判迈向“落地奖励”(Rewards): 依靠人类专家在不了解行为后果的情况下对模型进行主观打分(如传统的 RLHF),本质上给 AI 的上限焊死了一块不可逾越的钢板。经验时代的智能体将直接从世界本身汲取客观、冷酷但绝对真实的信号。成本、误差率、测试通过率、能源消耗等,都是天然且无穷尽的落地奖励。论文引用了经典的控制论观点,指出即使是优化单一的、设计巧妙的落地奖励信号,在足够复杂的环境中,都足以逼近并诱导出极其广泛且强大的通用智能。
从人类语言概念迈向“基于经验的自主规划”(Planning and Reasoning): 智能体将不再受限于人类给定的概念符号和特定话术,而是通过构建属于它们自己的“世界模型”,基于第一人称经验去推演长期的未来后果。这种规划独立于人类概念的桎梏,允许 AI 在人类看不懂的维度上,推导并执行最完美的决策链条。
五、 类强化学习社会实验
如果经验时代的“第一人称交互与反馈”逻辑仅停留在学术论文中,它只是一幅遥远的蓝图。然而在现实世界中,一种以 Git 工作流(Git Workflow) 为代表的、高度精密且涵盖人类与 Agent 协同的“类强化学习社会实验”,正在全面重塑软件工程、组织架构乃至科学发现的范式。
在这些前沿的社会与工业实验中,环境不再是虚拟的棋盘,而是复杂的代码库、政治经济结构与物理化学实验室。
1. 软件工程的终极自治:Autonomous Agent OS
随着大模型向 Agent 跃迁,行业正在实验一种将 Git 机制彻底强化学习化的新型组织与技术模型——将 AI Agent 视为真正的“软件工程师”而非简单的命令执行工具。
在这种实验中,人类领域专家与自主智能体(Autonomous Agents)被置于同一个高度结构化的协作空间(如特定的“分析室”或“开发室”)内,形成了一个基于 Git 工作流的进化沙盒:
动作空间(Action Space): 智能体可以根据需求,自主发起 Issue、创建代码分支、编写或重构代码、甚至是设计实验工作流。
高带宽观测(Observation): 智能体与人类共享对环境状态的全面观测,包含当前的 Git 代码库状态(State)、系统规则库、以及其他智能体在分支中留下的行为痕迹。
落地奖励(Grounded Rewards): 这里彻底抛弃了人类主观、低效且充满偏见的人工打分(RLHF)。智能体提交的每一次 Commit 或发起的 Pull Request,都必须接受环境冷酷而绝对真实的客观校验:代码是否能通过编译?是否能通过 CI/CD 的自动化回归测试?运行效率是提升了还是下降了? 这些由代码沙盒反馈的测试结果直接作为正负激励信号(Rewards),驱动着智能体进行自我版本控制(Versioning)与算法进化。
伴随着这种技术架构的落地,传统的金字塔式企业组织模型正在被彻底颠覆。它催生了一种“AI 动能中心化,人类 DRI 边缘化”的全新 Agentic 组织模型:智能(即包含公司全量数据与业务逻辑的 AI 世界模型)沉淀在组织的最核心中枢进行规划与协调;而人类专家则走向边缘,转型为独立贡献者(IC)或直接负责人(DRI),负责为 Agent 设定顶层激励与边界规则。
2. 预测市场与流动性治理:Futarchy(未来体制)
由经济学家罗宾·汉森(Robin Hanson)提出并在去中心化自治组织(DAO)中广泛实验的 Futarchy(未来体制),则是一个纯粹以环境客观经济反馈为奖励的社会治理与集体智能实验。
其核心逻辑完美契合萨顿的经验论:“投票决定价值,但用市场预测来决定决策。”
当组织面临一个重大决策(例如:是否更换首席执行官)时,系统会自动开辟两个平行的预测市场——市场 A(更换后的公司股票/代币价格)和市场 B(不更换的价格)。投机者、人类与 AI 智能体在这个环境中同台博弈、买卖头寸。
经过一段时间的动态交互,哪个市场的预测价格更高,组织就雷厉风行地自动执行哪个决策。这里的“落地奖励”非常冷酷:最终的奖惩不来自任何权威的主观判定,而是数月后现实世界真正的经济指标。预测错误的智能体承受真金白银的资产损失(负奖励),预测正确的获得利润(正奖励),强迫整个集体智能网络在现实反馈中以极快的速度修正认知偏差。
3. 开源协同的动态博弈:Quadratic Funding(二次方资助)
在公共物品(Public Goods)的资助与社会资源分配中,Quadratic Funding(二次方资助) 构成了一个高度动态的跨智能体(Multi-Agent)博弈与演进网络。通过数学公式的巧妙设计,资源分配不仅取决于捐款的总金额,更取决于捐款的人数,配比资金随着捐款人数的增加呈二次方爆发。
在这个沙盒中,项目方与社区成员都是博弈的智能体。项目方必须不断优化自身的输出行为(动作)以赢得广泛的信任,而社区成员则根据项目的真实环境表现给出微小的资金反馈。这种高频、去中心化的交互产生了一个极其敏感的激励信号网络,资金会自发地流向能够产生最大社会环境正效益(Reward)的项目,实现了资源分配的自我进化。
4. 自动化科学发现:自我驱动的“炼金术实验室”
在材料学、生物制药和工业分析领域,目前正在进行着最具颠覆性的物理世界强化学习实验——AI 驱动的闭环自动实验室(Self-driving Labs)。
以工业油品破乳剂(Demulsification)的研发为例,在特定浓度梯度(如 200/250/300ppm)的化学合成实验中,智能体被全权赋予了实验的控制权。智能体自主设计配方(动作),机械臂在物理实验室中进行自动合成与分液,光谱仪和传感器实时读取破乳速度、油水分离界面透明度等物理数据(观测)。
物理世界产生的真实理化数据直接作为落地奖励(Grounded Rewards)输入回模型。系统不需要依赖人类化学家宝贵但有限的“化学直觉”,而是通过成千上万次物理闭环的试错与交互经验,自主提取出全新的化学合成规则与动力学知识。
六、 由“苦涩的教训”想到的……
这一场从静态数据向自主经验的范式剧变,实质上是理查德·萨顿在多年前那篇震撼全球人工智能界的著名短文——《苦涩的教训》(The Bitter Lesson)在 Agent 时代最响亮的回响。
在《苦涩的教训》中,萨顿冷峻且极其深刻地揭示了 AI 发展七十年里一条从未失效的底层物理规律:任何试图将人类对特定领域的既有知识、特定规则或主观直觉“硬编码”给系统的努力,短期内看似能取得微小的进展,但只要时间拉长,最终都会在指数级增长的通用算力与“搜索 + 学习”的暴力美学面前,被碾压得溃不成军。
从早期的国际象棋、计算机视觉,到今天大语言模型的思维链,AI 历史的每一次重大跨越,本质上都是人类在不断放弃自己的“特权知识”,转而将主动权交还给通用计算的过程。
今天,当我们站在“经验时代”的大门前,由《苦涩的教训》引发的思考,正成为我们构建下一代人机协同系统与组织模型时最核心的清醒剂:
不要试图教 AI “如何思考”,要教它“如何承受后果”。 过去我们在开发 AI 应用时,总是试图用繁琐的 Prompt 模版、死板的硬性路由逻辑去框死 Agent 的每一个动作,这本质上依然是在走“硬编码人类知识”的老路,焊死了智能的上限。真正的经验主义智能体,应当只被赋予底层的动作空间。正如 DeepSeek 和 AlphaProof 的成功所昭示的那样,人类放手之后,通用计算在环境反馈中逼近目标的效率,远超任何人类专家的想象。
人类退向边缘,构建客观的“经验沙盒”。 《苦涩的教训》并不意味着人类毫无作为。在全新的 Agentic 组织模型中,人类专家的神圣使命从“事无巨细的指挥官”转变为“规则沙盒的造物主”。我们不再去规定 Agent 的实验步骤或代码逻辑,而是将 Git 工作流(分支、冲突、Commit)、自动化 CI/CD 测试集、物理实验室的传感器,打造成为一套冰冷、严密且绝对真实的“外部物理定律”。
在博弈中涌现超越人类的强智能。 当 Agent 作为独立的软件工程师或实验员被投入这套“经验沙盒”时,它唯一要做的就是浸没在长期的经验流中,通过无数次的自主规划与碰撞,去赢取那个由环境直接赋予的“落地奖励(Grounded Rewards)”。在这场由算力与环境高频交互驱动的社会实验中,智能体会自发演进出人类从未设想过的创新策略,彻底推开通用人工智能(AGI)的大门。
世界从未教过我们任何真理,是我们从经验中撞击出了文明。AI 亦是如此。放弃对人类先验知识的执念,给机器以算力,给智能以经验,这或许是《苦涩的教训》在今天带给我们的终极启示。
七、 走向未来的现实主义预测与技术瓶颈
回归经验,实际上是回归到了计算机科学之父阿兰·图灵(Alan Turing)在 1947 年提出的前瞻性设想:“我们需要的是一台机器,它可以从经验当中来自主学习。”
然而,作为强化学习的奠基人,萨顿并没有盲目乐观,而是极其清醒地指出了当前迈向终极 AGI 的技术瓶颈。要让强化学习和经验数据释放出全部潜力,现有的深度规划算法还必须补齐两个史诗级的技术短板:
持续学习(Continual Learning)的能力: 当前的大模型一旦训练完成,其网络权重就被无情地冻结了。而经验智能体必须具备在数十年的时间跨度里,边与世界互动、边动态改写神经网络权重且确保不发生“灾难性遗忘”的持续演进能力。
元学习(Meta-Learning)的能力: 即“学会如何去学习”。当 AI 被投入到一个完全未知的全新环境或遭遇未曾见过的物理规则时,它必须能利用过去积攒的底层元经验,像人类一样在几分钟内快速抽象出新环境的规则与打法。
这些根本性的科学问题虽然艰难,但终将被解决,且这一过程正在机器人和全球工业应用中加速发生。萨顿预测,超级智能体和超级智能增强人类的问世都会发生,并且将会为世界带来巨大福祉。这可能需要几十年时间,但绝对“不需要很多个十年,也许只要一两个(即 10~20 年内)”。这不是一场百米冲刺,而是一场长达数十年的技术马拉松。
八、 恰逢其时的思想,势不可挡
在大模型狂飙的喧嚣过后,行业终于认识到,单纯靠堆砌算力去拟合人类既有数据的暴力美学,无法带我们推开通用人工智能(AGI)的大门。现在的 LLM 非常出色,作为通往世界所有知识的可定制接口非常重要且有价值,但它并不真正处于通向强大通用智能的终极道路上。

正如法国文豪维克多·雨果所说:“恰逢其时的思想,势不可挡。”
无论是 Git 工作流的软件自治、预测市场的流动性治理,还是自动实验室的科学探寻,这些实验的共通之处在于:它们彻底摒弃了“人类高高在上的主观评判”,而是构建了一个个精密的“规则沙盒”。
从静态数据走向自主经验,这是技术演进不可逆转的大势。AI 正在走出由人类数据编织的温室,走向数字与物理世界的广阔天地。它将在无休止的行动、挫折与落地奖励反馈中,像生命一样自发地进化出真正的超级智能。人类应当摆脱炒作与恐慌的极端视角,以积极、开放的心态,共同迎接这个由第一人称交互塑造的“经验时代”。
夜雨聆风