AI 现场·第 14 期|1.09 亿参数赢了 720 亿:66 岁的 LeCun 拿出新论文,模型越大越懂世界吗

AI 现场 · 第 14 期

《AI 现场》是 AI多聊 的主文专栏，每周一、周四更新，每期挑一个正在发生的 AI 事件或一个人，拆到你能用上的程度——不写"发生了什么"，写"这跟你有什么关系、接下来该怎么做"。这一期拆一篇论文。

一、先看两个数字

10 月 29 日，Yann LeCun 和布朗大学计算机科学助理教授 Randall Balestriero 发布了一篇 37 页的论文，标题是《Proving and Improving the Platonic Representation Hypothesis with JEPAs》，arXiv 编号 2610.39302。

论文里有两个数字，很多人在转述时会把它们混着说，但它们测的根本不是一回事。

第一个数字是参数。研究团队训练了一个仅有 1.09 亿参数的文本 JEPA，在跨模态表征对齐测试中，超过了包括 Qwen2.5-72B、Llama-3-70B 在内的大型语言模型。参数规模相差约 660 倍。

第二个数字是样本。在另一组实验里，采用新方法的模型只需要 2160 万个训练样本，就达到了 next-token 预测模型使用 9 亿个样本才能获得的表征对齐水平。样本数量相差约 42 倍。

先把话说在前面：这两个数字都不等于"小模型打败了大模型"。它们测的是跨模态表征能不能对齐——也就是两个各自训练的模型，内部的"理解"能不能对得上。这件事和你平时拿两个聊天机器人比输赢，是完全不同的测试。

二、JEPA 到底在做什么

要理解这两个数字，得先理解 JEPA 是什么。

JEPA 全称 Joint Embedding Predictive Architecture，联合嵌入预测架构。它的思路可以粗略理解成：不直接去预测"下一个字"，而是预测"表征"。

具体说，图像模型看一张照片、语言模型看一句话，两者是完全不同的输入通道；如果它们真的学到了同一个现实对象的共享结构，那么它们内部对"这是一只猫趴在沙发上"的表示，就有可能逐渐趋同。这就是 JEPA 想做的事——让不同模态各自独立训练，最后自动对齐。

论文摘要里的三句话是这么概括的：JEPA 支持多模态表征独立训练后自动对齐；小模型在表征质量上可以显著超越超大语言模型；表征学习的效率提升可达 42 倍以上。

三、这不是新想法，是两年前那个假说的推进

这件事的根，可以追到 2024 年。

那一年，MIT 的 Minyoung Huh、Brian Cheung、Tongzhou Wang 和 Phillip Isola 在 ICML 上发表了《The Platonic Representation Hypothesis》，中文一般译作《柏拉图表征假说》。

他们观察到一个很有意思的现象：随着模型能力增强，图像模型和语言模型内部的表征结构，似乎正在变得越来越相似。

道理其实很朴素。一张照片由像素构成，一句话由 Token 构成，两者看起来完全不同，但它们指向的现实对象是同一个——如果你画的猫和 AI 描述的猫真的是同一只猫，那么两个模型内部关于"猫"和"沙发"的关系表示，就没有理由差太远。

柏拉图表征假说因此得名：不同 AI 模型可能正在趋向一种共同的、关于现实世界的统计表征。

但 2024 年那篇论文有两个明确的缺口：它观察到了"模型变大 → 表征趋同"这个现象，却没有证明它必然发生；也没有解释什么样的训练方法能更高效地实现它。

LeCun 和 Balestriero 这篇要解决的，就是这两个缺口。

四、这篇论文真正挑战的是什么

这是最容易被标题党带偏的地方，我把它单独拎出来说。

论文的出发点是一个很基础的问题：当 AI 通过文字、图像等不同方式观察世界时，究竟是什么决定了它们能否形成相似的内部理解？

论文给出的答案，和训练过程中构造的正样本对有关——研究者把不同模态当作对同一个潜在世界状态的观察，建了一套数学框架，去推导模型在什么条件下可以学到相互对齐的表示。

所以，这篇论文挑战的是"唯规模论"，不是"规模论是错的"。

InfoQ 在报道里专门写了一句：这并不是论文真正想表达的结论。把"1.09 亿赢了 720 亿"直接读成"以后不用训大模型了"，是过度解读。论文讨论的是一个特定能力维度——跨模态表征对齐的效率；它没有、也不打算证明"大模型在所有任务上都会被小模型打败"。

LeCun 这个人本来就不是来凑热闹的。他做 JEPA 已经很多年，长期主张"单纯堆参数不是通向理解世界的路"。这篇论文是他第一次把这条路的主张，配上了可检验的实验结果。

所以读这篇论文的正确姿势是：它是一个方向性证据，不是大模型的讣告。

五、对我们意味着什么

我不打算在这里给你一个"以后该用小模型"的结论，那是超出论文能支撑的范围。但有三件事是能落到日常的：

第一，选模型要看维度，不是看参数量。同一个 720 亿模型在写代码上碾压 1 亿模型，但在"两个模态的理解能不能对齐"这件事上完全不是对手。你的业务需要的是哪种能力，决定了哪个数字有意义。如果你在做的是文档解析、多模态检索、图文一致性校验这类活儿，表征对齐的质量比参数总量更值得你花时间评估。

第二，表征质量的评测方法，本身值得你借用。跨模态对齐是一个可以直接测的指标——两个模型对同一个现实对象的内部表示能不能对上。这比"跑个 benchmark 打个分"更贴近真实业务里的一致性问题。

第三，这是一篇值得读原文的论文。37 页，arXiv 公开，InfoQ 做了中文精读。两个建议：一是从摘要和"正样本对"那一节读起，那是全文的枢纽；二是别只看那两个数字被怎么转述，这篇论文的价值恰恰在被标题党压缩掉的那部分。

六、顺便说一个方法论

这篇论文这几天被大量转述，转述里最常见的两个错误是：把"跨模态对齐"说成"全面能力"，把"挑战唯规模论"说成"规模论失效"。

这两个错误的共同点是——丢掉了原文的口径，只留下了数字。

我们这个号以后会把这件事当标准：任何带数字的爆点，数字旁边必须跟着测什么、跟谁比、在什么条件下成立。做不到这一点的，就不写。

本期钩子想预告的是另一件事：这些"让 Agent 有品味"的 Skill，这两周正在以每周过万星的速度刷 GitHub 榜单——impeccable 本周涨 12,017 星、hallmark 涨 11,566 星，周榜前二都是同一个品类。下期我会把这批项目单独拆一期横评：它们到底在解决什么、装起来要花多少功夫、哪些是真本事哪些是蹭热点。

另外想问一句：你现在判断一个模型好不好，最看重哪个指标？评论区写「榜单分数」「实际效果」或者「成本」，我按票数高的那个方向，决定下期横评的评分维度怎么排。

回复【论文】可以拿到这篇论文的 arXiv 链接、InfoQ 中文精读原文，以及 JEPA 与 JEPA-V、下一 Token 预测三条路线的关系图。

本文已收录进《AI最前线》。

《AI 现场》每个工作日更新，欢迎关注，下期见。

资料来源

• Yann LeCun、Randall Balestriero《Proving and Improving the Platonic Representation Hypothesis with JEPAs》（arXiv:2610.39302，2026-10-29，37 页）：https://arxiv.org/abs/2610.39302
• Minyoung Huh、Brian Cheung、Tongzhou Wang、Phillip Isola《The Platonic Representation Hypothesis》（ICML 2024，arXiv:2405.07987）：https://arxiv.org/abs/2405.07987
• InfoQ《66 岁 Yann LeCun 发新论文挑战 Scaling Law：1.09 亿参数胜过 720 亿，模型越大不一定越懂世界》（2026-11-02）：https://www.infoq.cn/article/pWwkDpoFHIsfw9aCRkij

资料核验：2026 年 11 月 3 日。

说明：参数量、样本量与对比模型均取自论文摘要与 InfoQ 报道；arXiv 编号与发布日期已回到 arXiv 原文核对。本文对论文结论的解读以论文摘要、InfoQ 报道中的"这并不是论文真正想表达的结论"以及作者本人一贯主张为限，不对"小模型能否替代大模型"做论文未支持的推论。文中未复现论文实验。