夜雨聆风学习资料网

ARTICLE · 1182799

人类首份“万亿美元PDF”曝光!OpenAI封存9年的绝密手稿:大力真能出奇迹

人类首份“万亿美元PDF”曝光!OpenAI封存9年的绝密手稿:大力真能出奇迹

作者 | 汪乐· 编辑 | 方成

一份压在抽屉里整整九年的绝密文档,在硅谷掀起了轩然大波。

2026 年 10 月 6 日,科技记者 Kevin Roose 突然公开了一份从未面世的重磅手稿,《大算力团块假说》(The Big Blob of Compute Hypothesis,简称 BBOC)。

这是现任 Anthropic 掌舵人 Dario Amodei,早在 2017 年任职 OpenAI 核心研究员时写下的内部备忘录。

▲ 科技记者 Kevin Roose 在个人专栏首度公开这份机密备忘录节选

投资人兼学者 Nabeel Qureshi 看完直接惊呼:“这大概是人类历史上第一份价值万亿美元的 PDF!”

▲ 投资人 Nabeel Qureshi 评价其为“人类历史上第一份万亿美元 PDF”

今天席卷全球的每一张英伟达显卡,每一个耗电堪比中型城市的超级数据中心,甚至整个硅谷万亿美金的疯狂投入,源头全在这份写于九年前的文档里。

它就像一张早已画好的寻宝图,在整个世界还在昏睡时,就给后来的超级大模型时代定下了宿命。

012017 年的迷雾:全行业的精巧陷阱

要读懂这份文档有多震撼,我们必须把时钟拨回 2017 年。

那一年,AlphaGo 刚横扫人类棋坛。但整个 AI 圈的顶尖学者们,脑子里普遍装的还是“手艺人”思维:做机器翻译的死磕翻译规则,做语音识别的精心调节声学模型,做自动驾驶的疯狂堆砌传感器几何算法。

当时的 AI 界有一个永恒的争论:到底该依靠更庞大的算力,还是依靠更精巧的算法?

几乎所有名校教授、明星创业者都坚定地站在后者。在他们看来,直接拿海量算力硬轰模型,是粗鄙暴发户的“蛮力玩法”,毫无学术美感;高阶的智能,必须来自人类专家精心设计的数学结构。

然而,当时还顶着一头卷发的 OpenAI 年轻研究员 Dario Amodei,在这份备忘录的第一页,就用近乎挑衅的语气给全行业泼了一盆冷水:

你们引以为傲的精妙算法,压根算不上 AI,无非是在手工“写代码”!

▲ 备忘录首页:Dario 开篇直切主题,提出颠覆性的“大算力团块假说”

Dario 指出,人类手工设计的算法再精巧,也只能在一个极度狭窄的特定场景里“过拟合”。环境稍微一变,精心搭建的系统立刻土崩瓦解。

他提出了一条在当时看来离经叛道的猜想:智能的诞生,根本不需要那么多精雕细琢的人类智慧。你只需要提供一大块结构尽可能简单、容量尽可能巨大的算力团块,然后用海量的数据去冲刷它。

只要算力够大,目标设对,它自己就会像一块饥渴的海绵,把整个物理世界的规律完整吸收进去。

02震撼硅谷的隐喻:你如何造出一片雪花?

在这份泛黄的文档里,Dario 写下了一个注定载入计算机史册的绝妙比喻:造雪花。

▲ 备忘录内页中最经典的“雪花类比”:别用镊子雕冰晶,去设定环境规律

当你凝视一片显微镜下的雪花,那复杂、对称、巧夺天工的分形结构,会让你下意识产生一种错觉:制造它的人一定拥有无与伦比的微雕技术,必须用一把极其精密的镊子,把冰晶分子一片一片拼起来。

Dario 写道:这种想法大错特错

在现实中,没有人能靠拼积木造出雪花。大自然造雪花的方法粗暴而优雅:

  • 准备一个足够大的寒冷腔室(参数量);
  • 注入充足的水汽原料(算力与数据);
  • 设定好凝结的物理法则(训练目标);
  • 调整好稳定的气压与温湿度(数值稳定性);
  • 然后,静静地等待足够长的时间。

物理规律自然会让水汽凝结,一片美轮美奂的雪花便会在混沌中自发绽放。

对应到 AI 上,人类研究者整天忙着用算法去手写语法规则、对齐语义结构,就像试图拿着镊子去拼接雪花一样徒劳。通用智能无法靠人工一行行“写”出来,它只能在大算力的温床中自然“生长”成形。

他把控制这团大算力的核心旋钮,精炼地收缩为七个:

  1. 原始算力
  2. 参数规模
  3. 经验总量(训练多久)
  4. 经验分布(数据足够广)
  5. 数值归一化(让信息顺畅流动)
  6. 架构对称性(结构尽可能通用,不过度干预)
  7. 训练目标(最终优化的数学方向)

只要把这几个高维阀门拧对,大模型就会自发完成智能的跃迁。

03闭环验证:OpenAI 内部炸响的两颗惊雷

假说再动人,没有实证就是空谈

但在 2017 到 2018 年间,OpenAI 内部悄悄完成的两项惊世实验,如同一记记重锤,直接砸碎了所有怀疑者的眼镜。

第一颗雷:诡异的“情感神经元”

2017 年初,年轻的 Alec Radford 和团队想测试一下大网络的自组织能力。他们用了一个完全没有特殊设计的单层循环网络(LSTM),丢给它 8200 万条亚马逊商品评论。

训练的目标极其简单甚至无聊:根据前面的字符,猜下一个字母是什么。

整个过程彻底抛开了语法树、人为标注与任何情感字典。但在模型训练完后,工程师们检查网络内部的 4096 个神经元时,汗毛瞬间竖了起来:

网络内部的某一个神经元,竟然自发演化成了“人类情感监控器”。

▲ 备忘录内页:强调高效算法往往只是局限的编码,而通用学习才能带来跨维度的泛化

当输入文字是好评时,这个神经元的放电数值一路飙升;当文字变成差评时,它的数值直接跌入谷底。令人毛骨悚然的一幕随之出现:当研究员在生成文本时人为把这个神经元的数值锁死在高位,模型吐出来的全是狂热赞美;反向锁死,模型就立刻开始破口大骂!

一个底层预测下一个字符的统计任务,为什么会让网络自发理解“喜怒哀乐”?

因为 BBOC 预言对了:在一个信息极其复杂的世界里,模型为了在数学上把“预测未来”做到极限压缩,就必须在内部被迫构建出一套理解世界的高维抽象概念。

第二颗雷:Dota 2 战场的 180 年蛮力风暴

如果说情感神经元证明了“语言理解能被大力出奇迹轰出来”,那么随后的 OpenAI Five,则彻底击溃了学界对“复杂规划”的傲慢。

在 MOBA 游戏《Dota 2》里,对局长达数十分钟,视野迷雾重重,决策多达数万步。当时全球顶尖专家断言:不设计精密的分层逻辑状态机,AI 绝对不可能学会团队博弈。

OpenAI 偏偏不信邪他们祭出了自研的“Rapid”大规模分布式训练体系,动用 12.8 万个 CPU 核心和数百块顶级 GPU,让五个完全使用极简单层网络、没有任何先验人类知识的 AI 自我对弈。

这套系统每天狂吞相当于人类连续打 180 年的比赛经验!

结果,奇迹再次降临模型根本没有迷失在冗长的时间线里,反而自发学会了人类职业战队都要苦练数年的高阶战术:牺牲兵线拉扯空间、战略性放弃劣势路、甚至精准诱敌深入。

最终,OpenAI Five 毫不留情地横扫了人类世界冠军团队。

这两场硬仗,彻底打服了 OpenAI 全体管理层与研究员。抽象的 BBOC 假说,在内部直接封神。

随后,他们果断放弃一切细枝末节的缝补,全面拥抱 Transformer,押上全部身家打造了 GPT-1。由此,通向 ChatGPT 与 AGI 的时代大门被彻底轰开!

▲ 2019 年 GPT-2 横空出世,以 15 亿参数无悬念印证了规模化狂想的正确性

04历史的公道:谁在十年前押对了方向?

2019 年,强化学习鼻祖 Richard Sutton 发表了震撼业界的《苦涩的教训》(The Bitter Lesson),宣告依靠算力的通用方法终将碾压人类一切精巧小聪明。

但今天看客们才恍然大悟:早在 Sutton 动笔的两年前,Dario 就已经把这个理念推演到了极致,并附带了一整套工程实施蓝图。

▲ 2019 年 Sutton 的公开短文,比 BBOC 内部备忘录晚了整整两年

著名专栏作家 Matthew Yglesias 在社交平台上感慨:“十年前,Dario 的这套算力团块理论在主流风投圈里纯属疯人疯语。但事实证明,那正是十年前唯一押对了历史方向的人。”

当然,科技史上从来没有孤胆英雄

文档曝光后,工程师 Michal Wolski 等人也指出了客观的历史脉络:早在 2014 年前后,Ilya Sutskever 就在四处奔走疾呼 Scaling 的神迹;许多一线深度学习工程师也或多或少察觉到了算力的魔力。

▲ 社区回复指出:Ilya 等先驱早有敏锐洞察,规模化思想是时代的共振

但 Dario 这篇文档无可替代的价值在于:他是第一个把这种混沌的一线直觉,系统化升华成七大工程要素的人;同时,他也第一次把狂飙的算力假说,与整个人类文明最担心的“AI 对齐与安全”锁在了一起。

在 Dario 眼中,世界在物理层面是低熵、有规律的。只要算力足够大、训练任务足够广,模型最终抓住的一定是规律的底层共性。

如果人类的道德、善意与价值观也是这种高阶共性的一部分,那么防范 AI 失控的出路,绝非套上一万个手写的算法紧箍咒;唯有在大模型冲向神级智能的过程中,喂给它足够广阔的文明数据,才能让它从信息论的最深处,彻底参透人类价值的真谛。

05尾声:未公开的 15 页,究竟藏着什么?

历史总是充满了极具戏剧性的黑色幽默。

当年那些在顶级学术会议上嘲笑“暴力堆算力是没文化”的学者们,如今他们所在的实验室,正在因为抢不到昂贵的新款 GPU 而面临生存危机。

而那位在 2017 年备忘录里写下“不要拿镊子雕冰晶”的青年,早已自立门户创立了估值数百亿美元的 Anthropic,正在用更庞大的算力阵列,打造着足以重塑人类社会的 Claude 大脑。

▲ 2020 年 Dario 联合署名的 Scaling Laws 论文,将当年的哲学狂想彻底写成了可定量的物理定律

记者 Kevin Roose 同时透露,这份长达 25 页的绝密文档,他只放出了前 10 页。

剩下的 15 页,全是极度硬核的技术交锋与数学推演,记录了当年 Dario 与其他顶级安全研究员之间极其激烈的思想厮杀。

全球的技术极客们正在社交平台上疯狂催更:“求求你,快把第五节和剩下的 15 页交出来!”

人们迫切地想要知道,这位在九年前精准预言了今天万亿算力帝国的先知,在那被隐匿的后半卷秘卷里,究竟还对人类与超级智能的终局,写下了怎样惊心动魄的神谕?

风暴早已成型,而历史的指针,不过刚刚走过第一圈。

相关学习资料