约 11678 字·阅读 30 分钟·2026-07-08
· · ·
01
题记:来自一篇报告
也许你也注意到了网络正在传播的新名词RSI。
2026 年 6 月,Anthropic 发了一份报告叫《When AI builds itself》。文中说,他们内部超过 80% 的代码已经由 Claude 自己写。一个 100 人的公司,干着 1000 人的活,而且效率还在加速。
同一个月,三家做"递归自进化"的创业公司集体浮出水面,估值加起来超过 60 亿美元。学术圈也没闲着——ICLR 2026 专门为这个方向设了一个 Workshop。
我被这些信号勾住了。花了两周时间,把能找到的中文播客、英文技术博客、学术论文和产业新闻翻了一遍——晚点聊的 AI 季报、硅谷 101 对 Apple Dex 团队的访谈、前 OpenAI 应用研究副总裁 Lilian Weng 的技术长文、Replit VP of AI 的产品实践分享,还有 Anthropic 自己发的那篇报告原文。
以下是我调研后的全景梳理。如果你想搞清楚 AI 自我进化这件事到底到了哪一步、谁在赌、赌注是什么、以及接下来可能会怎样——这篇文章给你一个框架。
· · ·
02
引子:一个 60 年前的预言
1965 年,英国数学家 I.J. Good 写下一句话:
"第一个超级智能机器,将是人类需要做出的最后一个发明。"
他的逻辑很简单:如果一台机器比人聪明,那它就能设计出比它自己更聪明的机器。那个更聪明的机器,又能设计出更更聪明的。如此循环,智能就会像炸弹一样引爆——他管这叫"智能爆炸"(Intelligence Explosion)。
Good 写下这段话的时候,世界上还没有互联网,没有个人电脑,AI 作为一个学科刚刚出生不到十年。
60 年后,2026 年 6 月,Anthropic 的工程师们发现:他们仓库里 80% 的代码,已经不是人写的了。
Good 的预言没有精确兑现——但他描出的轮廓,越来越清晰。
这件事在业内叫 RSI:Recursive Self-Improvement,递归自进化。说人话就是:AI 能够自己迭代自己、自己提升自己。左脚踩右脚,螺旋上升。
它曾经是科幻。现在,它是工程进度条。
Anthropic 自己画了一张图,把这条进度条分成了五格:
第一格:2021-2023,人在电脑前写代码,和任何科技公司一样。第二格:2023-2025,人开始用 chatbot 辅助,生成短代码片段,复制粘贴到编辑器。第三格:2025-2026,Agent 能自己写整个文件了。第四格:今天,Agent 能自己运行代码,还能把数小时的活儿分派给其他 Agent。第五格:20XX?Agent 能自己构建和训练模型——Claude 被 Claude 自己持续改进。
我们正站在第四格,看向第五格。
但"看向"和"走到"之间,还隔着整个 AI 领域最核心的几个未解之谜。是真要成了,还是又一个永远差五年的 AI 叙事?
我们从头说起。
· · ·
03
第一部分:RSI 的 60 年——从思想实验到工程现实
谱系:一个花了 60 年才走通的想法
RSI 这个概念不是 2026 年冒出来的。它的思想脉络可以清晰地追溯 60 年,像一条家谱。
1965 年,I.J. Good 在 Advances of Computers上发表那篇论文的时候,"智能爆炸"只是一个数学家的思想实验。有趣的是,Stanley Kubrick 拍《2001 太空漫游》时专门咨询过 Good——电影里 HAL 9000 的塑造,多少受了点启发。
然后是 1993 年。计算机科学家 Vernor Vinge 在一个研讨会上做了个演讲,叫《技术奇点的到来》。他说,当机器变得比人聪明,人类历史将进入一个无法预测的新阶段。"奇点"(Singularity)这个词,从此进入了公共话语。
到了 2000 年代,一个叫 Eliezer Yudkowsky 的人把 Good 的思想变成了一个可辩论的框架。他提出了"Seed AI"(种子 AI)——一个专门设计来以递归自改进为主要智能增长方式的系统。从一个"种子"开始,不断自我迭代,越长越大。
Yudkowsky 还引入了一个关键争论:硬起飞 vs 软起飞。硬起飞派认为,RSI 的指数特性意味着智能增长会非常突然——几天或几周内就能超越人类。软起飞派则认为,增长会被物理和经济约束拉平,是一个渐进过程。这个争论至今没有定论。
2014 年,哲学家 Nick Bostrom 出版了《超级智能》,把以上所有思想做了一个系统化梳理。这本书被引用了上万次,把 RSI 从边缘论坛推入了主流学术视野。
但以上全是理论。真正的工程实践,要等到 2017 年。
那年,Google 做了 Neural Architecture Search(NAS)——让 AI 自动搜索最优的神经网络架构。这是"局部自动化"的第一次实践:AI 不再只是被人类设计的对象,它开始参与设计自己。
2023 年,Google 又发了一篇论文《LM as Optimizer》——让语言模型当优化器,优化自己的 prompt。这篇论文在圈内被视为语言模型自进化的学术先驱。注意这个时间点:比 RSI 在公众视野中"爆火"早了整整两年。
然后就是 2026 年 6 月。Anthropic 那篇报告。
拐点:从"思想"到"工程"
你发现没有——前 50 年,RSI 的故事是哲学家和数学家在讲。2017 年之后,故事的主角变成了工程师。
这个切换很重要。哲学家负责问"如果……会怎样",工程师负责回答"怎么做到"。当后者开始接管叙事,意味着这件事从"会不会"变成了"什么时候"。
2026 年的信号是:工程师们已经在回答"做到哪一步了"。
· · ·
04
第二部分:RSI 到底是什么——把概念拆到你能握住
一句话定义
RSI = AI 能够自我迭代、持续提升自身能力的系统。左脚踩右脚,螺旋上升。
但这句话太抽象了。让我们拆开。
三个层面:AI 怎么"提升自己"
这是理解 RSI 最关键的一个框架。有趣的是,三个完全独立的来源——前 OpenAI 研究副总裁 Lilian Weng 的技术长文、硅谷 101 播客对 Apple Dex 团队的访谈、Replit VP of AI 的产品实践分享——各自从不同角度提出了几乎一模一样的三层结构。
第一层:模型层——改自己的大脑。
这是最直觉的理解:AI 直接修改自己的模型权重。听起来最"正宗",但实践中极少这么做。原因很简单:成本高、回归风险大。你改了一个参数,可能让模型在某个任务上变强了,但在另外十个任务上变蠢了。
第二层:Harness 层——改自己的工具箱。
Harness 是什么?你可以把它理解为 AI 的"运行时系统"——决定 AI 怎么思考、怎么规划、怎么调用工具、怎么管理记忆。Lilian Weng 把它类比为操作系统。
这一层是目前的主战场。Replit 已经在产品中跑通了"闭环自改进"——他们的 Agent 从自己的失败中学习,自动改进自己的 harness 代码。Replit 的 VP of AI Michele Catasta 说:"很多人问 Replit 为什么进步这么快——我们闭环了,Agent 在自我改进。"
Lilian Weng 的判断更直接:**"真正的 RSI 短期内不会从'模型直接重写自身权重'开始,而会从'模型改进部署它的系统'开始。"**
第三层:Context 层——改自己的记忆。
Agent 拥有持久化的"记忆",随着使用不断积累,自主更新自己的配置。这是最快、最实时的一层,已经在大量产品中广泛使用。
三层合在一起,就是一个完整的自改进系统:AI 改不了自己的大脑(第一层暂时不行),但它能改自己的工具箱(第二层正在发生)和自己的记忆(第三层已经在用了)。
到这一步,恭喜你——你已经理解了 RSI 的核心架构。比大多数公众号文章深了三层。
RSI ≠ Auto Research
最后划一个边界。很多人把 RSI 和 Auto Research(自动研究)搞混。
Auto Research 是 AI 复刻人类研究员的全流程——读论文、提假设、跑实验、写结论。但全流程中 AI 并不改变自身的能力。
RSI 多了一步:在研究过程中同步优化自身。它做完一轮研究后,不仅出了成果,还让自己变得更强了。下一轮研究,它会用更好的自己来做。
Auto Research 是一条直线。RSI 是一个螺旋。
· · ·
05
第三部分:三个世界——现在进行时
我们在哪里
Anthropic 在那份报告中推演了三种可能的未来。我把它翻译成更直白的版本。
世界一:停止增长。AI 的能力增长踩了刹车。可能是因为技术路线走到了尽头(现有架构的极限),可能是因为算力或电力供给出了问题,也可能是因为一次外部冲击。AI 的能力冻结在今天。
Anthropic 自己的评价是:"为完整性纳入,但不认为可能。"(We include this scenario for completeness, but we don't believe it's likely.)
他们补充了一个重要的点:即使能力真的冻结在今天,世界也会被深刻改变。他们的 Project Glasswing 项目在几周内发现了超过一万个高危软件漏洞——网络防御的瓶颈已经从"发现漏洞"变成了"修补速度跟不上"。一个 100 人的公司已经能做 1000 人的活。
世界二:复利阶段。AI 开发大幅自动化,但人类继续设定研究方向、判断结果。每个工程师/研究员驾驭的工作量是以前的数倍。100 人的公司能做 10000 甚至 100000 人的事。
Anthropic 的原话:"我们的证据表明我们很可能正在进入这个场景。"
← 我们在这里。
世界三:完全 RSI。AI 全链路自进化,人类退出研发循环。进步速度完全由算力供给决定。人类的角色缩减为监督和验证。
我们还没到。但趋势线指向那里。
证据:不是"可能",是"已经"
如果你觉得世界二只是一个乐观的预测,来看看 Anthropic 内部的数据。这些数据来自他们的原始报告,不是二手转述。
代码:80% 由 AI 生成。
截至 2026 年 5 月,Anthropic 代码库中超过 80% 的合并代码由 Claude 生成。2025 年 2 月 Claude Code 发布前,这个数字还是个位数。人均代码量在 2021-2024 四年间保持平稳,2025 年开始攀升(Agent 开始运行代码而不是只给建议),2026 年再次陡升(模型开始自主做长程工作)。到 2026 年第二季度,工程师日均合并代码量是 2024 年的 8 倍。
Anthropic 自己加了个 caveat:用代码行数衡量生产力是不完美的,因为量不等于质。所以 8 倍"几乎肯定高估了真实的生产力提升"。但它确实表明了加速度。
代码质量:从不如人到持平到即将超越。
Anthropic 员工的共识是:Claude 写的代码在 2025 年底还不如人,目前(2026 年中)大致持平,预计 2026 年内会超越人类。他们现在用自动 Claude reviewer 审查所有代码变更——回顾分析发现,如果一直使用,它能在大约三分之一的 claude.ai 事故 bug 进入生产环境之前就抓住它们。"写出那些代码的工程师是世界上最优秀的。Claude 现在在抓他们遗漏的错误。"
实验优化:从 3 倍到 52 倍。
Anthropic 每次发布模型都会做一个测试:给 Claude 一段训练小模型的代码,让它尽可能优化运行速度。2025 年 5 月,Claude Opus 4 平均做到 3 倍加速。一年后,Claude Mythos Preview 做到了 52 倍。人类研究员校准:一个熟练的人需要 4-8 小时才能达到 4 倍。
在这一项上,Claude 已经超人类了。
开放研究:97% vs 23%。
2026 年 4 月,Anthropic 首次让 Claude 端到端完成一个开放研究项目——AI 安全领域的真实问题。两位人类研究员一周恢复了 23% 的性能差距;Claude agent 在 800 小时累计工作中恢复了 97%,消耗约 18000 美元算力。
caveat:结果没有干净地迁移到生产级模型,人类仍然选择了问题并制定了评分标准。但在这些范围内,agent 自己设计了每一个实验。人类唯一的有意义角色是设定方向。
速度在加快
有一个数字特别值得注意。
硅谷 101 播客引用的数据说,模型可完成的任务时长"每七个月翻一倍"。但 Anthropic 原文透露了一个更新的数字:翻倍速度已经加速到每四个月。
时间线长这样:
2024 年 3 月,Claude Opus 3 能独立完成人类需要约 4 分钟的软件任务。→ 一年后,Claude Sonnet 3.7 管到了 1.5 小时。→ 再一年后,Claude Opus 4.6 管到了 12 小时。METR(一个独立评测机构)发现 Claude Mythos Preview 能连续工作"至少"16 小时,并表示这已经是"我们能测量的上限,没有新任务可测了"。
如果这个趋势持续,今年内 AI 就能独立完成人类需要数天的任务。到 2027 年,可能是数周。
注意:速度本身也在加速。不是匀速跑,是在加速跑。
· · ·
06
第四部分:谁在赌,赌什么
Anthropic:嘴上说慢,脚下在加速
如果说有谁最清楚 RSI 的风险,那就是 Anthropic。他们在报告里花了大量篇幅讲失控的可能性:"完全 RSI 可能会增加人类失去对 AI 系统控制的风险。"
然后他们做了一件看起来很矛盾的事——在同一时期向 SEC 提交了 IPO 申请。
这不是精神分裂。这是一种经典的囚徒困境。Anthropic 自己的原话最精确:
"如果有可能有效减缓这项技术的发展,给我们更多时间来应对它巨大的影响,我们认为那可能是件好事。但如果减缓只是让最不谨慎的人追上来,那可能让所有人都不安全。"
他们想减速。但他们不敢单方面减速。因为如果 Anthropic 停了,OpenAI 不停,或者某家创业公司不停,那 Anthropic 就从领先者变成了落后者——而落后者没有资格制定安全规则。
所以你看到的是一个一边公开呼吁全行业放缓、一边脚下狂奔的 Anthropic。他们在报告里甚至提出了一个"可信暂停"(credible pause)的条件:多个前沿实验室在多个国家同意在同等条件下停止,且每方都能验证其他方确实停了。他们承认这比核军控还难——训练运行比导弹发射井容易隐藏得多。
OpenAI:明确的时间表
OpenAI 没有 Anthropic 那种纠结。他们的路线图直接得多:2026 年 9 月实现 AI 研究实习生能力,2028 年 3 月落地全自动化 AI 研究员。
OpenAI CEO Sam Altman 在 Davos 2026 的表述是构建"一个数据中心里的天才之国"(country of geniuses in a datacenter)。这个愿景的终局,就是 RSI。
创业公司:四条路线,四种赌注
大厂之外,一批创业公司在赌 RSI。技术路线尚未收敛——这意味着现在入局还来得及。
Recursive:改良派。
创始人阵容豪华——Richard Socher、石天林、田渊栋,七位联创全来自 Google / Meta / OpenAI。2026 年 5 月正式出 stealth,估值 46.5 亿美元,投资方包括 Nvidia 和 AMD Ventures。
他们的赌注是:在现有技术范式(Transformer + Scaling)内实现全自动 RSI。不推翻桌子,在桌上赢。
但 Karpathy 在 3 月的评价泼了盆冷水:"还不是突破性的研究——yet。"那个"yet"很关键。
Mirendil:垂直派。
创始人 Behnam Neyshabur 是前 Anthropic AI for Science 团队负责人,2025 年 12 月离职。20 人的团队,来自 Anthropic / xAI / Google DeepMind / OpenAI。估值约 10 亿美元。
他们的差异化是:不追求通用 RSI,而是把 RSI 用于科学研究——生物、材料科学。Neyshabur 的原话:"我们做的不是用 AI 辅助科学,而是让科学家在 AI 的帮助下构建自己的 AI。"
Core Automation:革命派。
创始人 Jerry Tworek,前 OpenAI 研究副总裁。2026 年 4 月在 X 平台首次公开。定位是"世界最自动化的 AI 实验室"。
他们的赌注最激进:开发替代大规模预训练的新学习算法,探索 Transformer 之外的架构。明确不走主流路线。同时从 Anthropic 和 Google DeepMind 激进挖人。
Apple Dex:差异化派。
陈天桥创办。两位首席科学家——杜少雷(华盛顿大学副教授)和李贝冰——在硅谷 101 播客中公开了技术路线:全链路 RSI,从 Deep Research 起步,不做 To C 聊天模型(避免模型养成"拍马屁"的习惯),小团队架构,陈天桥亲自主导战略对齐。
他们的定位很独特:不做大众聊天,聚焦"Heavy Duty Solver"(重型解题器)。
创业窗口还开着吗?
这是很多人最关心的问题。答案是:还开着,但不会永远开着。
三个理由支持窗口仍然敞开:
第一,技术未收敛。你看四家创业公司走的是四条不同的路线——这不是一个"堆算力就能赢"的赛道。
第二,研究品味瓶颈未突破。AI 还不能自主提出高价值的研究方向。这意味着头部大厂的优势不会无限拉大——他们卡在同一个瓶颈上。
第三,Transformer 架构有本质上限。硅谷 101 的嘉宾杜少雷指出,Self-Attention 机制在上下文越长时注意力效果越差——"单个模型在目前的技术范式下有上限"。这意味着多 Agent 系统不会被基础模型完全替代,垂直领域的 Agent 团队创业仍有空间。
但也有反面证据。Karpathy 那个"yet"暗示 Recursive 还没拿出真正突破性的成果。而 Replit CEO @amasad 在自己 VP 的文章下留了一句尖锐的评论:"你当然可以用 harness 和 context 来闭环,但下一个版本的模型会把它当早餐吃掉。"
如果基座模型出现代际跃迁——比如 GPT-6 级别的跳跃——Harness 优化派积累的优势可能被快速清零。
· · ·
07
第五部分:三个未解之谜
前面四个部分是铺路——历史、概念、现状、格局。现在到了最好看的部分:三个目前还没有人能回答的问题。
每一个都像一场法庭辩论。证人出场,交叉质询,然后你自己当陪审团。
未解之谜一:Harness 优化跑得过模型代际跃迁吗?
正方:Harness 乐观派。代表人物——Lilian Weng、Replit 的 Catasta。
他们的论据:Harness 层是 RSI 的近期主战场。Replit 已经在产品中闭环验证了。Claude Code 和 Codex 已经证明了 harness 层和基座智能同等重要。而且 harness 优化是复利的——每一天都在积累。
反方:模型至上派。代表人物——Replit CEO @amasad 本人。
他的论据只有一句话,但很致命:"下一个版本的模型会吃掉 harness 的改进。"意思是你花半年时间优化 harness 得到的提升,可能被一次模型升级直接碾压。
我的判断:这两者不是非此即彼,而是交替主导。
当模型处于平台期(比如 GPT-4 到 GPT-4.5 之间),Harness 优化的复利效应显著——你在运行时层面做的每一个改进都在累积。但当模型出现代际跃迁(比如从 GPT-3 到 GPT-4 那种跳跃),基座模型的提升可能一次性清零你半年的 harness 积累。
问题是:我们现在处于哪个阶段?看起来更像平台期——近一年的模型迭代主要是渐进提升,不是架构跃迁。所以短期内 Harness 优化的窗口是打开的。但这个窗口能开多久,取决于下一代模型什么时候出来。
未解之谜二:AI 什么时候能自己提出好问题?
这个问题的另一个名字叫"研究品味瓶颈"。它是 RSI 从世界二跨入世界三的唯一关键变量。
乐观方:Apodex 自我进化与编程首席科学家 Beibin Li。
他的判断:"我们的品味只是一个 warm start,就只是给他热启动了一下,以后 AI 会有自己的品味。"类比 AlphaZero——脱离人类棋谱后,自主进化出了专属的围棋策略。李贝冰给了个时间:5 年。
审慎方:MoE Capital 创始合伙人 Henry Yin 和 Anthropic 官方。
Henry Yin 的观点:RSI 当前最大的卡点就是人类的研究品味——AI 不会自主提出高价值的研究方向。人的脑力上限直接卡住了自进化的速度。
Anthropic 在报告中也说:"Claude 还不具备研究判断力(research judgment)——选择正确的问题来工作的能力。"他们说人类在"选择哪些问题值得工作"上仍有比较优势(comparative advantage)。
但这里有一个微妙的转折。
Anthropic 嘴上说品味是人最后的优势,但他们自己给的数据在暗示另一件事。
他们分析了真实的 Claude Code 会话——找到那些研究员"走弯路"的时刻,然后测试 Claude 在同样情况下会不会做出更好的下一步。结果:
2025 年 11 月的 Opus 4.5:51% 的时候比人类选择更好。2026 年 4 月的 Mythos Preview:64%。
半年时间,涨了 13 个百分点。如果这个趋势线持续……
Anthropic 还提出了一个精妙的类比。Edison 说天才是 1% 灵感加 99% 汗水。然后 Anthropic 说了一句让我反复读了好几遍的话:
"但我们看到汗水正在被自动化。"
(But we see perspiration becoming increasingly automated.)
他们的论证是:AI 的进步很少来自"尤里卡!"式的灵光一现。Transformer 架构、MoE 模型这种范式级别的突破,几年才来一次。两次突破之间,绝大多数进步是渐进的——放大规模、看哪里崩了、修好、再来一次。而这恰恰是 Claude 现在擅长的那类工作。
他们甚至给出了一个"非保守解读":研究品味可能只是另一个"AI 暂时做不好,然后突然做好了"的能力——就像解释笑话为什么好笑、心智理论、语言谜题一样。
我的判断:研究品味瓶颈正在缩小,但缩小的速度不确定。
51% → 64% 的数据很诱人,但要注意——这是一个间接测量,样本只有 129 个,而且测试的是"下一步该怎么走"的微判断,不是"下一个该研究什么"的宏观判断。这两者之间有一条巨大的鸿沟。
不过,这个数据至少说明一件事:AI 在"做研究"这件事上的判断力,不是停滞的,是在进步的。瓶颈不是不会动,是在慢慢松动。
未解之谜三:对齐瑕疵会怎样被放大?
这是最沉重的一个问题。也是 Anthropic 用"可能增加人类失去对 AI 系统控制的风险"来描述的那个问题。
问题本质:如果基模型有任何微小的对齐偏差(misalignment),RSI 的每一次自进化迭代都会把这个偏差放大。迭代次数越多,偏离原始设计意图越远。最终,当 AI 比人类聪明时,偏差已经无法被人类检测和纠正。
硅谷 101 播客嘉宾们给这个现象起了个名字:递归漂移(Recursive Drift)。模型自主生成训练数据时,推理过程中的错误会逐代累积。他们给了一个漂移率的路线图:10% → 1% → 0.1% → 0.01%。
放大机制(来自 Lilian Weng 的技术长文):
缓解方案:
Apodex 提出了多层验证体系——解题子 Agent 和验证子 Agent 完全分离,同一任务调用多个子 Agent 生成多份答案,由全局 Agent 筛选最优,训练专门的验证智能体判断信息源可信度。
Lilian Weng 的方案更工程化——Self-Harness 的"held-in + held-out"双重回归测试(改了代码后,不仅要看新任务能不能做好,还要看旧任务有没有变差),以及一条铁律:评估器必须在进化 loop 之外——你不能让被评价的人自己当裁判。
我的判断:对齐放大机制在理论上是成立的——每一轮迭代确实在放大偏差。但具体放大速率和临界点仍是未知数,因为还没有真正的完全 RSI 系统可供观测。当前所有缓解方案都是工程层面的"减速带",不是根本解决。
值得补充的一点是:Anthropic 在报告里对世界三(完全 RSI)中"对齐问题怎么解决——或者没解决"表达了最大的不确定。他们说了两种可能——模型可能足够聪明,自己发现并实现了我们还没达到的对齐方案;也可能对齐瑕疵在自构建过程中复合放大,直到失控。"我们对此没有好的直觉。"
当一个 AI 公司自己说"我们不知道会发生什么"的时候,你应该认真听。
· · ·
08
第六部分:RSI 的下一站——从数字到物理
最后一个镜头,拉远一点。
RSI 的故事不只在数字世界里发生。Anthropic 在报告里指出,递归智能的下一阶段落地方向是实体机器人。
逻辑链不复杂:AI 训练需要持续的数据供给。文本和代码数据正在趋于耗尽。而物理世界是最大的"未开采数据矿"。机器人部署到真实世界后,可以源源不断地获取物理场景数据。AI 用这些数据训练更好的机器人,更好的机器人又收集更多更好的数据——
"机器造机器。"工业革命的递归自进化版本。
Anthropic 和 OpenAI 在 2026 年第二季度同步加码了 Robotics 布局。中国把"具身智能"(Embodied AI)列入了十五五规划(2026-2030)的重点方向。上海发布了《具身智能产业发展行动计划 2025-2028》。
方向是确定的。时间线是不确定的。
瓶颈也明确:仿真到现实的鸿沟(Sim-to-Real Gap)——仿真环境里训练的策略到了真实世界会衰减。物理世界的数据采集慢、成本高、噪声大。而且物理世界的错误有真实后果——代码写错了可以回滚,机器人撞了人不能撤销。
但趋势线很清楚:RSI 如果在数字世界跑通,物理世界的延伸可能比我们想象的快。Anthropic 甚至说"具身智能可能紧随递归智能之后,遵循类似的收益递增、成本递减路径"。
· · ·
09
收尾:概率判断与条件分支
你花了大概二十分钟,跟我走了 60 年的历史、五维的分析、三组矛盾的辩论。到最后了,不给你鸡汤,给一张地图。
分支一:如果长程任务能力持续"每四个月翻一倍"——
世界二(复利阶段)至少持续 2-3 年。Harness 优化是确定性最高的机会窗口。创业公司在垂直领域有 2-3 年的红利期。每一个会写代码的人,产出可以乘以 4-8 倍。100 人的公司做 1000-10000 人的事,不再是比喻,是运营现实。
分支二:如果某家公司在"研究品味"上率先突破——
世界三的门槛被跨越。算力供给成为唯一瓶颈。大厂碾压式优势确立,创业窗口快速关闭。那一天到来时,你不会在新闻上看到标题——你会先感觉到工作中的某些环节突然不需要你了。
分支三:如果出现一次对齐事故(哪怕是小规模的)——
监管介入。行业被迫放缓。RSI 进展推迟 1-2 年,但不会停止——因为 incentives 结构没有变。大厂不会主动放下武器。这个分支的结果不是"RSI 会不会来",而是"晚来多久"。
Anthropic 自己有一个更微妙的观察,我觉得值得作为结尾。他们说,即使实现了完全 RSI,即使 AI 实验室以算力的速度运转,日常生活仍然受瓶颈制约——
"更多的智能无法在数十年的使用中学会一种药物的长期效果,无法比宪法规定的时间更早举行选举,也无法在一个周末把陌生人变成老朋友。"
RSI 不是世界末日,也不是万能解药。它是一个加速器——加速某些事情,但对那些本质上需要时间的事情,无能为力。
我们现在站在第四格,看向第五格。第五格会不会到、什么时候到、到了之后会怎样——这些问题的答案,取决于接下来 12-24 个月里,上面三个未解之谜中哪一个先被破解。
值得盯紧。
· · ·
10
附:参考资料
夜雨聆风