夜雨聆风这篇文章是 Anthropic Institute 今天凌晨发布的一篇长文，原题是 When AI builds itself。它讨论的是一个更底层的问题：当 AI 开始参与 AI 自身的研发流程，从写代码、跑实验、做评测，到未来可能参与构建下一代模型，人类应该如何理解这种递归自我改进的趋势。
下面是原文完整翻译，保留原文结构、图片和脚注，不做额外解读。
原文标题：When AI builds itself
原文副标题：Our progress toward recursive self-improvement, and its implications.
原文链接：https://www.anthropic.com/institute/recursive-self-improvement
在 AI 历史的大部分时间里，人类驱动着 AI 开发周期中的每一步。但在 Anthropic，我们正在把越来越多的 AI 开发工作交给 AI 系统本身，这正在加快我们的工作速度。
如果这个趋势继续推进，并且有足够的算力支持，它会指向一种能够完全自主设计和开发自己后继版本的 AI 系统。这被称为递归自我改进。我们还没有走到那一步，递归自我改进也不是必然会发生。但它可能会比大多数机构准备好的时间更早到来。
Anthropic Institute 正在使用公开基准，以及此前没有披露过的 Anthropic 内部数据，说明 AI 已经在加速 AI 系统的开发。只举一个例子：今天，Anthropic 工程师平均每季度交付的代码量，是 2021 到 2025 年期间的 8 倍。
本文讨论的技术趋势表明，AI 系统在未来几年会变得强大得多。这些趋势影响巨大。能够构建自己的 AI，将是技术史上的一个重大发展，它可能在科学、医疗等领域给世界带来巨大的好处。但完整的递归自我改进也可能增加人类失去对 AI 系统控制的风险。如果系统能够完全构建自己的后继版本，那么我们保护它们、监控它们、塑造它们行为的方式，都会变得重要得多。
来自外部世界的证据
AI 模型改进的速度正在加快。它们能够可靠独立完成的任务长度，大约每四个月翻倍一次，而此前的趋势大约是每七个月翻倍一次。2024 年 3 月，Claude Opus 3 能完成需要人类约 4 分钟完成的软件任务。一年后，Claude Sonnet 3.7 可以处理大约一个半小时的任务。再过一年，Claude Opus 4.6 可以处理 12 小时的任务。[^1] 如果这一趋势保持下去，今年需要熟练人员花费数天完成的任务，可能会进入 AI 系统能力范围。到 2027 年，AI 系统可能具备完成需要人类数周时间任务的能力。
同样的模式也出现在编程和研究基准上。基准衡量模型在某个给定领域中的表现，当模型取得接近 100% 的表现时，我们就说这个基准被「饱和」了。[^2] SWE-bench 是一个标准的真实软件工程测试：它把一个真实开源代码库和一个真实 bug report 交给模型，要求模型写出代码修改，修复问题，并通过项目自己的测试。两年时间里，模型从个位数低分提升到让这个基准趋于饱和。
CORE-Bench 测试的是一个模型能否复现已有研究，这是它们开展原创研究的前提。它会把一篇已发表论文背后的代码和数据交给 AI 模型，要求它重新运行所有内容，并确认自己能复现论文结果。AI 系统在 2024 年大约 20% 的情况下能够成功复现结果，15 个月后就让这个基准趋于饱和。METR 运行的基准衡量模型完成长时长任务的能力，它发现 Claude Mythos Preview 可以工作「至少」16 小时，并且处于「在没有新任务的情况下，METR 能够测量范围的上端」。
公开基准能说明这些系统的许多能力。但它们不能揭示 AI 系统对加速 AI 开发本身产生了什么影响。要了解这一点，我们需要来自 Anthropic 这类 AI 公司内部的直接证据。
来自 Anthropic 内部的证据
构建一个前沿模型，大体上需要两类工作。一类是工程工作：写代码、搭建基础设施、监督模型训练。另一类是研究工作：决定要运行哪些实验、解释返回的结果、弄清楚下一步应该尝试哪些想法。
在工程和研究两方面，图景是一致的。在工程上，Claude 可以接手一个定义不完整的问题，并弄清楚如何解决它；人类提供目标，但不再需要提供方法。在研究上，Claude 已经能够在执行一个定义清晰的实验时，达到或超过熟练人类的水平。不过，在工程和研究中，当涉及 Claude 自己判断应该选择什么目标时，仍然存在很大的表现差距。这就是今天的 AI 与未来那种能够自主设计自己后继版本的系统之间的差距。
在 Anthropic，员工随着经验增加，通常会接到更加开放、更加重要的任务。早期，他们执行别人已经指定好的任务，比如「导出按钮不能用了，请修一下」。有经验以后，他们会拿到一个目标，并自己设计方法，比如「调查一下为什么网络在高负载下会变慢」。到了最高级别，他们会决定哪些问题本身值得去做：「团队下个季度应该构建什么？」我们可以用 Anthropic 的内部数据来看 Claude 在处理这些不同类型任务方面已经走了多远。
Claude 编写了 Anthropic 相当大一部分代码。截至 2026 年 5 月，我们合并进 Anthropic 代码库的代码中，超过 80% 由 Claude 编写。[^3] 在 Claude Code 于 2025 年 2 月以研究预览版发布之前，这个数字还只是低个位数。这个变化也体现在每位工程师的输出量上。Anthropic 前四年，也就是 2021 到 2024 年，每位工程师每天合并的代码行数保持稳定；到了 2025 年，当 Claude 开始运行代码，而不仅仅是建议代码供工程师复制粘贴时，这个数字开始上升。2026 年，当模型开始在更长时间跨度上自主工作时，斜率再次变陡。下面的图展示了这两个拐点。2026 年第二季度，典型工程师每天合并的代码量是 2024 年的 8 倍。[^4] 这是因为许多代码由 Claude 编写，工程师负责指导和审查，而不是亲自敲出来。
图 1是每人每季度贡献代码量柱状图，时间从 2021 年第二季度到 2026 年第二季度。图中标注了 8 个不同模型的发布日期：Claude 1、Claude 2、Claude 3、Claude 4、Claude Code、Claude Sonnet 4.5、Claude Opus 4.5、Claude Mythos Preview 内部访问版，以及 Claude Mythos Preview。
需要说明的是，代码行数不是一个完美指标，因为它衡量的是数量，而不是质量。因此，2026 年第二季度每位工程师每天代码行数达到 8 倍，几乎肯定高估了真实生产力提升。不过，它确实显示出一种加速。在 Anthropic，我们不会因为一个人写了多少行代码而奖励他；团队成员产出更多代码，只是因为他们在用 AI 系统写更多代码。
代码行数的增长，与人们主观感受到的大幅生产力提升相吻合。在 2026 年 3 月一项覆盖 Anthropic 研究团队 130 名员工的调查中，受访者的中位数估计是：对于那些他们本来就会做的项目，如果使用 Mythos Preview，他们的输出约为完全没有任何 AI 模型可用时的 4 倍。[^5] 我们预计 3 月的真实提升幅度会略低一些。[^6] 但总体上，我们认为这一说法是可信的，并且与我们的其他观察一致：Anthropic 技术员工中的相当一部分，正在以比没有 AI 辅助时快数倍的速度完成核心工作。
我们还看到证据表明，Anthropic 的人们正在用 Claude 做一些原本根本不会发生的工作，比如构建探索性工具，以及处理长期被搁置的清理任务。例如，2026 年 4 月，Claude 交付了 800 多项修复，将某类 API 错误减少了 1000 倍。负责监督 Claude 的工程师估计，人类完成这项工作需要 4 年；修复别人的 bug 既慢又费力，而人类很难一次性把这么多陌生上下文装在脑子里。
Claude 写出的代码是「好」的，而且正在改进。「好代码」意味着两件事：它能运行，并且写法能让另一位工程师理解并在其基础上继续构建。就第一项标准而言，证据很清楚。在过去一年里，Anthropic 员工中途纠正、重定向 Claude，或接管 Claude 任务的比例一直在稳步下降，包括最复杂、最开放的任务。这里指的是那些没有清晰规格的问题，工程师自己也不确定答案会是什么样。下面的图展示了 Claude 随时间在不同难度任务上的成功率，可以看出这一点。Claude 写出的代码能运行。
图 2是Claude Code 会话在四类任务上的成功率折线图：琐碎任务、常规任务、实质性任务、开放式问题。图中包含 6 个不同模型：Claude Sonnet 4.5、Claude Opus 4.5、Claude Opus 4.6、Mythos Preview 内部访问版、Mythos Preview，以及 Claude Opus 4.7。
在最开放的任务上，Claude 的成功率在 2026 年 5 月达到 76%，比 6 个月前提高了 50 个百分点。举一个这一难度层级的任务例子：一次常规升级导致数以万计的训练任务崩溃。一位工程师只给了 Claude 一些文本内容和集群访问权限，就把它指向了这个线上事故。Claude 检查正在运行的任务，并一次测试一个环境设置，最终定位到一个触发崩溃的隐蔽调试标志，稳定复现了问题，并确认了修复方案。大约两小时内，Claude 交付了通常需要两到三天的工作。
第二项标准是写出另一位工程师能够理解并继续构建的代码。在这里，人类和 AI 之间仍然存在差距，但差距正在快速缩小。Anthropic 内部员工对此并没有完全共识，但很多人认为，在 2025 年底，Claude 写出的代码质量仍然低于 Anthropic 人类工程师写出的代码，而今天已经大致持平。我们预计它会在一年内超过人类。
这已经改变了 Anthropic 审查自己代码的方式。现在，提交到我们代码库的变更会先由一个自动化 Claude 审查器阅读，它会在合并之前寻找 bug、安全缺陷和其他问题。使用这个工具，我们做了一次回顾性分析，发现如果过去每次代码变更都由 Claude 自动审查，就能在它们进入生产环境之前，捕获导致 claude.ai 过去事故的大约三分之一 bug。写出这些代码的工程师，是世界上最擅长构建这些系统的人之一。Claude 现在正在发现他们漏掉的错误。
Claude 很擅长运行实验，以达到别人设定好的目标。每次 Anthropic 发布模型时，我们都会运行同一个测试：给 Claude 一段训练小型 AI 模型的代码，然后要求它在仍然通过相同正确性检查的前提下，让这段代码尽可能快。目标和成功指标是预先固定的，所以 Claude 的任务是通过重写代码、运行代码、计时并重复，找到加速方法。这是实验研究循环的一个微型版本。2025 年 5 月，Claude Opus 4 相对于初始代码平均实现约 3 倍加速。到 2026 年 4 月，Claude Mythos Preview 达到了约 52 倍。作为参照，一位熟练的人类研究员需要 4 到 8 小时才能达到 4 倍。[^7] 在研究工作流的这一部分，也就是在一个清晰定义的实验中优化步骤，Claude 在不到一年时间里从超级有帮助变成了超越人类。
Claude 也越来越擅长提出自己的实验。2026 年 4 月，Anthropic 发布了第一项演示，展示 Claude 运行一个端到端的开放式研究项目。由 Claude 驱动的智能体拿到了 AI 安全中的一个开放问题，大致是：较弱模型能否可靠监督较强模型？然后它们被放手去解决这个问题。这包括提出假设、测试假设、与并行智能体共享发现并迭代。这个任务有清晰的表现「下限」和「上限」：下限是弱监督者自己能做到什么程度；上限是强模型在正确答案上训练后能做到什么程度。两位人类研究员用大约一周时间恢复了这个差距的大约 23%；智能体在累计 800 小时中恢复了 97%，并使用了约 1.8 万美元算力。这项工作有一些注意事项；结果没有顺利迁移到生产规模模型上，而且仍然是人类选择了问题并创建了评分标准。但在这些边界内，所有实验都是由智能体自己设计的。设定方向是人类扮演的唯一有意义角色。
Claude 越来越擅长把研究会话引导向研究发现。我们检查了真实的 Claude Code 会话，这些会话发生在 2026 年 1 月到 3 月之间，当时 Anthropic 研究人员正在和 Claude 一起处理开放式调查问题，比如弄清楚为什么一次训练运行不断崩溃，或者为什么某个模型在基准上得分很低。在每个案例中，我们都找到一个研究人员绕路的时刻：他们追求了一个让会话偏离方向的路径，之后会话才最终回到正轨。然后，我们只把会话偏离之前的工作展示给不同 Claude 模型，并询问它下一步会做什么。另一个能够看到会话最终结果的 Claude，再判断 AI 或人类哪一方提出了更好的下一步。[^8]
因为我们有意挑选了那些我们知道人类选择存在改进空间的时刻，样本量 n=129，所以这不是模型判断和人类判断之间的同类对比。这些时刻提供了一组真实且有挑战性的情境：正确的下一步并不明显，人类的选择可以作为一个有用标尺，用来比较模型随时间变化的表现。按照这一指标，我们在 2025 年 11 月最好的模型 Opus 4.5 有 51% 的时间优于人类选择；到 2026 年 4 月，Mythos Preview 的比例提升到 64%。研究的日常工作，很大程度上就是由这些下一步决策组成的链条，因此这一指标与模型最终自己运行调查的能力有关。我们认为这个结果是一个早期信号，表明 AI 系统正在更擅长做出 AI 研究所依赖的那类判断。
图 3是「模型能否选择比人类更好的下一步？」的柱状图。图中展示了 9 个不同模型的表现：Claude 3 Haiku、Claude Sonnet 4、Claude Sonnet 4.5、Claude Haiku 4.5、Claude Opus 4.5、Claude Sonnet 4.6、Claude Opus 4.6、Claude Opus 4.7，以及 Claude Mythos Preview。
Anthropic 未来的工作会是什么样？
这些证据表明，在 AI 开发流程的每一步，人类角色都在收窄。一旦人类编写代码和 AI 编写代码的质量达到同等水平，人类就会完全停止写代码，转向只审查代码。但如果人类不能像 Claude 生成代码那样快速地审查代码，人类审查就会成为 AI 开发的瓶颈。同样，一旦 Claude 能够运行实验，问题就会转向「这些实验中哪一个值得运行？」简单来说：执行，也就是写代码、运行实验、产出结果，现在几乎不再消耗人类时间，尽管它仍然有算力成本。
目前，人类相对占优的一个领域是研究品味和判断，包括选择哪些问题重要、哪些结果值得信任，以及什么时候一种方法已经走入死胡同。
如果我们错了呢？
对于上面提出的证据，一个自然的反对意见是，仍然掌握在人类手中的工作，也就是选择要研究哪些问题，才是最重要的。没有这种判断，Claude 是一个有能力的助手，但还不是一个能够自己推动 AI 进步的系统。
今天的训练方法和架构是否能释放这种能力，这一点确实并不清楚。但 AI 很少是靠「灵光一现」推进的。AI 近代历史中有过几个这样的时刻，比如 Transformer 架构，或者混合专家模型，但改变范式的想法往往相隔数年才出现。在这些时刻之间，大部分进步都是渐进的：我们把某个东西放大，看看哪里坏了，修好它，然后再试一次。这恰恰是 Claude 现在擅长的工作流。爱迪生说，天才是 1% 的灵感和 99% 的汗水。但我们看到，汗水正在越来越多地被自动化。越来越清楚的是，推进前沿的大量工作都可以自动化；大规模研究进展主要取决于工具和资源，它们决定了你能多快运行实验、一次能运行多少实验，以及能多快拿到结果。
即使我们假设 Claude 永远不会拥有好的研究品味，对我们证据的保守解读仍然意味着复合加速。如果人类把大部分时间用于个位数比例的工作，也就是设定方向，而 Claude 处理其余部分，那就意味着每位工程师或研究员都在指挥比以前多得多的工作。我们看到的证据表明，Anthropic 的人们既移动得更快，也覆盖了更广的范围。实践中，这意味着 AI 已经让 Anthropic 比有效 AI 工具出现之前快得多。
较不保守的解读是，关于 Claude 研究判断力正在提升的早期证据，虽然今天仍然很窄，却表明这种能力也在进步。「研究品味」可能只是又一种 AI 能力，AI 系统一开始做不好，过一段时间就会擅长。我们已经在其他定性技能上看到过类似模式，比如 AI 系统能够解释一个笑话为什么好笑、展示心智理论，以及解决语言谜题。
可能的未来
接下来会发生什么，取决于两件事：趋势是否持续，以及如果它持续，我们选择做什么。我们至少可以想象三种未来场景。
趋势停滞，但今天的 AI 能力被广泛扩散。本文包含许多指数轨迹。但这些轨迹实际上可能会变成 S 曲线。我们可能正在接近曲线的弯折处，规模收益开始递减，线条先变直，然后变平。把一名合格研究员和一名伟大研究员区分开的判断力，可能不是通过扩大算力和数据等训练输入就能获得的能力。如果是这样，要突破这个瓶颈就需要一个新想法，比如一种取代当前所有前沿模型所用 Transformer 架构的架构方法。另一种可能是，AI 进步的约束在供应链上，而不是模型上：推进并扩散前沿可能需要比现在更多的能源和算力。芯片制造、电网扩张或互连带宽的速度可能成为约束，而不是智能本身。我们也不能排除 AI 生态系统遭遇外生冲击，从而显著放缓，比如算力或电力供应突然减少，其中任何一种都会拖慢进展，并让实验室的前向投资变得更昂贵。或者，也许我们还没有预料到其他进步障碍。即使模型能力冻结在今天的水平，我们也预计世界会发生重大变化。Project Glasswing 是一个早期信号：在最初几周里，Mythos Preview 在世界最重要的系统中发现了超过 1 万个高危和严重级软件漏洞，多到网络防御的瓶颈已经从发现漏洞转移到能否足够快地修补漏洞。而且，今天的模型扩散到更广泛经济中还处于早期，在那里，一家 100 人公司越来越能完成一家 1000 人公司的工作，因为每位员工都会站在一个智能体金字塔之上。我们把这一场景列入，是为了完整性，但我们不认为它很可能发生。到目前为止，我们能测量的每一种能力，包括那些感觉更「软」的能力，比如代码质量和开放式任务成功率，都沿着同一条曲线前进。我们还没有看到那条曲线弯折。在我们考虑的三种未来中，这一种会给政府和社会最多时间适应。我们更担心后两种，它们会更快发生，并留下少得多的准备空间。
AI 实验室继续看到复合效率提升。在这一场景中，AI 开发大幅自动化，但人类继续设定研究方向并判断结果。使用 AI 系统的组织会随着时间变得高效得多，所以我们可能会看到组织中每个人都拥有显著生产力倍增器。100 人公司可以完成 1 万人或 10 万人组织的工作。这会彻底改变知识工作和政府服务，但也可能被用于有害目的，从针对整个人群的威权监控，到能够针对每个人定制操纵并以任何人类团队无法匹敌的规模运行的影响力行动。Anthropic 这类公司中人类的角色会发生转变。人们会与 AI 系统合作，扩大研究规模并产生新洞见，他们会共同构建所需系统，以验证 AI 输出是否值得信任。我们在这里列出的证据表明，我们很可能正在走向这一场景。但加速流程中的某一部分，通常只是把瓶颈转移到别处：整体速度受那些尚未加速的部分限制。在计算领域，这被称为 Amdahl 定律，同样的逻辑也适用于组织。Anthropic 已经遇到了 Amdahl 定律的一个典型表现：当我们开始在组织内推动更多代码时，人类代码审查成了新的瓶颈。我们也在工程之外遇到了这种摩擦。由于 Anthropic 员工与高能力模型协作，新的想法、计划、工具和模拟大量涌现，远远超过了我们能够推进的容量。组织发现并修复这些瓶颈的速度，可能会是一种随时间提升的技能，也可能会成为任何组织最重要的技能。
AI 系统本身具备完整递归自我改进能力，并开始构建自己的后继者。如果推进能力的技术趋势持续下去，并且 AI 系统能够发展出变革性人类创造力所固有的能力，那么 AI 系统设计并改进自身就是有可能的。在这个世界里，AI 开发进展的速度完全由可供 AI 系统使用的算力，或者在算法训练或推理中发现各种效率改进的速度决定。人类在它们开发中的角色会大幅缩小，很可能把大部分精力转向监督、验证和核查一个由 AI 系统运行并不断扩大的「虚拟实验室」。我们预计，能够自动化进行 AI 研究和开发的系统，会拥有可迁移到其他科学领域的技能，使它们开始彻底改变其他领域。这个未来中，对齐问题会如何解决，或者不能解决，是我们最不确定的地方。模型可能会证明自己足够对齐，并且在研究品味上足够强，能够发现并实现我们尚未达到的新解决方案。它们也可能足够明智，在必要时停止开发。另一种可能是，今天模型中少见的不对齐现象，会随着模型构建自己的后继者而复合，变得更频繁但更难理解，直到我们失去对它们的控制。我们可能无法构建、整合并验证那些我们需要用来理解自己究竟处在哪条趋势线上的工具。我们对这个世界会是什么样没有很好的直觉，因为我们当前的经济是由人类和人类构建的工具驱动的。从性质上看，一个由快速递归自我改进驱动的世界，可能会随着自我改进模型的能力完全超越人类，并且模型在更广泛经济中扩散，而变得由这个自我改进模型主导。如果人类劳动不再具备竞争力，很难预测经济会是什么样。即使模型开发变得完全自动化和递归，我们也无法预测这对大多数人的日常生活意味着什么。Amdahl 定律在这里同样适用。递归智能可能会让《Machines of Loving Grace》中描绘的许多好处得以实现，在某些领域中会很快。我们预计具身智能，也就是机器人，可能会很快跟随递归智能，并沿着类似路径，在成本下降的同时获得递增收益。更强大的智能可能帮助我们更快地在物理世界中建造东西，运行更有成效的救命药物临床试验，并发展新的协调形式。但仅仅实现递归改进，并不意味着工业生产如何发生、社会如何组织、市场如何运作会立刻改变。更多智能无法通过几十年的使用来学习一种药物会产生什么效果，无法让选举早于宪法规定的时间举行，也无法在一个周末把陌生人变成老朋友。对大多数人来说，这个未来的体感速度仍然会由瓶颈决定，即使上游实验室以算力速度运行。递归智能越来越快地构建自己，与人类、关系和治理组成的世界相碰撞，这也是这个未来中我们无法预测的另一部分。
我们应该做什么？
如果有可能有效放慢这项技术的发展，让我们有更多时间处理它的巨大影响，我们认为这很可能是一件好事。但如果放缓只是让最不谨慎的行动者在技术上追上来，它可能会让所有人都更不安全。没有全球协调机制，公司和政府将不得不在竞争和地缘政治压力下，就安全问题做出艰难决定。
我们认为，世界拥有放慢或暂时暂停前沿 AI 开发的选项会是好事，这能让社会结构和对齐研究跟上技术发展。Anthropic Institute 将与许多其他方合作开展研究，并采取行动，帮助构建一种可信放缓或暂停所需要的系统。这些系统会使前沿 AI 开发者能够验证全球其他方确实已经停止或放缓，并且恶意行动者不能借协调放缓的名义秘密抢跑。如果这些系统存在，我们预计，如果其他处在或接近前沿的开发者也以可验证方式这样做，我们会放慢或暂时暂停。
有意义的放缓或暂停，需要多个资源充足、处在或接近前沿的实验室，在多个国家中同意在相同条件下停止。它还要求每一方都能够验证其他方确实已经停止。由于 AI 系统的独特特征，在这个军备控制问题中，可检测性，这是一种低于可验证性的标准，比其他技术更具挑战。训练运行比导弹发射井更容易隐藏，它们的输入是通用的，而且秘密背叛的激励巨大，因为如果其他人暂停而某一方继续，继续者就可能继承领先地位。可信暂停还必须说明什么会触发暂停，什么会解除暂停，以及由谁裁决。
原则上，这一切并非必然不可能。世界曾为其他复杂技术建立过验证制度，例如《中程核力量条约》。但这些制度花了几十年时间来建设基础设施和信任。我们没有那么长时间。相比之下，单个实验室单方面暂停可以立即做到，但效果要小得多：它会改变谁是领先者，却不会创造当前缺失的更广泛审议过程。
在未来几个月，我们将组织对话，让政策制定者、研究人员、公民社会和其他 AI 公司共同帮助回答本文提出的一些问题，尤其是围绕完整递归自我改进，以及如何为协调和审议创造更好的选项。我们会发布这些对话的结果。共同研究这些问题的窗口期就在现在，AI 公司之外的人也应该参与这场审议。
Marina Favaro 和 Jack Clark 共同撰写了本文，Santi Ruiz 提供编辑支持。Shan Carter、Romello Goodman 和 Nikki Makagiansar 基于 Brian Calvert 和 Jun Shern Chan 收集的数据制作了视觉内容。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny 和 Avital Balwit 提供了反馈。
脚注
[^1]: METR 的关键指标会告诉你，在一组任务上，AI 系统能够达到 50% 可靠性的时间跨度，不过在 80% 可靠性下，趋势线看起来也是一样的。
[^2]: 尤其是当基准转向更开放的形式和更困难的任务时，例如奥林匹克级数学题，基准常常会因为题目和答案集中的错误而在低于 100% 的地方饱和，比如题意含糊的问题陈述和无法解决的问题。
[^3]: Anthropic 领导层曾公开估计，我们 90% 或更多代码由 Claude 编写，包括脚本和实验代码。我们所说的超过 80% 数字，衡量的是合并到生产环境中的代码行中，可以归因于 Claude 的比例。这是一种在两个方面更保守的测量：我们的归因流水线存在缺口，而未归因于 Claude 的代码行中也包括自动生成代码和其他并非人类手写的产物。
[^4]: 代码生产的激增正在给所有人共享的基础设施带来压力。GitHub 是世界上大多数软件构建所在的平台，2025 年全年大约有 10 亿次代码提交；到 2026 年中，它每周有 2.75 亿次提交，按这个速度全年大约会有 140 亿次提交。该公司的 COO 曾表示，为了跟上需求，他们正在「极其努力地」提升容量。
[^5]: 关于这项调查方法的更多细节，见 Claude Opus 4.7 System Card 第 2.3.5 节。
[^6]: 许多受访者可能没有仔细思考如何处理问题定义中的各种偏差或微妙之处，而 METR 最近的研究显示，开发者对 AI 生产力提升的估计可能会被高估。
[^7]: 加速幅度有多大，很大程度上取决于初始代码还留下多少改进空间，不应被理解为真实世界训练速度提升。因此，这里的绝对倍数不是应该锚定的数字。更有信息量的是这个实验设置所允许的同类比较，包括模型之间的比较，过去一年从约 3 倍到约 52 倍，以及与熟练人类的比较，同一任务上熟练人类在 4 到 8 小时内达到约 4 倍。
[^8]: 作为对评判偏差的检查，我们在另一组 127 个时刻上运行了同样的测试，在这些时刻中，人类的下一步已经很强，不同于原始集合中人类方向还有改进空间的情况。在那里，模型建议被判断为更好的比例只有大约 20%。
