乐于分享
好东西不私藏

当 AI 会生孩子了

当 AI 会生孩子了
Anthropic 发了一篇新文章,叫《When AI builds itself》,我把它翻译成中文《当 AI 会生孩子了》
作者是 Marina Favaro 和 Jack Clark。
Marina Favaro 是 Anthropic 研究院的负责人,主要职责是推动公众对 AI 的探讨,就像是 Anthropic 的宣传部长了。
Jack Clark 是 Anthropic 的联合创始人兼公共政策主管,再加入  Anthropic 之前,Jack 是 OpenAI 的公共政策主管,在加入 OpenAI 之前,Jack 是一名科技记者。
长话短说,我将这篇文章最核心的内容总结了一下。
摆数据,吹牛逼阶段
  • 截至 2026 年 5 月,Anthropic 合并的代码,超过 80% 是 Claude 写的
  • 2026 年第二季度,普通工程师每天合并的代码量是 2024 年的 8 倍。

  • Claude Opus 4.6能处理12小时的任务

  • 工程师仅负责指导和审核,而非亲自敲写

  • 在 2026 年 4 月,Claude 提交了 800 多项修复,将某一类 API 错误减少了 99.9%,负责 Claude 项目的工程师估算,人类完成这项工作需要四年时间;

  • 在最开放的任务上,Claude 在2026年5月的成功率达到了76%,六个月内提升了50个百分点。

  • 大约两小时内,Claemo 就完成了通常需要两到三天的工作

  • Claude 越来越擅长将研究研讨引导至研究结论

他们认为
  • 到2027年,AI系统或可完成人类耗时数周的任务

  • 未来版本的 Claude 可由 Claude 自身持续进行优化升级

  • 有证据表明,在人工智能开发流程的每一个环节中,人类的作用都在不断缩小。

  • 一旦人类编写的代码与人工智能生成的代码质量达到同等水平,人类将彻底停止编写代码,转而只负责审核代码。

  • 如果人类审核代码的速度赶不上 Claude 生成代码的速度,人工审核将成为人工智能开发的瓶颈。

  • 人类比较优势的一个领域是研究品味与判断力,包括判断哪些问题至关重要、哪些结果值得信赖,以及某种方法何时会走入死胡同。

他们描述可能的未来

未来一:AI 发展陷入停滞,但AI 已广泛普及

因为制约AI发展的约束性因素可能是能源和算力短缺。

未来二:AI 持续实现效率的增长

百人规模的公司能够完成万人甚至十万人规模组织的工作。但也可能会导致政府利用 AI 对民众进行精准式操纵。

而我们现在很可能正在走进这个未来,根据阿姆达尔定律,加快流程某一部分的速度,往往只会将瓶颈转移到其他地方:整体进度受限于那些尚未提速的环节。

未来三:AI 开始自我进化

AI 能够开发出的东西超出了人类的范围,AI 有可能对自身进行设计和优化。

在这个世界里,AI 发展的进步速度将完全取决于算力,人类的作用就是转向监督、验证与核验。

在这个未来,人类的劳动不再值钱,那经济发展也无法想象了。

他们建议:我们该做点什么?

  • 暂停 AI 开发,让社会能跟上技术的脚步。Anthropic 愿意和其他大模型厂商构建可信的放缓或暂停举措所必需的相关系统,并且监督有人偷偷的抢先发展 AI。

  • 建立类似《中程核力量条约》一样的核查机制

最后,我认为

这就是 Anthropic 在 IPO 之前的一次宣传稿,主要宣传两个方面:

  • 我很有实力,我的模型很强大

  • 我有责任,我愿意为人类进步而做出牺牲

看这个的时候,我就突然有种很强烈的熟悉感,就像在看 90 年代美国亮肌肉时候的宣传片一样:我很强,但我愿意保护你们。

一开始我也介绍了两位作者,都是记者出身,完全没有技术背景。

因此,我认为这就是一篇彻彻底底的宣传稿,毕竟 Anthropic  说到底还是商业公司,还是一个资本主义国家的商业公司!

相关学习资料