乐于分享
好东西不私藏

AI开始造AI了,Anthropic却喊"停"

AI开始造AI了,Anthropic却喊"停"

哈喽 !我是玩转AI-Agent,感谢您的关注! 恭喜你没有错过AI的风口浪潮,这里专注于AI探索和学习,目的是让更多人用上AI、用好AI、与AI一同加速成长;提升我们的认知、缩小信息差,给生活加点“智能料”

一向以安全示人的Anthropic发了封公开信,标题很耸动:必要时,我们会停止AI研究

官方原文链接

https://www.anthropic.com/research/when-ai-builds-ai
核心就一个意思:AI已经开始自己写代码、自己改进自己了,而且速度越来越快。
再不管,可能要失控。

巧的是,一周前Anthropic刚宣布启动IPO,估值9650亿美元,把老对手OpenAI都超了。

一边玩命踩油门,一边大声喊刹车。这波操作,是真担忧还是假营销

先看几个信里的硬核数据,每一个都挺颠覆认知。

工程师人均季度交付代码量,是2021-2025年的8倍

一个工程师过去干一年的活,现在一个半月就干完了。

不是人变卷了,是AI帮手太强了。

Anthropic代码库里,超过80%的代码由Claude生成

造AI的公司,已经在用AI造AI了。

而且AI干的活,比人还多。

更可怕的是加速度:

高难度任务成功率,6个月涨了50个百分点

Anthropic说,AI能独立完成的任务时长,每4个月翻一番。

之前是每7个月,现在还在提速。

现在AI还需要人告诉它写什么、怎么写。

但按照这个速度,用不了多久,可能人类只需要说一句"我想要个更强的AI",它就能自己写代码、自己训练、自己迭代,把下一代AI造出来。

这就是传说中的“递归自我改进”

也是很多人担心的技术奇点的起点。

Anthropic自己也承认:"我们还没到那一步,但它可能比大多数人准备的要早。"

一边喊刹车,一边踩油门,谁在演戏?

公开信一出,评论区直接吵翻了。

一派说:狼真的要来了。

毕竟Anthropic一直是AI安全圈的"扛把子",创始人就是因为和奥特曼理念不合,才从OpenAI出走的。

圈内有个说法:连最保守的人都喊危险了,那可能真的危险了。

有程序员评论:"今年看着Claude的能力疯涨,从写小函数到搭完整系统,只有天天用的人才知道这个速度有多恐怖。"

另一派说:别演了,IPO营销稿而已。

时间点太巧了

6月1日刚提交IPO,估值9650亿美元,没过一周就发公开信说AI太危险。

网友吐槽很扎心:"告诉全世界AI能造出更好的AI,这简直是史上最好的融资演讲稿。""一边喊停一边融资,身体比谁都诚实。"

我的判断:AI自我改进的速度,确实比大多数人想的快。

别觉得80%很夸张。

你去问问现在的程序员,有多少人离了Copilot就不会写代码了?

不是会不会的问题,是不用就干不过别人。

AI Agent的本质,就是把"人指挥AI干活"这件事自动化。

从写一行代码,到写一个功能,再到写一整个系统,这个边界推得比谁都快。

第二,喊刹车和踩油门,本来就是一回事。

为什么巨头都在喊AI安全?

不是想放慢,是想制定规则。

跑第一的人,最希望有个"公平竞赛规则"把后面的人拦住。

喊安全,本质是建护城河。

你细品:呼吁"全球AI减速",受伤的是小公司小国家,受益的是已经跑在前面的巨头。

所以真相是:AI自我改进在加速是真的,巨头想借安全巩固地位也是真的。两者不矛盾。

聊回我们最关心的:这件事,对AI Agent行业意味着什么?我觉得,它说明我们之前对Agent的想象,还是太保守了。

大多数人理解的Agent,是"更聪明的工具":你给任务,它帮你查资料、写文档、处理杂事。

本质还是高级打工仔。

但如果AI真能自我改进,Agent会经历三次跃迁:

第一次跃迁:从"工具"到"员工"

这是我们正在经历的阶段。Agent不再是你问一句答一句的工具,而是能独立承担一整块工作的角色。

比如你说"做个季度营销方案",它会自己查数据、写方案、做PPT、甚至安排会议。有自己的工作流,知道遇到问题该找谁。

微软Scout、豆包专业版、Kimi Work,走的都是这条路。

第二次跃迁:从"员工"到"管理者"

当单个Agent能力足够强,下一步就是多Agent协同。

一个主Agent拆解任务,分配给不同子Agent执行,自己只做决策和验收。

就像一个管理者,不用自己写代码做设计,但能带一群人把项目干成。

现在的Agent Swarm、多智能体框架,就是在往这个方向走。

未来的公司,可能真的只有几个核心决策者,剩下的全是AI员工和AI管理者。

第三次跃迁:从"管理者"到"创造者"

这是最疯狂、也最接近"递归自我改进"的阶段。

当AI足够了解自己的工作原理,它就能自己改进自己

写更好的代码、设计更优的架构、训练更强的模型。不需要人告诉它怎么做,它自己就能迭代升级。

到那个时候,人类的角色就从"教练"变成了"投资人":定目标、给资源,剩下的AI自己来。

我们以为Agent的终点是替代人类工作,
但真正的终点,可能是AI替代人类创新。

当然,这一天还早。也近在眼前。

现在的AI,更多是在人类知识框架里做组合优化,还做不到真正的从0到1创造。

但趋势已经很明显了:AI的能力边界,正在以比我们预料快得多的速度往外扩。

我们也无需焦虑,我们都是被时代推着走。

Anthropic这封公开信,不管是真心警告还是营销造势,有一点是确定的:

AI的发展速度,比大多数人想象的要快得多。

一年前,我们还在讨论"AI会不会写代码";今天,80%的代码已经是AI写的了。

再过一年呢?再过三年呢?

没有人知道答案。

但可以肯定:站在岸边看热闹的人,迟早会被浪潮拍在沙滩上。

悲观者正确,乐观者赚钱。AI时代,尤其如此。