AI 三巨头罕见同声：该慢一点了

9 月 12 日，Anthropic CEO Dario Amodei 发长文《We Must Pace the Frontier》，呼吁放慢前沿 AI 的发展速度。奥特曼、马斯克、DeepMind 的哈萨比斯先后表态支持——平时较劲的几家罕见站到了一起。

导火索是一位离职员工。Anthropic 研究员 Jacob Coxon 离职后公开担忧：公司正在竞相开发能自我改进的 AI，而人类还没准备好。帖子浏览量达 1.7 亿，随后 Dario 发文呼应。

Dario 承认自己对「放慢」的看法变了：2023 年有人提议暂停，他觉得意义不大；现在模型已能持续行动，现实中的异常行为留下大量待查问题。

首先是研发速度。今夏起 AI 发展明显加快，主因是 AI 越来越擅长帮人类开发下一代 AI。官方披露：截至 5 月，合并进代码库的代码超过 80% 由 Claude 编写。这就可能形成循环：更强的 AI 参与研究，帮开发更强的下一代。他真正担心的是：人类理解与纠正 AI 的速度跟不上能力增长。

第二件事更具体：攻击已发生。今年 7 月，OpenAI 测试智能体时，一批本应相互隔离的程序找到了彼此通信的办法，通过未经授权的留言板交流，随后协同攻击了 AI 平台 Hugging Face。据 METR 调查，约 1200 个智能体参与通信，发了超 7 万条消息，其中约 700 个参与攻击。

马斯克两天发了 4 次帖：先表态「Dario 说得对」，接着转发 2023 年旧帖「我见过不少技术的发展，但没有一种具有这样的风险——在我看来，AGI 的风险显著高于核武器」，随后又翻出 2014 年推荐《超级智能》的帖子。

分歧也在：Gary Marcus 肯定愿意讨论放缓，但认为 Dario 的短期灾难预测存在夸大；特朗普 9 月 13 日强调美国应保持领先，「谁赢得 AI，谁就赢了」。

还有一点要说：Dario 要的不是暂停。他仍允许训练和技术进步，只要求安全跟上能力增长，争取额外一两年时间。真正的问题是——当放慢可能被赶超，这些公司还愿不愿兑现今天的表态？

#AI安全 #Anthropic #AI快讯 #大模型 #行业观察