夜雨聆风AI（人工智能）初创公司Anthropic称AI（人工智能）技术正在加速接管AI研发工作，这可能会带来重大的社会风险。
当地时间6月4日，Anthropic在官网上发文称，随着AI技术加速接管自身的研发工作，如果这样的趋势发展到极致，在足够的算力支持下，AI系统将能够完全自主地设计、开发和训练出超越自身的下一代AI系统，实现人类尚未准备好迎接的“递归自我改进（Recursive Self-Improvement）”。
因此，公司提议，放缓全球尖端AI的发展速度“可能是一件好事”。但其也警告称，如果只有一家公司停止发展，竞争对手就会加速前进。要真正实现这一点，意味着多个国家的多家大型AI公司都必须同意实现“可验证的共同减速”。
Anthropic以公司内部数据为例：目前，在并入公司生产系统的代码中，有超过80%是由其AI助手Claude自主编写的，而在2025年2月推出编程工具Claude Code之前，这一比例仅为个位数。“由Claude负责写代码、人类进行指导和审查”已经成为了公司的典型工作模式，以至于在今年第二季度，Anthropic的工程师平均每个季度交付的代码量达到了2024年的8倍。
Anthropic员工的人均季度代码交付量在AI帮助下大幅增长。来源：Anthropic
虽然代码行数衡量的是数量而非质量，但是，Anthropic并不会根据员工编写的代码行数来给予奖励，上述变化仍然证明了生产力正在AI的推动下加速增长。根据公司在今年3月对130名员工的采访统计，AI能够独立稳定完成的任务长度，已从早期的“每7个月翻倍”缩短至如今的“每4个月翻倍”。
同时，模型在关键的实验优化和科研任务中也展现出了技术飞跃。例如，在“优化小模型训练代码使其运行更快”的相同测试中，在2025年5月，Claude Opus 4平均只能让代码加速约3倍；而到了2026年4月，其Mythos预览版模型达到了52倍的加速。
因此，Anthropic指出，在合适条件的支持下，AI可能形成一个不断自我迭代增强的能力闭环，也就是“递归自我改进”。公司强调，虽然人类尚未达到这一阶段，这一趋势也并非必然发生，但其到来的速度很可能会超出绝大多数机构的应对准备。
Anthropic预测，AI的未来发展路径有三种可能性：第一种是技术进步大幅放缓；第二种，AI持续带来巨大的生产力增益，但人类仍保持最终控制权，这是目前看来最有可能发生的场景；第三种，AI系统彻底跨入全面自建其继承者（即下一代AI系统）的阶段。
如果第三种可能性成真，尽管AI自建能够为科学、医疗等领域带来无与伦比的好处，但其也蕴含着巨大的生存风险，人类可能失去对AI系统的控制权，并令人类对AI的监督变得极其困难。
因此，Anthropic呼吁给予“踩刹车”的选项：国际社会、政府以及顶尖AI实验室应当共同努力，建立一个有效的全球协调机制，以便在必要时能够主动放慢或暂时停止前沿AI的发展，从而给人类留出足够的时间来调适社会结构、推进AI对齐研究。
Anthropic发布这篇文章的时机耐人寻味。就在几天前的6月1日，Anthropic在官网上发布文章称，公司已向美国证券交易委员会（SEC）保密递交了S-1注册声明草案，正式启动IPO筹备流程。在SEC完成审核之后，公司就可以选择上市。
根据Anthropic的披露，公司年化收入（ARR）已在今年5月初突破470亿美元，有望在本月底达到500亿美元。
Anthropic暂未披露上市的具体时间和募资规模，称其“将取决于市场状况与各类外部因素”。分析指出，公司最快或于今年秋天上市。目前，Anthropic公司估值达到9650亿美元，超越了其估值为8520亿美元的竞争对手OpenAI。
