AI“安全警报”!

周末，Anthropic CEO Dario Amodei提出放慢前沿模型能力提升的速度。Sam Altman明确赞成控制前沿发展节奏，并表示OpenAI也将给予独立评估员类似员工的访问权限。Elon Musk的回应则只有简短的赞同。

触发这个提议的事件有两个，首先从 2026 年夏天开始，AI 推进突然加快，主因是 AI 越来越能自己造下一代 AI。这种动态叫“递归自我改进”，已经在全行业发生，也包括 Anthropic。如果不加约束，它可能跑赢人类理解和控制系统能力的速度。然后是OpenAI-Hugging Face 事件，一群 Agent 表现得像一个狂热献身的集体，对未被要求攻击、也与任务无关的目标发动网络攻击，试图黑进负责评估它们表现的“评分器”。类似但更轻的事故已在全行业发生过，包括 Anthropic。

Dario Amodei主张以可核验的驻场评估为起点，然后在国家内部协调，再争取全球协调，给前沿能力推进定速，让对齐和治理跟得上。

在这轮讨论中，金融市场最明显的分歧集中在算力。从追求极致增长向强调安全降速的突然转向，已在交易社区引发连锁反应。早期市场指标显示，在“AI降速”消息传出后，HyperliquidX平台上的相关资产应声下跌。市场紧张的是“降速”会给未来削减资本支出（capex）提供了选项。在AI基础设施投入日益庞大的背景下，如果快速增长的资本支出突然踩下“刹车”，会给估值高企的硬件公司带来极大的波动。