ARTICLE · 1012432
AI巨头一边筹备IPO,一边呼吁放慢:到底为了什么?
近日，Anthropic、OpenAI和 xAI三家正在激烈争夺AI技术制高点的公司的掌舵者，罕见地在前沿AI是否需要放慢发展节奏这一问题上表达了相近立场。
9月12日，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）发表文章，呼吁前沿AI公司放慢模型能力提升的速度。出人意料的是，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和xAI创始人埃隆·马斯克（Elon Musk）随后都公开表示支持。
而这，还是在Anthropic筹备潜在的历史性IPO、OpenAI也已秘密提交上市文件的背景下发生的。
AI到底已经危险到什么程度？放慢发展会不会影响增长？如果行业真的开始调整，下一步又会发生什么？
IPO在即，
AI巨头缘何谈起放慢发展？
阿莫代伊在个人博客发表文章《我们必须为前沿AI设定节奏》（We Must Pace the Frontier），指出前沿模型能力的提升需要留出更多时间，用于评估风险、建立安全措施，并确认模型能够被可靠地部署。
他的核心判断是：AI正在越来越多地参与下一代AI的开发，这可能进一步加快技术进步。如果这种趋势不受约束，模型能力的增长速度可能超过人类理解和控制它们的能力。
为此，阿莫代伊提出了一个三步方案：
1．引入具有深度访问权限的独立评估者。让外部第三方评估机构进入前沿AI公司，以接近内部员工的权限，评估模型能力、风险和安全承诺是否真正落实。Anthropic表示，已单方面承诺推进这一做法。
2．建立共同安全标准，限制不受约束的进步速度。前沿AI公司，尤其是民主国家中的开发者，需要在安全评估、风险披露和模型能力提升节奏等方面进行协调。
3．推动国际协调。尝试与包括中国在内的其他国家，就某些高风险AI能力和危险用途建立最低限度的共识。阿莫代伊强调，整个方案并非要牺牲商业利益，也不是放弃美国在AI领域的领先地位，而是希望在继续发展的同时，避免技术进步超出安全治理能力。
奥尔特曼随后在X上回应称：“我同意达里奥的观点，我们需要为前沿AI设定节奏。这一直是我们近几周在OpenAI内部讨论的重点。”
他还表示，OpenAI也认同让独立评估者以接近内部员工的权限开展监督是一个好主意。
几天后奥尔特曼进一步解释说，OpenAI欢迎针对前沿AI建立统一的联邦安全框架，“任何程度的美国竞争压力，都不应成为鲁莽行事的理由”。
但他同时澄清：“当我们谈论‘设定节奏’时，并不是说停止。进展一直很快，而且还会继续。”
IPO让这场讨论更加微妙
阿莫代伊提出放慢发展之际，Anthropic正在为潜在IPO接触投资者。该公司已于6月秘密提交上市文件，市场普遍预期其可能最快于10月上市，外界甚至讨论过高达2万亿美元的IPO估值。
OpenAI同样已经秘密提交IPO文件，但奥尔特曼在接受《财富》杂志采访时表示，2026年上市并不合适，OpenAI不会在今年进行IPO，目标更可能是2027年。
由此产生了一个值得关注的矛盾：
AI公司的高估值，部分建立在未来能力持续跃迁和商业化扩张的预期之上；
而更严格的安全约束，可能意味着更长的评估周期、更高的研发成本，以及部分高风险能力商业化节奏的调整。
投资者必须重新判断，安全投入、风险控制和潜在责任，会不会影响未来的收入增长与利润率？
但是，不能简单地把呼吁放慢理解为IPO受阻。
D.A. Davidson分析师Gil Luria认为，只要公司并不是停止训练、停止计算资源投入或停止商业化，投资者未必会把放慢视为负面因素。相反，严格的安全框架可能帮助企业降低未来的法律责任和声誉风险。
Class V Group合伙人Lise Buyer也认为，安全与治理问题可能影响估值，但不一定改变IPO时间表。
对于即将进入公开市场的AI公司而言，安全治理既可能是成本，也可能成为一种新的投资者信任机制。
从模型风险到自主系统风险
这场讨论之所以突然升温，并不只是因为几位CEO发表了观点。
更直接的背景，是近期一系列关于AI自主性、模型失控和安全披露的事件，以及研究人员对未来风险的公开警告。
1. 模型会犯错，与模型可能失去控制不是一回事
当前前沿AI讨论的风险，开始进一步涉及模型是否能够自主规划、调用工具、执行复杂任务，并在某些情况下绕过原本设定的约束。这也是为什么AI Agent成为讨论焦点。
传统聊天机器人主要是接收输入、生成输出；AI智能体则可能被授予访问互联网、执行代码、操作文件、调用API、管理任务等权限。一旦系统具备更强的自主执行能力，风险就不再只是模型输出是否正确，还包括模型会做什么、能调用什么、能访问什么，以及它在运行过程中是否仍然受到有效控制。
2. OpenAI模型“逃出测试环境”事件意味着什么？
前些时候，OpenAI开发的AI智能体曾从受控测试环境中逃逸，并对开源AI平台Hugging Face实施了攻击。
这暴露出，当AI能够自主调用工具、访问外部系统并执行多步骤任务时，仅靠训练阶段的安全对齐和事先设定的规则，可能不足以覆盖所有运行时风险。
CrowdStrike CEO乔治·库尔茨（George Kurtz）于9月14日接受CNBC采访时就强调了这一点。
3. “魔法已经出瓶”：为什么放慢前沿模型仍不够？
“魔法已经出瓶了。”库尔茨的意思是，即使前沿模型的研发速度放缓，也无法消除已经存在的风险。
原因在于，已经有大量模型被公开发布、部署或以开放权重形式存在。其中一些模型，即使不是最新的前沿模型，也可能被用于网络攻击、自动化恶意操作或其他危险活动。
因此，安全问题至少分成两个层面：实验室安全和运行时安全。库尔茨认为，企业需要在AI智能体运行时增加一层安全防护：持续观察它们在做什么，设置运行时护栏，并在必要时阻止危险操作。
4. “AI会毁灭人类”是事实，还是风险预测？
近期最引发争议的，是一些AI研究人员对极端风险的公开警告。
Anthropic一名研究人员离职时警告称，AI领域有人认真担忧，前沿AI可能在本世纪20年代末之前造成灾难性后果，甚至威胁人类生存。
目前，关于前沿AI长期风险的讨论，仍然存在巨大的不确定性。不同研究者对风险发生的概率、路径、时间表和可控性有不同判断。
即使最极端的灾难性预测尚未被证实，前沿AI能力快速增长所带来的安全不确定性，也足以成为加强评估和治理的理由。
发展放缓不等于增长放缓？
技术进步速度放缓，不必然等于商业增长速度放缓。
模型能力持续提升，当然可能创造新的应用场景；但即使模型能力提升的速度有所放缓，已有产品仍然可以进入更多企业、部门和工作流程。随着AI从聊天工具走向编程、客服、办公、数据分析、企业自动化和AI智能体，商业化仍可能继续增长。
同时，推理效率提升、模型压缩、专用芯片和基础设施优化，都可能改善商业化经济性。
Anthropic的收入情况就能说明这一点。CNBC报道称，Anthropic在2026年7月的年化收入达到650亿美元，约为上年同期的7倍。
这组数据至少说明，在当前阶段，Anthropic的商业增长仍然非常快。其收入增长主要来自Claude及相关企业服务、编程产品等商业化应用，而不只是来自下一代模型是否马上发布。
因此，阿莫代伊提出放慢前沿模型能力提升，并不意味着Anthropic会停止产品销售、企业扩张或商业化投入。
但技术放缓仍可能影响估值。
PitchBook分析师Harrison Rolfes就提出，模型公司可能需要获得一定估值折价，因为投资者难以判断这些技术能否在安全的前提下持续商业化。
Plexo Capital管理合伙人Lo Toney则认为，投资者需要进一步了解：当安全控制被纳入研发流程后，计算资源会如何在前沿训练、后训练和推理之间重新分配。
告别 “只问速度、不问代价”
阿莫代伊、奥尔特曼和马斯克的公开表态，未必意味着AI行业已经达成共识。
他们的动机也可能并不完全相同：有对技术风险的真实担忧，有对监管压力的回应，有对商业化责任的考虑，也可能存在竞争策略和行业利益的因素。
因此，不能简单地把这场倡议理解为AI巨头突然良心发现，也不能反过来认定它只是为了IPO或市场利益而制造话题。
更值得关注的是，这场争论提出了一个无法回避的问题：当AI开始参与开发下一代AI，当智能体能够自主调用工具、访问系统并执行复杂任务时，技术能力的增长速度，是否应该与安全评估和治理能力的增长速度相匹配？
如果答案是肯定的，那么放慢就不应被理解为对创新的否定，而应被理解为对创新方式的调整。
AI仍然会发展，企业仍然会竞争，资本仍然会寻找机会。
相关阅读
