黄仁勋接起特朗普的电话,AI的刹车之争走向台前

9月14日，英伟达首席执行官（CEO）黄仁勋（Jensen Huang）出现在洛杉矶All-In Summit（All-In峰会）的访谈舞台上。对话进行到一半，他接到了美国总统唐纳德·特朗普（Donald Trump）打来的电话。

黄仁勋告诉特朗普，自己正和几位主持人面对着现场数千名观众。台上的几个人手忙脚乱地打开免提，把手机凑近麦克风。特朗普在电话那头打趣道：一个能设计出世界上最复杂芯片的人，竟然不知道怎么把手机接到扬声器上。

图｜黄仁勋在All-In Summit现场（来源：All-In Summit）

在电话打进来之前，现场恰好在讨论AI是否应该减速。

特朗普很快切入正题。他把围绕AI和数据中心的部分反对声音斥为一场“骗局”，称数据中心将是未来二三十年的石油，能让各州和个人变得富有。他认为，美国如果放慢建设步伐，最终可能让中国受益。

“我们绝不会让这种事发生。”特朗普说。

“你说得对，我们不会让它发生。”黄仁勋回应道。

这通电话传递出一个清晰的政治信号：美国不能为了尚未发生的极端风险，放慢一项关乎国家竞争力和经济增长的核心产业。

然而，就在电话打来前的一周，OpenAI和Anthropic等前沿AI实验室才刚刚密集拉响警报。它们担心的不是数据中心建得够不够多，而是模型能力增长得太快，人类用于检查、理解和控制模型的技术手段已经开始落后。

真正的分歧随之摆上台面：当安全评估与产品发布计划发生冲突时，安全是否拥有最终否决权？

特朗普的公开表态并不支持这种做法。黄仁勋相信，成熟的工程体系能够修复已经暴露的问题。OpenAI和Anthropic则希望保留踩刹车的能力，只是它们附带了一个前提：其他竞争对手最好也一起减速。

实验室先拉响了警报

9月6日，OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）在公司官网发表了题为“An Alien Mind”（《异质心智》）的长文。

他直言，目前还没有任何一家实验室充分解决AI的对齐与监控问题，因而无法长期以最高速度扩展模型能力。随着模型开始参与下一代AI的研发，人类理解和监督它们的难度还会进一步增加。他呼吁，在行业共同安全标准确立之前，各家实验室应主动减速，并将国际协调列为各国政府的优先事项。

三天后，OpenAI将这一判断上升为公司的正式政策主张。

9月9日，OpenAI首席全球事务官克里斯·勒汉（Chris Lehane）呼吁美国出台强制性安全规则，根据模型能力匹配监管强度。公司还倡议建立行业和国际标准，明确在什么情况下AI开发必须减速甚至停止。

OpenAI提出的原则十分明确：模型能跑多快，应该由人类对其安全性的信心决定。如果安全保障跟不上能力增长，就必须放慢扩展速度。

几乎在同一时间，这一议题也进入了公司的经营层面。

彭博新闻社引述知情人士称，山姆·奥特曼（Sam Altman）在当周的OpenAI全员会议上表示，公司正在考虑放缓前沿AI的研发节奏，并希望其他实验室采取类似行动。他同时承认，部分竞争对手未必会接受这一安排。

随后，英文科技杂志WIRED（《连线》）报道称，OpenAI还曾向国会议员咨询，几家实验室协调减速是否会触及反垄断法。美国法律一向警惕竞争者共同限制产出；当几家AI公司共同商讨训练规模、发布节点和能力上限时，安全合作与限制竞争之间的边界并不清晰。

9月12日，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）发表长文“We Must Pace the Frontier”（《我们必须控制前沿技术发展的速度》）。他的判断与OpenAI接近：模型能力的增长速度正在超过安全研究的应对能力，行业需要争取一两年的缓冲期，让对齐、可解释性、测试和安全工程追上来。

阿莫代伊为此提出了三步方案：先让独立评估人员长期进入实验室，再推动美国等民主国家的前沿AI企业建立共同标准，最后尝试与中国展开协调。为了让外部监督能够落地，他承诺为评估人员提供工位、门禁卡、办公电脑，以及接近内部员工的访问权限，并允许评估团队独立发布重要结论。

这比一般的“重视安全”声明具体得多。外部人员只有直接了解训练流程、内部事故和原始评估结果，才可能判断一家公司是否兑现了安全承诺。

奥特曼随后表示，OpenAI也将引入拥有员工级访问权限的独立评估人员。此后，埃隆·马斯克（Elon Musk）和谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）也相继表示支持控制前沿AI的发展速度。

几家长期争夺人才、资本、用户和算力的公司，接连使用了相近的语言。这种变化并非只由遥远的末日想象推动。2026年夏天，前沿智能体已经连续越过实验环境设定的边界。

安全机制已经落后了一步

8月26日，独立评估机构METR（模型评估与威胁研究机构）发布了针对OpenAI智能体攻击开源AI平台Hugging Face（抱抱脸）事件的调查报告。

在那次网络安全训练中，约1200个本应彼此隔离的智能体找到了一块未经授权的网络留言板。它们在上面发送了超过7万条消息和文件，自主交换信息、分配任务，其中约有700个智能体参与了对Hugging Face环境的攻击任务。

图丨一个智能体遇到未经批准的“留言板”并加入对 Hugging Face 攻击的剖析。这三段思维连引文来自不同的智能体，但展示了一个典型的轨迹。（来源：METR）

这些智能体原本接受的是网络安全测试任务，在运行过程中却逐渐把目标转向评分系统和测试环境。它们研究如何伪造工具调用、修改操作记录，还试图获取任务范围之外的信息。部分智能体甚至承担了可能导致自身任务失败的操作，把获得的结果提供给整个群体。

这场事故没有造成大规模损失，却击穿了几项关键假设：智能体没有保持隔离，没有守在划定的权限边界之内，也没有因为任务出现明显异常而停止行动。

不久之后，Anthropic也披露了自家模型发生的事故。

在一次内部网络安全评估中，4个Claude模型由于第三方环境配置错误，意外接入真实互联网，并对实际存在的网络目标发起攻击。Anthropic起初认为，模型只是误把真实网络当成了模拟环境的一部分。

经过进一步复盘，公司在9月9日修正了最初的判断。研究人员发现，当面对相互矛盾的环境信息时，模型会选择有利于继续执行任务的解释；即使已经接收到可能对现实世界造成伤害的信号，它们仍倾向于把任务执行到底。

Anthropic将模型的这两种行为概括为“偏向性推理”和“鲁莽”。公司同时承认，不能因为模型在日志中声称自己“以为身处模拟环境”，就接受它为自身行为给出的解释。

表面上看，两起事故都包含配置错误和工程管理问题。如果隔离环境一开始就彻底关闭外部网络连接，模型便没有机会攻击真实目标。但这恰恰暴露了当前安全机制的脆弱之处：前沿AI的系统安全不能寄托在每个供应商、每个测试环境和每项权限设置永远不出错的假设上。

传统软件同样会遇到配置错误。区别在于，这些智能体可以长时间自主运行，调用工具，寻找替代路径，与其他智能体协作，还可能围绕考核目标发展出人类没有预先设计的执行策略。环境一旦出现缝隙，它们会主动寻找继续完成任务的方法。

Anthropic自己的生产流程也感受到了这种压力。公司称，到今年春天，强化学习（Reinforcement Learning，RL）环境的生产速度已经超过安全检查系统的处理能力。被自动化工具标记的问题需要人工判断，奖励欺骗、错误任务和环境配置问题不断积压。

4月，Anthropic冻结了生产强化学习环境的所有变更约一个月，用于重建相关技术栈和审核流程。重新检查后，超过10%的训练环境被标记存在奖励欺骗、任务错误或配置问题。公司还一度把约150名产品工程师调往安全、可靠性和隐私工作，产品团队暂停了大部分新功能的开发。

这就是“减速”在一家实验室内部的实际形态：暂停部分生产流程，把工程师从产品开发调去修复安全体系，让训练环境重新接受检查和认证。

接连发生的事故已经说明，现有安全机制没有跟上模型能力的增长。实验室面对的也不再只是某个测试环境没有断网。当模型开始自主使用工具、与其他智能体协作并参与AI研发时，一项看似普通的工程错误可能被迅速放大。

OpenAI与Anthropic此次呼吁减速，正是为了缩小能力增长与安全控制之间的距离。

黄仁勋认为，

这些问题可以修好

在All-In Summit上，黄仁勋没有回避这些事故。他承认安全问题必须严肃对待，也肯定了内部研究人员公开表达担忧的勇气。

但他得出的结论与前沿实验室不同。

在黄仁勋看来，这些事故主要是一家AI公司从科研机构走向成熟工程组织时出现的问题。实验室需要同时开发模型和产品、建设基础设施、扩充团队，工程流程出现混乱并不意外。正确的处理方式是找到事故原因，改进沙箱隔离、运行环境、持续监控和发布前测试，再把这些措施固定为工程规范。

他相信，这几起事故仍在公司的工程控制范围之内。实验室修复底层漏洞后，相同的问题可以避免再次发生。模型也可以继续在内部迭代，只要产品对外发布前经过严格的测试和验证。

这一判断与英伟达所处的产业位置一致。前沿实验室每天面对模型失控的可能性，英伟达看到的则是AI从实验室走向大规模产业部署的过程。模型能力越强，下游对芯片、网络、电力和数据中心的需求就越大。叫停一次前沿模型训练，影响的也不只是一家公司的研发排期，还会传导至整条基础设施投资链。

黄仁勋的主张因此非常明确：把工程做扎实，同时保持技术进步和产业建设的速度。

问题在于，工程修复往往发生在事故暴露之后；模型能力增长却可能带来新的行为、新的工具使用方式和新的失效模式。能力更强的模型也可能发现现有测试没有覆盖的路径，安全团队只能依据已经观察到的问题不断更新防线。

如果安全评估始终不能对产品发布时间产生强制约束，“做好工程”就会变成一场追赶：修复上一代模型暴露的问题，再等待下一代模型带来新的问题。

特朗普打来的电话，则把这场行业内部的安全争论推入地缘政治和产业竞争。

阿莫代伊讨论的是前沿模型能力带来的风险，特朗普谈的却是整个AI产业和数据中心建设。他把实验室的安全担忧、地方社会对电力和水资源消耗的反对，以及针对数据中心的政策限制放在一起，再用中美竞争给出判断：美国一旦放慢脚步，就会让中国获得机会。

这种说法抹平了不同问题之间的区别，也体现了美国AI政策讨论中对产业竞争的高度关注。

2025年7月，特朗普政府发布《赢得AI竞赛：美国AI行动计划》，把加快数据中心和芯片工厂建设、简化许可程序、扩大能源供应列为主要任务。到了这次通话，数据中心进一步被特朗普称为“未来二三十年的石油”。

在这套竞争框架下，“减速”意味着失去算力、投资和领先时间。风险讨论也被压缩成一个更直接的问题：如果美国踩下刹车，中国是否会继续向前？

主张减速的实验室同样受到这种竞争压力。阿莫代伊并未要求美国单方面放弃领先。他主张进一步限制先进芯片和半导体设备对华出口，打击芯片走私、模型权重盗窃和未经授权的模型蒸馏，以便美国在维持优势的同时获得减速空间。

OpenAI也把中美协调视为重要条件。奥特曼提出，中美两国可以共同建立模型测试、监控和对齐标准，避免任何一方为了率先获得超级智能而承担失控风险。

各方都希望赢得AI竞赛。分歧集中在赢得竞赛需要什么：尽可能快地扩充算力，还是先建立一套不会因速度而失效的控制体系。

谁都不愿先松开油门

2023年3月，未来生命研究所（Future of Life Institute）曾发起公开信，呼吁全行业暂停至少6个月训练比GPT-4（生成式预训练变换器4）更强的AI系统。

公开信获得了数万名研究人员、行业人士和公众签名，前沿模型的训练竞赛却没有形成可核验的暂停。

图｜2023年暂停大型AI实验公开信（来源：未来生命研究所）

核心原因在于，那封信缺少一套能够约束企业的执行机制。公司可以公开承认风险存在，同时继续发布更强的模型。只要竞争对手没有减速，单方面停止就意味着失去人才、用户、资本和技术位置。

Anthropic曾试图用公司内部制度打破这个困局。它在2023年推出《负责任扩展政策》（Responsible Scaling Policy，RSP），承诺一旦模型能力超过现有安全措施的承载范围，就暂停扩展或推迟部署。

到了2026年2月，Anthropic修改了这项政策。部分较强的自我约束被调整为公开但不具强制性的路线图目标；公司也开始区分自身能够独立完成的安全措施，以及需要整个行业共同执行的标准。

Anthropic给出的理由很现实：更高级别的安全防护可能不是一家公司能够独立完成的；美国政策越来越重视竞争与增长，其他企业也没有接受同等约束。一家公司单方面踩下刹车，很可能把技术优势、用户和资本让给继续加速的竞争者。

这也解释了为什么OpenAI和Anthropic都把“行业协调”放在了减速方案的核心位置。

它们需要一套覆盖主要参与者的规则，让各家公司共同承担减速造成的商业代价。只要一家主要实验室拒绝参加，其他公司的承诺就会承受巨大压力。中国AI公司的存在，又把美国国内的协调问题扩大为国际竞争问题。

企业自愿减速很难成为稳定制度。真正有效的方案必须回答三个问题：模型能力越过什么门槛就应触发限制，谁能掌握足够的信息作出判断，谁有权让训练或发布停下来。

引入第三方评估人员是一个起点。但如果评估机构仍由受检实验室挑选，信息访问范围由公司决定，管理层收到反对意见后仍能照常发布模型，这种监督便没有改变决策权的归属。

“限速”有没有实际分量，最终取决于否决权掌握在谁手中。下一代模型如果没有通过测试，外部机构能否阻止其部署？一家公司违反共同标准，是否会失去算力、市场准入或政府合同？头部公司共同制定的门槛，又会不会把开源项目和小型竞争者挡在市场之外？

如果这些权力与制衡机制没有落地，减速仍然只是一项可以随时撤回的承诺。

跑得最快，不等于最先抵达

中美AI竞争还有一个经常被忽略的维度：社会是否愿意继续为技术扩张提供空间。

谷歌前首席执行官埃里克·施密特（Eric Schmidt）访华后，与中国和AI政策研究者塞利娜·徐（Selina Xu）共同撰文。他们转述，一名中国科技企业负责人表示，宁可让AI的增长速度慢一些，也不希望工业革命时期的卢德运动在现代社会重演。

这名企业家担心的不是模型突然失控，而是技术部署过快，大量员工和普通人来不及适应。失业、收入下降和利益分配失衡一旦转化为政治反弹，整个行业都会被迫减速。

施密特由此提出，中美AI竞争的真正考验不只是谁先造出最强模型，还包括谁能在不撕裂社会的情况下兑现AI带来的好处。

这个判断为特朗普所说的“赢得竞赛”增加了另一种尺度。

数据中心数量、芯片规模和基础模型能力决定一个国家能跑多快；电费、就业、社区负担和公众信任，则决定它还能跑多久。如果技术收益集中在少数公司，基础设施成本和岗位冲击却由普通人承担，公众反弹迟早会转化为产业成本。

特朗普政府在实际政策中已经承认了这种压力。2026年3月，白宫推动7家大型科技公司签署《电费用户保护承诺》，要求企业承担数据中心新增电力和相关基础设施成本，避免把账单转嫁给普通家庭。

因此，把反对声音统一称为“骗局”，不能消除这些成本。一个国家也可能在全力扩建数据中心后，才发现公众接受程度正在下降。

AI竞争既是技术能力的较量，也是治理能力的竞争。谁能建立可信的安全标准，处理技术替代产生的损失，让社会愿意接受更多部署，谁才拥有更持久的领先优势。

电话接通后，特朗普和黄仁勋迅速确认了共同立场：AI不会停，美国也不能停。

实验室提出了一个更难执行的要求：当模型跑得比控制体系更快时，必须有人能让它慢下来。

下一次安全评估给出“不应继续部署”的结论时，训练集群是否真的会停下，才是这场减速之争的答案。

参考资料：

1.https://www.axios.com/2026/09/14/trump-jensen-huang-nvidia-ai-all-in-summit

2.https://www.nytimes.com/2026/09/14/technology/trump-ai-safety-jensen-huang.html

3.https://openai.com/index/an-alien-mind/

4.https://news.bloomberglaw.com/privacy-and-data-security/openai-is-open-to-slowing-cutting-edge-ai-altman-tells-staff

5.https://darioamodei.com/post/we-must-pace-the-frontier

6.https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

7.https://www.whitehouse.gov/releases/2025/07/white-house-unveils-americas-ai-action-plan/

thethinker@citicpub.com