乐于分享
好东西不私藏

1272名AI公司员工联署呼吁建立“减速工具”:风险上升时如何共同踩刹车

1272名AI公司员工联署呼吁建立“减速工具”:风险上升时如何共同踩刹车

点上方蓝色头像关注,持续推送优质 AI 内容

“Pacing the Frontier”公开声明显示,截至7月30日05:14(北京时间),已有1272名前沿AI公司员工签署。声明要求美国支持国际合作,开发能够在风险上升时主动调节自动化AI研发速度的技术与治理工具。

这份联署提出建立可共同启动的节奏调节机制。签署者均以个人身份参与,四家公司目前没有形成联合政策。

Pacing the Frontier公开联署网站

01|1272人签了什么,没有签什么

联署网站把核心要求写得很窄:美国政府应支持一项国际努力,开发能够“主动调节自动化AI研发前沿速度”的技术和治理工具。

它没有给出立即暂停训练的日期,没有规定统一的模型能力上限,也没有要求政府直接关闭实验室。声明强调的是先把可用工具做出来,让行业和社会在风险突然上升时拥有选择。

签署者担心,领先AI公司可能接近自动化AI研究。若模型开始帮助设计下一代模型、自动写实验代码、分析结果并提出改进,能力进展可能从线性迭代转向更快的反馈循环。

声明没有声称这种加速必然发生,也没有给出准确时间表。它使用的是风险语言:结果难以预测,但存在发展速度超过理解、控制和监督能力的可能。

1272人是联署网站在7月30日05:14(北京时间)展示的数量,后续可能继续变化。名单包括OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jared Kaplan、Google DeepMind联合创始人Shane Legg等。

这些人以个人身份签署。签名旁的评论也明确注明,不一定代表其所在公司观点。联署主体是来自多家公司的个人。

02|为什么单家公司很难主动减速

声明把竞争压力放在中心位置。即使某家实验室认为需要更多安全时间,它也会担心竞争对手继续推进;即使某个国家愿意慢下来,它也会担心别国先获得能力优势。

这是一种协调困境:所有参与者都可能认同安全缓冲的价值,却没有人愿意承担单方面停下的成本。结果是每个人继续加速,直到风险事件迫使行业被动反应。

企业内部的安全团队可以提高测试门槛,却很难约束其他公司。国家监管可以限制本国企业,却可能把训练和部署转移到其他司法辖区。

联署因此要求国际合作。跨国机制至少要回答参与者是谁、触发条件是什么、怎样核验各方遵守,以及违反后有什么后果。

这并不意味着国际协议容易达成。模型训练可以分散,算力可以跨境租用,算法进展也不总能通过芯片数量观察。过于粗糙的限制还可能固化现有巨头优势。

因此,“建立减速工具”比“宣布减速”更难。它需要同时处理技术测量、企业激励、国家安全、商业秘密和开放研究。

03|所谓技术工具,至少要解决四件事

CNN对AI员工联署和公司回应的报道

第一是监测。要判断是否接近需要调节节奏的阶段,必须持续评估模型在自动研发、网络攻击、生物风险和自主行动等领域的能力。

第二是触发。什么样的测试结果、真实事件或组合信号能够启动更严格的发布、访问或训练限制,必须提前写清。只靠负责人临时判断,很难形成共同预期。

第三是核验。参与方需要证明自己遵守约定,同时避免公开模型权重、训练数据和商业秘密。可验证计算、第三方审计和受控评测都可能成为工具的一部分。

第四是恢复。减速不能只有开关,还要有解除条件。完成补丁、加强隔离、更新评测或建立监管能力后,怎样安全恢复开发,也需要程序化规则。

联署网站没有给出完整技术标准,声明要求政府支持相关研发,把节奏调节工具变成可验证的实际机制。

如果没有可验证工具,减速承诺容易变成公关语言。若工具只掌握在少数实验室手里,外部监管又难以判断结论是否可信。

可用机制需要让企业、政府和独立研究者理解证据边界,并分别标注公司自评结果与第三方复核结果。

04|公司回应显示了共识,也暴露了边界

CNN Business报道称,OpenAI回应说认同可能需要调节AI发展节奏,并希望参与美国政府牵头、与其他实验室共同开展的工作。

Anthropic也表示,行业对建立技术和治理工具已有广泛共识,其中包括必要时放慢发展,让社会有时间准备。

Meta拒绝评论,Google没有立即回应。这个差异说明,公司层面的正式共识还没有形成;员工联署不能替代董事会、管理层或政府作出的政策承诺。

CNN还引述OpenAI CEO Sam Altman的表态:近期事件带来了关于发展速度的长期问题,社会可能需要时间围绕新的能力水平加固防护。

这些回应支持研究节奏调节能力,但没有承诺具体触发条件、时间或约束。目前仍停留在原则认可阶段。

联署的价值在于把原本分散在公司内部的担忧变成可见的跨公司信号。局限也很明显:签名不能自动解决竞争、核验和执法。

下一步是否有实质进展,要看美国政府是否设立研究项目、国际磋商或标准组织,也要看企业是否愿意在政策落地前先设计自愿机制。

05|下一步的可验证节点

第一看人数以外的参与结构。总签名数会增长,但更重要的是是否覆盖主要实验室的能力、安全、基础设施和治理负责人。

第二看政府是否给出具体项目。只有资金、牵头机构、时间表和公开产物出现,联署才会从倡议进入制度建设。

第三看实验室是否公布触发标准。哪些自动研发、网络或自主行动能力会导致延迟发布、缩小访问或提高隔离,需要形成可审查规则。

第四看独立核验能否进入流程。若评测、事件和改进结果只能由开发者自己确认,外部信任很难建立。

第五看国际协调范围。只有美国参与,无法覆盖跨境训练和部署;但参与方越多,商业秘密、国家安全与执行一致性也越难平衡。

这份声明提出一套由关键参与者共同观察、验证并在必要时启动的节奏调节系统。

1272名签署者让跨公司的安全担忧公开可见。政府项目、企业触发标准和独立核验机制,将决定这项倡议能否进入实际建设。

说明

本文依据公开资料整理,相关截图与图片版权归原作者或权利人所有,仅作信息介绍;内容不构成投资、采购或专业建议。如有事实更新、表述不准确或侵权问题,请联系更正或删除。