AI事故治理②:美国停机权如何防止滥用?

2026年7月25日，在美国华盛顿特区，《华盛顿邮报》就国会提出的AI“紧急停机”法案发表反对意见；法案拟授权国土安全部门在特定高风险模型造成严重威胁时要求开发者限制或停止运行，目前仍处立法审议，政府尚未取得也未实际使用这项权力。

系列从事故责任走到政府刹车

“AI事故治理”第一篇追问测试方、平台方和监管者在模型越出沙箱后的责任链。第二篇把视角移到国家：当企业控制失灵，谁能下令停止系统，命令需要什么证据，又由谁纠错。新增材料来自法案文本、提案人说明和一篇明确的反对社论，本篇因此不是重复事故经过，而是检验公共权力的边界。

提案人的目标容易理解。前沿模型可能快速复制、调用工具或影响关键基础设施，常规诉讼和事后罚款无法阻止即时损害。法案试图要求大型开发者预置可执行的技术控制，并给政府提供升级手段。争议集中在适用阈值、主管机关和救济顺序。

“停机”不应只有开和关

现实中的风险程度不同。模型出现异常外联，未必需要关闭全部服务；泄露凭证、持续攻击关键网络或绕过隔离，则可能要求更强措施。合理制度应设置阶梯：强化监测、暂停特定工具、限制流量、隔离模型、最后才是全面停机。每一级都要对应可观察事实和明确期限。

如果法律只写“存在威胁”而不说明严重性、紧迫性和因果联系，主管机关就可能把猜测当成应急。法案还需要区分模型能力、部署场景和运营者控制。面向公众的闭源服务可以由公司断开，已公开下载的权重却难以靠一纸命令回收。把二者视为同一种对象，会造成权力看似强大、实际覆盖不全。

先执行以后，谁来复核

《华盛顿邮报》的核心反驳是：国土安全部门既参与定义对象，又能命令遵从，企业在履行后才有机会提出异议；高额处罚进一步压缩即时抗辩空间。紧急状态确实可能要求先行动，但“先行动”不能等于没有程序。

最低保障应包括书面列明事实、风险模型和选择该措施的理由；命令自动在短期内失效，延长须由独立官员或法院复核；企业可以迅速提交替代方案；风险解除后有明确恢复流程；事后公开不涉敏感技术的摘要。行政程序法提供司法审查底线，专门法仍需把应急节奏写清楚。

反证：复核太慢也会制造风险

另一种担忧同样成立。若每次命令都因申诉自动暂停，攻击可能在审理期间完成；若审批层级过多，官员会错过窗口。因此，最合适的结构不是让救济阻断一切，而是允许极短期命令立即生效，同时把延长权交给独立复核者。紧迫性越高，初始证据可以有限；持续时间越长，证明负担就应越重。

开放权重模型还是法案的外部边界。代码已经广泛分发后，单一公司无法完成“停机”。监管需要把重点移到算力、云平台、关键工具权限和事故通报，避免把无法兑现的全局开关写成安全承诺。

一份可审计命令应写什么

紧急命令至少应列明受控系统、已观察到的行为、可能损害、选择措施、责任官员、开始和失效时间。涉及商业秘密或攻击细节的部分可以密封，但企业和复核者必须看到足够理由。否则“国家安全”四个字会替代风险证明。

恢复同样属于安全程序。仓促重启可能让漏洞再次出现，永久关闭又可能破坏关键服务。开发者应提交修复、隔离和验证方案，由独立技术人员检查后分阶段恢复。每次处置还应进入事故库，为下一次调整阈值，而非留下一个无法复盘的行政决定。

证据边界与否证条件

本文的工作假设是：针对高风险AI的紧急停机权有必要，但若国土安全部兼具界定范围、下令停机和先执行后复议的权力，程序保障不足会把技术应急转化为过宽行政裁量。 这是一项等待后续材料检验的判断，不是已完成的事实。当前证据由6个独立控制主体构成，其中3项为第一方或原始文件；评论文章只用于提出解释框架，关键程序、日期和主体仍回到原始材料核对。

假设可能被三类新信息推翻：正式文件显示关键权力或程序并不存在；独立记录无法重复确认主要事实链；后续结果与预测方向持续相反。本文同时保留这一替代解释：灾难风险需要快速处置；若复核自动中止命令，紧急权可能来不及阻止不可逆损害，而且开放权重模型可能逃出法案控制。 因此，文中使用“可能”“取决于”和“尚未确认”时，表示证据强度的边界，不是回避结论。后续若出现终局裁判、法案修订、官方调查或可审计数据，应据此更新判断。

原文与翻译

原文：https://www.washingtonpost.com/opinions/2026/07/25/ai-kill-switch-bill-fights-wrong-battle/

百度翻译：https://fanyi.baidu.com/transpage?query=https%3A%2F%2Fwww.washingtonpost.com%2Fopinions%2F2026%2F07%2F25%2Fai-kill-switch-bill-fights-wrong-battle%2F&source=url&ie=utf8&from=auto&to=zh&render=1

循迹求本，察势识局。