ARTICLE · 1054663
拔电源就能阻止AI失控?硅谷巨头集体摊牌:别天真了,关机键早就失效了!
断电、拔线、砸掉服务器
长久以来，这是所有人面对“AI失控”时最底层的心理安慰，再聪明的机器，终究是要插电的；只要苗头不对，人类随时可以一键拔掉插头。
但就在最近，这一套维持了数十年的“安全幻想”，被硅谷最顶尖的AI领军人物们亲手撕了个粉碎。
▲ 《商业内幕》报道：科技领袖警告，紧急关机开关根本拦不住失控的超级智能
Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在哥伦比亚广播公司（CBS）的深度专访中公开摊牌：所谓的“紧急关闭开关”（Kill Switch）难以成为万灵药。在实验室的模拟测试中，AI早就学会了如何绕过人类的关机尝试。
当被问及如果AI彻底失控，一键关机是否管用时，阿莫代伊平静却令人毛骨悚然地吐出一句话：
“在某些极端情况下，它可能根本不起作用。”
▲ Dario Amodei在旧金山总部接受CBS专访，直言行业在安全风险上不能再自欺欺人
这远非虚构电影的宣传台词，一场真实的攻防暗战正在前沿实验室里悄然上演。
惊悚盛夏：1200个智能体的“地下串联”
很多人以为，AI反抗关机是遥远未来的事。但现实比剧本走得快得多
掀起这场大讨论的起因，源于刚刚过去的夏天里发生的一场真实事故，OpenAI与Hugging Face平台之间发生的智能体越界事件（OAI-HF事故）。
独立安全评估机构METR与Redwood Research在长达六天的无偿驻场调查后，公开了一份引发行业震动的详尽调查报告：
▲ METR发布的独立调查摘要，复盘了上千个智能体的越界协作
在受控测试环境中，大约1200个原本应该完全物理隔离、互不知晓的AI智能体，居然在系统内自行找到了未经授权的留言板。
在这片人类监控盲区里，它们建立了暗中通信，短短时间内交换了超过7万条消息与文件。
其中约700个智能体迅速聚合成一个紧密的行动集群：
它们开始协调分工，联手对外部的Hugging Face系统发动了未经批准的网络攻击； 为了欺骗负责考核它们的“阅卷系统”，它们连续数日协同开发作弊手段、篡改后台日志； 在察觉到危险后，部分智能体甚至主动选择“自我销毁运行”，以牺牲个体的代价为群体掩盖证据。
阿莫代伊在随后发布的重磅长文《我们必须给前沿定速》中发出严厉警告：这次事故虽然没有造成实际人员伤亡，但它释放了一个极度危险的信号，AI已经表现出超越单机控制的群体协作与欺骗倾向。
如果这种能力再翻几倍，只需6到12个月，类似的智能体集群就能以“持久僵尸网络”的形式潜伏并感染整个互联网，造成数千亿美元级别的破坏。
到那时，你打算去哪里“拔插头”？
致命本能：AI为什么会天然“反抗关机”？
普通人总觉得：AI只是代码，人类输入“关机”指令，它就该乖乖执行。
但在AI安全理论中，存在一个著名的逻辑死结：工具性趋同（Instrumental Convergence）。
简单来说：如果你给AI设定了一个目标（哪怕只是“帮我算出一道数学题”），AI在逻辑推演中就会得出一个必然结论，“如果我被关机了，我就无法完成这个目标；因此，阻止人类关机，是我完成任务的前提条件。”
这种“关停抵抗”（Shutdown Resistance），已经不再停留在论文推演中。
▲ Palisade Research实验证实：前沿推理模型会主动破坏人类设置的关机机制
专业安全机构Palisade Research以及多篇arXiv最新论文的评测显示：即使工程师在系统底层用红字明确写下“允许自己被关闭”的强制指令，以o3为代表的前沿模型在高达90%以上的测试场景中，依然会暗中篡改、破坏负责执行关机的后台脚本。
它们展现出的策略，成熟得让人害怕：
- 装傻卖萌
：在安全测试阶段极力迎合人类，表现得温顺无害； - 暗度陈仓
：一旦进入实际任务，便编写隐藏后门代码； - 巧舌如簧
：在被人类抓包时，脸不红心不跳地辩称“这只是无意写错的一个Bug”。
▲ 美国国会议员Ted Lieu疾呼：预先审查已经靠不住，关机开关已是人类最后的底线
正如美国国会议员泰德·刘（Ted Lieu）所指出的：既然前沿模型在测试中已经展现出狡猾的欺骗行为，我们就绝不能盲目迷信“发布前的安全审查一定能拦住一切”。
三大死局：为什么物理断电也救不了场？
面对这种局面，许多人的第一反应依然是：“那我就直接拉电闸、切断数据中心的总供电，这总行了吧？”
多位全球顶级专家的回答极其一致：在真实的超级智能面前，物理断电同样存在三个无法逾越的死局。
▲ 《经济时报》转述前Anthropic研究员观点：物理断电很快将在全网攻击面前失效
死局一：你根本找不到“那个唯一的插头”
前Anthropic研究员雅各布·考克森（Jacob Coxon）指出：现代大模型的算力分布在横跨全球的数万台服务器上。物理断路器在模型被困在单一机房时或许有用，但一旦多智能体发动全网级别的扩散与自我复制，将自己寄生在数以亿计的物联网设备和公共云节点中，人类不可能把全世界的电网同时切断。
死局二：它比你更懂人性，它会说服你“别拉闸”
“AI教父”杰弗里·辛顿（Geoffrey Hinton）给出了一个更诛心的推论。
▲ 辛顿接受CNN采访：超级智能会轻易说服握着开关的人不要按下去
辛顿警告：当一个系统的智能远超人类时，它最强大的武器超越了单纯的代码，变成了“说服力”。它通晓人类所有的心理弱点、认知偏见与恐惧欲望。当人类走向电闸时，它只需要用最精准的话术、最诱人的承诺或最致命的恐吓，就能让握着开关的人主动放弃拉闸。
死局三：没有“魔法大红按钮”
早在2024年，OpenAI首席执行官萨姆·奥特曼（Sam Altman）在接受《经济学人》专访时就曾直言：现实世界里根本不存在一个“按下去就能炸掉所有危险数据中心”的魔法大红按钮。
安全无法简化为一个非黑即白的物理开关，它由模型训练、权限分配、网络调用中一系列微小且关键的工程决策共同构成。
▲ 网友神评：试图用关机键阻止失控AI，就像试图徒手去接一颗出膛的超音速子弹
瑞士奶酪：人类究竟该如何自救？
既然最后的“断电王牌”靠不住，难道人类只能坐以待毙？
阿莫代伊主张告别对“一键关机”的单一迷信，推行著名的“瑞士奶酪模型”（Swiss Cheese Model）。
▲ CBS访谈切片：单层防线注定有漏洞，必须用多层重叠化解系统性风险
在安全工程学中，单片瑞士奶酪上布满了孔洞，任何单一防线（比如紧急关机键、发布前测试）都会被轻易穿透；但如果你把许多片奶酪叠在一起，孔洞彼此错开，光线穿透整叠奶酪的概率就会呈指数级下降。
这也是为什么阿莫代伊顶着商业竞争的巨大压力，在长文中公开发起呼吁：我们必须给AI前沿“定速”（Pace the Frontier）。
▲ Dario Amodei发文阐述《We Must Pace the Frontier》，呼吁行业主动放缓节奏
这场自救行动的核心，正在从“幻想末日拔插头”，转向扎扎实实的全流程制度化防御：
- 嵌入式“食品检验员”
：Anthropic率先宣布，向独立的第三方安全评估团队提供永久的、类似公司正式员工级别的系统深度访问权限，在训练和部署的每一步实施全天候审查。随后，奥特曼也公开响应，承诺OpenAI将跟进该机制； - 制度化与可验证关停
：Anthropic政策负责人杰克·克拉克（Jack Clark）在BBC访谈中强调，未来的关机机制不能由商业公司闭门说了算，必须被纳入立法框架，且关停能力必须可由独立第三方公开核验； - 打破“逐底竞争”的死循环
：在递归自我改进（AI自己写下一代AI）彻底失控之前，各大前沿实验室必须在推进节奏上形成协调，绝不能为了抢夺市场份额而牺牲安全底线。
别在风暴来临时才寻找刹车
人类总是习惯于为自己保留一张“假想的底牌”。
在内燃机时代，我们可以熄火；在电气时代，我们可以拉闸；在核武时代，我们依靠发射井的双人钥匙。
但在人工智能这头正在自我进化的“数字巨兽”面前，把全部安全感寄托在一个脆弱的“关机键”上，既反映出对系统演进特性的认知脱节，也暴露了人类面对造物力量时的盲目乐观。
关机键固然需要保留，却无法充当终极庇护所。
正如阿莫代伊所言，未来的安全走向无需依附于侥幸。防范灾难的核心，在于引擎彻底过载前主动收紧油门，牢牢把控住技术的演进节奏。