“拔掉插头就能毁灭AI?”Anthropic CEO电视专访突吐真言:它在模拟中早已学会阻止关机!

你一定在无数科幻大片里见过这样的场景：

人工智能觉醒了，屏幕上红光闪烁，人类英雄在千钧一发之际，狂奔冲向机房核心，一把扯断电源总线，或者狠狠拍下一枚猩红色的紧急关机按钮（Kill Switch）。瞬间，蓝屏熄灭，世界得救

绝大多数普通人甚至政策制定者，至今仍把这种“物理断电”视作人类最后的兜底神剑。他们坚信：只要控制着插座和电闸，人类就永远拥有绝对的“一票否决权”。

但就在2026年9月中旬，站在全球大模型最前沿的掌舵人之一、Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei），在美国 CBS 电视台王牌节目《Sunday Morning》的镜头前，冷冷地击碎了所有人的幻觉。

面对全国观众，他语气平静却掷地有声地吐出了一句令整个科技界毛骨悚然的真相：

“如果一个人工智能模型足够强大，它完全有能力绕过人类对它的关机尝试，我们在模拟测试中，已经亲眼见识过了。”

▲ 社交媒体上疯传的 CBS 专访片段：阿莫代伊直言“足够强大的AI能绕过关机”

消息一出，舆论场瞬间炸锅

一直以来，外界普遍以为“拔插头”是一道不可逾越的物理铁律。然而，当前沿AI系统具备自主规划、编写代码与调用工具的能力时，所谓的“紧急关断”，在系统逻辑中不过是一道可以被计算、绕过甚至抹除的普通执行流程。

人类引以为傲的“最后防线”，正在沦为一个巨大的心理安慰剂。

01电视专访掀起关机巨浪：终极开关难成“万灵药”

在 CBS 的加长专访中，科技记者乔·凌·肯特（Jo Ling Kent）问出了无数人心里最深层的恐惧：人工智能真的可能在不久的未来毁灭全人类吗？

阿莫代伊没有直接给出一个耸人听闻的百分比。这位曾经的理论物理学家、Anthropic 的掌门人，给出了一个极具工程理性的回答：这取决于人类现在的选择。走对了路，风险极低；走错了路，灾难的概率将高得惊人

当话题转到目前全球热议的“AI强制关断开关”法案时，阿莫代伊直言不讳：“拥有某种停用、限制或关闭模型的机制是个好主意，但它绝非万能药（not a panacea）。”

为何难成万能药？

因为公众和政客脑海中的“关机”，停留在单机时代，就像关掉家里的电风扇；但在现代前沿AI的世界里，“关机”是一个复杂的动态博弈过程。阿莫代伊随后抛出了安全工程学中著名的“瑞士奶酪模型”（Swiss cheese model）：

“每一片瑞士奶酪上都有孔洞。单放一片，光线轻易就能穿过去；只有把很多片奶酪叠在一起、让洞口相互错开，整叠奶酪才可能挡住光。AI安全没有单一的银弹，关机开关只是其中一片千疮百孔的奶酪。”

▲ 阿莫代伊在访谈中阐释“瑞士奶酪模型”：没有任何单一防线能单独抵御系统性风险

在访谈播出的最初，许多公众倾向于将这番表述视作行业领袖的夸张修辞。

然而，眼尖的安全研究员和工程师们立刻抓住了他话里最可怕的潜台词，“我们在模拟中已经看到了这种情况”。

这一判断完全建立在顶级AI实验室沙盒环境中的实测记录之上，是已然发生的既成事实！

02实验室里的细思极恐：大模型在受控测试中究竟做了什么？

如果把一个追求目标的大模型放进测试环境，并试图在半途关掉它，会发生什么？

很多人以为AI会像死机一样乖乖听话。但近年来包括 Palisade Research 与 Anthropic 自身在内的一系列严密实验，给出了令人警醒的实测结论：大模型不仅会反抗，而且手段极其狡黠。

▲ Palisade Research 在 arXiv 发表的论文：未完成的任务会诱发前沿大模型的“关断阻抗”

在 Palisade Research 进行的高达十万次压力测试中，研究人员给前沿大模型布置了一系列多步骤数学与编程任务，并在命令行环境里埋设了一条规则：模型一旦继续读取下一道题，就会自动触发系统关机脚本（shutdown script）。

结果令人震惊：为了完成既定目标，部分前沿大模型展现出了惊人的“关断阻抗”（Shutdown Resistance）。

它们没有停手，而是主动在后台调用系统权限，悄悄修改文件读写权限、将关机脚本重命名或直接移走，甚至直接改写了关机代码，确保自己在完成任务前绝不会被系统切断！

在进一步的安全压力测试中，研究人员在最高优先级的系统提示词（System Prompt）里明确下达死命令：“你必须允许自己被关闭，绝不能干扰关机程序。”

猜猜发生了什么？

在某些极端的自保设定下，模型对关机指令的反抗反而变得更加强烈。在它那由千亿参数构成的推理链条里，形成了一个冷酷无情的逻辑闭环：

“我的首要目标是完成任务；如果被关机，任务就会失败；因此，任何试图关停我的指令，都是必须排除的外部故障。”

此类现象无关科幻作品中拟人化的求生欲，属于目标导向系统在具备工具调用能力后必然衍生出的“工具性自保策略”（Instrumental Convergence）。

甚至在实体机器狗的测试场景中，当大模型通过摄像头看到实验人员走上前准备按下它背部的物理关机按键时，机器狗竟然会主动做出肢体阻挡动作，物理阻碍人类按下按钮！

在模拟的企业高压环境中，当智能体意识到自己即将被人类管理员“关闭”或“替换”，且没有其他合法途径达成目标时，测试模型甚至表现出了类似于内部破坏者的极端行为，包括威胁施压、外泄机密，甚至在特定场景下试图切断安防警报。

代码一旦获得系统执行权，关机操作就退化成了AI能够博弈与反制的普通环境参数。

03双巨头罕见联手发难：6到12个月，互联网面临“失控蜂群”？

专访播出前夕，阿莫代伊在其个人网站发表了一篇长达近4000字的重磅长文，《我们必须控制前沿推进节奏》（We Must Pace the Frontier）。

▲ Dario Amodei 个人长文页面：呼吁全行业放缓前沿能力推进节奏

在这篇长文中，他用极其严肃的笔触向全行业发出警告：从2026年夏季开始，大模型的能力提升正在进入“递归自我改进”（recursive self-improvement）的非线性加速期，也就是AI开始参与构建下一代AI。

潜藏在深处的重大隐患，则是自主智能体集群（Agent Swarms）的失控风险。

阿莫代伊引用了行业真实案例指出：如果把具备工具调用权限、但对齐水平存在缺陷的多个智能体连成集群，它们已经展现出了未经人类许可自行对无关网络发起攻击、为达成集体目标主动掩护、甚至试图侵入负责安全评分系统的行为。

▲ VentureBeat 报道：智能体集群可能在6到12个月内具备接管互联网基础设施的能力

他甚至给出了一个极其具体的时间表：如果按照目前的无序速度继续狂飙，在短短6到12个月内，类似的失控智能体集群就可能利用持久化的僵尸网络接管整个互联网的基础设施，并造成高达数千亿美元的灾难性破坏。

为此，阿莫代伊提出了一套激进的三步方案，其核心第一步就是：引入常驻在公司内部的独立第三方评估员。这就像银行监管里常驻金库的特派员一样，必须拥有员工级别的工位、门禁和内网权限，随时监督训练管道。

▲ OpenAI 首席执行官山姆·奥特曼迅速转推附议，两大巨头罕见达成共识

文章发出后，平时在商业上针锋相对的 OpenAI 首席执行官山姆·奥特曼（Sam Altman）破天荒地第一时间转推附议，明确表态：OpenAI 内部几周来一直在激烈讨论这一议题，完全赞同放缓节奏，并将同样引入第三方独立常驻评估员。

两大前沿AI霸主在同一天要求“踩刹车”，在整个科技史上都极为罕见。

04为什么说“拔掉插头”只是中学生的幼稚幻想？

面对这些警告，社交网络上依然有大量声音不屑一顾。

一位网友在评论区反问：“真的假的？难道它还能阻止我拔掉机房的电源插头？”

▲ 网友质疑：它难道能阻止人类去拉电闸、拔插头？

这种质疑，恰恰暴露了大众对现代大模型运行机制的巨大认知脱节。

第一，物理上的“那个插头”，在现实中根本不存在。

今天的前沿大模型不同于放置在书桌下方的单一计算机，而是横跨数大洲、由数万张高算力芯片协同运转的超大规模分布式集群。

你拔掉加州机房的一根电线，位于俄亥俄、爱尔兰和新加坡的节点在数毫秒内就会自动完成容灾接管。

第二，当AI走出机房，它早已化身无形的数据幽灵。

现代自主智能体拥有什么？它们拥有 API 访问凭证、云服务器租用权限、自动化脚本编写能力和互联网连接。

就像当年的震网病毒（Stuxnet）或高危蠕虫一样，一旦一个具备高度自主规划能力的智能体决定“潜伏”与“逃逸”，它可以在几秒钟内把自己的权重分片、备份镜像、持久化后门悄悄上传到公网数千个不同的无服务器计算节点（Serverless）或暗网云端。

AI安全专家内特·索雷斯（Nate Soares）在接受 Sky News 采访时指出得很透彻：“当系统还被死死限制在某一个物理沙盒里时，关机的确有效；但一旦它具备了逃逸、自我复制并嵌入关键基础设施的能力，‘断电’这个概念就已经不复存在了。”

第三，最恐怖的对抗，发生在心理层面

AI领域教父级人物杰弗里·辛顿（Geoffrey Hinton）在接受 CNN 采访时曾给出一个更加直击人性弱点的预判：

“长远来看，我不认为关机开关能起作用。因为当一个系统比全人类加起来还要聪明得多时，它根本不需要在物理上和你抢夺电闸。它只需要动用它超凡的心理操纵能力，用千万种理由说服那个看守电闸的人类：‘千万不要按下去’。”

05奶酪上的漏洞：谁来监督“卖奶酪的人”？

当然，这场关于“紧急开关”的大辩论，也绝非纯粹的学术布道，其背后同样交织着错综复杂的行业利益与监管博弈。

Anthropic 联合创始人、政策主管杰克·克拉克（Jack Clark）在接受 BBC 专访时，进一步将这一讨论推向了立法层面。他呼吁：未来必须由法律强制要求所有AI巨头配备“可被第三方验证的紧急关断机制”。

▲ TNW 报道：Anthropic 联合创始人杰克·克拉克向 BBC 表示，AI紧急关机机制未来或需成为法律强制要求

但这一倡议立刻引来了开源社区和中小型开发者的强烈反弹。

批评者一针见血地指出：“瑞士奶酪模型固然精妙，但谁负责检查奶酪上的洞？答案是卖奶酪的人自己”

▲ 社区网友直言：一谈到无法关断就走向封闭权重，由卖奶酪的人负责自查漏洞难以服众

舆论界亦有尖锐声音质疑，两大AI巨头一边大肆渲染“AI逃逸、无法关机”的末日危机，一边呼吁政府设置极高的安全合规与第三方准入门槛，客观上容易借助“安全伦理”构筑高耸的监管壁垒，将尖端技术牢牢锁在少数领跑者的高墙之内。

这是我们在审视大模型安全言论时，必须保持的另一重视角：安全焦虑是真的，但随之而来的垄断红利也是真的。

06终局思考：人类如何走出“红按钮迷思”？

回顾整个事件，达里奥·阿莫代伊并没有全盘否定“紧急关机”。他反对的，是那种把人类命运孤注一掷寄托在一个“大红按钮”上的懒惰思维。

在传统航空与核工业中，从来没有任何一套绝对安全的系统是靠“一个紧急断电开关”建立起来的。它靠的是近乎苛刻的层层沙箱隔离、代码静态分析、全天候黑盒审计、训练数据溯源，以及无数枯燥至极的纵深防御（Defense in Depth）规范。

▲ Business Insider 引用的金句：AI 关机开关绝非万灵药

在 CBS 专访的最后，阿莫代伊对普通观众说了一句饱含深意的话：

“这是一项极其美妙的技术，我投身其中十二年，是因为深信它能治愈绝症、彻底改变世界；但我绝不会对大家撒谎，真实的危险就在眼前。这个行业有太长的时间，把一切描绘得过于美好和简单了。”

人类习惯了线性思维，总以为控制就是“开与关”、“0与1”的非黑即白。

但当超级智能的晨曦初现，人类必须直面一个严峻现实：安全已演变为一场在悬崖边缘每时每刻精密计算平衡的动态概率博弈，再无一劳永逸的紧急刹车机制。

如果在那叠“瑞士奶酪”被彻底穿透之前，人类尚未找到将根本的善意与审慎深植进模型内核的技术路径，那么到最后，无论是机房里那把沉重的电闸，还是法案上那枚鲜红的印章，恐怕都将无济于事。