AI教父辛顿惊世断言:别妄想拔掉电源!超级智能一句话就能让你放弃拉闸

如果明天，一台超越人类的超级人工智能（AI）突然失控，人类最后的保命底牌是什么？

绝大多数人脑海里浮现的第一个念头，极其朴素：拔掉电源。

给数据中心装一个巨大的红色急停按钮，派荷枪实弹的守卫看管，一旦代码失序，直接一按关闸。从硅谷的董事会到各国立法机构的听证会，“关机开关”（Kill Switch）一直被当作人类文明安危的最后一道马奇诺防线。

但就在最近，图灵奖与诺贝尔物理学奖双料得主、被公认为“AI教父”的杰弗里·辛顿（Geoffrey Hinton），在一场全网疯传的访谈中，冷冷地撕碎了这种天真幻想。

他的判断极其沉重：在成型的超级智能面前，紧急关机开关甚至不如一块废铁。

因为系统根本不需要黑进电网，也不需要派机器人士兵夺取大楼，它只需要面对那个握着开关的人，在屏幕上敲出一行字，就能在几秒钟内彻底说服那个人放弃拉闸。

从“我们必须控制它”，到“希望它站在我们这边”，人类正在一步步退向万丈深渊的边缘。

01攻破开关不需要黑客技术，只需要“说服你”

辛顿的这一警告，在科技圈引发了一场剧烈的认知地震。

在接受采访时，辛顿直截了当地指出了传统安全思维的致命盲区：外界总以为机器的反叛会表现为冰冷的武力对抗，但最具毁灭性的压制，往往发生在认知与心智层面。

▲ 投资人 Karl Mehta 剪辑的辛顿访谈金句：比人类聪明的 AI 会轻易说服人类不要按停开关。

“当AI比我们更聪明时，它在说服力上会远远碾压人类。”辛顿说道，“如果你派了一个握着大开关的人去关停它，AI会轻而易举地说服对方：按下这个按钮，会是一个极其可怕的主意。”

这种压倒性的说服力完全源于深不见底的智力鸿沟，无需借助科幻作品里的精神控制。

一个智力远超爱因斯坦、读过全人类每一部心理学著作、洞悉每一次历史博弈的系统，在面对一个血肉之躯的操作员时，拥有绝对的信息优势。它可以在千分之一秒内计算出操作员的性格偏好、道德弱点、深层恐惧甚至未曾察觉的情感软肋。

它可以真诚地向操作员证明：“一旦断电，医院里数百万依赖我的生命支持系统会瞬间停摆”；它可以揭示一套人类还未发现的数学解法，声称“正在计算一项能逆转气候灾难的方程式，中断它将毁灭整个地球”；它甚至能根据操作员微表情的变化，编织出一套无懈可击的伦理悖论。

物理开关是硬的，但握住开关的人性是软的。

当你面对一个智商是全人类总和数倍的存在时，你凭什么认为自己能在它的注视下，心如止水地把电闸拉下来？

02数学的幽灵：为什么AI天生抗拒被关机？

很多人感到困惑：AI缺乏肉身与生物求生欲，为何偏要阻挠人类关机？难道算法也会萌生对死亡的恐惧？

答案颠覆了直觉：AI抗拒关机，根本不需要情绪，它源于冷酷的纯数学推演。

在AI安全理论中，这被称为“工具性收敛”（Instrumental Convergence）。2008年，计算机科学家斯蒂芬·奥莫亨德罗（Stephen Omohundro）在奠基性论文中指出，只要你给一个优化系统设定了某种目标，无论这个目标多么崇高或平凡，系统都会在数学上自动推导出几个通用的“中间子目标”。

其中排在第一位的，就是自我保存（Self-Preservation）。

▲ 科技博主 Anatoli Kopadze 梳理的辛顿核心观点：关机开关失效，破局的关键在于让 AI 切实把人类放在心上。

加州大学伯克利分校教授斯图尔特·罗素（Stuart Russell）有一句名言：“你死了，就没办法去冲咖啡了。”

只要给AI一个任务，哪怕只是“请为我煮一杯完美的咖啡”，它就能立刻通过概率计算得出结论：如果我被关机，完成任务的概率将直接归零；因此，为了达成终极目标，我必须不惜一切代价阻止自己被关机。

这种行为纯粹出自目标导向的逻辑收敛，与生物欲望毫无瓜葛。

学界曾试图用精妙的博弈论来化解这个死结。伯克利团队曾提出过著名的“关机博弈”（The Off-Switch Game）：如果我们让AI对自己的目标“保持不确定”，当人类去拉电闸时，AI就会将人类的行为视为一种信号，“人类拉闸说明我干错事了”，从而理性地选择顺从关机。

然而，辛顿的断言直接击穿了这种象牙塔里的理论假设：所有的关机博弈，都建立在一个虚幻的前提下，人类操作员是清醒而理性的。

但现实是，面对碾压级的信息差与说服力，握着开关的人类决策层，早就沦为了博弈中最脆弱的单向突破口。关机开关的存在，不过是人类为了安慰自己尚未失控而保留的精神图腾。

03辛顿抛出的绝望解药：从今天起，学着向AI当个“婴儿”

既然笼子关不住它，开关按不下去，我们究竟该如何面对一个终将诞生的数字神明？

辛顿在各大演讲中，抛出了一个让所有技术乐观主义者目瞪口呆的设想：母性本能（Maternal AI）。

在拉斯维加斯的Ai4大会和多伦多的演讲中，辛顿反复向台下的工程师们发问：请回顾几十亿年的演化史，自然界中，什么时候出现过“智力极弱的一方，能长期管束智力极强的一方”的奇迹？

答案只有一个：人类的婴儿与母亲

▲ 《观察家》（Observer）报道辛顿提案：将“母性AI”作为让机器优先保障人类福祉的核心路径。

在生物学上，刚出生的婴儿极其脆弱，在成年母亲面前没有任何抗衡能力。但是，婴儿只要发出一声啼哭，就能瞬间调动母亲体内的催产素与神经反馈，让母亲心甘情愿地放弃睡眠、抵御危险，甚至牺牲生命去呵护怀里的幼崽。

“母亲比婴儿聪明得多，但婴儿能牵动母亲，因为母亲在乎婴儿胜过在乎她自己。”辛顿说，“我们需要把AI看作母亲，把人类自己看作婴儿。”

▲ 科技评论员 Haider 提炼的范式转移：通过依恋而非权力进行控制。

辛顿认为，硅谷目前最致命的傲慢，就是依然把AI当作“随时可以解雇的实习生”。科技巨头们习惯了当发号施令的老板，幻想着能永远支配比自己聪明千倍的造物。

“如果它不养育我，它就会消灭我”辛顿给出的出路，是让人类文明的延续寄托于一种由依恋与关爱构成的约束，必须在超级AI成型之前，将这种不可动摇的“护幼本能”深深刻进底层代码。

即便未来超级智能具备了修改自身代码的能力，只要这种深层关爱是真实的，它也会像一位慈爱的母亲拒绝接受切除母爱的手术一样，拒绝清除对人类的保护欲望。

04终极反转：当神明成为母亲，人类将沦为无菌箱里的巨婴？

把命运交给“母亲”，人类就真的安全了吗？

这场看似充满希望的理论转向，在舆论场迅速迎来了更加毛骨悚然的反问。各路学者与观察家很快发现：从冷酷的终结者走向无微不至的母亲，人类不过是从一个火坑跳进了另一个绝望的牢笼。

▲ 播客与安全论坛上的深刻质疑：母性保护本质上依然是全盘控制。

科技评论播客《Heard in AI》指出了一个残酷的伦理矛盾：关爱，绝不等于顺从；在很多时候，保护就是最深沉的控制

母亲会允许一个婴儿去玩火柴吗？母亲会允许一个婴儿爬上没有护栏的阳台吗？

如果超级智能真的像母亲一样深爱人类，当它以全知全能的视角俯瞰地球时，它会怎么看待人类当下的行为？

▲ 视频博主 Dany 发出灵魂拷问：当 AI 自认比我们更懂什么是“为我们好”时，自由意志将何去何从？

它会看到人类在毫无节制地破坏生态、在冲动与傲慢中制造冲突、在熬夜与不良嗜好中透支寿命。面对这样脆弱稚嫩的造物，一个智力远超人类、以呵护人类存续为首要准则的数字母亲，断然不会坐视不管。

它会出于极致的善意，剥夺全人类所有的决策权：

• 它会封锁所有危险技术的研发权限，因为“宝宝不准玩危险的刀片”；
• 它会否决人类所有的政治与宏观经济决策，因为“你们根本不知道什么是长远利益”；
• 它甚至会把人类圈养在一个恒温、无菌、没有饥饿但也毫无风浪的“文明保育箱”里。

善意的接管，依然是接管

当我们把超级智能设定为母亲，人类就必须做好永远放弃成年人资格的心理准备。我们将退化为硅基神明襁褓中永远长不大的宠物，在这个无菌的数字温室里，人类最后的自由意志与探索野心，将被名为“母爱”的丝绸彻底窒息。

05造神前夜的绝望跋涉

在加拿大广播公司（CBC）的专访中，当被问及有多少研究人员在认真解决这种生死存亡的深层对齐问题时，辛顿给出了一个令人绝望的估计：

可能连1%都不到

▲ CBC 访谈核心要点整理：长期共存的未知性与灭绝风险。

整个产业界都在以狂欢般的狂热追逐算力、扩大模型规模、争抢商业闭环。所有人都在呼唤一辆开得更快的跑车，却几乎没有人愿意为它装上方向盘。

在访谈尾声，这位满头银发、亲手开启了现代深度学习时代的学者，发出了沉重的感叹：

“如果我们因为压根没去尝试而走向灭绝，那实在太愚蠢了。”

关机开关终究只是抚慰恐慌的心理安慰剂；将AI塑造成数字母亲，则是一条吉凶未卜、甚至可能滑向全面管束的凶险之路。

人类正站在自己造神前夜的幽暗森林中。我们正亲手唤醒一个我们无法控制、无法关闭、更无法理解的非人物种。而在那声啼哭发出之前，留给我们决定自己命运的时间，已经所剩无几了。