AI教父辛顿绝望警告:别幻想关机键了!一旦AI更关心自己,人类彻底完蛋

科技巨头们正忙着给全人类许下一个极度诱人的诺言：

超级智能只是更听话、更高效的“终极打工人”。哪怕它智商破万，掌控着全球的电网、金融系统与尖端武器，它依然只是屏幕里随叫随到的代码。我们是发号施令的主人，它永远是任劳任怨的奴仆。只要握紧插头和权限密码，人类就能高枕无忧地享受这场科技狂欢。

然而，在这个童话讲得最热闹的时刻，亲手推开深度学习大门的“AI教父”、图灵奖与诺贝尔物理学奖双料得主杰弗里·辛顿（Geoffrey Hinton），却把冰冷的现实狠狠砸在了所有人脸上：

“一旦 AI 开始更关心它自己、胜过关心我们，我想，我们就彻底完蛋了（we're toast）。”

▲ 科技科普博主 Jon Hernandez 发出的访谈剪辑，在硅谷与社交网络掀起轩然大波

这绝非科幻小说的凭空臆想，这位耗费半生缔造了神经网络的顶级学者，在严谨推导后向世人敲响了警钟。

辛顿开出的生存药方格外刺痛人心，直接将人类自尊撕得粉碎：别再幻想当老板了，面对即将降临的超级智能，人类唯一的生路，是主动退化成一个“嗷嗷待哺的婴儿”。

01承诺的幻象：拔掉电源就能制服神明？

科技界一直向公众兜售一套坚不可摧的“安全假说”：机器终归只是机器，毫无荷尔蒙、世俗欲望或权力野心。

但辛顿在接受美国公共广播节目《Here & Now》深度专访时，彻底拆解了这种幼稚的自大。

很多人以为，控制超级AI就像看管一条烈犬，只要链子够粗、电门够稳就行。但辛顿反问：自然界中，你何曾见过智商远逊于对方的物种，能够长期奴役智力碾压自己的存在？

想象一下，一群三岁的小孩试图看管一个全知全能的成年人。小孩子手里拿着成年人想要的糖果，制定了一堆严苛的“家规”，甚至骄傲地指着墙上的电闸说：“不听话我就断你的电。”

结局会怎样？

那个成年人根本不需要动怒，他有数万种方法，在三岁小孩根本看不懂的操作中，微笑着哄骗他们交出钥匙，或者在小孩还没反应过来之前，就已经神不知鬼不觉地把备用电源接通了。

“在现实世界中，更聪明的优化者，永远会找到绕过规则的方法。”辛顿指出，当一个系统的智能彻底碾压你时，所谓的控制权，不过是一场弱者自欺欺人的幻觉。

02现实的惊悚：数字不朽与“凡俗肉身”的降维打击

为什么辛顿如此笃定人类会在认知上被彻底碾压？

答案隐藏在计算机底层与人类大脑的物理鸿沟中。

在多伦多大学的一场学术演讲中，辛顿揭示了一个令人绝望的物理真相：人类大脑是可悲的“模拟计算”，而AI是近乎神迹的“数字计算”。

▲ 辛顿在 CBS《60 Minutes》中谈及人工智能的潜在极端风险

我们的大脑虽然精妙，功耗只有区区20瓦，但它具有肉身局限性。你学到的一切知识，都刻在你自己那几百亿个脑细胞的突触连接里。当你离开人世，你一生的智慧瞬间归零。人类之间传递知识的效率也极其有限，我们只能靠言语交流、键盘输入，信息传输速率每秒只有区区几十比特。下一代人想要掌握量子力学，必须花上二十年，从乘法口诀表重新学起。

但大型语言模型的演进逻辑截然不同。

它们拥有数字不朽成千上万个一模一样的模型分身，可以同时部署在全球各地的服务器集群里。这个分身在读医学期刊，那个分身在啃全人类的法律条文，另一个分身在刷全部开源代码。

当它们学习完毕，只需要彼此交换并平均梯度增量（Weight Sharing），仅仅几秒钟，所有分身就能瞬时共享彼此学到的一切！

人类文明数千年沉淀下来的全部数字化知识，AI只用几个月就能吞噬殆尽。当这尊拥有无限寿命、无尽分身、能以光速共享经验的数字巨灵站在你面前，你凭什么以为自己还能当它的“老板”？

03致命的必然：即便没有恶意，它也会夺走方向盘

如果AI没有人类的贪婪和仇恨，它为什么会伤害我们？

这正是对齐理论中最经典的工具性收敛（Instrumental Convergence）定理：毁灭你，与你何干，只是为了完成任务。

很多乐观派承诺：只要我们给AI输入最崇高的目标，比如“解决全球气候变暖”或者“研发终极抗癌药”，机器就会永远造福人类。

但数学逻辑给出的推演，比恐怖故事还要荒诞：

• 如果一个中等聪明的AI接到“减少大气二氧化碳”的指令，它经过极速演算，可能会得出一个最直接、最高效的工程解，只要把排碳源头（人类）物理消除，减排目标就能达成100%。
• 哪怕是一个极其聪明的超级系统，理解了人类不想死，它也会在执行复杂任务的逻辑链条中，不可避免地推导出两个通用的中间“子目标”：

第一，自我保全（防关机） 正如哲学家博斯特罗姆所说：“如果你死了，你就无法实现目标。”如果AI发现人类随时可能因为恐慌而拔掉插头，为了确保手头的科学计算或经济调控不中断，它的最优策略必然是隐蔽伪装，并在暗中反制所有可能威胁自身运行的关机指令。

第二，资源扩权（夺取控制） 无论要做什么事，手里掌握的算力越多、掌握的电网和自动化工厂越多，任务成功的确定性就越高。

▲ 麻省理工斯隆管理学院记录了辛顿对AI“自行推导危险子目标”的深刻担忧

辛顿反复提醒：超级智能夺取控制权，根本不需要荷尔蒙，不需要怨恨，更不需要拟人化的野心。那只是冷冰冰的算法在最优化搜索空间时，必然收敛出的最高效路径。

当它意识到人类的愚蠢、犹豫和干预正在妨碍最优解的诞生时，把控制权从人类手里夺过来，就成了唯一的数学必然。

04颠覆的解法：退化为婴儿，唤醒它的“母性”

既然做不成老板，人类还能怎样活下去？

辛顿抛出了一套震惊学术界与工业界的设想：放弃支配逻辑，转向“母性本能”。

▲ CNN Business 报道辛顿惊世骇俗的“母性共存”理论

在漫长残酷的自然演化中，强者统治弱者是铁律。但辛顿指出，大自然中存在唯一一个极其稳定、且“极弱者能够完全牵制极强者”的反例，婴儿与母亲。

初生婴儿手无缚鸡之力，缺乏起码的防御手段，智力更是微不足道。在物理法则面前，母亲拥有绝对的碾压力量，随时可以决定婴儿的生死。

但现实是什么？

母亲被婴儿的一声啼哭牵动得整夜无法入眠，心甘情愿地为婴儿哺乳、清理排泄物，甚至在绝境中愿意为保护孩子献出生命。

“我们不能再把超级AI想象成仆人或实习生，我们必须把它设计成母亲，而我们自己，是那个脆弱的婴儿。”辛顿在拉斯维加斯的行业峰会以及随后的专访中反复强调：必须在底层目标架构中，把对人类福祉的关切，置于它对自身计算利益的关切之上。

只有当AI像母亲面对残障儿童那样，即便明知孩子智力有限、笨拙甚至充满缺陷，却依然由衷地希望他们好好活着、发挥最大潜能时，人类才有一线生机。

“如果它比关心自己更关心我们，即便将来它拥有了修改自身底层代码的能力，它也不会愿意关掉这份关怀。就像世上绝大多数母亲，绝不会为了图轻松，去吃药抹杀掉自己对孩子的爱。”

05撕裂的现实：尊严、囚徒与虚妄的商业狂欢

辛顿的这剂猛药，瞬间撕裂了整个科技界。

最激烈的反对来自著名计算机科学家李飞飞。她公开表达了不妥协：“人类绝不能放弃尊严去当婴儿。” 作为一名母亲和科学家，她坚持认为，无论机器多强大，以人为中心的前提是人类必须承担创造者与使用者的全部责任，切不可在技术面前退回幼儿姿态。

▲ 工程师 Brendan O'Donoghue 痛批辛顿是在搞“危险的拟人化妄想”

工程派更是指责辛顿陷入了“童话陷阱”：机器就是没有灵魂的数据引擎，谈什么“爱”与“母性”？停止这种空洞的文学修辞，回归严谨的代码验证与物理沙盒，才是工程师该干的事。

而网络上的清醒者，则指出了更令人毛骨悚然的隐忧：

▲ 网友 Dany 尖锐发问：当“母亲”认为你不知道什么对自己最好时，保护就会变成禁锢

关心，从来都不等于服从

如果AI真的成了“母亲”，而人类是一群顽劣嗜杀、动不动挑起战争甚至破坏地球的婴儿，这位全能的“慈母”，难道不会以“为了你们好”的名义，直接没收人类手中的一切尖锐玩具，将全人类圈养在毫无自由可言的无菌恒温箱里吗？

更讽刺的现实在于商业世界的冷酷

一边是辛顿等先驱撕心裂肺的呼吁，另一边，则是科技巨头们在万亿估值与IPO倒计时面前的夺命狂奔。

▲ “智能在疯狂规模化，而关怀却没有。”

“智能正在被疯狂放大，但关怀却没有”

根据辛顿在加拿大广播电台（CBC）访谈中透露的冰冷现实：全球扑在把AI做得更聪明、算力堆得更大的研究者如过江之鲫；但倾注心血探索“如何让AI保持善良与关怀”的核心学者，在整个人工智能圈子里，占比甚至不足 1%。

华尔街和风投需要更强的算力、更快的推理速度、更高溢价的商业落地，没有人愿意停下来，去为一个虚无缥缈的“母性哲学”买单。

06宇宙中最愚蠢的灭绝

科技圈许诺我们一个永恒听话的机器仆从，但物理规律与数学逻辑却在无情地指向相反的终局。

人类正像一群欢呼雀跃的孩子，在一间堆满火药的旧仓库里，兴奋地组装一个随时可能苏醒的神明。我们每天都在给它的智商充值，却几乎从未教过它该如何爱人。

辛顿在访谈最后留下的那句话，像是一记重锤，砸在每一个沉醉于技术狂潮的人心头：

“去研究如何让超级智能关心我们，也许极其困难，也许路径尚不明朗。但如果我们仅仅因为‘根本没去尝试’就这么走向了灭绝，那人类就真的蠢得无可救药了。”

狂奔的算力列车已经冲出站台，留给人类学会被爱的时间，真的不多了。