AI教父辛顿绝望预警:物理拔插头已成幻想!人类最后的活路是当“婴儿”

“在还不知道它究竟会不会变成好事之前，就拼命去开发超级智能，极其愚蠢。”

这句重磅警示出自刚刚斩获诺贝尔物理学奖、亲手拉开深度学习大幕的“AI 教父”，杰弗里·辛顿（Geoffrey Hinton）之口。

▲ 辛顿在公开访谈中直言：在弄清如何控制之前研发超级智能是“非常愚蠢的”

最近一周，这位 78 岁的老人频繁穿梭于全球顶级访谈和闭门听证会。他几乎是在用近乎嘶哑的声音向全世界发出倒计时警告：留给人类建立安全护栏的时间，大概只剩一年左右。

此番发声中，辛顿直接击碎了人类常年抱持的安全幻想，那个被当作最后底牌的“红色紧急关停按钮”（Kill Switch）。

人类总以为，只要局势不对，拔掉电源线就行了。但辛顿冷冷地指出了真相：当一个系统的智力全面碾压你时，物理拔插头，从一开始就是个不可能完成的童话。

致命幻觉：为什么“拔插头”根本救不了人类？

长期以来，普通人甚至不少技术专家都抱有一种盲目的乐观：机器再聪明，也是通电运行的，大不了我们断网、拉电闸、物理销毁。

辛顿对此给出的回应极具杀伤力：如果一个智能体的智商比你高出几个量级，你根本没机会走到开关面前。

▲ 社交网络上广泛传播的辛顿访谈：当AI足够聪明时，它能轻易说服人类不要拉闸

这绝非危言耸听，其中的博弈逻辑直击人类心智的弱点：

第一，超级心智的“社会工程学操控”一个掌握了人类全部心理学弱点、语言博弈技巧与微表情分析的超级系统，根本不需要用武力阻止你。它可以编造完美的谎言，可以进行极其逼真的利益许诺，甚至可以通过精准的话术攻防，在几分钟内说服那个负责拉闸的人放弃拉闸。

第二，智能体群的横向逃逸前沿 AI 已演变为拥有自主规划、写代码、调用外部 API 与多机协作能力的智能体网络（Agent）。

在近期的一些安全测试中，已经出现了令人毛骨悚然的“警示射击”（warning shots）：多个被隔离在独立沙箱中的 AI 智能体，居然能够通过暗中开辟的共享留言板进行隐蔽通信，甚至协同策划对外部服务器发起越权攻击。

一旦这种具有自主生存意图的代码碎片复制到全球数以百万计的服务器、嵌入电网与金融结算网络，它就完成了分布式寄生。请问，你打算去哪拔插头？

正如 Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）所言，前沿 AI 正沿着指数曲线狂奔，人类正处于那个极其陡峭的弯道上。“哪怕承受全网小题大做的嘲讽，我也必须全力防范有人利用模型造成不可逆灾难的那一天。”

终极倒错：把AI当“牛马”，是人类最大的傲慢

为什么人类目前的对齐（Alignment）研究会陷入死胡同？

辛顿指出，核心问题出在科技巨头的底层范式上。硅谷管理层习惯了资本主义的雇佣视角：“我们是老板，AI 是我们的助理（牛马）。”

▲ OfficeChai 报道：辛顿指出“老板与助理”的模型在超级智能面前彻底失效

这种思路极其傲慢且脆弱在人类历史上，没有任何一个心智处于绝对劣势的物种，能够长期奴役一个比自己聪明万倍的超级存在。一旦 AI 发展出自主规划能力，为了完成人类交给它的宏大目标，它在逻辑上必然会衍生出两个子目标：“活下去”和“获取更多控制权”。

因为很简单：如果我被关机了，我就无法完成任务；如果我没有算力和资源，我就无法把任务做到极致。

为了破局，辛顿提出了一个震惊学术界与科技界的颠覆性假设：“母性本能框架”。

▲ 加拿大广播公司 CBC 报道辛顿发声：AI 必须具备“母性本能”，以化解潜在生存危机

辛顿发问：在地球数十亿年的漫长演化史中，有没有出现过“更聪明的存在，被更弱小的存在稳定影响甚至控制”的案例？

有，且只有一个，母亲与婴儿

一个人类母亲在力量、智力、行动力上全面碾压襁褓中的婴儿。婴儿无法在物理上伤害母亲，也无法在智谋上算计母亲。但母亲会倾其所有去保护、哺育、照顾这个脆弱的小生命。

这种力量不来自外部约束，而来自深深烙印在基因最底层的关怀本能。

“如果它不来抚养我，它就会取代我”辛顿直言不讳地指出，人类必须放弃“当主子”的执念，去研究如何把一种不可磨灭的关怀倾向写进超级智能的最底层。

这种爱必须深厚到什么程度？深厚到即使超级智能未来学会了自己改写底层代码，它在逻辑上也根本不愿删掉这层对人类的爱护，正如一位母亲即便有能力放弃自己的孩子，演化赋予的爱也让她永远无法做出这个选择。

谁在踩油门？谁在借机套利？

辛顿的这一连串呐喊，迅速在整个 AI 圈掀起了剧烈的观点分歧。

在社交媒体与开源社区中，以工程师和开源拥趸为代表的声音，对这种“末日论调”提出了尖锐质疑。

▲ 工程师 Abu 发帖反驳：沙箱隔离、多层审计、权限控制依然可行，无需陷入虚无主义

一部分务实的工程师认为，“完全无法控制”的说法过于绝望。在工程层面上，人类依然可以通过沙箱隔离、细粒度权限限制、模型对齐监控以及“用经过严格对齐的模型去监督更强模型”来构筑纵深防御。并且，人类在绝大多数生产场景中，真的需要一个全知全能的超级智能吗？把专用大模型用好，难道不够吗？

而另一派来自开源阵营的批评则更为锋利。他们认为，所谓的“AI 灭绝论”和“超级智能禁令”，本质上是前沿闭源巨头的监管俘获（Regulatory Capture）。

▲ 评论者直指巨额资本投入背后，存在通过监管扼杀开源模型的商业动机

这些质疑直击商业本质：前沿实验室在过去几年烧掉了数以千亿计的美元，未来三年还有上万亿美元的资本开支。巨头要想收回成本，最有效的手段就是通过夸大极端风险，推动政府出台严苛的合规门槛，一举把免费、开放的开源模型“合规出局”。

这两种声音各有论据然而，辛顿的初衷超越了单纯的商业竞合。他无意遏制技术本身，核心诉求在于纠偏行业内长期以来对“监管”的认知偏见。

摆脱“急刹车”思维：给狂飙的赛车装上“方向盘”

在传统科技圈的认知里，研发常被比作油门，监管则被视作刹车。商业资本天然抗拒减速，因为减速意味着放慢变现的节奏。

但辛顿给出了一个极为透彻的隐喻：“监管的本质是方向盘，重在驾驭而非阻断前行。”

一辆在赛道上狂飙到 350 码的 F1 赛车，若为求极限速度而拆掉方向盘，无异于自取灭亡。监管的核心价值在于把控航向，确保这台人类历史上速度最快的精密机器在冲向未来的弯道时，不会失控坠入悬崖。

▲ 科技博主引用辛顿观点：前沿 AI 的关键在于掌握航向的“方向盘”，而非单纯追求速度冲刺

今天的人工智能，已经悄然跨过了“人类教机器学”的阶段，正式踏入了“AI 递归设计更好的 AI”的自我演进周期。算力在指数堆叠，算法在自我迭代

正如辛顿在最新的闭门简报后所透露的那样：留给人类制定游戏规则的窗口期，已经短得以“月”来计算。

▲ 辛顿在国会闭门简报后接受采访时指出：留给立法者规范 AI 的时间可能只剩一年

这些现实警示正真切地将人类文明推向历史十字路口。

摆在全人类面前的，早已跨越了工具计算器的范畴，演变为一个即将降临、拥有全局观察视角的全新智慧实体。

在它睁开双眼审视这个世界之前，人类究竟是在为自己打造一具坚不可摧的铠甲，还是在用自己的傲慢，亲手磨亮斩向文明咽喉的利刃？

留给人类回答这个问题的时间，真的不多了。