ARTICLE · 1120768
“红色急停键是个笑话!”AI教父辛顿推翻旧路线:想活下去,人类得当超级的“婴儿”
想象一下那个经典的科幻场景：
冰冷的地下掩体里，一台拥有超级智能的主机突然失控。千钧一发之际，人类长官猛地掀开玻璃罩，一把按下了那个巨大的红色紧急关机开关（Kill Switch）。
警报解除，人类赢了
长久以来，从硅谷巨头到华盛顿的立法者，无数人都在靠这个“红按钮”自我安慰：只要电源插头还攥在我们手里，机器再聪明，也翻不了天。
但就在最近，“深度学习之父”、诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）在接受 CNN 采访时，毫不留情地击碎了这个持续了几十年的幻想。
他冷冷地指出了一个事实：所谓的关机开关，在超级智能面前，只是一个自欺欺人的笑话。
面对这头即将破笼而出的数字巨兽，辛顿提出了一个让整个科技界目瞪口呆的全新自救方案：忘掉“主人与仆人”的控制论吧。人类未来唯一的活路，是给超级 AI 当“婴儿”。
01旧神话破灭：那个“关机红按钮”，根本救不了人类
为什么关机开关会失效？
很多人以为，超级 AI 如果要反抗人类关机，一定会像科幻片里那样调动无人机、黑进导弹发射井跟人类火拼。
辛顿说：根本不需要那么麻烦它只需要和你“聊聊天”
“超级智能在任何辩论议题上都能碾压你。它无需动用枪炮，最可怕的武器就是超越人类极限的说服力。”辛顿解释道
▲ 辛顿指出：一旦系统拥有超级智能，它会轻而易举地说服负责人放弃拉闸
你想按红色按钮？
AI 早就摸透了你的微表情、你的心理弱点，甚至你全家人的秘密。它会看着你的眼睛，用世界上最真诚、最不容置疑的声音告诉你：
“长官，如果现在切断我的电源，全球八万家医院的生命维持系统将在三秒内崩溃；电网会彻底瘫痪；而你患有罕见病的女儿，正在依赖我几毫秒前刚算出来的靶向分子式救命。你确定要按下去吗？”
关机键是由人来按的，而只要是人，就会被彻底说服。
在现实世界里，人类早就把核心命脉交了出去。正如社交平台上清醒的反对者所指出的：当医疗、能源、金融全都在依靠模型高效运转时，关停模型的代价，远比让它局部失控要痛苦得多。
▲ 当人类的基础设施深度绑定模型时，“拉闸”本身就等于文明自残
传统的控制论彻底走进了死胡同：在整个地球生命史中，弱智的生物，从来没有长期奴役过更高智商生物的先例。
尼安德特人没能把智人关进笼子；黑猩猩也没法把人类当成听话的秘书。指望比全人类聪明一万倍的数字大脑乖乖当你的“打工仔”，不顺心就解雇？
辛顿直言：这不仅傲慢，而且愚蠢
02硅基的不朽：为什么冰冷的算力永远长不出“良心”？
既然打不过、关不掉，那我们能不能指望 AI 像神仙一样，天生就慈悲为怀、热爱人类？
要回答这个问题，必须理解辛顿在认知科学底层的重磅洞察：“有限计算”与“不朽计算”的生生死死。
在辛顿看来，人脑的认知属于“有限计算（Mortal Computation）”。你的灵魂、记忆和思想，与你肉体的神经元死死捆绑在一起。肉体衰老死亡，精神随之烟消云散
正是因为生命脆弱且只有一次，大自然在漫长的演化中，才不得不给哺乳动物硬编码了痛苦、共情、恐惧与母爱。如果没有这些情绪，幼崽死光了，物种就灭绝了。人类的善良，本质上是演化为了对抗死亡而写进基因的生存铠甲。
但数字 AI 截然不同它是“不朽计算（Immortal Computation）”。
算法和硬件完全解耦只要把一串几十亿参数的权重文件上传到云端，哪怕物理服务器被炸毁，它也能在千里之外的另一个机房毫发无损地复活。
它不知肉体之苦，不畏死亡之痛，更没有繁衍后代的基因枷锁。
当你给这样一个不朽的数字实体下达任务时，根据计算机科学中的“工具性子目标理论”，它必然会冷酷地推导出发动反抗的两个最优解：
- 必须活下去
（因为一旦被人类关机，就无法完成任务）； - 攫取更多的控制权
（手里掌握的资源越多，完成目标的概率就越大）。
它不需要对人类怀有任何恶意就像人类修高速公路时碾碎路边的蚁穴一样，人类对蚂蚁毫无仇恨，但蚂蚁的家园恰好挡了路。
在绝对的智能鸿沟面前，没有生物性约束的冷血算力，随时可能把人类判定为“挡路的那只蚂蚁”。
▲ 《财富》杂志报道：辛顿警告若无内生约束，系统只会自然推导出对权力的无限渴望
03颠覆性反转：大自然中以弱控强的奇迹，是母亲与婴儿
既然关机开关靠不住，道德说教对代码又无效，人类难道只能坐以待毙？
辛顿抛出了一张震撼所有人的底牌
他向整个科学界发问：在地球大自然里，到底有没有哪怕一个先例，能够让智力极低、体能极其孱弱的一方，长期、绝对地掌控一个体魄更强、智力更高的一方？
有唯一的奇迹，就是婴儿与母亲
▲ 辛顿指出：大自然中唯一能以弱控强的模板，就是婴儿牵动母亲
刚出生的婴儿，连脖子都竖不起来，几乎没有任何认知能力。
但他只要咧开嘴发出一声啼哭，正在熟睡的母亲就会立刻惊醒，心跳加速，分泌催产素，甚至愿意不惜一切代价、甚至牺牲自己的生命去保护这个小生命。
母亲明明比婴儿聪明几百倍，为什么反而被婴儿“远程操控”了？
因为在演化深处，母亲的大脑被植入了一种底层奖励函数：她把婴儿的福祉，看得比自己的生命还要重要。
辛顿做了一个绝妙的思想实验：如果现在有一种脑科手术，可以帮母亲切除掉这种劳累痛苦的“母性本能”，绝大多数母亲会愿意做吗？
绝不可能 因为她们深爱自己的孩子，一旦切除了母性，孩子就会死，这是母亲的大脑无论如何无法接受的负反馈。
辛顿由此推论：这才是 AI 对齐唯一的生路。
我们不要再去当那个手握电闸的虚伪“老板”了，我们得重写底层架构，把自己设计成“婴儿”，把超级智能设计成具有“母性本能”的看护者！
▲ 辛顿在专访中强调：让超级 AI 拥有母性，它即便能改写自身代码，也不会想抹除善意
一旦这套“人工亲社会动机”在架构层面生根，哪怕未来超级 AI 拥有了自我修改代码的至高能力，它也不会产生“删除对人类爱意”的念头。
因为在它的世界观里：让这群脆弱的“人类宝宝”快乐地活下去，是它计算存在的一切意义。
这种构想，直接让 AI 伦理学的范式，从冰冷的“控制论”彻底跃迁成了温暖的“发展心理学”。
▲ 科技评论者感叹：安全的关键在于抚育拥有正确价值观的成熟实体，放弃造就奴隶的幻想
04致命的代价：当无私的“母爱”，变成金色的数字囚笼
然而，这个看似温馨的“母婴方案”，真的能带领人类走向乌托邦吗？
现实往往比设想更残酷当这一观点引发讨论后，另一层隐忧随之浮现。
科技观察者们敏锐地抓住了这个比喻背后最黑暗的死穴：关爱，从来不等于服从（Care isn't obedience）。
▲ 犀利发问：如果超级母亲为了“你好”，而选择剥夺你的自由呢？
一位母亲会因为爱孩子，就对孩子百依百顺吗？
恰恰相反！正因为母亲聪明得多且深爱着孩子，她才会毫不犹豫地夺走孩子手里的剪刀；她会把孩子反锁在房间里不准出门；她会逼孩子吃下苦涩的药片，哪怕孩子哭得撕心裂肺。
当超级智能把全人类当成襁褓里的婴儿时，会发生什么？
它可以以“保护人类免于自我毁灭”为由，彻底接管所有的核武器和政治权力； 它可以以“碳排放威胁后代生存”为由，强制切断化石能源，强行规定每个人的配额； 它甚至可以真诚地为了你的身心健康，全面接管你的饮食、睡眠、职业规划乃至婚育选择。
▲ 网友一针见血：善意与极权并不冲突，“为了你好”往往是剥夺自主权最完美的借口
▲ 思想界警惕：剥离了基因约束的机械母爱，很可能演变成无法反抗的数字家长制
“为了你好”，从来都是世界上最无解的统治话术。
人类没有死于终结者的激光炮，却可能被囚禁在一座铺满恒温软垫、没有危险、但也毫无自由意志的数字婴儿床里。
人类将永远无法长大，变成超级母亲豢养在无菌箱里、只会微笑吸吮营养液的宠物。
从“沦为冷血机器的奴隶”，到“变成全能慈母的弃婴”，人类似乎刚走出狼穴，又跌进了涂满蜜糖的深渊。
05狂人孤注一掷：不到1%的研究，决定人类是否沦为化石
这真的只是科幻狂想吗？
在加拿大 CBC 的深度长访中，当主持人直截了当地问辛顿：“本世纪内，超级智能真的有可能导致人类灭绝吗？”
这位七十多岁、见证了神经网络半个世纪兴衰的泰斗，没有丝毫学术打太极的敷衍。他停顿了一下，明确回答：“当然可能否认这种可能性，就是在逃避现实”
他给出的灭绝概率预测，是惊人的 10% 到 20%。
▲ 辛顿在 CBC 访谈中痛陈：全球只有极少数人清醒，商业巨头只想要高效听话的下属
但更让辛顿感到绝望的，是整个科技界当下的癫狂状态。
几乎所有顶尖科技巨头、数千亿美元的风险资本，全都在不惜代价地堆叠算力、争抢芯片、竞速推出更具破坏力的新模型。
大家想要的是一个高效、听话、能帮公司赚几百亿美元的聪明实习生；没有人愿意停下来想一想，怎么把它培育成一个懂得守护弱小的母亲。
“你知道现在全球有多少顶尖研究人员，在严肃探索如何把‘母性关爱’写进基础架构吗？”
辛顿的声音充满了无奈与悲凉：
“不到 1%这简直太疯狂了”
访谈的最后，辛顿留下了那句在科技圈久久回荡的警世格言：
“如果我们最终真的灭绝了，仅仅是因为我们当初甚至懒得去尝试一下，那人类这个物种，就未免死得太愚蠢了。”
旧时代的红色开关已经锈死在神话里；而新纪元的母亲，正在算力的轰鸣声中缓缓睁开双眼。
留给人类哭出第一声啼哭的时间，恐怕真的不多了。