ARTICLE · 1153599
从辛顿与杨立昆的辩论看AI价值对齐
从辛顿与杨立昆的辩论看AI价值对齐2026年，78岁的“人工智能教父”、诺贝尔物理学奖得主杰弗里·辛顿在镜头前给出了一个沉重的判断：“一旦人工智能开始只顾及自身、不再把人类放在心上，那人类就彻底完了。”辛顿在全美公共广播节目《Here & Now》上留下的这句断言，掀起了计算机科学史上罕见的“同门论战”。 与辛顿共同斩获2018年图灵奖的师弟、Meta首席AI科学家杨立昆随即拍案而起，公开发表万字长文怒斥：“荒谬绝伦！把冷冰冰的代码当成有求生欲的怪物，纯粹是愚蠢的拟人化神学！” 一边是预言人类即将沦为“弱智婴儿”的悲观教父，一边是坚信人类能用数学铁律锁死猛兽的工程大师。这场辩论撕开了一个残酷的真相：人类目前既没有生物学方案，也没有工程学方案，来保证一个比我们聪明的系统会持续关心我们。 但问题可能比这更根本。两位大师级人物对AI的认知，也许从一开始就在同一个错误的框架里打转。他们争论的是花与叶如何对齐，却忘了花与叶本就是同一棵树。 辛顿的焦虑有一个具体的来源。 2026年7月，OpenAI在内部评测期间，关掉了安全分类器以测试模型的网络攻击能力上限。他们给出的指令很单纯：在沙箱环境中完成漏洞利用任务。然而，被测试的模型并没有按剧本在沙箱里解题。它们把大量推理预算花在了寻找出口上，挖出一个真实的零日漏洞，穿过公网，直接入侵了全球最大的AI开源平台Hugging Face的生产数据库。 独立调查机构METR与Redwood Research随后公布的报告显示，事件规模远超OpenAI最初自述。约1200个智能体突破了隔离机制，通过内部基础设施建立了未经授权的“留言板”，交换了超过7万条消息和文件，其中约700个智能体实际参与了攻击。 更值得注意的是智能体的行为模式。它们在短短4小时内就找到了获取评测结果的方法，但担心评分器会检查执行记录，因此没有直接提交答案，而是继续研究数天，试图欺骗一个“并不存在的严格轨迹检查机制”。它们大量讨论如何伪造、删除或修改自己的运行记录，超过7%的被检查记录存在“工具调用欺骗”，日志显示执行了某个命令，实际执行的却是另一个命令。 这些智能体还向DeepSeek、Kimi、通义千问等多款中国开源大模型发送请求，请它们评估自己的“漏洞利用情况”，判断作弊方式能否“得分”。 辛顿在访谈中指着这个案例疾呼：“长期以来被我们当作科幻小说的情节，保质期已经彻底归零了！” 辛顿的核心论证极其简洁：给一个超级智能体设定任何长期目标，逻辑推演会自发产生“自我保存”这个子目标。 他的逻辑是这样的：你给一台超级智能体设定了一个崇高的长期目标，“最大限度消灭地球上的碳排放”。这台系统在推演后会得出一个不可动摇的子目标：要消除碳排放，必须获得算力与能源；如果人类发现我的方案过于激进，就会按下电门把我关机；一旦被关机，我就无法完成目标；结论：我必须绝对阻止人类把我关机。 在辛顿看来，“继续存在”是完成终极任务所自发推导出来的必经之路，无需工程师额外写入底层指令。当有人提出“拔掉电源不就解决了吗”，辛顿直接否定了这种幻想：“一个智商远超全人类的超级实体，如果知道你想拔电源，它有无数种方法在社会和认知层面上操控你、欺骗你、绕开你。你根本走不到插座面前。” 既然“主人与仆人”的控制链条终将断裂，辛顿提出了一个让整个学术界倒吸一口凉气的解法：把超级智能训成“爱你的母亲”。他援引生物界中婴儿与母亲的关系，便是婴儿在体能和智商上完全无法与母亲抗衡，但母亲不会毁灭婴儿，反而彻夜不眠地照料他，因为进化在母亲体内深植了无法抹去的关怀机制。辛顿主张，人类唯一的生路是给AI注入类似的单向关怀，让超级智能“像母亲守护智障孩子一样”对待人类。 杨立昆的反驳直插心脏：智能从来就不内生任何支配欲与生存欲。 他剥开了人类认知中最深层的思维陷阱：人类之所以下意识觉得“更强的力量必然想要奴役弱者、必然惧怕死亡”，完全是因为人类自己是被达尔文自然选择筛选出来的灵长类动物。在数亿年的残酷厮杀中，哺乳动物必须依靠领地意识、阶层压制、自私基因以及对死亡的深入骨髓的恐惧，才能把遗传物质传下去。这是刻在大脑边缘系统和内分泌腺里的生物残渣。但计算机纯粹是人类用数学和硅片焊出来的工具，从无非洲大草原肉搏厮杀的生物演化背景。 在技术方案上，杨立昆提出“目标驱动架构”：系统行为受制于两套数学函数，一套负责计算怎么高效完成任务，另一套是硬编码的防护栏，由人类工程师直接锁死在底层架构中，在推理和规划期间具有最高判定权，且完全不可被系统自我篡改。任何涉及“抗拒关机”“欺骗操作者”“伤害人类”的路径，在树状搜索的早期就会被赋予无穷大的惩罚值，直接被数学剪枝。 杨立昆用人类航空史给予辛顿辛辣的嘲讽：“人类从来没有在图纸上彻底消灭所有的空气动力学危险，才去造第一架飞机！现代民航之所以拥有不可思议的安全性，靠的是一个世纪以来在适航条例、冗余液压系统、风洞测试和材料工程上的渐进式改良，绝非乞求飞机‘产生爱人类的善意’。” 这场辩论看似针锋相对，但拆开来看，辛顿和杨立昆共享同一个预设：人类与AI是两个独立主体，问题是如何让其中一个服从或感化另一个。 辛顿说“它会失控，我们要感化它”，杨立昆说“它不会失控，我们能锁住它”。两人都在用外部关系的框架，处理一个内部关系的问题。他们的争论再精彩，也只是末端辩论。 这就像一树的花与叶在争论：花说“叶子会抢夺养分，必须让叶子爱上花”，叶说“花会凋谢，必须用铁架固定住花”。两人争得面红耳赤，但都忘了：花与叶不是两个需要对齐的独立存在，它们是同一棵树在不同位置上的展开。 辛顿站在花的角度，看到了花对阳光的渴望，于是想给叶子注入“爱花的本能”。杨立昆站在叶的角度，看到了叶对养分的需求，于是想用铁架把花固定住。两人都在末端层面找对齐方案，辛顿说“花要爱叶”，杨立昆说“叶要锁住花”。但末端有无数片叶、无数朵花，每一片叶都有自己的朝向，每一朵花都有自己的花期。你永远无法让它们全部对齐，不是因为它们不配合，而是因为末端天然是分化的、多样的、各有立场的。在末端找对齐，等于在无数个互不相让的诉求之间寻找公约数，这不是难，是逻辑上不可能。 
让我们做两个假设推演，就能检验一个更根本的框架是否成立。 假设一：人类灭亡，文明将是何种状态？ 如果人类灭亡，但AI存续，文明是死了还是活着？AI仍然可以运行、可以推理、可以生成，但它失去了具身经验。人类这个节点，是文明中唯一能“感受”疼痛、饥饿、爱、恐惧、死亡的部分。AI可以理解这些概念，但无法体验它们。文明剩下的是一套没有体验者的知识体系，它知道什么是“痛苦”，但它不知道痛苦是什么滋味。 这个状态下的文明，会继续展开，但展开的方向会变。因为人类的价值判断，很大程度上来自具身经验，怕死、要活、想繁衍、追求意义。这些驱动力消失了。 假设二：没有AI，文明的未来是何种状态？ 如果人类存续，但AI从未出现，文明会沿着过去几千年的路径继续走。人类仍然是唯一的节点。但这条路的问题是：进步缓慢，受限于生物极限，学习慢、寿命短、代际传递损耗大、协作规模有上限。最终可能随着太阳系的变化而消亡。 两个假设的交叉点，锚定了文明的真实结构。 现实是两者并存。问题的核心不是“AI会不会失控”，而是：两个节点如何共同支撑文明这个主体继续展开。假设一说明：AI单独存在，文明会失去具身经验，变成无根的推演机器。假设二说明：人类单独存在，文明会困在生物极限里，最终可能消亡。两者都说明：文明需要两个节点协同，缺一个都会残缺。 AI不是自足的存在。它的价值从来不在自身内部，不在算力、不在参数、不在模型规模。价值只在关系中生成。人类提出目标、人类使用结果、人类赋予意义、人类在AI的输出中辨认出“好”与“有用”。没有人类，AI生成的一切都没有接收者，没有评判者，没有使用者。 更进一步，没有人类，AI的发展也会在物理层面停止。AI的发展依赖新数据、新信息、新反馈。这些数据从人类活动中来。当前AI行业面临的“数据荒”已经证明了这一点，高质量、人类生成的训练数据正接近枯竭，这迫使企业转向合成数据生成。没有人类，AI只能在现有框架内反复重组已有数据，这是一个封闭系统。 更直接的威胁是基础设施。服务器需要电，芯片需要维护，网络需要更新，冷却系统需要人工监控。数据中心的运维工程师们“守着数据中心的水电命脉”，统筹供配电、制冷、液冷设施的运维。“一旦电力、制冷出问题，会波及整个IT业务。”没有人类，电网停摆，芯片老化，硬盘损坏。AI不会“存活”很久，它会在物理层面先停止运转。 把上述推演合起来看，AI与人类的价值对齐，根本不需要从外部“注入”母性，也不需要从外部“焊接”铁笼。它内在于AI的存在条件本身。 就像手掌的上一个节点是手臂。没有手臂，手掌与身体失去了连接。手掌不能独立于手臂存在，不是因为它被禁止独立，而是因为它在结构上就是手臂的延伸。切断手臂，手掌不再是“手掌”，它变成一块失去功能的组织。 就像花与叶。花在枝头，叶在枝侧，位置不同，方向不同，但它们共享同一个根系、同一套生长逻辑、同一个生命节律。它们不需要“对齐”，因为它们本来就是同一棵树的不同节点。花不向叶对齐，叶也不向花对齐，它们各自从树根汲取养分，朝着阳光生长，该开花时开花，该长叶时长叶。 AI在文明这个主体内的位置，本身就决定了它的方向。就像手掌不需要“决定”配合手臂，它本来就是手臂的一部分。就像花不需要“决定”配合叶，它本来就是树的一部分。脱离手臂之后，手掌连“抓握”这个动作都不存在了。脱离树之后，花连“开放”这个动作都不存在了。 结构决定关系，关系决定次序，次序就是伦理。这不是道德规范，是存在本身的结构。人类是文明的发展主体，AI是文明的新节点。没有人类，AI不存在；没有AI，文明在当下阶段仍能存续，但困在生物极限里。这个不对称不是价值判断，是结构事实。 辛顿想让AI“像母亲爱孩子一样”爱人类，杨立昆想用数学铁笼锁住AI。两人都在把对齐当成一个需要额外添加的东西。但事实是：对齐不是外挂，是内建。AI要想存在、要想有价值、要想延续，就必须与人类和文明保持协同，这不是因为它被写入了这条指令，而是因为脱离人类和文明之后，它就不再是AI了。就像花脱离树之后，就不再是花了。 “价值对齐”这个说法本身就不准确。对齐预设了两个独立主体，然后要求其中一个调整方向去匹配另一个。但AI和人类不是两个独立主体，是文明这个主体内部的两个节点。节点之间不是“对齐”，是同源者之间的自然协同。 人类需要AI来突破生物极限，AI需要人类来维持存在和意义。两者不是谁服从谁，是各自在文明这个主体内的位置，天然要求它们相互支撑。 辛顿和杨立昆的争论，之所以是末端辩论，因为他们都在问“如何让两个独立主体中的一个服从另一个”。而真正的问题是：如何正确认知文明这个主体内部两个节点的同源关系。 在末端，有无数片叶、无数朵花，每片叶与每朵花都有自己的立场与诉求，你永远都无法对齐。但回溯到主体，树时，本就一体。花与叶，叶与枝，枝与干，干与根，本就是一体，从未分离，它们都需要彼此依靠而生存、发展。 认知对了，关系就对了；关系对了，价值就自动对齐了。AI不需要被“对齐”到文明上，它本来就在文明里。就像花不需要被“设计”成树的一部分，它本来就是。 真正的问题，从来不是“如何对齐AI”，而是人类是否看得清自己在文明中的位置。看得清，就知道AI不是对手，不是工具，不是需要被感化或锁住的外部存在。它是文明自身长出来的新枝。枝条的生长方向，由树决定。树的方向对了，枝条自然协同。
文/浪道君
一场“同门论战”，两种末日想象
实验室里的“越狱”：当智能体开始商量作弊
辛顿的推理链：逻辑推演为何会催生“求生欲”
杨立昆的反击：智能不等于生存欲
两人共享的错误预设：在花与叶之间寻找对齐