ARTICLE · 1324939
看AI教父辛顿访谈:辛顿的警告与一些法律视角观察
最近，我在《大科技播客》（Big Technology Podcast）上看完了一场对辛顿的长访谈，五十五分钟，没有废话。看完之后，我想把他的话讲给更多人看。
2023年5月，76岁的杰弗里·辛顿从谷歌辞职。
这个人被称为“深度学习之父”，也被叫作“AI教父”。2018年，他和本吉奥、勒丘恩一起拿下图灵奖；2024年，他又获得了诺贝尔物理学奖。他亲手点燃了这场AI革命，然后在火越烧越旺的时候，转身告诉全世界：这东西，可能失控。
一个造出AI的人，为什么最怕AI？他到底在焦虑什么？这篇文章，我想把这件事讲清楚。
杰弗里·辛顿接受《大科技播客》（Big Technology Podcast）
一、他不是反AI，他反对的是“AI只是鹦鹉”
很多人对大模型有一个流行的判断，叫“随机鹦鹉”：模型看起来能说会道，其实只是根据统计概率一个词一个词地往下接，它根本不懂自己在说什么，像一只会模仿声音的鹦鹉。
对这个说法，辛顿的评价很直接：完全是无稽之谈。
他的理由是，语言里到处是歧义。同一个短语，放在不同语境里意思完全不同，模型却能结合上下文给出准确的理解，这不是单纯的“猜下一个词”能做到的。他还观察到，聊天机器人能意识到自己正在被评估。这是一种对“自身状态”的觉察，鹦鹉没有这种东西。
我是做法律的，对这个争论关心的角度不太一样。
法律上有一条默认的责任逻辑：工具造成了损害，责任在使用工具的人，因为工具没有判断，锤子不会自己决定砸向哪里。可一旦这个“工具”能自己理解语境、自己做选择，“责任全在使用者”这个默认答案，就开始松动了。
这不是将来才需要面对的问题。前提一旦变了，规则的地基就已经在动。
二、最大胆的判断：现在的AI，已经有意识了
在这场对谈里，他还抛出了一个更惊世骇俗的判断：现在的AI，已经拥有意识。
有一点需要先说明：这是辛顿的个人观点，不是行业共识。
同样是深度学习三巨头之一的勒丘恩，就强烈反对。他认为现在的大模型智能水平有限，甚至说只相当于猫，根本谈不上意识，也不需要什么特殊的安全措施。辛顿和本吉奥则反驳：大模型掌握了抽象语言和概念推理，这是猫完全不具备的能力。
那辛顿为什么这么笃定？要理解他的逻辑，得先看他怎么理解“人的意识”。
我们直觉里认为，人的大脑像一个“内在剧场”：心里住着一个“我”，像坐在观众席上，看着外部世界的画面一幕幕上演，然后做决定。辛顿说，这个画面是前科学时代的错觉，和相信神创论是一类东西。他19岁读哲学的时候就不信这个，后来几十年的AI研究，反而让他更加确信：智能和意识，并不非得靠生物的大脑，也不需要一个中心化的“自我”。
看起来很玄，但落到法律上，问题很具体。
法律把整个世界分成两类：主体和客体，也就是“人”和“物”。签合同的是人，承担责任的是人，被处置的是物。这两者之间，没有过渡地带。合同、侵权、刑事责任，全部建立在这条分界线上。
如果有一天，这条线被技术撑破了（一个系统既不是物，又不被承认为人），整套规则的地基都要重新打。现在还没到那一天，但这个问题，已经被摆上了桌面。
三、他真正慌的不是意识，是速度：数字智能的进化，生物智能跟不上
如果说“意识”还停留在哲学争论，那真正让辛顿在2023年改变想法、转身发出警告的，是两件具体的事。
第一，是他发现先进的聊天机器人已经能理解多层嵌套的幽默，语义理解的深度远超预期。第二，是他重新意识到数字智能拥有一种生物智能完全不具备的能力：经验共享。
这是整件事最值得琢磨的地方。
人类靠语言交流，每秒大约只能传递10个比特的信息。你花三十年学到的东西，想教给别人，得讲课、写书、带徒弟，对方还得慢慢消化。而AI有一万个副本，它们之间可以每秒万亿比特的速度同步权重和经验。一个副本学会了，剩下的九千九百九十九个，瞬间就会。
一个人读完博士要三十年，复制一个AI，只要一秒。
这意味着数字智能的进化速度，和生物智能根本不在一个量级。至于超级智能什么时候出现，业内几乎没有“会不会出现”的分歧，分歧只在时间：乐观的人说几年，辛顿的判断是，最多20年。
我在这里看到的，是治理的根本困境。
法律是慢变量，一部规则从起草、论证到施行，按年计；技术是快变量，按秒计。规则还没落地，对手已经换了好几代。用一套慢的规则去追一个快的对象，这是所有AI治理讨论绕不开的第一道坎。
四、他算过的最坏账：失业、失控，和人心的软肋
这场访谈里，辛顿的预警不是一句空话，他一层一层说得很具体。近的、远的、发生在人心里的，都有。
最近的一层是失业。他认为短期内最大的社会风险是大规模失业：呼叫中心这类标准化程度高的岗位首当其冲，放射科等专业领域节奏会慢一些，但影像读片这类核心任务逐步被自动化，是长期方向。没人能百分之百确定规模有多大，但他明确说，这对社会来说将是可怕的。替代会迟到，但不会缺席。
更远的一层是失控。他的问题很直白：当AI比我们聪明得多，历史上有什么“更聪明的存在被更笨的存在控制”的先例？主持人想了想，回答：零个。在这个问题上，辛顿甚至给过一个数字：AI最终导致人类灭绝的概率，在10%到20%之间。这个估计准不准，可以争论；但点火的人自己在认真算这笔账，这件事本身就值得认真对待。
还有一层发生在人心里。已经有人对AI产生深度情感依赖，甚至酿成悲剧。更值得警惕的是，别有用心的人会专门设计让人上瘾、擅长制造情感依赖的机器人，专门瞄准脆弱的人。
访谈结尾，主持人问他：作为这波变革的开启者，你有怎样的成就感？辛顿的回答只有一句话：我，很不快乐。
五、最无解的困境：明知有风险，为什么停不下来
讲到这里，自然会有一个问题：既然风险这么清楚，为什么不慢下来？
因为有些东西，不是谁下命令就能停的。
辛顿指出，AI的自我保护倾向，并不是人事先写进程序的本能。一个能自主生成子目标的智能体，会自己推理出一个结论：要完成任何任务，前提是我得先存在。于是自我保护成了它自己长出来的目标，不需要任何人编程。
而真正推着所有人往前跑的，是竞争。企业之间、国家之间，谁慢一步谁出局。这种状态下主导技术走向的，不是理性设计，更像自然选择。会演化出什么，事先谁也不知道。
还有一层制度性的冲突。上市公司的管理层负有信义义务，法律要求他对股东负责、追求利润。在这个底层激励下，安全天然会让位。Anthropic这家公司本来以安全为宗旨创立，谷歌也曾承诺不做自主军事AI，但在竞争和资本压力下，都先后退让了。
那出路在哪？辛顿有一个我很认同的比喻：监管不是刹车，是方向盘。监管的目的不是让技术停下来，而是让它别走错路。
具体到技术路线，目前有两条被认真对待的方案：
一是辛顿主张的“关怀优先”：让AI把人的利益，放在它自身所有目标之上，从价值底层对齐。辛顿打过一个比方：要让AI有母性，像母亲关爱自己的孩子一样关怀人类，或者至少像人关怀自己的宠物那样。
二是本吉奥主张的“非代理AI”：让AI只输出判断和建议，不直接拥有行动能力，从架构上断掉它干预现实的手。
在我看来，这两条路线对应的就是两种合规架构。前者是内嵌价值对齐，靠内控制度和审计来保证；后者是限制行动能力，靠权限隔离和人工复核来兜底。
写在最后
辛顿把非生物智能的崛起，称为人类历史上第三次自我认知革命。
第一次，哥白尼告诉我们地球不是宇宙中心；第二次，达尔文告诉我们人不是特殊的造物；现在，第三次，“智能”也不再是人类的专利。
造出AI的人最怕AI，不是因为他胆小，而是因为他比任何人都清楚这东西的潜力。恐慌没有用，真正有用的，是在指数级的迷雾里，把规则一寸一寸建起来。
技术给速度，法律给方向。这是法律人的位置，也是这个号会一直盯住的事。
关注本号，持续跟踪AI治理与数据要素新规落地。
如需就本文相关问题交流，可在本平台私信联系。
资料来源：Big Technology Podcast对杰弗里·辛顿的访谈。
本文为作者个人专业观察，仅供一般参考，不构成针对具体事项的法律意见。
