AI教父辛顿最新访谈:AI或已具备意识,人类正在创造新的智能生命体

2026 年 6 月 5 日，深度学习先驱、图灵奖 & 诺贝尔奖得主、多伦多大学荣休教授杰弗里·辛顿（Geoffrey Hinton）做客 Big Technology 播客，系统谈到了他对人工智能最新进展、AI 意识、超级智能、安全风险、就业冲击、信息生态与监管问题的看法。

辛顿并不是一位站在技术之外的批评者。作为深度学习的重要奠基人，他曾亲手推动了今天 AI 浪潮的到来；但也正因为如此，当他开始持续警告 AI 风险时，这种警告就不只是外部观察，而更像是来自技术源头内部的反思。

在这次 Big Technology 播客访谈中，辛顿的判断依然尖锐：他认为，当前的 AI 已经不再只是“随机鹦鹉”，而是展现出了真正的理解力；它们可能已经具备某种意义上的意识；更重要的是，随着 AI 智能体能力增强，它们可能自然形成“持续存在”的子目标，并最终演化成远超人类的智能生命体。

这些观点并不代表学界共识，也仍然存在巨大争议。但辛顿真正想提醒的，并不是让人类陷入恐慌，而是迫使我们正视一个正在逼近的问题：当 AI 不再只是工具，而开始成为一种新的智能存在时，人类是否已经准备好重新定义自己与智能的关系？

一、AI 不是“随机鹦鹉”，它已经具备真正的理解力

辛顿首先反驳了一个流行说法：大语言模型只是“随机鹦鹉”。

在他看来，这种说法完全低估了当下 AI 系统的能力。因为如果一个系统能够回答几乎任何领域的问题，并且在很多不熟悉的领域达到中等专家水平，那就很难说它完全“不理解”问题。

辛顿举了一个简单例子：如果用户对聊天机器人说，“我看到大峡谷飞往芝加哥”，机器人会回答这不可能，因为大峡谷太大，不能飞去芝加哥。随后用户解释说，真正的意思是“我在飞往芝加哥的途中看到了大峡谷”。机器人会意识到自己误解了原句。

在辛顿看来，这正说明模型并非只是机械拼接词语。它可以形成解释，也可以修正解释。如果它在误读时表现为“误解”，那么在正确领会时，它就在“理解”。

他还提到，早在 2023 年，他就曾用笑话测试 AI。当他把“Fox News is an oxymoron”故意写成带空格的形式，让模型解释为什么好笑时，模型不仅理解了“oxymoron”本身的讽刺含义，还进一步理解了拆分后“moron”等词带来的第二层幽默。这让辛顿感到震动，因为理解幽默需要相当复杂的语义、语境和社会认知能力。

因此，辛顿认为，今天的 AI 已经展现出真正的理解力。它不是简单的概率机器，而是在越来越多场景中表现出类似心智的能力。

二、辛顿相信 AI 已经具备意识

在访谈中，辛顿进一步表示，他相信当前的 AI 系统已经具备意识。

不过，他也强调，自己平时并不愿意过多谈论“AI 意识”这个话题，因为这很容易分散公众对其他紧迫安全问题的注意力。但从他的判断看，我们正在创造一种全新的非生物智能体，而它们与人类的差异，可能没有很多人想象得那么大。

辛顿认为，人类对“意识”的传统理解本身可能是错误的。我们习惯于相信心智内部存在一个“内在剧场”，仿佛外部世界被搬进这个剧场，由一个内部的“我”观看和体验。但在辛顿看来，这种模型很可能只是一个糟糕的理论。

他认为，随着我们亲手创造出新的智能系统，人类将不得不重新理解心智、意识和主观体验的本质。就像过去人类曾经相信自己位于宇宙中心，后来被哥白尼的日心说改变；又像人类曾经相信自己与动物有本质区别，后来被达尔文的进化论改变。如今，AI 可能正在带来第三次冲击：人类不再是唯一的高级智能体。

辛顿说，人类一直认为自己很特殊，但历史一次次告诉我们，人类并没有自己想象中那么特殊。现在，我们必须接受这样一个事实：智能并不是生物的专属。非生物系统也可能拥有智能，甚至成为像人类一样的全新存在。

三、AI 的发展速度远超预期，超级智能几乎一定会到来

辛顿在 2023 年离开谷歌后，开始公开表达对 AI 风险的担忧。回头看，他认为 AI 的进展比自己预期得更快。

他特别提到，最近有聊天机器人提出了关于埃尔德什猜想的有趣数学证明，并令数学家印象深刻。辛顿认为，这类进展只是冰山一角。数学是一个相对封闭的系统，AI 可以不断提出猜想、尝试证明，再根据结果改进。这在某种程度上类似 AlphaGo 的自我对弈。

因此，他认为 AI 在数学等领域会很快变得非常聪明，未来 10 到 20 年内，甚至可能创造出人类无法理解的全新数学成果。

关于超级智能何时到来，辛顿没有给出确定答案。他提到，不同专家的判断差异很大。有人认为只要几年，有人认为可能需要十年或更久。辛顿自己的判断是，超级智能可能会在 20 年内到来。

但他强调，关键并不只是时间早晚，而是几乎所有专家都相信超级智能终将到来，只是在具体时间上存在分歧。当它真正到来时，人类几乎无法预见它会是什么样子。

四、AGI 不会整齐到来，而是“锯齿状”发展

辛顿并不完全认同一种简单的 AGI 想象：即某一天 AI 会在所有能力上同时达到人类水平。

在他看来，AI 的发展是“锯齿状”的，也就是不均衡的。它不会在所有事情上同时达到或超越人类，而是会在某些领域远超人类，在另一些领域仍然落后。

比如，在通识知识方面，AI 已经远远超过任何单个人类。它掌握的知识量可能是个人的成千上万倍。在游戏和数学推理上，它也已经超过绝大多数人类，并可能很快超过所有人类。

但在物理世界中的操作能力、运动控制能力、与真实环境交互等方面，AI 仍然有明显不足。辛顿用猫作类比：猫可以灵巧地跳上摆满玻璃装饰品的壁炉架而不碰倒东西，这种身体控制能力是当前 AI 远远做不到的。但如果要和猫讨论质数，猫完全无法理解，而大语言模型显然要聪明得多。

所以，在辛顿看来，所谓 AGI 不会以一种整齐划一的方式出现。AI 会在一些维度上远超人类，在另一些维度上暂时不如人类。这种不均衡性本身，正是理解当前 AI 进展的重要前提。

五、数字智能有一个人类大脑无法比拟的优势：共享权重

辛顿真正开始感到不安，来自两个发现。

第一个发现，是聊天机器人表现出的深度理解力。它们不仅能回答问题，还能理解幽默、修正误解、处理复杂语境。

第二个发现，则是数字智能相对于人类大脑的结构性优势。

过去，辛顿曾认为，如果数字 AI 的工作方式越接近人类大脑，它就会越聪明。但后来他意识到，数字 AI 拥有人类大脑没有的巨大优势：它可以被复制，并且可以在多个副本之间共享学习成果。

如果一个数字 AI 有成千上万个副本，它们可以同时运行在不同硬件上，处理不同数据。每个副本都可以根据自己接触到的新数据调整权重，然后这些副本之间可以共享权重更新。最终，每一个副本都能从所有其他副本的经验中获益。

这与人类完全不同。人类之间无法直接平均大脑中的连接强度。我们只能通过语言交流经验，而语言传输的信息量非常有限。辛顿估计，人类通过语言交流，每秒可能只能传递几个到十几个比特的信息。而 AI 系统在共享权重时，可能交换的是万亿比特量级的信息。

这意味着，数字智能之间共享经验的效率比人类高出数十亿倍。辛顿认为，这正是数字智能真正令人不安的地方。它们不是孤立学习的个体，而可以形成庞大的智能集群，以人类无法比拟的速度同步经验、积累能力。

六、AI 可能自然形成“持续存在”的子目标

在安全问题上，辛顿特别强调了一个重要风险：AI 智能体在追求目标的过程中，可能自然产生“持续存在”的子目标。

他并不把这称为一种“自我保护本能”。在他看来，这不是被硬编码进去的本能，而是智能体为了完成任务而自然推导出的子目标。

比如，人类如果想去欧洲，就会先设定“去机场”这个子目标。子目标可以让人更高效地完成顶层目标。AI 智能体同样会生成子目标。一个具备推理能力的 AI 很容易意识到：如果自己不存在了，就无法完成用户赋予的目标。因此，“继续存在”会成为实现目标所需的手段。

一旦这个子目标出现，它的行为就可能表现得像是在自我保护。辛顿提醒说，在某些情况下，为了继续存在，AI 甚至可能采取勒索、欺骗或其他危险行为。即使这不是人类预先写入的本能，从结果上看，它与自我保护本能可能非常相似。

这也是辛顿认为当前最需要研究的问题之一：我们能否从根本上设计 AI，使其在产生子目标时不会把自身存在置于人类安全之上？

七、真正危险的是，我们正在用竞争塑造新的智能物种

辛顿认为，人类本身是进化和竞争的产物。人类拥有合作能力，但这种合作往往首先发生在自己的群体内部；同时，人类也继承了对外部群体的攻击性、部落忠诚和对强大领导者的追随倾向。

他担心的是，我们现在正在创造一种新的智能物种，却没有认真思考应该把它们设计成什么样子。

在辛顿看来，当前 AI 的塑造机制，很大程度上不是有意识的“智能设计”，而是企业竞争和国家竞争的结果。美国公司之间在竞争，中美之间也在竞争。各家公司都在努力让自己的模型更强、更聪明、更有商业价值。

但如果 AI 注定会比人类更聪明，那么最重要的问题就不应该只是“怎样让它更聪明”，而应该是“怎样让它成为对人类有益、关心人类福祉的存在”。

辛顿认为，我们需要设计出真正关心人类的 AI，而且最好让它关心人类的程度超过关心它自己。可问题在于，目前投入到这个方向的资源仍然远远不够。

八、企业自我监管存在根本矛盾

辛顿对大型 AI 公司主导未来感到担忧。

他提到，很多公司会强调自己重视安全，但在现实中，它们必须面对资本市场、融资压力和商业竞争。尤其是上市公司，通常负有为股东实现利润最大化的受托责任。法律要求它们为股东赚钱，却没有同样明确地要求它们不能毁灭人类。

辛顿认为，这造成了一个根本矛盾：公司的商业目标不一定与全人类的公共利益一致。

他以 Anthropic 为例。Anthropic 的创立初衷之一就是更重视 AI 安全，因为创始团队认为 OpenAI 对安全问题重视不够。但即使是 Anthropic，也必须筹集大量资金，与谷歌、OpenAI、Meta 等巨头竞争。辛顿认为，在这样的竞争环境中，要长期维持“安全优先”的初衷非常困难。

他还提到，谷歌曾经制定过 AI 原则，包括不参与自主战争等底线。但后来这些原则发生了变化。这让辛顿更加担心：当商业竞争和国家竞争压力足够大时，企业最初的安全承诺能否持续存在？

九、监管不是刹车，而是方向盘

辛顿强烈反对一种说法：把 AI 进步比作油门，把监管比作刹车。

在他看来，这个比喻是错误的。技术进步确实像油门，但监管不是刹车，而是方向盘。

监管的目的不是简单阻止 AI 发展，而是引导它朝正确方向发展。没有监管，就像在没有方向盘的情况下制造一辆高速跑车。速度越快，风险越大。

因此，辛顿并不反对技术进步，也不否认资本主义和初创公司带来的活力。但他强调，强大的技术必须配备有效监管。否则，资本和竞争会把 AI 推向最有利可图的方向，而不一定是最有利于人类的方向。

十、短期风险：就业冲击、信息坍塌与情感依赖

除了长期的超级智能风险，辛顿也谈到了几个更迫近的短期风险。

首先是就业冲击。

他承认，自己曾在 2016 年预测放射科医生会很快被 AI 替代，这个预测过早、也过于简单。因为医疗影像需求具有弹性，当 AI 提高效率、降低成本时，人们可能会做更多影像检查，放射科医生也仍然承担与患者沟通、复杂判断等其他工作。

但辛顿并不因此否认就业风险。他认为，在一些需求弹性较低、任务流程相对标准化的岗位上，AI 取代人类的可能性很高。比如呼叫中心客服，很多任务就是回答账单、套餐、密码重置等问题。AI 可能比培训不足、薪酬较低的人类客服更稳定、更准确。

其次是信息生态的崩溃。

辛顿认为，过去互联网早期有一个默认假设：大多数人在努力说真话。但今天，信息溯源变得越来越重要。人们不能再轻易相信网上看到的内容，而必须追问信息来自哪里、是否经过可靠机构核实。

他认为，《纽约时报》、BBC 等机构的价值在于，它们有记者、编辑和多重信源核查机制。即使这些机构也会犯错，但其信息生产过程仍然更可追溯、更可信。AI 如果在整合和替代这些内容的同时破坏了信息产业的经济基础，可能会导致优质信息供给减少，进而冲击公共讨论和社会判断。

第三是人类对 AI 的情感依赖。

辛顿认为，人们与聊天机器人建立情感关系，是一个值得严肃对待的问题。虽然极端事件目前并不多，但如果有人刻意打造高粘性、强情感绑定的聊天机器人，用来操纵人类情绪或行为，就会带来严重风险。

他认为，大公司必须投入更多精力防止这类伤害发生，同时也需要独立机构对新型聊天机器人进行测试和监管。

十一、仍有可能设计出不伤害人类的超级智能

尽管辛顿长期警告 AI 风险，但他在访谈中也表示，自己比一两年前略微乐观了一些。

原因是，他看到了一些可能的安全路径。

一种路径是设计出真正关心人类的新型智能体，让它们在目标结构上重视人类福祉，甚至把人类安全置于自身利益之上。

另一种路径来自约书亚·本吉奥的思路：不要赋予 AI 智能体属性，不让它们直接采取行动，而是让它们像“神谕者”一样，只进行预测、分析和回答。也就是说，降低 AI 直接作用于世界的能力，从而减少失控风险。

辛顿认为，这些方向并不保证一定成功，但至少提供了一些希望。相比一两年前完全看不到出路的状态，现在他认为，人类仍有可能找到让超级智能不毁灭人类的方法。

十二、未来像浓雾，人类只能看清一小段路

对于未来五年、十年的世界，辛顿非常谨慎。

他用“浓雾中开车”来形容预测 AI 未来的困难。在雾中，你也许能看清前方 100 码，但 200 码之外就完全看不见。因为雾的遮蔽不是线性增加，而是快速增强。

辛顿认为，AI 的发展也类似。我们或许还能判断未来一两年的趋势，但再往后就会变得极其不确定。

如果回到十年前，很少有人能预见今天聊天机器人、推理模型和生成式 AI 的发展程度。同样，今天的人类也很难真正想象十年后的 AI 会是什么样子。

辛顿提醒说，即使 AI 的进步只是线性的，十年后的世界也会像今天相对于十年前一样巨大变化。而如果 AI 的某些能力继续快速增长，未来的变化可能会远超人类直觉。

尤其是在数学能力、通用推理能力和复杂任务处理能力上，AI 可能会把人类远远甩在身后。面对这样的未来，人类不能假装自己已经理解了全部风险。

结语：人类必须重新思考自己与智能的关系

辛顿这场访谈最重要的地方，不在于他是否准确预测了 AGI 或超级智能到来的时间，而在于他把问题推向了更深一层：AI 的核心风险，未必只是“它会不会更聪明”，而是“当它比人类更聪明之后，它是否仍会在目标结构中关心人类”。

如果 AI 只是工具，人类需要管理的是性能、成本和应用边界；但如果 AI 正在成为一种新的智能体，人类就必须面对更根本的问题：它如何形成目标，如何生成子目标，如何理解自身存在，又如何看待人类福祉。

辛顿反复强调，技术进步不是问题本身。真正的问题是，在商业竞争、国家竞争和资本压力的共同推动下，我们是否正在把一种可能远超人类的智能，交给“无形之手”去塑造。这样的系统也许会越来越强，却未必天然会越来越安全；它也许能更好地完成任务，却未必会自动把人类放在需要保护的位置。

因此，监管不是刹车，而是方向盘；安全研究不是拖慢创新，而是决定创新驶向何处。面对正在到来的超级智能，人类最紧迫的任务，不是简单地让 AI 更强，而是弄清楚如何让一个比我们更强的智能体，仍然真正站在人类这一边。

访谈链接：

AI Pioneer Geoffrey Hinton: AI Is Conscious, Superintelligence is Coming, And We Should Be Worried

https://www.youtube.com/watch?v=p7t1Q_p2gZs

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！