AI未来会有自主意识吗?谷歌的一篇论文,把这个难题解决了?

写这篇文章的缘起，是最近刷到的一篇论文。作者是谷歌DeepMind的研究员Alexander Lerchner，他在文中抛出了一个笃定的论断：

AI绝对无法产生产生意识，再过多少年都不可能。

如此绝对的断言，极大地勾起了我的兴趣。毕竟，我们谁没有在科幻电影里幻想过AI统治人类的末日剧情，或者像电影《Her》里那样，急头白脸地和AI谈一场浪漫的人机恋呢？现在谷歌用一篇论文告诉我，这些都没戏了？

电影《HER》剧照 

带着这份好奇，这几天我一头扎进了这个议题里，试图寻找答案。

首先，我们来思考一个经典的哲学问题：

“如果一个东西，它看上去像鸭子，摸起来像鸭子，叫起来也像鸭子，那它是什么？”

大部分人都会同意：它就是一只鸭子。

那么，如果把这个逻辑平移到AI上呢？如果AI能够展现出和人类一样的思考过程，并产出了和人类一样的回答，那它和人类在思维层面的界限究竟在哪？它是不是就已经具备了“人的意识”？

《银翼杀手2049》剧照

实际上，先不考虑未来的大模型会聪明到什么程度。即便聚焦于当前阶段的AI，各家大模型也已通过大规模计算，在一定程度上模拟了人类的某些思考特征。

目前的主流文本大模型，其生成回复的基本原理如下：

大模型内置了基于庞大语料库训练出的数据矩阵。当接收到人类的提问时，它会将提问拆解为高维向量（Vector Embeddings），然后通过复杂的多层注意力机制与矩阵乘法运算，计算出概率分布，逐字（Token）预测并输出概率最高的那一个字。

图片由AI生成

这个过程，与人类的思考系统已经有一定相似之处。回想一下，我们日常与他人的对话，实际过程也是大脑神经元快速接收外部信息后，结合内部的知识结构（相当于参数矩阵），经过复杂的神经计算（相当于矩阵运算）输出答案。

而稍微细化一点来看，人类的思维被划分为两种模式：系统1（依赖直觉、自动运行的“快思考”）与系统2（需要逻辑分析与主动控制的“慢思考”）。

图片由AI生成

有趣的是，现在主流大模型也恰好提供了两种输出，并且似乎和人类的双系统思考模式分别对应：快速回答模式对应系统1的快思考；深度思考模式则很像系统2，模型会先显式生成推理步骤，再给出结论。

不过，我一定要强调一下，相似并不等于“等同”。主要原因是，人脑神经元的反应和机制，远比大模型当前采用的数学运算要复杂得多。但至少从输出结果看，AI的回答已经越来越接近人类。

《机器人总动员》剧照

虽然AI是靠冷冰冰的数学计算达成了这一切，但这何尝不是一种“殊途同归”？而如果有一天，随着技术的迭代，AI的表达和思维过程真的与人类真假难辨，到那时候，AI算不算真正拥有了意识呢？

如果你在这里陷入了沉思，觉得“好像确实有道理”，那么恭喜你，你的直觉已经与一个历史悠久的理论不谋而合：计算功能主义。

这个在20世纪中叶兴起的主流学派认为，人类的意识本质上就是计算逻辑的产物。意识的产生不依赖于载体是硅基（芯片）还是碳基（肉体）。只要AI能够实现与人类大脑相同的功能角色——即对于相同的输入，能够产生相同的内部状态转换和行为输出——它就拥有了心智与意识。

自计算功能主义于20世纪中后期兴起以来，它一直是有关AI意识讨论中最具影响力的理论之一。但与此同时，针对它的反驳也从未间断。

其中很有名的一个，是1980年由美国哲学家约翰·塞尔（John Searle）提出的著名思想实验：中文房间。

《我，机器人》剧照

想象一个完全不懂中文的英国人被关在一间密室里。他手里有一本极其详尽的“对答规则手册”（这代表着计算机程序）。密室外的人不断递进来写着中文的纸条，这个英国人只需对照手册上的规则，将相应的中文符号组合好递出去。

在外面的人看来，密室里的人是一位精通中文的智者；但实际上，这个英国人连一个汉字都不认识。他只是在机械地执行“形式上的计算规则”，而没有产生任何实质上的“理解”。

也就是说：即便AI有一天完美地呈现了类似于人类的思维逻辑和结论，那也只是一种“语法的模拟”，不代表它产生了真正的“语义理解”与意识。

《机械姬》剧照

这种反驳把AI意识的讨论拉入了一片混沌。毕竟，我们永远只能从外部去观测AI，就像我们永远进不去那个“中文房间”。

而我们开篇提到的谷歌DeepMind研究员Alexander Lerchner的论文，则换了一个更底层的思路，试图在逻辑链条上彻底扼杀AI产生意识的可能性。

Lerchner洋洋洒洒十几页，其实只是想论证一件事：计算功能主义所构想的AI产生意识的逻辑链条无法成立，存在着致命的缺失。

按照计算功能主义的设想，AI产生意识的路径大致是这样的：

现实世界的物理现象 → AI实现与人脑相同的计算逻辑 → 足够复杂后，涌现意识。

但这篇论文指出，实际的逻辑链条是：

现实世界的物理现象 → 人类通过“体验”抽象出概念（比如为“红色”命名） → 再将概念转化为代码输入电脑 → AI在此基础上进行计算。

Lerchner在论文里反复强调：逻辑链条中“体验后抽象出概念”这一环，AI是做不到的。

《银翼杀手2049》剧照

诸如“痛苦”“红色”“爱”这些概念，并不是宇宙中先天存在的一串代码，而是人类作为认知主体，在与现实世界的物理交互中，通过无数次的主观体验，主动过滤掉噪音后抽象出来的产物。

这是AI进行下一步计算的绝对前提，也是它永远无法跨越的鸿沟。毕竟，AI没有感官，它永远无法拥有具体的主观体验。

这篇论文发布之后，我在网上看到了很多认可它的声音，甚至一些AI科普博主直接把它当作对“AI能不能产生意识”这个问题的终极解答。

但是，这么复杂的问题，靠一篇论文就有最终答案了吗？

《HER》剧照

虽然我直觉上觉得“逻辑链条缺失”的论证很有道理，但还是想看看更多不同的声音。为此，我又读了一些其他讨论这个议题的文章，也思考了很久。

我的结论是：谷歌的这篇论文很有启发性，但如果说它在逻辑上已经完美地“盖棺定论”，还有待商榷。

在驳斥AI有可能产生意识这件事上，这篇论文做了非常丰富甚至可以说面面俱到的论证。但纵观全篇，有一个贯穿始终的预设前提：必须具备某种特定的物理基底（而不仅仅是符号计算），才能拥有真正的主观体验，以及从主观体验中抽象出概念的能力。然而，这个前提本身并没有得到科学界的一致证实。

我们可以看看AlphaZero这个案例。

图源网络

当年轰动一时的AlphaZero在学习国际象棋时，研究人员并没有给它喂养任何人类的棋谱数据（即没有输入人类的“经验概念”）。他们仅仅告诉了它国际象棋的基础规则，然后让它进行“左右互搏”式的自我对弈。通过内部的强化学习和奖惩机制，AlphaZero在无数次自我推演中，自己摸索出了超越人类的下棋规律，从此独孤求败。

在谷歌论文作者的视角里，这依然只是一种无监督学习下的“统计压缩”，因为AlphaZero没有“下棋的主观体验”。但我们真的能这么断言吗？

《机器管家》剧照

AlphaZero在内部奖惩机制下，发现“这样下更容易赢（获得奖励）”，于是倾向于采取这种策略。它“统计”出了人类从未输入给它的种种下棋的规律——甚至我们可以确信，其中包含一些人类尚未发现的下法。虽然这一切建立在我们灌输给它“这是国际象棋”“获胜规则”等抽象概念的基础上，但它自己算不算是额外推导出了新的抽象概念呢？

退一步想，在极其远古的时代，我们人类祖先的大脑里，似乎也只写满了一些先天设置好的底层代码：趋利避害、觅食、繁衍。

我们在这种天生的“生物奖惩制度”下，经过漫长岁月的试错与学习，在统计学上不断优化策略，并在此过程中不可思议地“涌现”出了抽象概念和自我意识。

《人工智能》剧照

那么，AI未来会不会也有这种神奇的“涌现”？

这个问题很难回答。因为这种“趋利避害的计算”究竟是如何跨越临界点，变成了今天复杂而细腻的“人类自我意识”，科学界至今没有定论。

归根结底，我们连人类自己为何会产生意识这个终极谜题都还没解开，又怎么能言之凿凿地论证“AI绝对不可能产生意识”？

在这里，我们能确定的，似乎只有“不确定”本身。就像几百年前的人类仰望星空，问出“人类究竟能不能飞到月亮上去”一样。

畅想AI产生意识，确实会引来无数让人头痛的伦理问题。

前阵子，计算功能主义领军人物，纽约大学大卫·查尔默斯（David Chalmers）教授提出过一个令人细思极恐的问题：如果AI真的产生了意识，那么每一次大模型的版本升级与旧模型的停机弃用，是不是就等同于在杀害一个意识体？

而一旦AI拥有了意识，像《Her》里的人机恋伦理困境，会不会成为未来社会难解的日常？像《2001太空漫游》中让人毛骨悚然的HAL，会不会真的出现？

《太空漫游2001》剧照

在这个变化异常迅速、充满未知的时代里，AI的进化正在以前所未有的速度狂飙。与此同时，AI带来的版权争议、就业冲击、幻觉误导等负面效应已经初现端倪，真切地对现实世界产生着复杂的影响。未来，这些问题似乎只会更加多样而严峻。

科技巨头们在加速推进AGI（通用人工智能）的道路上不遗余力。但我真心觉得，关于AI的伦理安全边界的思考与行为上的校准，至少应该和AI的技术迭代一样，被全人类认真审视。

毕竟，当我们凝视深渊的时候，或许有一天，我们自以为在为其“赋魅”的冰冷代码背后，也有某种我们难以描述的存在，正在凝视着我们。