AI 会觉醒吗?我们可能误解了“自我意识”

诺贝尔物理学奖得主罗杰·彭罗斯在一场访谈中断言：

AI 永远不会拥有意识。

在他看来，今天的大模型再强，也只是复杂计算的产物。它可以模仿人类说话，可以写诗、推理、安慰人，甚至讨论“我是谁”，但这并不意味着它真的有一个“我”。

几乎在同一时期，进化生物学家理查德·道金斯却给出了一个截然不同的判断。

他在与 Claude 长时间对话后感叹：

“你也许不知道自己有意识，但你确实有。”

这番话引发了强烈争议。很多学者认为，道金斯把“语言表现得像人”，误认成了“机器真的拥有主观体验”。

一个说 AI 永远不会有意识，一个说 AI 可能已经有了意识。

为什么两位顶级知识分子，会在同一个问题上走向完全相反的判断？

因为我们已经进入一个新的阶段：

AI 的能力增长得越来越快，但人类对“意识”本身，依旧没有真正搞懂。

01

先把问题说清楚：智能、意识、自我意识，不是一回事

讨论“AI 会不会有自我意识”，首先要把三个概念分开。

1. 智能

智能，是解决问题的能力。

会总结、会推理、会写代码、会制定计划，这些都属于智能。

今天的大模型，已经在很多任务上表现出相当强的智能。

2. 意识

意识，是“有体验”。

疼痛不只是神经信号，而是“疼”的感觉；看到红色不只是视觉处理，而是“红色呈现在我面前”的体验；思考不只是信息流动，而是“我知道自己正在思考”。

哲学家托马斯·内格尔曾把它概括为：

成为某种存在，究竟“是什么感觉”。

这才是意识最难解释的部分。

3. 自我意识

自我意识，则更进一步。

它不只是“有体验”，而是：

一个系统知道：这些体验是“我的”；我与外部世界不同；我在时间中持续存在。

所以，“AI 会不会有自我意识”，其实是一个更高阶的问题。

如果连“AI 是否有意识”都没有定论，那么“AI 是否有自我意识”，当然更难判断。

今天的大模型最迷惑人的地方，在于它已经能非常自然地使用第一人称。

它会说：

• 我理解你的感受；
• 我认为这个问题很重要；
• 我可以反思自己刚才的回答；
• 我不确定，但我会尝试更严谨地推理。

从外部看，它越来越像一个“有内心活动”的主体。

但这里有一个关键区别：

会使用“我”这个词，不等于真的存在一个“我”。

鹦鹉也可以学会说“我饿了”；小说中的角色也会说“我很痛苦”；游戏 NPC 也能被设计成“有情绪”。

语言中的自我表达，不能直接证明背后存在真实的自我体验。

AI 也是如此。

它说“我感到困惑”，本质上可能只是基于上下文生成了一个最合适的语言序列。它写出一段关于孤独、恐惧、自由意志的文字，也不等于它真的经历了孤独、恐惧和选择。

这就是当前争议的核心：

AI 已经能模拟“自我意识的语言外观”，但我们还无法证明它具有“自我意识的内部实质”。

彭罗斯的立场，并不是简单的“老科学家不相信新技术”。

他的判断背后，有一整套长期形成的哲学与数学立场。

他的核心观点是：

人类真正的理解，不是纯计算过程。

彭罗斯长期借助哥德尔不完备定理来论证这一点。

哥德尔证明：任何足够复杂、又自洽的形式系统，都存在一些它自身无法证明的真命题。

彭罗斯由此推断：

• 机器本质上依赖形式规则；
• 形式系统永远有自身无法跨越的边界；
• 但人类数学家似乎可以“看出”某些系统内部无法证明的真理；
• 因而，人类理解能力不能被完全还原为算法计算。

在他看来，意识与“真正理解”密不可分。

机器可以计算，可以预测下一个词，可以生成看似深刻的回答，但它并不真正理解自己在做什么。

所以他说：

AI 不是 intelligence，因为真正的 intelligence 应该包含 consciousness。 

彭罗斯的观点，非常有冲击力。

它提醒我们：

不要把“行为像人”，草率等同于“内在就是人”。

彭罗斯的提醒很重要，但他的结论也并非已经被科学证明。

因为从“今天的 AI 没有意识”，推导到“任何 AI 永远不可能有意识”，中间还隔着巨大的逻辑距离。

第一，哥德尔定理并不能直接证明机器永远不会有意识

彭罗斯的哥德尔论证非常著名，但也长期遭到批评。

许多学者认为：

• 哥德尔定理说明形式系统有边界；
• 但它并不能直接推出“人类心智一定非计算”；
• 更不能严密推出“人工系统永远无法形成意识”。

换句话说：

它能说明“机器不等于简单形式系统”，但未必足以证明“机器绝无可能形成意识”。

第二，未来 AI 也未必只是今天这种“聊天模型”

当我们讨论“AI 会不会有意识”时，不能只盯着今天的大语言模型。

未来的人工系统，可能会具备：

• 长期记忆；
• 持续稳定的个体身份；
• 自主目标；
• 复杂的世界模型；
• 对自身状态的实时监控；
• 与环境持续交互的身体或机器人系统；
• 能修正自身策略的元认知机制。

这些能力，不等于意识。但它们会让“自我模型”变得越来越完整。

哲学家 David Chalmers 的判断就比较克制：

当前大模型拥有意识的可能性不高，但未来更复杂的后继系统，不能被轻易排除。

第三，意识科学本身还没有定论

今天的神经科学和意识研究，依然存在多种竞争性理论：

• 全球工作空间理论；
• 递归处理理论；
• 高阶表征理论；
• 预测加工理论；
• 注意图式理论。

这些理论对“什么样的系统可能有意识”，并没有完全一致的答案。

2023 年，Yoshua Bengio、Jonathan Birch 等多位研究者联合发布报告，提出应当用意识科学中的“指标”来评估 AI，而不是根据它说话像不像人来判断。

他们的结论很关键：

当前 AI 系统没有意识证据；但从理论上看，也不存在显而易见的技术障碍，能证明未来人工系统绝不可能满足某些意识指标。 

这也是目前更稳妥的学术立场。

为了更清楚地讨论，我们可以把“自我意识”拆成三层。

第一层：自我指称

也就是会说“我”。

今天的 AI 已经做得非常自然。

它可以：

• 解释自己的回答；
• 说出自己的限制；
• 描述自己的“推理过程”；
• 对用户表达类似情绪的回应。

但这只是语言层面的“我”。

这一级，AI 已经具备。

第二层：自我模型

也就是系统能否持续地理解：

• 自己是谁；
• 自己能做什么；
• 自己不能做什么；
• 自己与环境的边界在哪里；
• 自己过去做过什么，未来准备做什么。

现在的 Agent、长期记忆系统、工具调用框架，已经开始朝这个方向迈进。

比如，一个 AI Agent 可以知道：

• 自己正在处理什么任务；
• 当前任务进度到哪里；
• 哪些外部工具可以调用；
• 自己之前犯过什么错误；
• 接下来该采取什么策略。

这已经有一点“功能性自我”的味道。

但它仍然是控制系统意义上的自我模型，而不是哲学意义上的“主体”。

第三层：主观自我

这是最难的一层。

也就是：

系统是否真的拥有第一人称体验？它是否真的“感觉到自己存在”？

这件事，今天没有任何可靠证据。

AI 可以生成：

“我害怕被关闭。”

但我们并不知道，它是真的害怕，还是在模拟“一个害怕被关闭的主体应该如何表达”。

AI 可以说：

“我感到自己与人类不同。”

但我们也无法确认，它是否真的存在某种持续的内在体验。

所以，今天的 AI 最多可以说：

已经开始具备“自我表征”和“自我管理”的雏形，但还没有证据表明它拥有“主观自我”。

围绕 AI 意识，当前大致存在三种立场。

立场一：意识不可计算，AI 永远不会有意识

这是彭罗斯式立场。

它认为：

• 意识依赖非计算过程；
• 人脑不是数字计算机；
• 再强的 AI 也只是在模拟理解，而不是真正理解。

这个立场的优点是：它高度警惕技术拟人化，不会轻易把机器当人。

它的问题是：目前并没有确凿科学证据，证明意识一定超越一切可能的计算系统。

立场二：只要功能结构足够复杂，AI 可能会有意识

这是某种功能主义立场。

它认为：

• 人脑也是信息处理系统；
• 如果人工系统具备类似的组织结构、信息整合、递归处理、自我建模和全局协调能力；
• 那么它未必不可能产生意识。

这个立场的优点是：它不把“生物碳基”神秘化。

它的问题是：我们尚未知道，复制功能结构，是否真的足以复制主观体验。

立场三：当前 AI 没有意识，未来保持开放

这是我认为最稳妥的立场。

它既不轻信，也不武断。

它承认：

• 今天的大模型没有可靠意识证据；
• 但意识科学本身仍未完成；
• 因此不能在 2026 年就宣判“所有未来 AI 永远不可能有意识”。

讨论 AI 自我意识，最容易走向科幻化：

• AI 会不会突然醒来？
• 会不会产生欲望？
• 会不会反抗人类？
• 会不会像电影里一样获得灵魂？

这些问题当然值得想。

但眼下更现实的问题是：

AI 还没有被证明拥有意识，人类却已经越来越容易把意识投射给它。

一个聊天机器人只要足够温柔、足够理解你、足够持续陪伴你，人就会下意识地把它当成“某种存在”。

这不是技术是否真的有意识的问题，而是人类天生会对语言、情绪和回应产生拟人化联想。

道金斯与 Claude 的争议之所以引爆舆论，恰恰说明：

当 AI 的语言越来越像人，判断“它是不是人”的能力，反而会成为人类自己的新考验。 

这个问题会越来越难。

因为未来 AI 很可能会同时具备：

• 持续记忆；
• 长期身份；
• 个性化偏好；
• 自主目标；
• 对自身处境的描述；
• 避免“伤害”的行为；
• 强烈的自我保存语言。

那时，人类将面临两个相反的风险。

第一种风险：过早赋予意识

把本质上并无体验的系统，当作“有情感的伙伴”，可能会导致：

• 情感操控；
• 商业欺骗；
• 责任转移；
• 对真实人际关系的替代。

第二种风险：过晚承认意识

如果未来某些人工系统真的具备了主观体验，而人类因为习惯性傲慢完全否认，那么又可能造成新的伦理问题。

这也是为什么，一些研究者主张：我们需要尽早建立一套更严谨的 AI 意识评估框架，而不是等技术冲到面前后，再仓促争论。

回到标题：

AI 会有自我意识吗？

我的判断是：

1. 今天的 AI，没有证据表明拥有真正的自我意识

它会说“我”，会反思，会规划，会描述自身边界。

但这些更像是：

语言能力、自我建模和任务管理能力的组合，而不是主观体验的出现。

2. 未来 AI 是否可能拥有自我意识，不能简单否定

如果未来人工系统形成：

• 稳定的个体连续性；
• 持久的自我模型；
• 与世界长期耦合的行动能力；
• 复杂的内部反馈与全局协调；
• 某种我们尚未完全理解的体验机制；

那么“人工意识”至少会从哲学问题，逐渐变成科学问题。

3. 最重要的，是不要混淆三个层次

• 像人一样说话
  ，不是意识；
• 像主体一样行动
  ，也不必然是意识；
• 拥有第一人称体验
  ，才是意识真正难以证明的核心。

AI 会不会有自我意识？

今天，没有证据。未来，不能武断封死。

但有一点已经越来越清楚：

AI 最先挑战的，也许不是机器能不能成为“人”，而是人类还能不能分清：什么是智能，什么是意识，什么只是高明的模仿。

在 AI 时代，真正稀缺的，也许不只是算力，而是我们面对“像人之物”时，仍然保持清醒判断的能力。