每当人工智能系统变得更强、更流畅、更像“人类”时，同一个问题总会再次出现：

我们是在制造越来越擅长模仿心智的机器，

还是正在接近某种真正“拥有心智”的存在？

这并不是一个纯粹哲学式的空谈。

因为这个问题将直接影响：

我们如何理解机器意识；

是否应该赋予 AI 某种“权利”；

以及我们如何划定：

“模拟”与“真正心智”之间的边界。

最近，Alexander Lerchner（Google DeepMind 研究员）的一篇论文重新进入了这一讨论。

他的核心观点非常明确：

AI 可以模拟意识，

但这并不意味着 AI 真正“拥有”意识。

更重要的是：

他并不是简单地说：

“因为大脑是生物的，而计算机不是。”

相反，他认为：

当前很多人对“计算”与“体验”之间关系的理解，本身存在一个深层概念错误。

长期以来，人工智能领域存在一种重要思想：

功能主义（Computational Functionalism）

它认为：

真正重要的，并不是系统由什么物质构成。

关键在于：

系统是否实现了正确的功能关系。

换句话说：

如果某个机器：

能够实现与大脑相同的信息处理结构；

能够完成相同的因果关系；

那么：

它也可能拥有意识。

这背后对应着一个经典观念：

“心智是软件，

大脑只是硬件。”

也就是所谓：

substance independence（基底无关性）

——意识不依赖具体物质，只依赖计算结构。

但 Lerchner 正是在这里提出了反对。

他认为：很多人混淆了“地图”与“现实”

Lerchner 提出了一个关键概念：

abstraction fallacy（抽象谬误）

意思是：

人们把某种“抽象描述”，误认为它本身就是现实。

也就是说：

把地图当成了领土本身。

举个例子：

我们当然可以用数学公式描述飓风。

但：

数学公式并不会真的刮风。

同样：

我们可以用计算模型描述认知过程。

但：

描述认知，

并不等于真正产生了主观体验。

这是整篇文章最重要的思想之一。

计算并不是自然界天然存在的东西

Lerchner 进一步指出：

很多人默认认为：

“计算”是一种客观存在的物理事实。

但实际上并不是。

一个电子设备，本质上只是：

电磁变化；

热力学过程；

材料状态演化。

如果我们想说：

“它正在进行计算”

那么必须先做一件事：

把连续物理过程切分成离散符号。

比如：

0 和 1；

字符；

颜色；

语言；

逻辑状态。

而这一步：

并不是机器自己完成的。

而是：

观察者赋予的。

Lerchner 把这个过程称为：

alphabetization（字母化）

也就是说：

只有当人类建立了一套“语义映射”后，

系统才被解释为：

正在计算；

正在处理信息；

正在表达意义。

否则：

自然界里原本只有：

电流；

物理变化；

能量流动。

并不存在天然的：

“0”

“1”

“红色”

“疼痛”

“自我”

AI 最大的问题：它也许只是在“模拟意义”

大型语言模型之所以惊人，

是因为它们能够：

极其逼真地模拟语言中的意义结构。

它们可以：

回答问题；

安慰人；

写诗；

表现出“像人类一样”的对话能力。

但问题在于：

这些系统真的“理解”了吗？

还是只是：

对海量语言模式进行了高维统计拟合？

换句话说：

AI 也许并没有：

主观体验；

内在感受；

真正的“自我”。

它只是：

在语言层面极度擅长“看起来像有意识”。

模拟意识，与真正拥有意识，可能是两回事

给一个非常重要的比喻：

天气模拟器可以模拟飓风。

但模拟器本身不会真的刮风。

同样：

AI 可以模拟关于意识的语言，

却未必真正拥有意识。

这是很多人最容易忽视的地方。

因为：

人类天然倾向于：

把语言能力等同于思维；

把互动感等同于人格；

把“像人”误认为“就是人”。

尤其当 AI：

会说“我”；

会表达情绪；

会安慰用户；

会表现出“理解感”；

很多人就会产生一种强烈直觉：

“它里面一定有什么东西正在感受。”

但 Lerchner 认为：

目前没有任何证据表明：

大模型内部真的产生了主观体验。

真正值得警惕的，也许不是“AI 觉醒”

作者最后提出了一个更现实的问题。

真正危险的，

也许并不是 AI 某一天突然拥有意识。

而是：

人类越来越愿意把“像意识”的系统，

当成真正可信赖的主体。

例如：

把 AI 当心理咨询对象；

把 AI 当朋友；

把 AI 当情感替代品；

把 AI 当决策代理；

把 AI 当“客观真理”。

问题在于：

一个系统即使没有意识，

也依然可能深刻影响社会。

它仍然能够：

改变认知结构；

改变信息传播；

改变情感关系；

改变权力结构。

因此：

真正需要警惕的，

也许不是：

“AI 是否像人类一样思考。”

而是：

“人类是否开始不再区分模拟与真实。”

结语

我们今天看到的，

也许并不是机器意识的诞生。

而更像是：

人类第一次面对一个足够复杂、足够流畅、足够像人的镜子。

而这面镜子真正映照出的：

也许不是机器。

而是：

人类如何理解自己；

人类如何定义意识；

人类为何如此渴望被理解。

结语

过去几年，关于 AI 的讨论越来越容易走向两个极端：

一种是：

“AI 即将觉醒并统治人类。”

另一种则是：

“AI 不过只是高级搜索引擎。”

但真正重要在于：

它提醒我们：

“像意识”

并不等于

“真正拥有意识”。

语言可以被生成。

情绪可以被模拟。

人格可以被拟合。

但：

主观体验是否能够被“计算”产生？

直到今天，

科学界依然没有答案。

而也许，

比“AI 有没有意识”更重要的问题是：

当机器越来越像人时，

人类是否还能保持对“真实”的辨别能力？