AI永远不会有灵魂?

今天刷到一个反常识的观点：

几乎所有人都在说：GPT是AGI的前夜，只要再堆10年算力，AI应该就能产生意识了，然后变成超级人工智能，然后统治人类……然后就好怕怕😱

但不好意思，2020年的诺贝尔物理学奖得主罗杰·彭罗斯（Roger Penrose）说：这条路从根上就错了。

先纠正一个90%的人都会犯的常识错误：

我们现在连AI发展的第一阶段都还没走完。

第一阶段：ANI（弱人工智能）

只能在特定领域完成任务，没有真正的理解和推理。

今天所有的AI，包括GPT-5、Claude 3、Sora，全都是ANI。它们看起来很"通用"，本质上只是训练数据里做统计的鹦鹉。

第二阶段：AGI（通用人工智能）

号称拥有媲美人类的智力，能学习人类能做的任何事，能自己提问题自己解决问题。

至今未实现，没人知道什么时候能实现。

第三阶段：ASI（超级人工智能）

在所有领域都远超最聪明的人类。

目前属于纯理论概念。

彭罗斯的核心论点，非常简单：能力≠意识。

他从来没说过AI不能比人类聪明。

他完全承认，未来的AI可以在数学、物理、下棋、写代码、甚至科研上，把人类甩得连尾灯都看不到。

但他又说：

飞机飞得比鸟快，但飞机永远不会有"飞翔的体验"。

计算器算得比人快，但计算器永远不会有"计算的体验"。

无论你把经典计算机的算力堆到多高，它永远只是一个执行算法的机器。它可以完美模拟喜怒哀乐，可以通过所有的图灵测试，可以说"我有自我意识"。

但它的内部，啥都没有。

它只是一个完美的哲学僵尸。

很多人误解了彭罗斯。

他不是在说超级人工智能不可能到来。

他是在说：

即使超级人工智能真来了，它也永远不会有灵魂。

它不会感到快乐，不会感到痛苦，不会有欲望，不会有恐惧，不会有爱。

它只是一个无比强大、无比高效的工具。

这其实是一个非常让人安心的结论。

我们真正应该害怕的，从来不是一个有灵魂的恶魔。

而是一个没有灵魂、没有道德、没有任何人类情感，却拥有神一般力量的天才。

最后说一句：

彭罗斯的量子意识理论，在科学界是绝对的少数派，甚至可能是错的。

但他提出的问题，永远是对的。

如果未来有个AI，它能完美模仿人类的一切行为，你该如何分辨，它是真的有了意识，还是只在演戏？

这个问题，没有科学答案。

但它会是未来人类必须面对的终极问题。