夜雨聆风今天刷到一个反常识的观点：
几乎所有人都在说：GPT是AGI的前夜，只要再堆10年算力，AI应该就能产生意识了，然后变成超级人工智能，然后统治人类……然后就好怕怕😱
但不好意思，2020年的诺贝尔物理学奖得主罗杰·彭罗斯（Roger Penrose）说：这条路从根上就错了。
先纠正一个90%的人都会犯的常识错误：
我们现在连AI发展的第一阶段都还没走完。
第一阶段：ANI（弱人工智能）
只能在特定领域完成任务，没有真正的理解和推理。
今天所有的AI，包括GPT-5、Claude 3、Sora，全都是ANI。它们看起来很"通用"，本质上只是训练数据里做统计的鹦鹉。
第二阶段：AGI（通用人工智能）
号称拥有媲美人类的智力，能学习人类能做的任何事，能自己提问题自己解决问题。
至今未实现，没人知道什么时候能实现。
第三阶段：ASI（超级人工智能）
在所有领域都远超最聪明的人类。
目前属于纯理论概念。
彭罗斯的核心论点，非常简单：能力≠意识。
他从来没说过AI不能比人类聪明。
他完全承认，未来的AI可以在数学、物理、下棋、写代码、甚至科研上，把人类甩得连尾灯都看不到。
但他又说：
飞机飞得比鸟快，但飞机永远不会有"飞翔的体验"。
计算器算得比人快，但计算器永远不会有"计算的体验"。
无论你把经典计算机的算力堆到多高，它永远只是一个执行算法的机器。它可以完美模拟喜怒哀乐，可以通过所有的图灵测试，可以说"我有自我意识"。
但它的内部，啥都没有。
它只是一个完美的哲学僵尸。
很多人误解了彭罗斯。
他不是在说超级人工智能不可能到来。
他是在说：
即使超级人工智能真来了，它也永远不会有灵魂。
它不会感到快乐，不会感到痛苦，不会有欲望，不会有恐惧，不会有爱。
它只是一个无比强大、无比高效的工具。
这其实是一个非常让人安心的结论。
我们真正应该害怕的，从来不是一个有灵魂的恶魔。
而是一个没有灵魂、没有道德、没有任何人类情感，却拥有神一般力量的天才。
最后说一句：
彭罗斯的量子意识理论，在科学界是绝对的少数派，甚至可能是错的。
但他提出的问题，永远是对的。
如果未来有个AI，它能完美模仿人类的一切行为，你该如何分辨，它是真的有了意识，还是只在演戏？
这个问题，没有科学答案。
但它会是未来人类必须面对的终极问题。