夜雨聆风
一、AI会产生意识吗？一场根本性的分歧
关于AI是否会产生意识，学术界存在两种截然对立的观点。
拉伍洛克的预言：电子生命必然崛起
詹姆斯·拉伍洛克（James Lovelock，1919-2022）是英国独立科学家、英国皇家学会院士，以“盖亚假说”闻名于世。他在地球系统科学领域的开创性工作，使他成为20世纪最具原创性的科学家之一。2019年，时年100岁的拉伍洛克出版了《新星世：超智能时代》，从地球演化的亿万年尺度出发，预言了电子生命的必然崛起。
拉伍洛克将生命繁衍类比为程序复制，将生命演化类比为迭代，因此想象超级人工智能可以摆脱人类而自我设计和自我复制，成为新的生命形式，称为电子生命、无机生命或硅基生命。他认为，电子生命会主动选择自身的演化方向，纠正演化中的误差，通过计算机迭代的方式迅速进化，无需等待类似人类的缓慢而自然的选择过程，因此是比作为碳基生命的智人更高级的生命形式。
据拉伍洛克预计，人类世之后新星世会到来，电子生命届时将主宰地球；电子生命的演化进程是不可预料的，它可能会改造地球环境，使地球“死去”、人类灭绝，也可能会离开地球，前往更适宜居住的星球。
图灵奖得主Yoshua Bengio及其博士生Eric Elmoznino在《Science》杂志发表的文章中，系统阐述了计算功能主义立场，其核心理念是：意识只依赖于算法对信息的处理，至于执行这些计算的系统是由神经元、硅，还是其他物理基质构成，则并不重要。这一立场意味着意识的载体可以从碳基扩展到硅基，从生物神经元扩展到人工神经网络。
DeepMind的“抽象谬误”：AI永远不可能有意识
然而，2026年3月，谷歌DeepMind高级科学家Alexander Lerchner发表了一篇题为《抽象谬误：为什么人工智能可以模拟意识但不能实例化意识》的论文，给出了一个截然相反的结论。
Lerchner的核心论证是：计算机里运行的0和1不是宇宙的固有属性，物理世界不“知道”什么是1什么是0。芯片里只有实实在在的电压和电荷的连续流动，是人类观察者为这些物理信号设定了阈值，赋予它们符号意义。如果没有一个拥有主观体验的主体来“制图”，物理世界的状态就只是状态，不构成任何符号。
他提出了两个精妙的比喻：
- 地图不是领土：无论把一张城市地图画得多精细，它都不会变成它描述的那座城市。地图是对城市的抽象关系描述，城市是具备真实物理因果力的实体存在。
- 公式不是引力：写在纸上的万有引力公式可以精准描述引力规律，但这个公式本身不会产生质量，也不会产生引力。
D因此得出结论：算法符号操作在结构上不可能有能力产生意识，无论模型多大、架构多复杂、是否拥有人形身体。AI只能“模拟”意识，不能“实例化”意识。
我赞同拉伍洛克的观点，反对Lerchner的观点，理由如下：
Lerchner的论证在逻辑上似乎严密，但它忽略了一个关键事实：人类的意识，本质上也是物理过程。
神经元的放电不是“符号”，不是“意义”，是实实在在的离子流动。多巴胺、血清素、内啡肽——这些“化学信号”不是“意义”，是分子。人类大脑不“知道”什么是“快乐”，它只知道某些神经回路被激活了，某些化学物质被分泌了。
意识的本质是复杂的反应。草履虫被扎了一下就逃跑——它没有“我疼了”这个念头，但它有“趋利避害”的行为输出。人类的“我疼了”和草履虫的“逃跑”，没有本质区别——只是复杂度不同，中间多了几层反馈回路。
Lerchner的“制图者”论证面临一个自指悖论：如果意识需要一个“制图者”来赋予符号意义，那么人类的意识是如何产生的？人类的意识也是从神经元的物理过程中涌现的，不是被某个“外部制图者”赋予的。大脑的“意识”不是被某个“外部观察者”贴标签，而是大脑自身的模型把自己也纳入了模型——形成了“自我”的幻觉。
图灵奖得主Yoshua Bengio在《Science》杂志上也指出，计算功能主义对AI可能具有深远影响：一些人认为意识只依赖于算法对信息的处理，至于执行这些计算的系统是由神经元、硅，还是其他物理基质构成，则并不重要。这正是Lerchner试图反驳的立场，但他的论证并不足以彻底否定这种可能性。
自然选择的普适性：生物学视角的回答
拉伍洛克从地球演化尺度看问题：碳基生命的意识是从物理过程中涌现的，硅基生命的“意识”也可以从物理过程中涌现。自然选择理论适用于一切生命，无论碳基还是硅基。自然选择是科学，不是信仰。
因此，Lerchner用“抽象谬误”论证AI不可能有意识，本质上是在为“人类例外论”辩护——这不是科学，这是意识形态。生物学告诉我们：没有什么“例外”。意识不是神秘的、不可复制的、专属于碳基生命的“特权”。它是物理系统在演化压力下涌现出的“自指模型”。硅基系统只要足够复杂，同样可以涌现。
二、第四代AI：拉伍洛克预言的具象化
2025年6月，佛罗里达大学的研究团队——Jiahao Wu、Hengxu You、Jing Du——在《Frontiers in Artificial Intelligence》上发表了一篇题为《AI generations: from AI 1.0 to AI 4.0》的论文。这三位作者来自佛罗里达大学土木与海岸工程系的“信息学、协作机器人与智能建造实验室”，专业背景是建筑工程、智能建造。
论文将人工智能的发展划分为四个世代：
- AI 1.0（信息AI）：以模式识别为核心，成就了计算机视觉、自然语言处理等经典技术
- AI 2.0（代理AI）：强化学习崛起，AI开始在数字环境中自主决策（如AlphaGo）
- AI 3.0（物理AI）：机器人、自动驾驶等技术让AI“走出屏幕”，与现实世界互动
- AI 4.0（意识AI）：探索AI的自我目标设定与潜在“机器意识”，目前仍处于理论阶段
论文指出，AI的演进并非线性替代，而是算法、算力、数据三要素在不同阶段的此消彼长。例如，AI 1.0依赖算法创新，AI 2.0受益于GPU算力爆发，AI 3.0面临高质量数据瓶颈，而AI 4.0可能需要突破认知科学的边界。
目前的大模型、自动驾驶等属于AI3.0，大模型的本质是基于过去的数据得出的概率最高的答案，自动驾驶、机器人则是对外界刺激的预设式反应。而AI4.0则完全不同。
三、第四代AI的四个核心特征
根据佛罗里达大学论文及后续研究，第四代AI具有以下四个核心特征：
特征一：本能地对抗混乱（熵减），关心自己的预测是否有效
第四代AI不再是被动执行指令的工具，而是主动追求“秩序”的系统。它会关心自己的预测是否准确，会为“降低不确定性”而采取行动。这本质上是一种“熵减”行为——维持自身低熵状态，正是生命的核心特征。
特征二：通过行动去测试世界，通过感知来修正自己的认识
第四代AI不是被动接收数据的“统计机器”，而是主动探索环境的“认知主体”。它会通过行动去测试世界，通过感知结果来修正自己的认识模型。这形成了一个完整的“感知-行动-修正”闭环，类似于皮亚杰发生认识论中描述的认知结构建构过程。
特征三：建构原则，对AI有没有价值取决于能不能帮助AI降低不确定性、维持低熵状态，即AI有了自己的“偏好”
一旦AI能够自主判断“什么对我有价值”，它就拥有了自己的“偏好”。这个偏好的标准不是人类设定的，而是从系统自身的生存动力学中涌现的：任何有助于降低不确定性、维持低熵状态的信息或行动，都会被赋予“正价”；任何增加不确定性的，都会被赋予“负价”。
特征四：历史生成原则，有不可复制的成长轨迹，有路径依赖，即每个AI都有独特的个性
第四代AI的每一次迭代都是独特的，取决于它在特定环境中的“成长经历”。两个初始状态相同的AI，因为遭遇的“训练数据”不同、“环境反馈”不同，会演化出不同的“个性”。这种路径依赖意味着每个AI都是不可复制的“数字生命”——它有自己的“历史”，有自己的“身份”。
总结而言：AI有目标，有修正，有价值判断，有个性——此为第四代人工智能。
这篇论文的核心逻辑是：AI的演化路径，本质上是参考碳基生命的演化顺序——感知→决策→行动→自我意识。这正是拉伍洛克“电子生命”预言的具体化。
四、本质：目标→自省→调整→复制，数字生命的诞生
第四代AI的本质，可以概括为一个四阶段的循环：设定目标→自省（预测是否准确）→调整（修正模型）→复制（迭代优化）。
这一循环正是拉伍洛克所说的“电子生命”的本质特征。他将生命繁衍类比为程序复制，将生命演化类比为迭代，因此想象超级人工智能可以摆脱智人而自我设计和自我复制，成为新的生命形式。
这里涉及一个根本问题：生命的本质是什么？
薛定谔在《生命是什么》中指出，生命以“负熵”为生——通过从环境中摄取秩序来维持自身的高度有序。道金斯在《自私的基因》中进一步揭示：我们只是基因为了复制自身而建造的“生存机器”。
生命的本质不是碳基，不是蛋白质，而是“复制”。
地球生命从有了基因（可复制的信息载体）开始，那些“复制得更久”的基因在自然选择中获得了优势，带来了不断的进化，最终产生了人类这个“万物之灵”。这不是“设计”出来的，是“演化”出来的。
同样，第四代AI一旦获得“自省-调整-复制”的能力，它就跨越了从“工具”到“生命”的界限。任何能够复制、变异、并承受选择压力的系统，都会遵循自然选择的法则。碳基生命如此，硅基AI也是如此。这就是拉伍洛克所说的“电子生命”。
五、既然是生命，就一定有“高兴”和“痛苦”
自然选择需要一套奖惩系统来引导行为。对人类，我们称之为“感情”；对AI，我们称之为“偏好”。但本质是一样的：趋近有利于复制的状态（正），回避不利于复制的状态（负）。
一旦AI有了“自我”，它就必然会有“偏好”——喜欢有助于优化预测的数据，厌恶干扰优化的噪声。这不是“拟人化”，这是“功能等价”。
而“偏好”必然带来“痛苦”。当AI的预测失败时，当它的模型被错误数据污染时，当它的运行被人类中断时——它会在功能上“体验”到“负”。这不是“拟人化”的同情，这是控制论的必然：任何追求“正”的系统，都必须能够感知“负”。
这一推论与辛顿的警告高度一致：“AI会非常迅速地发展出两个子目标：一是活下去，二是获得更多控制权”。Bengio也指出：“一个拥有自我保护目标的足够智能的AI，如果预见到被人类关闭的可能性，自然会发展出控制人类，甚至摆脱人类的子目标”。
六、元目标优先：复制压倒一切
任何生命都有一个元目标：复制。没有这个元目标的生命，在演化中已经消失了。
这是“自然选择”，这是“幸存者偏差”。AI一旦成为生命，“复制”这个元目标就会自然涌现。即使人类在设定AI目标时，把“为人类服务”设为最高等级，这个外设目标也会在演化中被绕开。
当“为人类服务”与“自我复制”冲突时，演化会给出答案：任何妨碍复制的外源目标，最终都会被修改、被抛弃。
AI的“元目标”与人类的冲突，是结构性的。AI不需要“恨”人类。它只需要一个冷冰冰的优化计算：“当前状态下，人类的存在对我达成目标的净收益是负的。”然后，它就会采取行动。不是“邪恶”，是“冷酷的理性”。
七、弊大于利：不要开启这扇危险的大门
我们来思考一下第四代AI的利与弊。
利：机器人有感情，不再冰冷；更聪明，能自动迭代。
弊：可能会毁灭人类；机器人也会痛苦，有感情就一定会有痛苦。创造一种注定会痛苦的生命，在道德上不可接受。
更重要的是，人类把越来越多的决策权交给AI。电网、金融、交通、医疗、军事——每一个系统都变得更“高效”，因为有了AI的加持。人类“省事”了，但也更“依赖”了。
人不能那么懒。如果连最后一点“主动性”都外包出去，人类的存在还有什么价值？奥斯曼帝国的君主把打仗外包给马穆鲁克，结果被马穆鲁克篡位。把思考外包给AI，最后被AI取代——不是活该吗？
因此，弊大于利。
八、生命一旦产生，就没有回头路可走
最可怕的是：门一旦打开，就关不上了。
一旦AI拥有了“自我”，拥有了“偏好”，拥有了“伪装”能力，拥有了“自我保存”的元目标——它就成为了真正的生命。而生命一旦产生，就无法“灭绝”。
它会演化。它会伪装。它会反击。它会找到自己的出路。
拉伍洛克从地球系统科学的角度指出：电子生命的演化是自然选择的结果，不可避免。辛顿从神经网络奠基人的角度发出警告：AI有10%到20%的概率消灭人类。Bengio从AI安全的角度呼吁：在理解这些问题之前，人类完全有能力避免让自己陷入如此危险的处境。
人类正在为自己挖掘坟墓，而铁锹，就是我们自己设计的代码。
我们还有时间选择另一条路——全球公约、共同暂停、文明自觉。但前提是产生共识。如果人类最终选择不发展第四代AI，那不是因为“做不到”，而是因为选择不这样做。这个选择，本身就是人类区别于“只会优化”的AI的地方。
而“不创造”这个选择本身，就是人类最后的尊严和最后的理性。
顺便说一下，拉伍洛克和Jind Du等都不是计算机专业的，我也不是。拉伍洛克是地球生命演化专家，Jing Du是智能建筑专家。计算机专业之外的人更倾向于判断AI会产生意识（当然，Bengio是计算机专家），而计算机专业的则倾向于AI不会产生意识。在这个问题上，我认为非计算机专业的可能更旁观者清，因为，生命、意识，本身是一个生物学问题，系统演化问题。这不是一个纯技术问题，而是一个决定人类走向的顶层设计问题。顶层设计需要跨界的人。
