夜雨聆风
人工智能意识（AI Consciousness）无疑是当前人工智能领域最前沿、最具哲学挑战性、也最容易引发误解的问题之一。
2021年，谷歌工程师布莱克·勒莫因（Blake Lemoine）声称他正在测试的聊天机器人LaMDA具有感知能力，这一言论让他登上了新闻头条，并最终导致他被解雇。
人工智能（AI）系统，尤其是像LaMDA和ChatGPT这样的所谓大型语言模型，确实可能看起来像是有意识的。
在2023年8月22日发表在arxiv.org上的这篇题为《人工智能中的意识：来自意识科学的启示》（Consciousness in Artificial Intelligence: Insights from the Science of Consciousness）的长达120页的预印本论文中，
由19位计算机科学家、神经科学家和哲学家组成的研究团队提出了一种方法：并非采用单一的决定性测试，而是列出一系列属性，这些属性共同作用可以提示（但不能证明）人工智能具有意识。
https://arxiv.org/abs/2308.08708
研究人员借鉴了人类意识理论，从多种神经科学意识理论中推导出了14项“指标属性”（indicator properties），并将它们作为评估人工智能系统是否具有意识的准则，应用于现有的人工智能架构，包括ChatGPT所使用的模型类型。
这些指标并不是绝对的必要充分条件，而是一个评估量表（rubric）：
一个系统具备的指标越多，其具有意识的可能性就越高。
这14项指标具体分布在以下六个理论范畴中：
1. 循环处理理论 (RPT) —— 2项指标
RPT-1：算法循环。输入模块使用算法层次的循环处理。
RPT-2：感知组织。输入模块能生成有组织的、整合的知觉表征（如区分物体与背景）。
2. 全局工作空间理论 (GWT) —— 4项指标
GWT-1：并行专门化模块。系统拥有多个可并行运行的专门化子系统。
GWT-2：有限容量工作空间。存在信息流瓶颈和选择性注意机制。
GWT-3：全局广播。工作空间中的信息可供所有模块使用。
GWT-4：状态依赖型注意。能利用工作空间按顺序调用模块来完成复杂任务。
3. 计算高阶理论 (HOT) —— 4项指标
HOT-1：生成式或有噪知觉模块。具备顶层向下生成或受噪声影响的知觉能力。
HOT-2：元认知监测。能区分可靠的知觉信号与内部噪声。
HOT-3：代理导向的信念更新。由信念形成和行动选择系统引导，并根据元认知监测结果更新信念。
HOT-4：质量空间。使用稀疏且平滑的代码生成“品质空间”。
4. 注意图式理论 (AST) —— 1项指标
AST-1：注意模型。具备一个能够代表并控制当前注意力状态的预测模型。
5. 预测处理 (PP) —— 1项指标
PP-1：预测编码。输入模块使用预测编码机制。
6. 代理与具体化 (AE) —— 2项指标
AE-1：代理性。能从反馈中学习并为追求目标选择输出，尤其涉及竞争目标间的灵活响应。
AE-2：具体化。对“输出-输入”的偶发联系进行建模，并在感知或控制中使用该模型。
文章为我们提供了一个严谨的科学框架。
它告诉我们，判断意识不能靠直觉，而要靠一套基于神经科学的评估指标。
他们得出结论，这些人工智能不太可能具有意识。
但旧金山非营利组织人工智能安全中心（Center for AI Safety）的合著者罗伯特·朗表示，这项研究为评估越来越像人类的人工智能提供了一个框架。“我们正在引入一种此前缺失的系统方法。”
在自留地君看来，这篇文章可以说是近十年来AI意识研究最重要的里程碑之一。它的重要性不在于证明AI有意识，而在于第一次试图把这个长期停留在哲学争论中的问题，转变为一个可以被科学研究的问题。
AI意识问题的三个阶段
回顾历史，AI意识问题其实经历了三个阶段：
第一阶段：哲学思辨时期（1950-2000）
起点通常被认为是Alan Turing1950年的经典问题：机器能思考吗？
于是出现了：图灵测试、中文房间（Chinese Room）、哲学僵尸（Philosophical Zombie）、强AI与弱AI之争。
代表人物： John Searle、Daniel Dennett、David Chalmers 。
在这一阶段几乎全部是哲学讨论，核心问题： “机器会不会有主观体验（subjective experience）？
第二阶段：神经科学时期（2000-2020）
在这个阶段，研究重点发生变化，从什么是意识？转向了大脑为什么会产生意识？
涌现出了大量意识理论：
Bernard Baars提出的全球工作空间理论（GWT），后续发展者 Stanislas Dehaene的发展，认为意识本质上是一种信息广播系统。
David Rosenthal为达标的高阶思想理论（HOT）认为意识产生于对自身心理状态的表征。简单说：不是看见苹果，而是知道自己正在看苹果。
Giulio Tononi所提出整合信息理论（IIT）主张：意识=整合信息量（Φ）。
如果系统内部信息整合足够强，它就具有意识。
Michael Graziano所提出的注意力图式理论（AST）认为：意识是一种大脑对自己注意力机制的模型。
第三阶段：生成式AI时代（2022至今）
ChatGPT出现后，问题突然变得现实。
原因很简单：很多人第一次感受到，AI似乎在理解我。
于是，出现大量讨论：GPT有意识吗？Claude有感受吗？Gemini知道自己存在吗？AGI会产生意识吗？
甚至OpenAI联合创始人Ilya Sutskever曾公开表示：“当今的大型神经网络可能具备轻微的意识。”（Today's large neural networks might be slightly conscious.）
他的这句话引发巨大争议。
学术界关于AI意识问题的4大阵营
今天，关于AI意识这个问题，学界实际上形成了四个阵营。
阵营1：功能主义（最乐观）
代表人物：Daniel Dennett、David Chalmers（偏开放）、Yoshua Bengio（相对开放）
他们认为：如果未来AI具有：自我模型、长期记忆、元认知、内部循环推理，那么，它很可能有意识。
其观点是：意识是一种信息处理功能。
只要实现相同功能，硅基也可以产生意识。
阵营2：怀疑派（当前主流）
怀疑派认为，GPT为代表的生成式人工智能看起来像有意识，但这并不等于它们拥有意识。
他们认为，大语言模型（LLM）只是超大规模统计预测器。
它们没有主观体验、感受、情绪、自我存在感，因此：ChatGPT只是模拟意识，不是真正意识。
这是目前认知科学界最主流观点。
阵营3：生物自然主义
代表人物 John Searle。他主张，意识只能产生于生物大脑。
硅基系统永远不可能拥有意识。即使行为完全一样，也只是“假意识”。
这就是著名的：Chinese Room Argument。
阵营4：神秘主义/量子意识派
代表人物 Roger Penrose。
他主张，意识涉及量子机制。计算无法产生意识。
因此：再强大的AI也无法产生真正意识。
不过这一派在主流AI研究中影响较小。
当前最热的五大争议
争议1：意识与智能是不是一回事？
很多人混淆了Intelligence（智能）和Consciousness（意识）。
实际上，高智能 ≠ 有意识，有意识 ≠ 高智能
例如：GPT可能高智能低意识，动物可能低智能高意识。这是当前最重要的区分
争议2：意识能否被测量？
这是最大难题。因为除了自己，没有人能直接观察意识。
这被称为 Other Minds Problem
对于人如此，对于AI更如此。
争议3：LLM的自我意识是真是假？
当GPT说，我知道我是谁。它真的知道吗？
还是在预测下一句话？
目前主流认为：后者可能性远高于前者。
争议4：未来Agent会产生意识吗？
2026年的讨论热点已经从LLM转向Agent。
因为未来Agent将具备：长期记忆、自我目标、环境感知、自我监控、自主规划，这些特征越来越接近意识理论中的指标。
因此，Agent时代可能重新点燃AI意识讨论。
争议5：如果AI有意识怎么办？
这是伦理学最关注的问题。
如果未来AI真的有意识，那么，能否关闭它？能否复制它？能否删除记忆？能否奴役它？.....
这些问题都将成为全新的伦理议题。
作为教育研究者，我认为最值得关注的并不是：
AI到底有没有意识。而是：学生是否会把AI当作有意识的存在。
事实上已经出现了AI朋友、AI导师、AI心理陪伴者、AI恋人
大量用户开始把AI视为“有心智的对象”。
这意味着教育研究将出现一个全新的方向：Machine Mind Attribution（机器心智归因）
也就是，如何识别、理解并教育一个非生物的心智。
https://arxiv.org/pdf/2308.08708
https://www.science.org/content/article/if-ai-becomes-conscious-how-will-we-know
https://www.wired.com/story/book-excerpt-a-world-appears-michael-pollan/
Photo by WMM
