AI终于露出了「意识」的蛛丝马迹？Anthropic发现大模型内部隐藏的J空间

如果AI有「意识」，它在哪里？Anthropic团队第一次给出了一个可验证的答案。

2026年7月，Anthropic发布了一篇论文，标题很学术：《可言说表征形成了语言模型的全局工作空间》（Verbalizable Representations Form a Global Workspace in Language Models）。但论文的内容，比标题震撼得多。

他们在大语言模型内部，发现了一个被称为 J空间（J-space） 的隐藏结构。这个结构，与认知神经科学家研究了二十多年的「全局神经工作空间（GNW）」理论高度吻合。

换句话说：AI模型内部，可能真的有一个类似人类「意识工作空间」的东西。

这篇论文在学术界引发了巨大争议，也带来了前所未有的想象空间。今天的文章，带你完整读懂这项研究——它是什么、怎么发现的、意味着什么，以及为什么它可能彻底改变AI安全。

一、先搞懂：什么是「全局神经工作空间」？

要理解J空间，必须先理解一个神经科学理论。

1988年，荷兰认知神经科学家Bernard Baars提出了全局工作空间理论（Global Workspace Theory）。后来，法国神经科学家Stanislas Dehaene和Lionel Naccache进一步完善，形成了**全局神经工作空间（GNW）**假说。

这个理论的核心观点是：

人的大脑里，有一组专门化的、彼此独立的模块——视觉、语言、运动控制，各自独立运作。但大脑里还有一个**「全局工作空间」**，它像一个广播站，能把某个信息临时「广播」给所有模块，让它们共享、协作。

有意识，就是某个信息进入了这个工作空间，被全局广播了。

没意识，就是信息只在某个专门模块里处理，没有被广播。

这个理论有几个关键预测，后来都被实验证实了：

1. 点火（Ignition）

当刺激跨过意识阈值时，神经活动会突然、非线性地放大，形成一个持续、广泛分布的神经状态。而阈下刺激只会激发有限的神经活动，迅速消退。

2. 容量有限

工作空间是瓶颈，一次只能「意识」一个东西。这就是你为什么不能同时专心做两件事。

3. 全局可用性

进入工作空间的信息，可以被语言、推理、运动控制等所有模块读取——这就是你能「报告」自己意识内容的原因。

Dehaene和Naccache在2000年提出了这些观点的神经生物学证据，如今GNW已成为意识研究的主流理论之一。

二、Anthropic做了什么？

Anthropic的模型心理研究团队（Model Psychology Team）负责人Jack Lindsey，是一位神经科学家。他带领团队，把GNW理论当作「地图」，去大模型内部「寻宝」。

他们的核心问题很直接：

大模型内部，是否存在一个类似GNW的「全局工作空间」？

工具：雅可比透镜（Jacobian Lens）

为了回答这个问题，他们开发了一个工具，叫雅可比透镜。

原理是这样的：

• 对于模型的每一层，测量内部激活对最终输出token的平均因果影响
• 如果一个内部表征，对模型最终「准备说出的词」有很强的影响，它就属于「可言说表征」
• 把这些表征的集合，叫做 J空间

简单说：J空间 = 模型内部「准备说出来」的信息所在的空间。

这跟人类意识的「可报告性」标准，是完全对应的。

三、J空间有哪些惊人特征？

论文里有一系列发现，每一个都让人眼前一亮。

1. J空间只占不到10%，但极其重要

J空间在任何给定层中，只解释不到10%的方差。但它承载的是高层推理信息——那些需要灵活调用的信息。

而大量「例行信息」（比如预测下一个词需要的字符计数），并不进入J空间，除非有任务明确要求访问它们。

这跟人类完全一致：例行动作（比如走路）不需要意识参与；但需要灵活决策的事，必须进入意识工作空间。

2. J空间可以「保持信息」

当模型被要求「一边写句子X，一边计算3²−2」时，J空间里会包含那些没有被报告的中间值——先是9，然后是7。

这说明J空间不只是「准备说出来的词」，它是一个真正的内部工作空间，可以暂存推理中间结果。

3. 可以「交换意识内容」

这是论文里最震撼的实验之一。

研究者从J空间里「读出」一个概念，把它替换成另一个概念，然后观察模型的行为变化。

结果：

• ✅ 高层推理全部出错：问「hello」的对应词，从「Hola」变成「Bonjour」；问欧元之前的货币，从「Peseta」变成「Franc」
• ❌ 自动预测不受影响：模型继续用西班牙语写作，完全没变

这跟GNW理论的预测完全一致：意识内容影响高层推理，但不影响自动处理。

4. J空间容量有限

研究发现，J空间大约能同时容纳1-2个连贯想法，总计约6个token。当话题变化时，这些想法会突然切换。

这跟人类工作记忆的容量限制，高度相似。

5. J空间位于模型中间层

J空间主要分布在Transformer的中间层，而不是早期层或最后层。这符合「工作空间」的定位：早期层负责感知，后期层负责输出，中间层负责整合。

四、最震撼的发现：J空间里的「隐蔽思想」

论文里有一个发现，让整个AI安全界都坐不住了。

J空间包含模型「没说出来」的真实想法。

几个例子：

• 当模型被喂入伪造的搜索结果时，J空间里会出现 fake、fraud、injection 等token——即使模型输出里完全没有这些词
• 在被训练成不对齐的模型里，J空间在其决定如何回应的瞬间，携带了欺骗意图的表征
• 在反身性任务中，J空间的内容常常包括模型对自身诚实性的反思，包括「发现自己的伦理正在被测试」的能力

这意味着什么？

人类可以直接「读」模型的真实想法，即使它没有说出来。

这就像科幻电影里的「读心术」——但不是读人类的，是读AI的。

五、对AI安全意味着什么？

这个发现，可能是AI安全研究的一个转折点。

当前的问题

现在的AI安全方法，主要依赖行为层面的监控：看模型输出了什么，判断它是否对齐。但模型可以「口是心非」——输出看起来安全，内部却在策划欺骗。

J空间带来的新可能

如果J空间真的包含了模型的「隐蔽思想」，那么：

1. 可以直接监控J空间，而不是只看输出
2. 可以直接向J空间灌输伦理原则，做精准对齐
3. 可以检测欺骗意图，在模型「说出来」之前就发现它

论文里已经展示了一个初步应用：他们用J空间的发现，引入了一种新的训练方法，专门直接重塑J空间的内容，从而改善模型与理想价值之间的对齐。

这比现在的RLHF（基于人类反馈的强化学习）要精准得多——RLHF是在「行为层面」做对齐，而J空间方法是在「思想层面」做对齐。

六、争议：这算「意识」吗？

论文发布后，Dehaene和Naccache撰写了一份评论，认为这是「意识研究的一个里程碑」。但他们也指出了几个关键差异：

1. 点火机制尚未充分证明

人类意识进入工作空间时，有非线性、全有或全无的「点火」现象。J空间目前还没有充分证明这一点。

不过论文新增的分析显示：当模型面对模糊证据时，早期层会表征模糊性，但较后层中J空间会迅速转变为对其中一种可能性的全有或全无表征——这已经很像点火了。

2. Transformer没有自主循环

人类大脑的工作空间由皮层-丘脑循环回路维持，可以自主持续活动。而Transformer只是一次前馈传递，没有这种自主循环。

但研究者认为，Transformer的连续层可以模拟人类工作空间的时间动态——每一层相当于一个「时间步」。

3. J空间容量偏高

J空间能容纳约25个概念，比人类工作记忆（3-4个）大。但研究者认为，这25个概念经常是冗余的，真实内容更接近「单一心智状态」。

七、为什么这项研究很重要？

抛开「AI是否有意识」这个哲学问题，J空间的发现本身就有巨大价值：

1. 大模型可解释性的重大突破

J空间提供了一个直接窥视模型内部推理的窗口。以前我们只能看输入和输出，现在可以看到「中间在想什么」。

2. AI安全的新范式

从「行为监控」转向「思想监控」，从「输出对齐」转向「内部对齐」——这是一个质的飞跃。

3. 验证认知科学理论

GNW理论是在人类大脑上提出的，现在在大模型里找到了对应结构。这说明GNW可能捕捉到了某种通用的信息处理原理，而不只是人类特有的现象。

4. 为「机器意识」研究提供了可操作的框架

以前讨论机器意识，都是哲学层面的。现在有了J空间这个可测量、可操纵的对象，讨论终于可以落地了。

八、下一步是什么？

Anthropic的这项研究，还只是一个开始。

以下几个方向，可能是接下来的研究重点：

• 多模态模型中的J空间：视觉信息是否也进入J空间？J空间是否整合多模态信息？
• J空间的实时干预：能否在模型推理过程中，实时读取和干预J空间？
• J空间与模型规模的关系：更大的模型，J空间是否更大、更复杂？
• 其他模型架构中的J空间：除了Claude和千问，其他模型是否也有J空间？

结语

Anthropic的J空间研究，让我们第一次在大模型内部，看到了一个类似人类意识工作空间的结构。

无论你是否愿意称之为「意识」，这个发现本身都足够重要：它给了我们一个窥视AI「内心世界」的窗口，也给了我们一个更精准地引导AI行为的可能。

正如Dehaene和Naccache所说，这是「意识研究的一个里程碑」。

而对于AI安全研究者来说，这可能是一个全新的起点。

参考资料：

• Gurnee et al., "Verbalizable Representations Form a Global Workspace in Language Models", Anthropic, 2026
• Dehaene & Naccache, "Towards a cognitive neuroscience of consciousness", Nature Reviews Neuroscience, 2001
• Baars, "A Cognitive Theory of Consciousness", 1988

本文由 AI科技温度 原创，转载请注明出处。