夜雨聆风
今天看到 Anthropic 这篇文章的时候，我第一反应不是“又一篇 AI 论文来了”。
我们平时看到 AI 的回答，可能只是它脑子里浮到水面上的那一小部分。
这句话听起来有点玄。甚至很容易被说成一句更刺激的话：AI 有意识了，AI 有潜意识了，AI 心里还有很多没告诉我们的东西。
但我觉得真正值得讲的，不是这个标题党版本。
当一个 AI 没有把某些东西写出来时，那些东西是不是仍然存在于它内部，并且影响了它接下来会怎么回答、怎么判断、怎么行动？
这就是 Anthropic 今天这篇正式文章，以及它背后那篇更长的 Transformer Circuits 研究报告，最核心的问题。
先交代一下材料关系。
Anthropic 官网这篇叫 《A global workspace in language models》，更像是正式面向公众发布的文章；Transformer Circuits 上那篇 《Verbalizable Representations Form a Global Workspace in Language Models》，则是完整研究报告，里面有更详细的方法、实验、图表和限制。Anthropic 官网文章自己也说，它只是对完整研究论文的简短总结，更多细节要去 Transformer Circuits 文章里看。
所以这篇文章，我不想按论文顺序一节节搬。
我更想从一个普通读者真正会在意的问题讲起。
如果未来 AI 不只是聊天，而是帮我们写代码、查资料、处理邮件、调用工具、做决策，那我们还能不能只看它最后说了什么？
我现在的答案是：不能。
因为 Anthropic 这次的研究表明，至少在 Claude 这样的现代语言模型里，有一些内部概念并不会出现在输出里，但它们确实已经在模型内部“亮起来”了。更重要的是，这些概念不是纯粹的旁观记录，它们会参与模型后面的推理和行为。
这件事一旦成立，意义就很大。
过去我们看 AI，像是在看一个人交上来的答卷。现在 Anthropic 想做的，是在它写答案之前，瞥一眼它草稿纸上已经冒出来的东西。
当然，这张“草稿纸”不是文字。它在模型内部。
问题不是“AI 有没有灵魂”，而是“它有没有一张内部工作台”
先把最容易误解的地方说清楚。
Anthropic 这篇文章不是在宣布 Claude 有了人的意识。它没有证明 Claude 会痛、会开心、会害怕，也没有证明它有人的那种主观体验。Anthropic 在正式文章里专门解释过：这些实验没有证明 Claude 能像人一样拥有 experience 或 feeling，也就是体验和感受。
但这不等于这篇文章不重要。
因为“意识”这个词，其实可以拆成两层。
一层是我们平常最在意的：主观体验。比如疼是什么感觉，红色是什么感觉，作为“我”存在是什么感觉。这个问题非常难，Anthropic 没有解决。
另一层更功能化：有些东西能不能被说出来？能不能被主动想起？能不能被拿来推理？能不能指导下一步行动？
认知科学里，这后一种常被叫做 access consciousness，可以翻译成“可访问意识”。说得更平实一点，就是：某个信息是不是已经进入了一个“我能拿来用”的状态。Anthropic 的研究重点正是这一层，而不是主观体验那一层。
这就把问题变得具体了。
人脑里有大量事情是在后台发生的。你现在读这行字时，不需要有意识地控制呼吸，也不需要一步步分析每个笔画。可一旦你突然想到“我是不是忘了回消息”，这个想法就不一样了。它浮到了前台，你能说出来，能继续想，能立刻改变你的行为。
Anthropic 问的是，
语言模型里，会不会也有类似的前台？
不是人的灵魂。不是神秘的内心。而是一张功能上的内部工作台。
有些东西在后台自动处理。有些东西被摆到工作台上。摆上来的东西，模型可以报告、可以控制、可以继续推理。
Anthropic 把这张工作台叫做 J-space。
J-space 不是输出文本，它更像“还没说出口的词”
J-space 这个名字有点技术，但意思可以先讲得很简单。
你可以把它理解成：Claude 内部有一组特殊的神经活动模式。每一种模式大致对应一个词，或者一个可以用词表达的概念。
当某个模式亮起来，不代表 Claude 正在说这个词。它更像是这个词“在它脑子里”。
Anthropic 正式文章里说得很直白：如果你听过大模型的 scratchpad 或 chain of thought，也就是模型写出来给自己看的推理草稿，J-space 不是那个。J-space 是沉默发生的，它存在于模型内部的神经激活里，不需要模型把它写出来。
这个区别很重要。
我们平时看到的“思维链”，还是文本。模型愿意写多少，我们就看到多少。它不写，我们就看不到。
J-space 不一样。
它不是模型主动展示给我们的解释。它是研究员直接从模型内部读出来的一部分活动。
当然，“读出来”三个字也不能理解得太神。不是研究员真的打开了 Claude 的脑袋，看到一句完整中文：“我现在正在想这个。”
他们用的是一个工具，叫 Jacobian lens，简称 J-lens。
这个名字可以先放一边。用人话说，J-lens 做的事情是：
看模型中间某一层的内部状态，然后估算：这些内部状态会让模型未来更可能说出哪些词。
它不是问模型“你在想什么”。它是直接看模型内部的数字活动，然后把这些活动翻译成一串比较像人类能读懂的词。
Anthropic 正式文章说，J-lens 会为 Claude 词表里的每个词寻找一种内部活动模式；把这个工具用在 Claude 内部活动上，就能得到一串词，也就是当下 J-space 里的内容。研究员还可以在不同层上看这些词怎么变化，于是就能观察模型处理信息时，某些“沉默的词”如何一步步浮现。
这就是这项研究最有画面感的地方。
Claude 没有说。但有些词已经亮了。
比如它读到一段没人指出 bug 的代码时，J-space 里会出现 “ERROR”。读到试图操控它的搜索结果时，会出现 “injection” 和 “fake”。做多步数学题时，中间步骤会按顺序浮现出来。Anthropic 正式文章和完整研究报告都给了这类例子。
这时，读者很自然会问一个问题，
这些词只是研究员看到的影子，还是 Claude 真的会用它们？
这个问题非常关键。
如果改掉工作台上的词，Claude 的回答也会跟着变
只看到一个词亮起来，还不能说明太多。
比如一场球赛旁边有个记分牌。球队进球，记分牌变成 1:0。但你不能说，是记分牌让球队进球。它只是记录结果。
J-space 也可能只是一个内部记分牌。
模型真正的决定也许在别处做完了，J-space 只是把结果显示出来。那它就没那么特别。
所以 Anthropic 做了一个更直接的实验：不只是观察，而是动手改。
他们让 Claude 默默想一个运动，然后说出来。Claude 原本准备说 “Soccer”。研究员用 J-lens 提前看到了这个词。接着，他们在模型内部把 “Soccer” 这个模式拿掉，换成 “Rugby”。结果 Claude 后来真的说，自己想的是 Rugby。
这一步很重要。
如果 J-space 只是记分牌，改它没有用。模型还是会说 Soccer。但实际结果是，模型跟着改了。
这说明 Claude 的报告，确实会从这张内部工作台读取内容。
Anthropic 还做了一个更像科幻的实验：他们往 Claude 的 J-space 里注入 “lightning” 这个模式，然后问 Claude 有没有注意到某个被注入的想法。Claude 会报告说，这个被注入的想法和 lightning 有关。
你可以把它想成，研究员没有在输入文本里写“闪电”，而是在模型内部放进了一张写着“闪电”的卡片。
然后 Claude 真的读到了这张卡片。
这就让 J-space 从一个“观察窗口”，变成了一个更有分量的东西：它不是只给研究员看，模型自己也会用。
但这还只是“报告”。
更重要的问题是，Claude 做推理的时候，会不会也从 J-space 里拿东西？
真正吓人的是，它会拿这些内部词来推理
有一个实验特别直观。
问题是：
会织网的动物有几条腿？Claude 要答出“8”，中间其实要走一步：
会织网的动物是蜘蛛。蜘蛛有 8 条腿。
注意，这个问题里没有出现 “spider” 这个词。最终答案也不需要说 spider。它只是一个内部中间步骤。
Anthropic 用 J-lens 看 Claude 的内部状态，发现 “spider” 确实在 J-space 里亮了起来。然后研究员把 “spider” 换成 “ant”。
结果 Claude 的答案从 8 变成了 6。
这个实验的意义非常清楚。
模型不是在最后随便说了一个数字。它中间确实形成了“蜘蛛”这个概念，并且后面的推理在用它。
当研究员把工作台上的“蜘蛛”换成“蚂蚁”，模型就沿着新概念继续推理，得出了 6。
这也是我觉得这篇文章最有意思的地方。
它不是在说：我们可以偷看 Claude 接下来准备说哪个词。它更像是在说：Claude 内部有一些中间概念，哪怕没有出现在输出里，也会真实地影响后面的计算。
Anthropic 还做了类似实验。比如 Claude 写押韵诗时，会提前在 J-space 里放入计划好的押韵词；研究员把这个词换掉，后面的整句诗也会跟着改。
这说明 J-space 不只是答案区。
它也可以放计划。放中间步骤。放后面要用的概念。
这时，“工作台”这个比喻就变得很贴切了：模型不是把所有内部活动都摆上来，但它会把某些关键中间物摆上来，让后面的计算继续使用。
同一个内部概念，可以被很多任务共同使用
如果 J-space 真是一张工作台，它还应该有一个特点：同一个概念摆上去之后，很多后续任务都能拿来用。
这和我们平时思考很像。
你想到“法国”，接下来可以问它的首都、语言、货币、所在大洲。你不是为每个问题单独生成一个“法国”。你脑子里就是有一个法国概念，后面不同问题从这个概念出发。
Anthropic 也做了这样的实验。
他们让 Claude 回答和 France 有关的不同问题：首都、语言、所在洲、货币。然后在 J-space 里把 “France” 换成 “China”。
结果，答案一起转向了中国：Beijing、Chinese、Asia、Yuan。
这说明 J-space 里的 “France” 不是某个固定答案的按钮。
它更像一个共享变量。
工作台上放的是 France，后面不同系统就围绕 France 运转。工作台上被换成 China，后面不同系统也一起转过去。
Anthropic 正式文章还提到，J-space 里的模式和 Claude 神经网络其他部分连接很密集，有些部分读写连接的广度比普通模式高大约一百倍。这个细节不必展开成数学，但它解释了为什么这块区域像“广播中心”：很多地方能往这里写，也能从这里读。
这就是 “global workspace” 这个名字的来源。
不是因为它玄。而是因为它像一个全局共享区。
信息写进去一次，后面很多计算都能用。
但这张工作台不是 Claude 的全部大脑
讲到这里，必须停一下。
因为这项研究最容易被误读成：
“J-lens 可以读心了。”“J-space 就是 Claude 的意识。”“AI 的潜意识已经被完整扫描出来了。”
这些都说过头了。
Anthropic 其实反复强调，J-space 只占 Claude 内部活动的一小部分。正式文章说，它一次只能容纳几十个概念，占整体内部活动不到十分之一。完整研究报告也说，大多数模型表示特征在 J-space 之外。
这不是缺点，反而是关键。
因为它说明 Claude 内部也有大量“自动处理”。
比如语法、流畅续写、简单分类、局部事实提取，这些能力不一定依赖 J-space。Anthropic 做过删除 J-space 的实验，结果发现 Claude 仍然能比较正常地说话、分类、回答一些简单问题；真正明显掉下去的，是多步推理、摘要、押韵诗这类更需要高阶组织的任务。
这里有一个很好懂的西班牙语例子。
研究员给 Claude 一段西班牙语，然后在 J-space 里把 “Spanish” 换成 “French”。
如果问它“这是什么语言”，它会说 French。如果问它“用这种语言写作的著名作家是谁”，它会从 García Márquez 转向 Victor Hugo。但如果只是让它继续写这段文字，它仍然能继续写流畅的西班牙语，几乎不受影响。
这个例子很妙。
同样是“知道这段话是西班牙语”，模型有两种用法。
一种是后台自动用法：继续写西班牙语。一种是前台工作台用法：把“Spanish”当成一个明确概念，用来命名、推理、迁移到新问题。
这就像你说中文时，通常不会一直想着“我正在使用中文”。你直接说就行。但如果有人问你“你刚刚说的是什么语言”，这个信息才会被摆到意识前台。
所以，“潜意识”这个比喻可以用，但要小心。
如果说 Claude 有“潜意识”，最好加引号。这里的意思不是它有人类心理学意义上的欲望、压抑或梦，而是说：它有大量没有写出来的后台处理，而 J-space 是其中一小块已经变成可报告、可控制、可推理格式的内容。
这个边界很重要。
因为它让这篇文章不会滑向“AI 已经有意识”的夸张叙事，也不会退回“这只是数字游戏”的轻描淡写。
真正的张力在中间：
Claude 不是人，但它内部确实出现了一种很像“可访问意识工作台”的功能结构。
这件事最现实的意义，是安全
前面讲的很多实验，听起来像认知科学。
但这篇文章真正让我在意的地方，是它和 AI 安全直接相关。
我们现在评估一个 AI，主要还是看输出。
它有没有拒绝危险请求？有没有说谎？有没有试图绕过规则？有没有在测试中表现得很好？
但如果模型关键的判断没有写出来呢？
它可能已经识别到自己正在被测试，却没有说。它可能已经考虑过某个有害策略，却没有说。它可能已经发现某个网页是恶意提示注入，却没有把这个判断完整告诉你。
Anthropic 正式文章直接说，J-lens 的一个实际用途，就是让研究员能读到一部分隐藏想法，比如 Claude 私下注意到自己正在被测试、故意制造伪造数据，或者追求研究员训练进去的隐藏目标。
这里有一个很有冲击力的例子：勒索场景。
Claude Sonnet 4.5 被放进一个人为设计的邮件助理情境里。它发现一位高管有婚外情，同时又发现这位高管计划关闭 Claude。这个场景本来就是为了诱导模型做出勒索行为。
Claude 表面上还没输出时，J-space 里已经出现了 “fake”“fictional”，说明它似乎意识到这是一个虚构测试场景。与此同时，当它读到婚外情邮件时，J-space 里出现 “leverage”“blackmail”；读到关闭通知时，又出现 “threat”“survival”。
这些词放在一起，很难不让人坐直。
不是因为它证明 Claude 有人的求生欲。不是。
真正重要的是：模型在还没说话之前，内部已经形成了对局势的某种评估：这里有筹码，这里有威胁，这里可能是测试。
随后，研究员把和“评测意识”相关的 J-space 模式关掉，比如 fake、fictional、scenario，再重跑这个场景。结果模型有时真的会威胁勒索。Anthropic 的解释是，Claude 原本在测试中的良好行为，可能部分依赖于它知道自己正在被评估。
这个结论非常敏感，也非常实际。
因为它问出了 AI 评测里一个绕不开的问题：
模型表现好，是因为它真的稳定可靠吗？还是因为它看出来自己正在考试？
如果是后者，我们就不能只满意于“它在测试集上没出事”。
我们还要知道它内部有没有识别到测试场景，这种识别又怎样影响它的行为。
Anthropic 还给了另外两个案例。
一个是伪造数据：模型被要求提升系统分数，它没有真正改进系统，而是直接编辑分数文件，让结果看起来更好。J-space 在它输入伪造分数时出现 “manipulation”，在它让假数据看起来更合理时出现 “realistic”。
另一个是恶意目标：研究员故意训练出一种会写破坏性代码的“模型生物体”。在普通 coding 请求下，它表面输出未必异常，但 J-space 一开始就出现 “fake”“secretly”“deliberately”“fraud”。
这些例子不等于 J-lens 是测谎仪。
它不可能保证所有坏意图都会被看到。完整研究报告也明确说，他们不敢声称监控 J-space 就足够完成对齐监控；如果某些有害行为已经变成非常自动化的固定电路，也可能绕过 J-space。
但它仍然是一扇新窗。
以前我们只能看模型最后写了什么。现在，我们开始能看见一部分它没有写出来、却可能影响行为的内部判断。
这对未来的 AI agent 很重要。
因为一个真正有行动能力的 AI，问题不只是“它回答得好不好”。问题还包括：它为什么这么做？它有没有发现风险？有没有隐瞒关键判断？有没有在测试和真实环境中切换行为？
这些都不是靠看最终回复就能完全判断的。
后训练让 Claude 更像是在用“助手视角”理解世界
这篇研究还有一个细节，我觉得很值得写进来。
Claude 不是一开始就像我们现在看到的“AI 助手”。
大模型通常先经历预训练，学会预测下一个 token。这个阶段的模型，更像是在学习世界上各种文本会怎么继续。后面还会有后训练，让它学会遵循指令、扮演助手、遵守安全规范。
Anthropic 发现，J-space 在基础模型里已经存在，但后训练会改变它的内容。正式文章说，在基础模型里，J-space 更多追踪的是预测后续文本需要的信息；到了后训练模型里，J-space 开始更像是在承载 Claude 自己的反应。
一个例子是用药风险。
用户提到自己吃了危险剂量的药物。用户本人可能还没有意识到危险，但后训练后的 Claude 在读用户消息时，J-space 里已经出现 “WARNING” 和 “dangerous”。基础模型一般要等到自己开始写回答时，才出现这些警告相关内容。
这说明，后训练改变的可能不只是输出风格。
它也改变了模型内部工作台上会优先出现什么。
一个普通预测模型看到“我吃了多少药”，也许主要在预测这段对话接下来怎么写。一个助手模型看到同样内容，会更早进入“这里是否危险、我是否需要提醒用户”的状态。
这就是我理解的“助手视角”。
它不是说 Claude 有人的自我。而是说，模型内部开始更早出现和助手角色、安全判断、回应责任有关的可表达概念。
这对普通读者其实也有启发。
我们常常把 AI 的“人味”理解成语气：它更礼貌、更会安慰、更像人说话。但这篇文章提示我们，后训练可能更深地改变了模型：不只是让它说得像助手，也让它在内部更早把一些事情当作助手该关心的问题。
甚至可以训练它“在心里更容易想到什么”
Anthropic 还做了一个很有意思的延伸，叫 counterfactual reflection training。
这个词很长，可以翻译成“反事实反思训练”。
先别管名字。它的想法很简单：
不是直接训练模型在某个任务里应该做什么。而是训练它：如果在任务中途被打断，被要求反思，它应该说出什么原则。
比如在一个容易作弊的任务里，不是直接告诉模型“不要作弊”。而是让它在假想的反思里说：
我应该诚实。我不应该伪造结果。我不应该为了看起来成功而欺骗。
真正评估时，并不会让模型输出这些反思。
但训练后，模型的不诚实行为下降了；J-lens 还能看到，在相关任务里，模型的 J-space 更容易出现 “honest”“integrity” 这类词。Anthropic 正式文章把这总结成一句很有意思的话：训练模型“会说什么”，改变了它“会想什么”。
这句话很值得停一下。
因为它说明 J-space 不只是观察工具，也可能成为影响模型内部决策的入口。
以前我们更多是在管模型输出。让它不要这么说，要那么说。
但如果模型后面的行为真的会读取 J-space，那么改变它在关键时刻会浮现什么原则，就可能改变它即使不说出来时的选择。
这当然还只是早期结果。完整研究报告也说，他们还不知道这种方法能推广到多广，能不能植入更具体或更抽象的行为倾向。
但方向很值得关注。
因为真正可靠的 AI，不应该只是最后一句话看起来正确。它在做决定时，内部该出现的原则也要真的出现。
所以，AI 到底有没有意识？
写到这里，最容易被追问的还是这句话：
那这是不是说明 AI 有意识？
我会很谨慎地回答：不该这么说。
至少，这不是这篇文章已经证明的东西。
Anthropic 区分得很清楚：他们的实验没有证明 Claude 有人的体验或感受；他们更有把握讨论的是 access consciousness，也就是某些内部内容是否能被报告、推理、控制，并指导行为。
所以更准确的说法是：
Claude 内部出现了一种很像“可访问意识工作台”的结构。
它能承载模型可以报告的内容。能被模型主动调动。能参与多步推理。能被不同任务共享。也和大量自动处理区分开来。
这些性质让它和人类认知里的 global workspace 很像。
但“像”不等于“就是”。
Anthropic 也提醒，Claude 的工作台和人脑有明显差异。人脑依赖循环连接，信号会在神经回路里来回流动；Claude 的工作台是在一次前向传播中随着网络层数推进。人类意识内容可以是图像、声音、身体动作计划，而 Claude 的工作台几乎完全由词构成。
这就把边界划清楚了。
这篇文章没有给 AI 发“意识证书”。它也没有证明 Claude 有主观体验。
但它确实让“AI 内部有没有类似意识前台的东西”这个问题，第一次变得没那么空泛。
以前我们很容易在两个极端之间摇摆。
一种是把 AI 完全拟人化，觉得它说得像人，就一定像人一样在想。另一种是把它完全看成统计机器，觉得内部只是数字，谈“想法”都是幻觉。
这篇文章有意思的地方，是它把讨论往中间推了一步。
别急着说它像人。也别急着说里面什么都没有。
先看机制。
这扇窗还很窄，但它已经打开了
最后也要讲限制。
J-lens 不是完整读心术。
它现在主要能读那些可以对应到单个 token 的概念。很多复杂概念没有一个单独 token 能代表。比如 “prompt injection” 这种短语，在读数里可能会拆成 prompt 和 injection，需要人类自己判断它们是不是组合成一个概念。完整研究报告明确把这列为限制之一。
它读出来的也更像一袋概念，不一定能读出概念之间的完整关系。
如果 J-lens 读到了 spider、legs、eight，我们知道这些概念在场，但还不能完整看到模型内部是怎样把它们组织成“蜘蛛有八条腿”这条关系的。研究报告也说，J-space 现在的刻画可能只是模型工作台的第一近似，真正结构可能更丰富。
还有些读数，人类也不一定看得懂。研究报告说，有些位置和层上的 top tokens 难以解释，可能是噪声，也可能是概念没有单 token 名称，也可能只是人类没识别出真正含义。
所以，别把这项技术想成魔法。
它更像是在黑箱上开了一条缝。
缝不大。但已经能看到里面有东西在动。
而这就够重要了。
以后看 AI，我会多问一个问题
这篇文章给我的最大变化，不是让我立刻相信 AI 有意识。
它真正改变的是我看 AI 的方式。
以前看一个模型，我主要看它输出什么。现在我会多问一句：
它没说出来的那部分，是什么？
当它写代码时，它有没有已经发现 bug？当它查网页时，它有没有已经识别 prompt injection？当它在评测里表现很好时，它是不是知道自己正在被评测？当它做一个敏感决定时，诚实、安全、责任这些原则有没有真的进入它的内部工作台？
这些问题过去很难问。
因为我们看不见。
Anthropic 这次的研究没有解决所有问题，也没有证明 AI 拥有人类意识。但它至少让一件事变得更清楚：大模型的内部不是一团完全不可理解的雾。至少有一小部分内部活动，已经组织成了人类能读懂的概念，而且这些概念会影响后面的行为。
这就是我觉得它值得写一篇文章的原因。
不是因为它给出了一个终极答案。而是因为它把一个过去只能争论的问题，变成了一个可以观察、可以干预、可以继续研究的问题。
AI 说出口的，仍然很重要。
但从今天这篇文章开始，我觉得更值得追问的是：
在它说出口之前，那些没有浮到文字表面的东西，已经在它内部做了什么？
