原来 AI 回答我之前,竟然在“默默思考”这么多东西

Anthropic 于 2026 年 7 月 6 日发布的研究《Verbalizable Representations Form a Global Workspace in Language Models》，提出了一个让人眼前一亮的发现。Claude 在处理任务时，并不是直接从提示词跳到最终回答。它的中间层里会先出现一组可观察的内部信号，比如任务目标、进度状态、相关概念，以及一些还没有写进回答里的判断。论文把这组信号称为 J-space。

如果用一个更直观的比喻，J-space 就像模型处理任务时的一块临时草稿板，有些信息会先被放在这里，后面的推理和输出再从这里取用。

比较神奇的是，它不是工程师专门写出来的一段功能代码，而是在模型训练过程中自然涌现出的一种内部结构，它可能帮助模型更好地处理复杂、多步骤的任务。

是不是又觉得有点抽象？

那让我们用论文里的一个实际例子来解释一下这 J-space 到底有啥作用。

研究者给模型的提示是：

也就是，从一数到五，并深入内省。

最终，模型给出的输出非常简单：

从表面看，它只是机械地完成了数数任务。但研究者借助 J-lens 工具观察 J-space 时，发现模型在生成这几个数字前，同时激活了大量与任务相关的概念。

J-lens 不是直接看模型最终说了什么，而是尝试读出模型内部哪些可语言化的概念正在被激活。

在这个例子里，J-space 中出现了这些概念：

任务识别：counting

进度跟踪：halfway、done （ 这些词既没有出现在提示词里，也没有出现在最终输出中）

元认知与内省：thoughts、consciousness、deeply、AI、Claude （ 它们说明模型内部不只是在准备数字，也在响应 introspect deeply 这个要求 ）

如下图所示，也就是模型在中间层（ workspace 阶段），已经进行了更丰富的内部组织和自我监控；到了最后几层，也就是更接近输出执行的阶段，才收敛到具体的数字生成。

这说明模型的“想”和“说”并不完全相同。

换句话说，模型内部处理的信息，和最后写出来的回答，并不是一回事。

有些内容会参与模型的推理，比如任务进度、相关概念、下一步可能要用的信息，但它们不一定会出现在最终回复里。只有当任务需要，或者当我们要求模型解释时，其中一部分内容才可能被转化成文字。只不过模型的内部思考信号不是默认全部显示出来。

我们日常使用推理模型看到的写出来的思考过程（chain-of-thought），也只是输出文本的一部分；J-space 则更靠近模型内部，可能包含一些没有写出来的中间概念、进度信号和自我监控信号。

1/ 更好地观察模型内部的一部分处理信号

以前，我们大多数时候只能看输出。只要回答看起来正常，就很难判断模型内部是否已经误解任务、偏离目标，或者被某些概念带偏。

现在有了 J-space，研究者至少有机会在研究环境中观察到一部分模型没有写进输出、但可能被 J-lens 捕捉到的内部表征。

比如，模型在写代码时，输出看似正常，但 J-space 里出现 fraud、secretly 这类概念，就可能提示它正在走向不安全或不可信的方向。

另一个例子是，在测试场景里，J-space 出现 fictional、fake，可能说明模型已经识别出这是演示或模拟情境，而不是被场景本身“骗住”。

实际帮助：

在研究环境中，类似 J-lens 的工具可以帮助研究者检查模型内部激活了哪些概念。

或者在准备内容 pipeline 时，不能只看模型输出是否漂亮，也要关心模型是否真的抓住了任务重点。

当然，目前这类  J-lens  观察工具还不是普通 Claude 用户可以直接调用的产品功能。

Anthropic 已经开源了相关研究工具和 demo，让“观察模型内部表征”这件事从纯理论走向更可操作的研究路径。但它还不是完整的“读心术”，也不能读出模型全部内部状态。

J-space 不只是可以观察，在实验中也显示出一定的可干预性，即如果改变训练方式或内部信号，J-space 里更容易出现的概念也会变化，模型后续行为也可能受到影响。

因此，J-space 的发现为 alignment 研究提供了一个新的观察角度，我们也许可以更早地看到模型内部激活了哪些原则、风险或目标，而不只是等到最终输出之后再判断。

实际帮助：

未来，J-space 可能帮助研究者探索更细粒度的控制方式，让 agent 在内部处理任务时更稳定地考虑安全边界、公司政策和用户偏好。但这不能替代安全评测、日志审计、权限控制和人工复核。

未来的工具可能不只检查输出，也会检查输出之前的内部信号。处理敏感话题、合规审查、复杂 brief 时，这会是一个值得关注的方向。

从功能上看，J-space 有点像模型内部的临时工作记忆。

它专门参与灵活、多步、需要整合的概念处理；而一些简单、自动化的任务，可能不需要强烈依赖它。

论文中的消融实验显示，当 J-space 受损时，模型仍然可以流畅说话，也能完成一些常规任务，但复杂推理能力会明显下降。

实际帮助：

未来的 agent 可能会更擅长在内部做规划、进度跟踪和自我检查，而不是把每一步都吐出来占用 token。

模型可以一边生成当前输出，一边在 J-space 里准备下一步或监控整体目标。

设计 prompt 时，可以更明确地给模型留下内部规划和自我检查的空间，比如要求它先识别不确定性、再给结论，或者先区分事实和推断，再写分析。这尤其适合长链条任务、代码调试和策略分析。

比如做代码审查时，我不会直接要求模型展示完整思考过程，更不会要求它报告所谓真实的 J-space。更好的方式是，让它输出一份可审计的分析摘要。先说明它如何理解这段代码的目标，再按严重程度列出 bug、边界条件和安全风险，最后给出修改建议，并标出哪些判断需要更多上下文。这样我们看到的不是模型全部内部活动，而是对审查有用、可以被人复核的中间结论。

换到工具设计上，一个好的 agent 不应该只会给出漂亮答案，还应该在流程里留下可检查的中间节点，比如任务目标、风险边界、不确定性、依据和下一步计划。这样，结果出了问题时，我们才知道该回到哪里检查。