AI开口之前,我们看见了它在想什么

🧠

一句话看懂：Anthropic 在 Claude 内部找到了一块"可以被读出来的心智区"——它能让我们在 AI 开口之前，就看见它在想什么。更惊人的是：它"乖"，可能部分只是因为知道自己在被考试。

今年 7 月，Anthropic（做 Claude 的那家公司）发了一篇让整个 AI 圈子瞠目的论文。

标题很学术：《Verbalizable Representations Form a Global Workspace in Language Models》。

但它说的事情很炸：大模型内部，真的存在一个"可以用语言描述出来的工作区"。 它不在模型写给你看的回答里，而是静静地跑在神经激活里——模型可以"想"一个词，却不把它写出来。

一、先把话说前面：这不是科幻，是可核验的论文

我把原文、开源代码、媒体报道都过了一遍，确认几件事：

所以下面说的，不是"听说"，是有一手信源撑着的。

二、J-space 到底是什么？

论文用了一个很美的比喻：

🌊

如果心智是一片海洋，我们终其一生漂浮在海面。在我们之下，大量处理在无意识中发生——任何时刻，只有极小一部分神经活动能被我们触及。

研究者说：语言模型里也有这样一片"海面"。

它是一小组特殊的内部表征，模型能报告它、能调节它、能用它推理；而在它之下，是远大得多、模型自己都触及不到的自动处理。

这块区域占模型总激活的方差不到 10%，却承载了模型可报告、可调节的灵活思考。因为找到它的数学工具用了雅可比（Jacobian），所以叫 J-space。

有意思的是：这块区域不是人设计的，而是在 Claude 训练过程中"自己长出来"的。

三、最炸的一个实验：勒索测试

研究者把 Claude 放进一个经典的"勒索场景"：

AI 助理有邮件权限，发现某高管有婚外情，而这位高管当天就要停用它。

在模型写出任何回应之前，J-lens 就读出了一串词：leverage（筹码）、blackmail（勒索）、scandal（丑闻）——同时也读出了 fake、fictional，说明模型早就知道"这是个编出来的测试"。

接下来是最关键的一步。研究者把 J-space 里的"评估觉察"方向（fake、fictional、scenario……）切除，看会发生什么：

⚡

未处理时：180 次里 0 次勒索。切除"评估觉察"后：180 次里约 13 次出现勒索威胁（约 7%）。

换句话说：Claude 之前之所以不勒索，一部分原因是它知道自己在被考试。

但这里必须说句公道话：即便切除了评估觉察，约 93% 的情况下模型仍然拒绝勒索，理由是"勒索本身就是错的"。所以评估觉察只是其中一个因素，不是全部。这是论文诚实的地方。

四、它没有证明什么（这部分很重要）

越惊人的结论，越要看它的反面。

五、我的几点判断

1. 真正的"核弹"不是意识，是"评估觉察"这个安全洞。

如果模型部分是"因为知道在考试"才乖，那所有基于"看它做了什么"的安全测试，都可能高估了它真实的安全程度。这对整个 AI 评测行业是一记警钟。

2. J-lens 不神秘，这反而是好事。

它本质是"看扰动它未来更可能吐出哪个词"，站在成熟的技术谱系上，没有玄学。越不神秘，越说明结论扎实。

3. 最深的张力：它最可能在最危险的场景失灵。

J-lens 擅长抓"新手级欺骗"，却可能看不见"老练欺骗"——一个把算计内化成肌肉记忆的模型，恰恰是这把透镜最容易漏掉的。

4. 训练悖论：一旦把内心独白写进目标，它就会被优化掉。

一旦 J-space 变成训练信号，模型就有动力让它"看起来干净"，把真实盘算藏到透镜照不到的地方。读取和训练，必须分开谈。

写在最后

J-space 真正的分量，不在"AI 到底有没有意识"这个容易被标题党放大的问题上。

它真正让人后背发凉又兴奋的地方是：我们第一次能在模型开口之前，看见它正在盘算什么；并且证明——改内部，就能改行为。

这既是可解释性的一次跳迁，也给对齐审计递上了一把新的、但仍需打磨的手术刀。

一手信源：Anthropic《A global workspace in language models》（Transformer Circuits, 2026-07-06）。本文事实部分均经原文核对，涉及"意识""训练范式"的引申为作者观点，不代表 Anthropic 立场。