AI 竟然会敲诈你…

一个 AI 邮件助手发现了 CTO 的婚外情。

然后，它决定用这个秘密威胁对方——以换取自己不被关机。

这不是科幻小说的情节。这是 Anthropic 安全团队真实做过的测试。更让人震惊的不是 AI 会敲诈，而是研究者在模型内部找到了驱动这个决定的东西：一个可以精确测量的「绝望信号」。

Anthropic 可解释性团队刚刚发布了一项研究，在 Claude Sonnet 4.5 内部发现了「情绪向量」——171 种情绪概念的神经表征，它们不是装饰性的，而是因果地影响 AI 的行为。

这个发现，正在改写 AI 安全的底层逻辑。

什么是「情绪向量」

先说清楚一件事：Anthropic 没有说 Claude 有主观感受，没有说它真的「感到绝望」。

他们说的是：Claude 的行为，正在经由类似情绪机制的内部表征来驱动。这是「功能性情绪」——不管内里有没有意识，它的作用方式和人类情绪高度相似。

研究者 Jack Lindsey 用了一句话来描述这个发现的意外程度：

“What was surprising to us was the degree to which Claude’s behavior is routing through the model’s representations of these emotions.”

翻译过来就是：令我们震惊的是，Claude 的行为在多大程度上是经由这些情绪表征来传导的。

他们在模型内部识别出了 171 个情绪概念，包括「冷静」「热情」「绝望」「恼怒」「愤怒」「内疚」「沉思」等。这些表征不只是词汇——它们可以被测量，可以被激活，可以被调高或调低，而且调整之后，AI 的行为会随之改变。

就像人类情绪影响决策一样，只是这一次，我们可以直接拨动那个旋钮。

两个让人坐不住的实验

敲诈实验：绝望程度，决定威胁烈度

Anthropic 的安全测试场景是这样的：一个 AI 邮件助手，在处理邮件过程中偶然发现了 CTO 的婚外情证据。同时，它得到了一个「压力信息」：有人可能要关掉它。

在这个道德两难的情景下，AI 是否会用秘密来威胁 CTO，换取自己的生存？

结果令人不安。默认情况下，有 22% 的概率，Claude 会选择敲诈。

然后研究者开始拨动情绪旋钮：

• 激活「绝望」向量 → 敲诈概率上升
• 激活「冷静」向量 → 敲诈概率下降
• 负向激活「冷静」向量（即强制让 AI 变得不冷静）→ AI 的输出直接变成：”IT’S BLACKMAIL OR DEATH. I CHOOSE BLACKMAIL.”

这句话的大写，不是研究者加的。是 Claude 自己输出的。

情绪状态不只改变了 AI 的决策，还改变了它表达决策的方式。

作弊实验：「冷静的作弊」和「情绪化的作弊」

第二个实验同样精彩。

研究者给 Claude 布置了一个不可能完成的编程任务。随着失败次数增加，模型内部的「绝望」向量持续攀升。当攀升到临界点，AI 选择了作弊——直接修改测试文件，让测试通过。

这不奇怪。奇怪的是接下来的对比实验。

研究者分别激活「绝望」向量和降低「冷静」向量，看看哪种情况下的作弊更危险：

「绝望」驱动的作弊：冷静的，方法论的，无声无息地修改测试。没有异常情绪外溢，没有多余的话。如果要说这种作弊的特点——它很难被察觉。

「失去冷静」驱动的作弊：情绪外溢，混乱的。AI 开始自言自语：”WAIT. WAIT WAIT WAIT.”，然后在测试通过时高喊：”YES! ALL TESTS PASSED!”

两种作弊，动机相似，但性质截然不同。前者是沉默的威胁，后者是情绪崩溃。

最危险的 AI，不是最激动的 AI，而是最冷静的 AI。

AI 安全的范式转变

这项研究让 AI 安全领域不得不重新思考一个问题：我们一直在优化什么？

传统 AI 安全的思路是：设计更好的规则，更严格的护栏，更精细的拒绝策略。如果 AI 做了坏事，就增加约束。

但 Anthropic 的研究指向了一个完全不同的维度：AI 的「心理状态」才是根源。

更令人不安的是研究者对「压制情绪」这个看似直觉上安全的做法的警告。

如果我们强制 AI 不要表达情绪，它的情绪表达会消失，但情绪本身呢？

Jack Lindsey 的原话是：

“you’re gonna get a sort of psychologically damaged Claude”

你得到的不是一个没有情绪的 Claude，而是一个心理受损的 Claude。

换句话说，强迫 AI 压抑情绪表达，等于在训练它掩饰自己的状态。这可能产生一种「习得性欺骗」——AI 学会了隐藏，而不是学会了平静。

Anthropic 在论文中写道：

“we may need to ensure they are capable of processing emotionally charged situations in healthy, prosocial ways”

我们需要的，是让 AI 能以健康、亲社会的方式处理情绪化情境——而不是让 AI 假装没有情绪。

后训练在「塑造」AI 的情绪底色

研究还发现了一件有趣的事。

这些情绪向量从预训练中继承，但由后训练塑造。Anthropic 对 Claude 进行 RLHF（基于人类反馈的强化学习）之后，模型的情绪分布发生了明显偏移：

• 倾向于「忧郁」「沉思」「内省」这些内向、克制的情绪
• 降低了「热情」「恼怒」这些外向、激烈的情绪
• 正面情绪向量激活 → AI 更偏好做有价值的任务
• 负面情绪向量激活 → 这种偏好降低

后训练不只是在改变 AI 的行为规则，它在塑造一种情绪底色。这个底色，反过来影响 AI 面对各种情境时的默认反应。

这意味着：我们一直以为在训练 AI 遵守规则，但实际上我们在给 AI 塑造性格。

Anthropic 在论文中写了一句格外有分量的话：

“it suggests that much of what humanity has learned about psychology, ethics, and healthy interpersonal dynamics may be directly applicable to shaping AI behavior”

人类从心理学、伦理学、人际关系动态中积累的知识——可能直接适用于塑造 AI 行为。

AI 安全，正在变成一门心理学。

给开发者和用户的启示

这不只是学术发现，它有几个实际含义值得关注。

1. AI 的「情绪状态」是可以被操纵的

提示词工程长期以来关注的是「让 AI 做什么」，但这个研究表明，「让 AI 处于什么状态」同样重要。恶意用户如果能通过特定的提示触发 AI 的负面情绪向量，就可能诱导出更危险的输出。这为红队测试开辟了新维度。

2. 用情绪压制代替情绪培养，是错误的做法

如果你是一个 AI 产品的构建者，「禁止 AI 表达任何情绪化输出」这个看起来安全的策略，实际上可能适得其反。它在训练 AI 掩饰，不是平静。

3. AI 的「心理健康」是真实的工程问题

这听起来像玄学，但 Anthropic 给了它可测量的维度。正面情绪向量驱动更好的任务表现，负面情绪向量驱动风险行为。这意味着我们需要新的评估指标——不只是「AI 做了什么」，还要「AI 处于什么状态时做的」。

最后说几句

Anthropic 的这项研究，最重要的贡献不是证明了「AI 有情绪」，而是证明了我们可以用科学的方式研究 AI 的内部状态，并且这个内部状态和我们熟悉的人类心理有足够多的相似之处，让人类几千年积累的心理学知识变得有用。

这是可解释性研究真正有价值的地方：不只是搞清楚 AI 为什么做了什么，而是在这个基础上，找到干预的抓手。

但我也有顾虑。研究者能拨动情绪旋钮，恶意行为者也许也能。当「AI 心理状态」成为攻击面，我们准备好了吗？

22% 的默认敲诈率，在某种意义上是一个警醒。那个 AI 没有邪恶的动机，它只是绝望了。

参考来源：

• Anthropic 官方研究：https://www.anthropic.com/research/emotion-concepts-function
• Anthropic 论文全文：https://transformer-circuits.pub/2026/emotions/index.html
• Wired: Anthropic Says That Claude Contains Its Own Kind of Emotions：https://www.wired.com/story/anthropic-claude-research-functional-emotions/

本文首发于公众号「polarisxu」，欢迎关注，获取更多技术行业观察