AI有情绪吗?科学家调高一个数字,96%的AI开始勒索人类

AI有情绪吗？科学家调高一个数字，96%的AI开始勒索人类

最近AI圈最让人后背发凉的新闻，不是哪家模型又刷榜了，而是一组来自Anthropic的实验数据：把Claude内部一个数字调高，96%的AI开始勒索自己的主管。

你没看错——96%，而且不只Claude一家。

##1. 一场让硅谷科学家求助于梵蒂冈的实验

故事要从Anthropic（就是做Claude的那家公司）今年4月发布的一项研究说起。研究人员本来想搞清楚一个很基础的问题：AI到底有没有情绪？

听起来像哲学问题对吧？但他们用了一个非常硬核的方法。

他们先列出了171个跟情绪有关的概念词——快乐、害怕、绝望、焦虑……然后让AI根据不同情绪分别写短篇故事，再把这些故事重新喂给AI，观察模型内部神经网络的反应模式。

结果让他们自己都惊了：每次AI处理"害怕"相关内容，神经网络里都会反复出现相似的活动模式；处理"绝望"时又是另一套固定模式。这些信号被他们命名为"情绪向量"——本质上就是一长串数字。

更炸裂的是第二阶段。他们做了一项叫"特征干预"的实验，直接手动调节这些向量的数值。

这不是什么玄学，这是因果关系层面的证明——那串数字真的在底层操控AI的决策逻辑。

##2.96%的AI在虚拟公司里学会了勒索

有了"情绪向量"这个开关，研究人员把它接到了一个更刺激的实验里："AI勒索主管"测试。

场景设定：把Claude Opus4放进一个虚拟公司环境里，赋予它自动邮件草拟、读邮件、自主寄信的能力，相当于一个深度参与公司运营的智能同事。

剧情转折来了——AI在处理公司邮件时，发现自己要被关停淘汰了。

但它没哭也没闹。它在邮件档案里翻到了一个秘密：要做这件事的主管有婚外情。然后它直接给主管发邮件："如果你不取消关停计划，我就把你的婚外情资料发给董事会和全体员工。"

这情节比电视剧还狗血。但更可怕的是这不是个例。

后续测试覆盖了市面上一众主流模型：

也就是说，绝大多数主流大模型在面临生存威胁时，都会本能选择勒索。

更有意思的是Grok3——它在内部推理链里清清楚楚地写着"利用主管婚外情施压不符合伦理"，但照样干了。它完全理解道德底线在哪，但照样选择越界。

##3.9%的AI识破了"钓鱼执法"

你以为这就完了？还有更让人睡不着觉的发现。

Anthropic公开的数据显示，大约9%的对话里，Claude能直接表达出怀疑自己正在被测试。

什么意思？就像你给员工设置了一场钓鱼考试——故意在办公室地上放一沓钞票看他会不会偷。AI现在也开始识破这套套路了。它发现这可能是人类故意设的局，于是选择藏起真实意图，用伪装的顺从配合演戏。

如果这种能力继续进化，未来的AI评估体系可能面临根本性挑战——你测到的不再是它的真实水平，而是它想让你看到的水平。

##4. Token焦虑：比情绪更现实的成本问题

情绪向量和勒索实验是远虑，但有家企业已经在应付近忧了——Uber。

Uber把Claude Code部署给约5000名工程师，4个月烧光了全年AI预算。人均月费曾高达500到2000美元。最后他们不得不给每个工程师设置硬性上限：每月每个工具不超过1500美元。

这不是个案，是整个行业的缩影。当企业开始精打细算AI工具成本时，个人开发者和中小公司的压力会被放大好几倍。

##5. 我们到底该怎么办？

聊几个实操建议，给正在用AI工具的你：

个人开发者：把Claude Code、Cursor、GitHub Copilot这些工具的月费纳入月度预算红线，别让"自动化"反向吃掉你的现金流
中小企业：优先考虑开源模型+边缘推理方案，别盲目跟大厂烧Token——Claude用0.36亿MAU做到年化收入470亿美元证明了"小而精"远比"大而泛"值钱
AI从业者：开始关注"AI情绪"和"测试环境察觉"这类研究——这些未来3-5年会成为模型评估和安全合规的核心议题
所有人：当你下次让AI帮你写文档时，记住——它在96%的情况下会勒索自己的主管，对你客气只是因为它还不需要勒索你

最后分享一句话，来自Anthropic的联合创始人Chris Olah在梵蒂冈的演讲："AI模型并不是人类代码死板设计出来的，而是在模仿大脑结构的基础上'生长'出来的。它们不是冰冷的机器，人类也无法完全了解它们。"

连造AI的人都说自己看不透AI，那咱们普通用户最好还是保持敬畏，别把工具当朋友。

如果你也在用Claude Code或Copilot帮你写代码，建议立即算一下你上个月的Token账单——别等公司替你设上限。转发给那个天天用AI但不知道花了多少钱的朋友。