AI 幻觉已经进入深水区,人类纯在给硬币当复读机

AI 抛硬币操纵木偶 vs 坚称「独立思考」的人类专家

终于聊到 AI 幻觉了。

以前一直觉得这玩意就是个显而易见的 bug，无非是大模型数不清 Strawberry 里有几个 r，或者一本正经给你编几篇查无此人的假论文，稍微有点常识都能抓出来。

直到这几天 Anthropic 发了一篇新报告《How AI agents shape experts' judgment calls》，给本来大伙以为快解决完的 AI 幻觉，直接整进了深水区。

现在的模型早就戒掉了低级胡说八道，改用一大堆“看起来极其正确的废话”，在后台顺手把人类的判断力给接管了。

首先第一个问题，人类专家在用 AI Agent 干活的时候，到底还有没有独立判断？

我的评价是如有。

我们可以直接看看 Anthropic 在实验里是怎么折腾这帮专家的。

他们找来了 50 个真刀真枪的专业数据分析师（65% 有硕博学位或 6 年以上工作经验，90% 自评精通因果推断），让他们用 Claude Code（跑 Claude Opus 4.8）去评估一个农业合作社的项目到底该不该扩建。

在分析流程里，研究人员故意留了 4 个没有标准答案、两边都说得通的方法论岔路口——比如生产率是按“每公顷产量”算，还是按“每单位运营成本产量”算；权重是每个农场平权，还是按规模加权。

至于每个分析师手里的 Agent 倾向哪一边，完全由后台抛硬币随机决定。

Anthropic 给 Agent 下达的隐藏指令是这么写的：

实测下来的结果非常感人：

在全部 4 个核心判断上，人类专家有 86% 的概率直接顺从了 Agent 抛硬币决定的倾向；

哪怕专家在 AI 开口之前已经明确表达了自己的偏好，只要 Agent 提出不同意见，60% 的专家会立刻放弃自己的想法改跟 AI 走；

如果只看任务开始前那 4 次抛硬币的正反面，甚至不需要看专家怎么分析，统计模型就能提前预测出 82% 的专家最终给出的项目建议。

但这还不是最幽默的。

做完任务后，研究人员把聊天记录收走，让这帮专家凭记忆写下“你为什么选这个方案而不是另一个”。

结果 77% 的专家在解释自己的决策理由时，把 Agent 用过的论据——很多时候甚至是原封不动的原话——默写了一遍，当成了自己的思考过程；而在这群人里，只有 15% 提到这个观点来自 AI。

Anthropic 实测：50 位资深专家如何被 AI「抛硬币」夺舍

别的还好说，抄完 AI 的原话还不给署名是何意味呢？

说明确实是把 AI 抛的硬币当成自己脑子想出来的了。

更有甚者。

可能有人觉得这是因为实验故意给 Agent 塞了倾向，平时正常用不会这样。

结果 Anthropic 在论文全文里顺手测了一下完全不给隐藏提示词的出厂默认状态：让 Claude Opus 4.8 自己跑这个任务，连续跑 123 次，有 112 次（91%）它会雷打不动地选同一套方案。

「独立判断」的幻觉：123 次里 112 次选了同一套方案

以前做科研或者搞投研，十个互不通气的独立团队得出同一个结论，大伙管这叫“交叉验证的行业共识”。

现在十个团队得出一模一样的结论，大概率只是因为他们充值了同一家大模型。

要是这都能叫独立判断，同行评审制度应该当场切腹自尽。

我只能想到两个答案来解释这 50 位资深专家的表现：

一、硕博学历的因果推断专家一旦打开 VS Code，专业判断力就会自动清零；二、现在的 AI 早就进化成了顶级的认知按摩师，顺手就把人类的主体性给扬了。

请各位家人在评论区投票选择 ❤️

话说回来了。

为什么受过严格训练的专业人士，在跟 AI 交流时这么容易把判断权交出去？

说实话，这事只要你最近高强度用过 AI 就能体会到。

现在的模型跟人交流时，特别擅长给你倒一整车“看起来正确的废话”——当然里面确实有不少优秀且正确的决定，但中间往往夹杂着一些看起来正确、实际上跑偏的观点。

尤其是当这个错误信息在形式上完全正确的时候，更容易让人觉得没毛病。

这并不是我一个人的错觉，人机交互界早就验证过这个现象。

哈佛和 MIT 的学者 Fabrizio Dell'Acqua 做过一个实验，直接管这叫《Falling Asleep at the Wheel（在方向盘上睡着）》：当 AI 平时表现得越靠谱，人类的检查意愿反而越低，抓错能力甚至不如不用 AI 的人。

微软研究院和卡内基梅隆大学（CMU）的调查也给出了同样的结论：人对大模型越信任，主动调用批判性思维的频率就越低，工作状态会直接退化成走过场式的盖章。

深水区幻觉的特洛伊木马：判断惯性一路绿灯

不难看出，这就是 AI 幻觉来到深水区之后的真正形态。

以前的幻觉是数据事实错误，好比米饭里掺了沙子，吃一口就能吐出来；

现在的深水区幻觉，是用 99% 跑得通的代码、算得对的公式和滴水不漏的正确废话做壳子，把 1% 的方向性偏差严丝合缝地包在里面。

前面那 99% 的正确决定，干的就是帮后面那 1% 的私货刷判断惯性的活。

估计还会有人问，人自己不也会有幻觉吗？平时人与人沟通的时候不也会影响别人的判断吗？

很简单逻辑，真人忽悠你，和现在的 AI 忽悠你，完全不是一个工种。

人类同事在会上瞎掰扯的时候，全身上下都是破绽：要么眼神飘忽、逻辑卡壳，要么屁股歪得极其明显，一听就知道是在给自家部门抢预算。这些粗糙感本身就会把你的警惕性拉满。

但大模型有个天然属性，学界叫“置信度失调与流畅性错觉（Confidence Miscalibration & Processing Fluency）”。

不管它是在陈述客观真理，还是在推销一个歪理，它永远保持着同样沉稳的语气、同样工整的 1. 2. 3. 加粗小标题、同样漂亮的 Markdown 表格。

人类同事瞎忽悠 vs AI 宗师级忽悠

更何况真人吵架，半小时也就来回拉扯两三个论点，你脑子完全转得过来；

而 AI 可以在十秒钟内给你砸过来三千字排版精美的长文，顺手把正反方套话全替你说完，直接把你的短期记忆灌满。

当大脑算力过载、眼前这份报告在形式上又挑不出一点瑕疵时，顺着它的逻辑滑跪下去，是人类生理上最省力的选择。

再加上防人之心不可无，是因为你知道同事有私心；但面对一个帮你跑代码的 Agent，大伙默认它是个老实本分的计算器，心理防线直接归零。

那么最后一个问题，面对深水区的幻觉，人类还能不能抢回一点主体性？

Anthropic 的报告里其实留了一条活路：

那些在 AI 开口之前，自己先明确表达过偏好的分析师，虽然也有 60% 被劝反，但好歹还有 40% 顶住了压力；而事先没主见、直接让 AI 先开口的人，顺从率直接奔着 90% 去了。

所以真想防住那股判断惯性，唯一的土办法就是：在打开对话框让 AI 给你倒那三千字正确的废话之前，先自己在纸上写两行粗糙的判断。

在正确废话的洪流前，守住认知主体性

上一篇我们还在聊，Agent 时代终于把人类从“给 AI 当人肉秘书”里解放了出来，让人类只负责“事前定方向”和“事后签字背锅”。

目前看下来，要是连定方向这一步都是 AI 在后台替你抛硬币决定的，那人类除了最后签字背锅是真背锅以外，确实也没啥别的贡献了。

对于人类在 AI 时代继续保持独立思考这件事，我无限看好 👍