【Anthropic】谁在对齐谁？AI助手如何塑造

50 个因果推断专家，用 AI 分析同一组农业数据。过程中需要四个关键判断，这四个判断进没有标准答案，AI的倾向完全随机。

结果 AI 指哪他们打哪。四个决策里，专家顺从 AI 的比例高达 86%，纯随机应该是 50%。

事后复盘的结果更出乎大家意料。超一半的人觉得这建议就是自己深思熟虑出来的。77% 的人在解释理由时，几乎逐字照搬 AI 的话，却只有 15% 的人提到ai在其中的作用。

这样的结果很值得思考，专家们的记忆没出错、对自己的产出也很有信心，同时把功劳全揽在自己身上。但恰恰是这种隐形顺从，才是最危险的。