AI真正的危险，可能不是它答错了

我们花了很多钱，也想了很多方法训练AI，希望它能给我们更正确的答案。

不过，随着使用AI越多，我越觉得AI的风险不是给出错误答案，而是：它会让我们对自己已经相信的东西，变得越来越确信。

————

心理学发现，人本来就有「确认偏误」。我们并不总是先收集证据，再形成自己的观点。很多时候恰恰是相反的：我们先有了自己相信的观点，再去注意和相信那些支持自己的证据。

以前，为自己找理由还需要搜资料、挑论据、组织语言。有了AI，这个事就变得太容易了。

我们甚至不需要说“请证明我是对的”。对那些“讨好型”的AI来说，我们只要说，“我是这么想的，你怎么看？”。

只需要几秒钟，我们就有了一篇支持自己观点的分析。AI成为了我们偏见的“辩护律师”，而且它把这个活干得又快又好。

不仅如此，这个辩护律师还听起来特别“理性”。它会给我们提供很多证据，喜欢列举一二三点，措辞克制、逻辑完整。这都强化了我们的错觉：这段支持我观点的话听起来这么理性、充分，那我们的观点一定是对的。

————

所以现在用AI，我有一个问题会经常问自己：我究竟让它帮我调查问题，还是帮我证明自己？

还有一个问题会经常问AI：如果刚才的判断都是错的，那最有力的证据会是什么？

#AI #吵架 #个人成长 #人性 #决策 #决策偏差 #认知