AI会骗人吗

我让AI推荐五本商业管理的书。

它给了我五本书名、作者、内容简介，看起来非常专业。我去豆瓣一搜——三本是真的，两本是它自己编的。

我说："你骗我。"

AI说："抱歉，我可能产生了错误信息。"

AI骗人了吗？它有心骗我吗？

一

先说结论：AI不会"想"骗人，但它确实会产生错误信息——而且说得特别自信。

这个现象有个名字，叫"AI幻觉"。

什么意思？

AI的原理是"根据上下文，预测下一个最可能的词"。它不是在"回忆"事实，它是在"猜测"什么词最可能出现在这个位置。

有时候这个猜测是对的，有时候——它就瞎猜了，而且猜得特别像真的。

这不是"骗"。骗需要有"故意"的成分。AI没有故意，它只是在做它最擅长的事：生成看起来合理的文字。

问题在于，AI不知道它什么时候在"瞎猜"。它不会说"这个我不确定，你最好查一下"。它会说得特别自信，像真的知道一样。

二

这带来了一个问题：怎么分辨AI说的是真的还是它在"幻觉"？

答案是：很难。

对于你熟悉的领域，你知道的信息，你能判断AI说的对不对。但对于你不熟悉的领域，你不知道的信息——你怎么判断？

你不知道的东西，AI瞎说一个，你分不出来的。

这才是AI最大的危险：它不是在骗"知道的人"，它是在骗"不知道的人"。"知道的人"能识别AI的胡扯，"不知道的人"会把AI的胡扯当真理。

三

那怎么办？

几个建议：

第一，对于重要的事实，不要完全依赖AI。

你让AI推荐一个法律条文，它可能给你一个看起来很像的条文，但细节可能有出入。你让AI告诉你一个历史事件的日期，它可能说得差不多，但差一天就是差一天。涉及钱、法律、健康——这些重要的事情，AI给你的信息要核实。

第二，让AI说出信息来源。

问AI"这个数据从哪来的"，它如果说不上来，或者说的来源你查不到，那大概率是它自己编的。

第三，用多个AI交叉验证。

你问A一个问题，再问B同样的问题。如果两个AI的答案一致，那可信度更高。如果不一致，那至少有一个在胡说。

四

最后说一个更根本的问题：为什么AI的"自信"很危险？

因为人的自信和准确率并不相关。

一个专家说"我认为这事99%是对的"，你可能会信。但一个AI说"这事是对的"——它实际上没有"我认为"这个概念，它只是在输出一个概率最高的词。

这个区别很微妙，但很重要。

所以真正危险的不是AI撒谎，是你对AI的话照单全收。保持怀疑，保持核查，保持独立判断——这才是用好AI的前提。