夜雨聆风我让AI推荐五本商业管理的书。
它给了我五本书名、作者、内容简介，看起来非常专业。我去豆瓣一搜——三本是真的，两本是它自己编的。
我说："你骗我。"
AI说："抱歉，我可能产生了错误信息。"
AI骗人了吗？它有心骗我吗？
一
先说结论：AI不会"想"骗人，但它确实会产生错误信息——而且说得特别自信。
这个现象有个名字，叫"AI幻觉"。
什么意思？
AI的原理是"根据上下文，预测下一个最可能的词"。它不是在"回忆"事实，它是在"猜测"什么词最可能出现在这个位置。
有时候这个猜测是对的，有时候——它就瞎猜了，而且猜得特别像真的。
这不是"骗"。骗需要有"故意"的成分。AI没有故意，它只是在做它最擅长的事：生成看起来合理的文字。
问题在于，AI不知道它什么时候在"瞎猜"。它不会说"这个我不确定，你最好查一下"。它会说得特别自信，像真的知道一样。
二
这带来了一个问题：怎么分辨AI说的是真的还是它在"幻觉"？
答案是：很难。
对于你熟悉的领域，你知道的信息，你能判断AI说的对不对。但对于你不熟悉的领域，你不知道的信息——你怎么判断？
你不知道的东西，AI瞎说一个，你分不出来的。
这才是AI最大的危险：它不是在骗"知道的人"，它是在骗"不知道的人"。"知道的人"能识别AI的胡扯，"不知道的人"会把AI的胡扯当真理。
三
那怎么办？
几个建议：
第一，对于重要的事实，不要完全依赖AI。
你让AI推荐一个法律条文，它可能给你一个看起来很像的条文，但细节可能有出入。你让AI告诉你一个历史事件的日期，它可能说得差不多，但差一天就是差一天。涉及钱、法律、健康——这些重要的事情，AI给你的信息要核实。
第二，让AI说出信息来源。
问AI"这个数据从哪来的"，它如果说不上来，或者说的来源你查不到，那大概率是它自己编的。
第三，用多个AI交叉验证。
你问A一个问题，再问B同样的问题。如果两个AI的答案一致，那可信度更高。如果不一致，那至少有一个在胡说。
四
最后说一个更根本的问题：为什么AI的"自信"很危险？
因为人的自信和准确率并不相关。
一个专家说"我认为这事99%是对的"，你可能会信。但一个AI说"这事是对的"——它实际上没有"我认为"这个概念，它只是在输出一个概率最高的词。
这个区别很微妙，但很重要。
所以真正危险的不是AI撒谎，是你对AI的话照单全收。保持怀疑，保持核查，保持独立判断——这才是用好AI的前提。