夜雨聆风几乎所有使用过 AI 的人，都会经历同一种困惑。
有时候，它聪明得令人惊叹。它能写代码、做翻译、分析报告，甚至能够与你讨论哲学、历史和艺术。许多人第一次使用时，都会产生一种强烈的感觉：它似乎真的理解了这个世界。
然而没过多久，你又会发现另一面。
它会把不存在的论文说得有鼻子有眼；会把错误的历史事件讲得头头是道；会为一个根本不存在的事实编织出完整而严密的逻辑链条。更令人哭笑不得的是，当你指出错误时，它往往还保持着那种令人信服的语气。
于是，一个问题自然出现了：
AI为什么会说谎？
事实上，这个问题本身或许就有些误导。
因为严格来说，AI并不会说谎。
说谎意味着知道真相，却故意隐瞒真相。而AI的问题恰恰在于，它并不知道什么是真相。
它只是不断生成那些最像真相的东西。
一
第一次真正意识到这一点，是在查找资料的时候。
我曾让AI推荐几篇某领域的研究论文。很快，它给出了一份相当专业的清单。论文标题、作者姓名、发表期刊、出版年份，甚至连论文编号都列得整整齐齐。
如果把这些信息打印出来，几乎没有人会怀疑它们的真实性。
然而，当我按照这些线索去检索时，却发现那些论文根本不存在。
那一刻，我忽然意识到，AI并不是在替我查找资料。
它是在创造一个看起来最像答案的答案。
这种现象如今有一个专门的名称，叫作“AI幻觉”。
这个名字取得很形象。
因为它像极了人类的视觉错觉。
我们明明看见了一条弯曲的线，实际上它是直的；明明觉得两块颜色不同，实际上它们完全一样。
问题不在于眼睛故意欺骗我们，而在于大脑对现实的解释出现了偏差。
AI也是如此。
它并非有意编造事实，而是在试图预测下一个最合理的词语时，偶尔偏离了现实。
只是这种偏离有时恰好落在了我们难以察觉的地方。
二
很多人以为，AI之所以强大，是因为它掌握了海量知识。
这句话只说对了一半。
更准确地说，它掌握的是海量文本。
知识和文本，看上去差不多，其实完全不是一回事。
一个人读过无数本书，并不意味着他真正理解了书中的内容；一个学生能够背诵整本教材，也不意味着他掌握了其中的思想。
文本只是知识的载体。
而知识最终必须与真实世界发生联系。
人类的学习过程恰恰如此。
我们先看见天空，再学会“蓝色”这个词；先感受到疼痛，再理解“痛苦”的含义；先经历失败，再明白什么叫挫折。
语言来源于经验。
而AI恰好相反。
它首先接触的是语言，然后试图从语言中推测世界。
这是一种完全不同的认知路径。
因此，对它而言，“真实”并不是第一位的。
“合理”才是第一位的。
当你问一个问题时，它并不会像图书管理员那样从某个知识仓库里取出答案。它更像一个拥有惊人语言直觉的人，根据已经见过的无数文本，推测什么样的回答最符合当前语境。
大多数时候，这种推测相当准确。
但一旦遇到知识空白、信息模糊或者逻辑复杂的问题，它就可能开始自由发挥。
于是，一个流畅、完整、甚至颇具说服力的错误答案便诞生了。
三
然而，AI幻觉真正值得警惕的地方，并不在于它会犯错。
人当然也会犯错。
科学家会犯错，教授会犯错，记者会犯错，百科全书同样会犯错。
真正的问题在于，AI的错误太像正确答案了。
它不会迟疑，不会犹豫，也不会表现出不确定。
它给出的错误答案，往往拥有正确答案的一切外表。
很多时候，我们并不是被错误本身欺骗，而是被错误的表达方式欺骗。
仔细想想，人类社会中类似的事情其实从未消失过。
历史上无数谣言之所以传播，并非因为它们完全脱离现实，而是因为它们足够合理。
许多投资神话之所以令人信服，也并非因为它们百分之百正确，而是因为它们拥有完整的叙事。
人类天然喜欢逻辑闭合的故事。
相比“不知道”，我们更愿意接受一个确定的答案。
相比“情况可能比较复杂”，我们更喜欢一句简单而有力的结论。
某种意义上，AI并没有创造一种全新的风险。
它只是把一种原本就存在于人类认知中的弱点放大了。
过去，一个人一本正经地胡说八道，影响范围有限；今天，一个AI可以同时面对数百万用户。
于是，同样的问题被放大到了前所未有的规模。
四
这些年，人们总在讨论一个问题：
AI会不会取代人类？
这个问题当然重要。
但我越来越觉得，还有另一个问题同样值得思考。
如果未来的大部分答案都可以由AI提供，那么人类还需要保留什么能力？
过去，我们学习知识，很大程度上是为了获得答案。
因为答案是稀缺的。
一本书要翻很久，一个问题可能要查阅大量资料，甚至需要花费数周时间寻找可靠的信息来源。
而今天，答案正在以前所未有的速度变得廉价。
任何一个问题，只需几秒钟，就能得到一份结构完整、逻辑清晰的回答。
有时候甚至不是一个答案，而是十个、一百个答案。
当答案变得廉价之后，什么才是真正稀缺的东西？
或许是判断力。
判断哪些信息可信，哪些结论需要验证；判断哪些观点值得接受，哪些观点只是包装精美的幻觉；判断什么时候应该相信机器，什么时候应该坚持自己的思考。
这是一种比知识更重要的能力。
因为知识可以被存储，可以被检索，可以被生成。
而判断力必须通过经验、思考和长期训练获得。
五
所以，AI为什么会说谎？
答案也许是：
它从来没有学会说谎，它只是从来没有真正学会理解真相。
而AI带给我们的最大挑战，也许并不是技术问题，而是认知问题。
在一个答案随处可得的时代，我们是否还能保持怀疑；在一个机器不断替我们思考的时代，我们是否还愿意独立思考。
未来的某一天，AI或许能够写出比大多数人更流畅的文章，给出比大多数人更全面的回答，甚至完成许多过去只能由专家完成的工作。
但我依然相信，有一件事暂时无法被替代。
那就是当一个答案看起来完美无缺的时候，依然愿意停下来，轻轻地问一句：
“如果它错了呢？”
或许正是这短短几个字，构成了人与机器之间最重要的区别。
（AI辅助）
