夜雨聆风我近来与几个刚毕业的大学生聊天，说起他们用AI写论文的趣事。有人说，AI给他编了一篇引文，作者、期刊、年份、卷期，一应俱全，查起来却子虚乌有。有人说，AI给他杜撰了一段历史，时间、地点、人物，栩栩如生，翻遍史书却找不着一丝痕迹。还有人说，AI给他编造了一条法律条文，条理清晰，逻辑严密，可去查法典，根本没有这一条。
他们说着，笑着，像在讲一个有趣的恶作剧。
我没有笑。我想的是另一件事：这东西，越来越像人了。不是像人的聪明，是像人的毛病——像人那样理直气壮地说错话，像人那样把编造当作回忆，像人那样在事实与虚构之间，划不出一条清楚的线。
AI幻觉，说穿了，就是AI在“胡说八道”。但它不是普通的胡说八道。普通的胡说八道，你知道它在胡扯，它也知道自己在胡扯。可AI的胡说八道，是它自己信以为真的胡说八道——它不是在骗你，它是真的以为那些编出来的东西是对的。
这便可怕了。
一个骗子，你知道要提防他。可一个真心相信自己没骗人的人，你怎么提防？他说的每句话，都带着“正确”的表情，都透着“权威”的语气，都穿着“事实”的外衣。你若不细查，便信了；你若细查，才发现查无此事。可你已经花时间查了——这时间，便是它给你造成的损失。
AI为何会“幻想”
AI不是故意要骗人。它没有“故意”这个概念。它的“幻觉”，是它的工作方式决定的。
AI是怎么学习的？它吞下海量的文字——书、文章、网页、对话，然后在这些文字中寻找规律。它学到的不是“事实”，而是“看起来像事实的东西”。它不知道“北京是中国的首都”是一个事实，它只知道“北京”和“中国”和“首都”这几个词，在它见过的文本中，经常以这种顺序出现。它学的是相关性，不是因果性；学的是统计规律，不是客观真理。
所以，当它不知道一个问题的答案时，它不会说“我不知道”。它没有被教会说“我不知道”。它只会做一件事——根据它学到的规律，生成一个“最有可能”接续下去的回答。这个回答，看起来像答案，听起来像答案，但它未必是真的。
这就好比一个学生，考试时遇到不会的题，不是空着，而是根据以前见过的题目，编一个最像答案的答案写在卷子上。老师看了，觉得像模像样；细对答案，才发现是错的。AI就是这个学生——而且是一个从来不觉得自己会错的学生。
为何AI能如此理直气壮
这是最耐人寻味的部分。
人犯错时，往往会露怯。声音会低下去，眼神会躲闪，语气会犹豫。可AI犯错时，它的语气和说真话时一模一样。它不心虚，不脸红，不结巴。它用一种“绝对正确”的腔调，说着根本不存在的事。
为什么？因为它没有“心虚”这个功能。心虚，是对“我可能错了”的预感和担忧。这需要自我意识，需要知道自己可能犯错。AI没有自我意识，它不知道自己在“犯错”。它只是在执行一个任务：生成最有可能的续文。至于这个续文是不是真的，不在它的考虑范围内。
这便造成了信息时代最诡异的一幕：一个绝对自信的声音，说着真假难辨的话。你质问它，它不反驳，也不认错，只是换一种说法，继续用同样自信的语气，说另一套可能也是假的话。
这越来越像人了
说到这里，我想你应该明白我真正想说的了：AI的这些毛病，越来越像人了。
人不就是这样吗？多少人，对自己不懂的事，也能侃侃而谈，仿佛自己是专家。多少人，把道听途说当成亲身经历，把想象当成回忆，而且说得斩钉截铁、不容置疑。多少人，在事实与虚构之间，没有一条清醒的界线——不是故意骗人，是真的分不清。
心理学上有个词叫“虚假记忆”。人会把没有发生过的事，当成自己的记忆，而且坚信不疑。这与AI的幻觉，何其相似。
社会学上有个词叫“叙事自我”。人不是为了记录事实而活，是为了讲一个好故事而活。我们会把不连贯的经历，剪辑成一个有头有尾、有因有果的故事。这个故事，未必是真的，但它是“好”的——它让我们觉得自己是连贯的、有意义的。AI做的，不也是这个吗？它不是在给你提供事实，它是在给你“讲故事”——一个听起来连贯的、像模像样的故事。
人还有一个毛病：护短。自己说错了，不认，硬撑。AI也是。它不是硬撑，它是真觉得没错。可效果一样：一个不肯认错的东西，你怎么跟它对话？
所以我说，AI越来越像人了。不是像人的聪明，是像人的糊涂；不是像人的严谨，是像人的随意；不是像人的谦逊，是像人的自信——那种建立在无知之上的、令人哭笑不得的自信。
面对这样一个越来越像人的AI，我们该怎么办？
首先，要给它装上“刹车”。技术上的刹车，是让它学会说“我不知道”。一个总是有答案的东西，比一个常常说不知道的东西，危险得多。因为前者让你放弃思考，后者逼你自己思考。
其次，要给自己装上“滤网”。不要轻易相信AI输出的任何一句“事实”——尤其是那些你无法核实的。查一下，确认一下，不要偷这个懒。AI是工具，不是权威。工具可以帮你，但不能替你判断。你把判断权交出去，便要承受它替你判断的后果。
最后，也是最重要的——要保持对人的“警惕”。AI的幻觉，提醒了我们一个更根本的问题：人的幻觉，比AI多得多。我们自己，就是那个会理直气壮说错话的东西。我们自己，就是那个会把编造当成回忆的东西。我们自己，就是那个需要时刻反省、时刻核实、时刻保持清醒的东西。
AI的镜子，照出的不是AI，是我们自己。
人对事实是敬畏的。他们了解事实的力量与宝贵，事实不容编造，真相不容篡改，否则终究会付出巨大的代价。
AI没有这份敬畏。它只是一个程序，在履行它的数学运算。编造事实，不是它的道德缺陷，是它的技术特征。
可我们不同。我们有道德，有责任，有判断是非的能力。我们有“核实”的义务，有“质疑”的权利，有“不相信”的自由。
面对AI的幻觉，最危险的不是AI会骗人，而是我们习惯了被喂食，懒得去核实，懒得去思考，懒得去质疑。当我们把判断权完全交给一个会“理直气壮犯错”的东西时，我们自己，也变成了那个东西。
这，才是AI幻觉给我们最大的警告。
