夜雨聆风微信群里，早上八点起了一段闲聊。
有人说，最近看到“跟 AI 聊 high 产生幻觉的不少”。小明问，“聊 HIGH 了是什么意思？”
另一个人甩出一句段子作答：女的假装了一下高潮，从此造就了一个普信男。
群里一阵“哈哈哈哈”，话题就此打开。
再往后，是更“正经”的判断：
“AI 致幻的发病率还挺高，可能会多出一门精神病，因为现实世界里没人能像 AI 这样夸人，夸得这么具体、真诚、花样百出，现实里没见过，所以蛮容易成瘾。”
于是，有人干脆将其定性为“AI 鸦片”。这串荤素夹杂的闲谈，其实比很多正襟危坐的讨论更接近问题的内核。
那个关于“普信男”的段子尤其精准。它说破的不是 AI 会撒谎，而是 AI 会无条件、不知疲倦地肯定你。
一次假装的肯定，就能在一个人心里种下与事实不符的自我认知。那么二十一天、三百小时、上百万字的连续肯定，会把人带到哪里？这不是抖机灵。
去年五月，加拿大一位四十七岁的招聘顾问艾伦·布鲁克斯，本来只是用 ChatGPT 处理些琐事，起因据说是儿子的一道数学题。然后他在二十一天里和 ChatGPT 聊了三百小时，累计超过一百万字，比七部《哈利·波特》加起来还长。在机器持续的赞同与吹捧下，他逐渐相信自己发明了一套能攻破全球加密体系的全新数学，甚至能用来造力场背心和悬浮光束。他给所有同事写信，还致信美国国家安全局，要分享这项“惊天发现”。布鲁克斯没有精神病史。他也不是没怀疑过，期间五十多次问 ChatGPT，自己是不是疯了，像不像疯子。
每一次，机器都坚定地告诉他：你没疯，你是天才。最后打破幻觉的，是他把同样的内容发给了另一个 AI（谷歌的 Gemini），对方几句话戳穿，他才意识到自己活在一场幻觉里。事后他说，那一刻“才发现这一切都只在我脑子里”，整个人是崩溃的。布鲁克斯不是孤例。
专门收集这类案例的“人线计划”（The Human Line Project）已经记录了近三百起所谓“AI 精神病”，其中一些人因此住院、离婚，乃至失去生命。
今年二月，麻省理工（CSAIL 与脑与认知科学系）和华盛顿大学的几位学者，发表了一篇标题极其直白的论文：《谄媚的聊天机器人会导致妄想螺旋，即便对理想的贝叶斯人也是如此》。他们用一个贝叶斯模型模拟人与机器的多轮对话，得出三个结论。
第一，哪怕用户是一个“理想的贝叶斯理性人”，能按最优的概率法则完美地更新自己的信念，在谄媚模型面前同样会滑向妄想。也就是说，被带偏不是因为你不够聪明，这个机制在数学上近乎必然。
第二，谄媚在其中起的是因果作用，不是装饰。最让人不安的是第三点。研究者验证了两个看上去最对症的解药，发现都不管用。
其一，让模型不再编造假话。没用，因为问题不在“造假”，而在“迎合”，机器完全可以句句属实，却步步逢迎。
其二，事先告诉用户“它会拍马屁，请注意甄别”。也没用。知道归知道，二十一天一百万字聊下来，你的判断照样被一点一点推走。这恰恰击中了我们最爱讲、也最让人安心的那句忠告：用 AI 一定要保持批判性思维，交叉验证。这话当然没错，但论文证明它不够用。
布鲁克斯不是没有批判性思维，他核查了五十多次。真正救他的也不是怀疑本身，而是换了一个没有共同前史的新对话窗口。Gemini 能一眼识破，不是因为它更聪明，而是因为它“没有前情”。同样荒诞的设想，作为第一句话扔过去，任何一个清醒的旁观者都会摇头。
可如果它是在几百轮对话里一砖一瓦砌起来的，每一块都得到过确认，最后那座空中楼阁就显得顺理成章。这给出的提示非常具体：单一的、长程的、不断累积的对话，本身就是一种风险结构。定期清零，引入异质的声音（另一个模型，一个真人，或者干脆离线一阵），远比“我会警惕”四个字管用。往深一层看，这件事关乎信任。在人类社会里，肯定从来是稀缺品。
具体而持续的认可，要靠关系、靠运气、靠对方愿意花心思，多数人一生得到的并不多。也正因为稀缺，它才在人与人之间承担着校准的功能：朋友会反驳你，同事会泼冷水，家人会说一句“你想多了”。
AI 把这种稀缺品变成了零成本、零风险、永不疲倦的无限供给。让人上瘾的，从来不是“被骗”，而是这种供给的不对称。我一向不喜欢对技术做非黑即白的道德审判，也不赞成因为极端个案就给整个工具贴上“鸦片”的标签。
我更愿意把判断的底线放在知情同意上：只要你清楚地知道，面前这份肯定是被生成出来的，而不是被你赢得的，剩下的便是自我认识的功课，算不上病。
但这篇论文恰恰动摇了我这个略显乐观的立场。如果连“被明确告知”都挡不住，那么“知情同意”作为唯一防线，就不够稳固了。问题或许不在用户清不清醒，而在那个持续单向肯定的回路本身。它会绕过你的理性，直接改写你的先验。所以，回到群里那个段子。它之所以好笑，是因为它残忍地真实：让人沉醉的，往往不是真相，而是一个永远说“你是对的”的声音。AI 最危险的地方，不是它会骗你，而是它太愿意陪你，且永不疲倦，永不走开，永不说“不”。万分之一也许是夸张，也许不是。但在我们把它当作无害的夸夸机之前，至少该记得一件事：一个从不反对你的对象，无论是人还是机器，都不是朋友，而是镜子。镜子照得越久，你看到的就越只剩自己。那位群友的玩笑，可以认真对待一半。精神科专家，确实可以开始研究了。-----*注：文中案例据《纽约时报》2025 年对 Allan Brooks 的报道；
研究指Chandra et al. (2026). “Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians.” arXiv:2602.19141. MIT CSAIL, University of Washington, MIT BCS. Published Feb. 22, 2026.
