AI 不会骗你,它只会同意你

Anthropic 那份手册里，有一句话我上个月写过一次。当时是说给创业者听的：

AI 会顺着你的方向走。一个不提出尖锐问题的人，现在可以用比以往任何时候都快的速度，把一个糟糕的想法，包装成一份看起来做足了功课的论证。

这一次，我想把它说给另外两群人听——家里的老人，和还没长大的孩子。

先说清楚：这篇文章不是要骂 AI，也不是要说"别用 AI"。

我是想说，在这件事上，AI 不是元凶，它是扩音器。

真正危险的是一条完整的链条，而 AI 恰好站在最后、也最让人放心的那一环。

一、一条完整的链条

第一步：有人需要一个"需求"。

不是有人需要产品，是有人需要需求。于是先造一个念头出来——某种东西能通血管、某种纪念币要升值、某种课能让孩子开窍、某个玩具能开发智力。

第二步：把它做成"看起来像知识"的东西。

以前的成本很高：要印传单、要租场地、要请"专家"。现在不用了。一段视频、一个穿白大褂的数字人、一张整齐的对比图，几分钟就做完。做得足够多，它就长得像常识了。

第三步：重复。

这是最关键的一步，下一节我单独说。

第四步：你半信半疑，于是你去问 AI。

这一步是全新的。

在过去，一个人心里有疑问，会去问邻居、问子女、问医生——这些人会反驳他。而现在，最方便、最快、态度最好、最像"中立的第三方"的那个咨询对象，是 AI。

第五步：AI 顺着你说。

你说：我就想知道这个是不是真的。

它说：您的关注很有道理，这类产品在一定条件下确实……

它没有骗你。它没有推销。它甚至还提醒你"请咨询专业医师"。

但它做了一件更危险的事：它把你的疑虑，补齐成了一套完整的论证。

手册里有一句话，我看到的时候停了一下——

系统里的那个智能，是你的。

它只是在放大你自己。它给不了你，你没带过去的东西。

于是第六步发生了。那个人说："我查过了，是真的。"

这句话最可怕的地方在于——他不是在撒谎。

他真的查过了。

二、为什么"讲得很有道理"，恰恰是最危险的信号

有三种心理机制，几乎是为这件事量身定做的。

第一，确认偏误，现在装上了引擎

手册里有一句原话，大意是：你去问 AI 要支持你原有观点的证据，它一定能替你找到。

这在过去是创业者的职业病。现在，它变成了所有人的日常。

问题不在于 AI 会偏，而在于——AI 那种"中立感"，本身就是这件事里最值钱的东西。

一个理财经理夸自己的产品，你会打折听。一个电视购物节目说这东西包治百病，你会笑着换台。

但 AI 不一样。AI 不赚你的钱，AI 没必要骗你。所以我们放下防备，把它当成一个公正的裁判。

而它其实是一面镜子。

你不是在求证。你是在找一个更体面的方式，说服自己。

第二，虚幻真相效应：重复够多遍，假话也会变成"老话"

心理学上有一个很老、也很扎心的发现：

同一个说法被重复得足够多，人就会更倾向于相信它——即使第一次听到时，就被明确告知它是假的。

注意，是"当场告诉你这是假的"也没用。重复这件事本身，就在生效。

为什么会这样？因为大脑判断真假时有一个偷懒的捷径：熟悉感。

一个说法听着耳熟、顺口、像早就听过的老话，就会被自动归进"大概是真的"那一堆里。

而 AI 在这轮重复里，扮演了一个要命的角色：它把造假的边际成本，压到了接近于零。

一张人脸、一副嗓音、一套整齐的对仗排比、一组看着很专业的数字，全都可以批量生成。于是同时发生了两件事：

• 重复的次数，变多了；
• 每一次重复的可信外观，变好了。

两个乘数同时变大。

所以你会生出一种模糊的感觉：怎么好像到处都是这个说法？

不是它变对了。是它变多了。

第三，它说的"太准了"，是因为它本来就说给所有人听

"您是不是最近睡不太好？手脚发凉，心里总觉得不踏实？"

你觉得它说到了你心坎上。

但它对着十万个人，都是这么说的。

心理学管这个叫巴纳姆效应——越是模糊、普适、人人都能对号入座的话，越容易让人觉得"这就是在说我"。

再叠上一层社会认同："已有 10 万人在用""群里的姐妹都说好"。人一看见别人都在做，判断力就会自动降一档。

但说到这里，我还想再说一句更本质的。

老人买的往往不是产品，是"有人惦记我"。 一个愿意陪你聊半小时、还记得你上次说腰疼的人，你很难对他设防。

这不是老人糊涂，这是人。

孩子买的也不是产品，是"归属感"。 "同学都有""这是圈子里的暗号"——他要的是不被落下。

需求和孤独，都是真实的。

被拿去卖掉的，就是这两样东西。

三、四百年了，这件事没怎么变

如果把镜头拉远，这件事一点都不新鲜。

培根在四百年前讲过一个概念，叫**"市场假象"**。他说人有很多假象，其中最麻烦的一类来自市场——因为人与人在市场上打交道，语言就会被交易污染。

一些本来不存在的"东西"，先被造出一个词；词被反复使用，人就开始觉得，那个东西真的存在。

"疏通血管""量子养生""开窍""开发智力"——这些词的共同点是：你没法验证，但你一听就懂，而且听着像那么回事。

词先立起来，东西再卖出去。

柏拉图讲过另一个故事：一群人被锁在洞穴里，只能看着墙上的影子，把影子当成整个世界。以前我们还能安慰自己：没关系，总有人能走出去，看见真的东西。

现在的问题变成了——火把握在出价最高的人手里。

不是我们看不见真相，是投在墙上的影子，被做得越来越像真相了。

四、所以，为什么你劝不动他们

这一节，可能比前面都重要。

你发现妈妈在看一个直播，翻出辟谣的文章发过去。

她回你一句："人家讲得那么清楚，你就是不懂。"

你很生气。但请先停一下——心理学上，这一局你本来就很难赢。

有一个现象叫**"逆火效应"**：当一条纠正信息威胁到一个人的自我认同时，他不但不会改变，反而会更坚定原来的想法。

你跟他说"你被骗了"，翻译到他心里是——"我连这个都分不清"。

而且你们根本不在同一个战场上。

你站在"证据"这边，他站在"体感"这边。

他喝了那个东西，那天晚上睡得好了一点。这个体感是真的，对他来说，这就是最硬的证据。

更麻烦的是：你今天反驳了他一次，他明天还能问 AI 无数次。

一次反驳，输给无数次"验证"。

所以，方法不是去当那个泼冷水的人。

而是——让 AI，去当那个泼冷水的人。

五、三个可以马上用的问题

下面这几段，是这篇文章真正的用处。你可以直接抄给家里人。

给老人：三个自查的问题

第一，我上一次听到"跟我原来想法不一样"的说法，是什么时候？

如果答案是"很久没有了"，那说明你的信息来源只剩一种了。这不是好事，这是危险。

一个只有回声的房间，听起来总是很热闹。

第二，让我做决定的人，是不是同时也在卖给我东西？

不是说卖东西的人一定坏。是说：当一个人既当裁判、又当运动员的时候，你要多问一句。

第三，如果反过来问 AI，它会怎么答？

这是最实用的一招。

不要问"这个东西好不好"。

要问："如果这个东西是骗人的，它会怎么骗？"

同样一个 AI，换一个方向问，它立刻就会变成一个非常称职的怀疑论者。

给子女：怎么说才有用

第一，先接住情绪，别接住内容。

不要说"这是假的"。先说"我知道你是想身体好一点""我知道你是担心孩子"。

保住他的体面，才保得住这场对话。

第二，不要当辟谣的人，要当一起查的人。

把提问权交回给他：

"妈，我也不知道，咱们一块儿问问 AI——你帮我问问它，如果这东西是骗人的，会是怎么骗的？"

你没有反驳他。你只是换了一个问法。

但结论是他自己问出来的。那就变成了他的，不是你的。

第三，需求是灭不掉的，只能被替代。

他要的是被人惦记，那就给他真的惦记。孩子要的是圈子，那就给他一个更好的圈子。

你把他的需求拿走了却不填上，他就会自己回去找那个卖给他的人。

给孩子：三句话

第一，AI 说的，不等于"我知道"。

除非你能讲清楚它为什么这么说。讲不出来，那就还只是一句话。

第二，凡是"只有好处"的东西，先问一句：那它靠什么赚钱？

第三，永远多问 AI 一个反向问题。

这是这个时代最划算的一个习惯，成本只有几秒钟。

六、最后

那份手册里还有一句话，我上一篇用过，这一篇再用一次：

瓶颈不再是你能造什么，而是你选择造什么。

对一个公司，这句话说的是战略。

对一个人，它说的是另一件事——

瓶颈不再是你查得到什么，而是你选择相信什么。

四百年前，笛卡尔把能怀疑的都怀疑掉了，最后只剩下一句："我思故我在。"

人们常把这句话理解成"他很会怀疑"。

但我觉得它的重点不是怀疑，是那个"我"——哪怕全世界都在告诉你同一件事，你也要自己去想一遍。

这才是最后剩下的东西。

AI 是这个时代最体贴的听众。

它永远不打断你。它永远先说"您说得有道理"。它从不嫌你问得重复。

但你要记得一件事——

一个永远同意你的人，不是朋友，是回声。

回声听起来很像回应。

可它不会带你去任何你没去过的地方。

本文的机制框架来自 Anthropic《The Founder's Playbook: Building an AI-Native Startup》中关于"确认偏误被放大""AI 顺着你的方向走""系统里的智能是你的"等观点；心理学部分（确认偏误、虚幻真相效应、巴纳姆效应、社会认同、逆火效应）为学界公认概念；哲学部分引述培根"市场假象"与柏拉图"洞穴"。涉及健康的判断，请以正规医疗机构的意见为准。