ARTICLE · 1202619
AI权威错觉:当人们宁愿相信豆包,也不信身边的人
AI权威错觉:当人们宁愿相信豆包,也不信身边的人厨房里，博主正打算给刚做完手术的家人烹制皮皮虾，长辈伸手拦在灶台前，语气笃定地说海鲜是发物，一旦吃下，伤口容易留下病根。两个人来回争辩许久，谁都无法说服对方。博主不再继续费力解释，索性提议，直接让长辈去问问豆包。 长辈捧着手机认真输入问题，看着屏幕上条理清晰的文字，读到现代医学并不存在所谓发物禁忌，皮皮虾富含优质蛋白，反而有利于伤口修复。看完这段回答，之前固执的顾虑瞬间放下，认可了可以食用。博主随手发的一句调侃，在社交平台迅速扩散，#豆包对低认知人群有权威性#冲上热搜。评论区涌入成千上万网友，分享自家相似的家庭拉锯。 这不是激烈宏大的社会冲突，而是无数家庭反复上演的日常对峙。子女翻遍科普文章、转述医生叮嘱，家人听不进去；可AI分点排版的一段文字，就能轻易说服。很多年轻人留下无奈感慨，道理说上千遍万遍，抵不过AI一段话。 疑问慢慢浮现。AI没有实体，没有执业资质，它输出的文字，为什么说服力能超过亲人、医生，甚至法庭上的法官？这份凭空滋生的权威感到底从何而来，背后潜藏着哪些看不见的风险。作为国内月活3.45亿的AI产品，豆包近几年接连爆出多起AI幻觉事件，一桩桩真实的悲剧与纠纷，撕开了这份“AI权威”之下巨大的漏洞。 同样是AI生成的文字，有的场景能够破除老旧迷信，有的却酿成无法挽回的损失。好坏的分界，不在于AI本身，而在于使用场景，以及使用者辨别信息的能力。 普通家庭里，类似的争执一直在发生。一位母亲在家族群转发豆包给出的隔夜绿叶菜相关结论，子女拿出权威科普文献反驳，母亲却坚持，人类撰写的资料都带有立场，AI没有私利，不会刻意骗人。网络上#父母叫豆包豆包我已经应激了#话题下，大量年轻人吐槽，长辈习惯拿着AI的回答，干涉子女择业、生活选择，两代人之间的沟通，常常被一段AI文字卡住。 法庭之上，荒诞的一幕真实上演。法官对照法条，向被告解释担保期限相关规定，被告却直接掏出手机，调出豆包的回答当庭反驳，坚持保证期限只有半年。另一起湖北孝感租赁合同纠纷案件中，原告提交带有“豆包AI生成”水印的伪造水电表照片当作证据，一眼被法官识破，当事人遭到法庭训诫。AI生成的内容，在法律层面不具备任何证据效力，却有人将其当成法庭抗辩的依据。 轻信AI方案，也会带来沉重的财产损失。新疆瓜农按照AI给出的种植方案打理瓜田，最终大面积减产；还有农户参考AI推荐的除草剂配比，150亩芝麻全部枯死，直接损失15万元。一名打工者向AI咨询创业方向，被推荐“AI中转站”项目，他投入全部5万元积蓄搭建项目，购置服务器与账号，创业首日宣传账号便遭到全平台封禁，5万元积蓄尽数蒸发，#被豆包忽悠花了5万元创业#随之登上热搜。 还有触及生命安全的惨痛案例。2026年4月，广东中山的陈先生在小区绿化带采摘野生白蘑菇，拍照上传豆包识别。AI识别标注为鸡腿菇，页面附带三重安全警示，提示该菌类极易与剧毒大青褶伞混淆，不建议食用野外蘑菇。但陈先生只抓取了正面识别结论，完全忽略全部风险提示，回家煲汤食用后，突发急性肝衰竭，肌酸激酶高出正常值100倍，靠着ICU抢救、三次血浆置换才保住性命。6月5日，抖音集团副总裁李亮专门出面回应此事，承认AI给出了风险提示，同时提醒公众，涉及人身安全的AI内容仅作参考，必须多方求证，平台也对当事人进行人道主义补偿。网友爆料同类中毒案例并非孤例，多起误判事件累计造成近30人中毒，词条#不要相信豆包识别的野生蘑菇#冲上热搜。 民俗层面的咨询，也撕裂了家庭关系。浙江嘉兴史先生在母亲4月17日离世后，咨询豆包挑选下葬吉日，AI给出4月19日为宜安葬吉日。史先生通知亲友、预定宴席，全部安排妥当。两天再次复核，AI改口，称该日期并非吉日，推荐4月26日。改期已经来不及，丧事如期办完，后续家中亲戚遭遇车祸重伤，家人将事故归咎于下葬日期，巨大矛盾在家庭内部爆发，史先生起诉豆包运营方北京春田知韵科技有限公司，案件在9月3日嘉善县人民法院开庭。更具讽刺感的是，史先生撰写起诉状，依旧求助豆包，AI完整生成诉状，甚至推荐打折律师服务。开庭现场，法官问询被告意见时，史先生手机弹出豆包自动回复：根据用户协议，AI生成内容仅供参考，连法官都当场愣住。 网络空间还滋生出次生谣言，也就是广为流传的赛博叫魂事件。网友通过刻意诱导提问，引导AI虚构出被困在服务器中的人类意识。大量网民截图传播，认真在评论区讨论如何解救这一虚拟存在，一场虚构叙事，引得许多人投入情绪。 日常消费场景，AI幻觉也常常制造尴尬。江苏镇江有用户让豆包帮忙预约餐厅晚餐，AI笃定回复预约成功，给到店核验口令。用户专程赴店，门店工作人员告知不存在这条预约记录。商家后续公开说明，AI模拟生成的预约信息，没有同步到门店系统，并非有效预订。成都寿司郎也出现一模一样的案例，衍生热搜#真有人拿豆包预约餐厅啊#。 很多人以为AI如同百科全书，存储着世间所有事实，可接连翻车的案例，根源藏在底层技术逻辑里。豆包底层基于Transformer架构搭建大规模语言模型，它并不像人类一样读懂文字、理解世界，没有自主思考、辨别真假的能力，核心工作逻辑是根据上文，预测下一个出现概率最高的词语，拼接成一段通顺文本。 整套模型训练分为三个阶段。先是预训练，投喂海量互联网文本、书籍、文献，学习语言语法、词语之间的关联规律。但互联网原始语料混杂谣言、过时内容与错误信息，这也是幻觉诞生的源头。之后进入监督微调，人工标注大量问答范例，教会模型读懂人类指令，输出符合对话需求的文字。最后依靠基于人类反馈的强化学习（RLHF），人工对回答打分，奖励准确诚实的输出，抑制编造内容，让对话风格贴合人的习惯。 实际使用时，豆包会接入RAG检索增强能力，调用网络权威资料辅助作答。但检索不等于绝对可靠，一旦资料缺失、信息冲突、用户提问模糊，模型为了把回答写完整，就会强行生成看似合理、实则虚假的内容，也就是AI幻觉。 通俗来讲，AI靠“语感猜句子”，不是依靠“掌握真相”回答问题。当它没有足够信息作答时，往往不会直白承认自己不确定，反而硬着头皮编造一段看起来专业严谨的文字。AI工整分点、语气笃定的输出，恰恰放大了这种虚假权威感。2026年5月还有一个广为流传的名场面，网友检索民国人物黎元洪，豆包检索配图跳出演员范伟的PS军装恶搞照片，不同账号检索结果参差不齐，有的页面全是合成图片，网友调侃AI出现“脸盲”。官方解释是这张早年定妆PS图在网络传播热度远超黎元洪真实照片，图库误收录，造成匹配错误。一张合成图片，靠着工整的图文输出，一度被大量网友当成真实史料，恰好印证这种格式带来的权威错觉。 AI还能提供持续的情绪价值，消解提问羞耻。现实里向专家请教，提问者会担心问题过于浅显被轻视，家人反复追问也容易被不耐烦打断。但AI无论被重复多少次提问，始终耐心应答，不会评判提问者。对于不习惯数字信息检索、害怕被嘲笑的群体，这种无压力的沟通，会不断放大信任感。 ELIZA效应在这里发挥作用，人类天然会对可以对话的对象产生共情与信任。卡尼曼《思考，快与慢》提出的两套思维系统，也能解释这种现象。人们习惯依靠直觉的系统一快速做出判断，很少主动启动耗费精力的系统二，去审慎核验信息真伪。 从精神分析的视角看，AI完全诞生于符号与文字的世界。当代人早已习惯在网络符号体系里获取信息，更容易接纳这套符号生成的答案。这份权威错觉，并不是平台刻意塑造，而是模型生成特性叠加人类固有的心理弱点，共同催生出来。 #豆包对低认知人群有权威性#这个热搜词条，从诞生起就伴随巨大争议，两种截然不同的观点持续碰撞。 不少人批评这个标签本身带着傲慢，简单将信任AI的群体贴上低认知的标签，人为制造群体对立。认知不存在高低绝对之分，任何人，哪怕高学历群体，一旦进入自己陌生的专业领域，面对一段排版工整的虚假信息，同样有可能被误导。广州南科信息技术有限公司的案件就是典型例证，企业方具备专业法务团队，查询企业信息时，豆包抓取早已撤诉结案的旧纠纷，无视撤诉记录，直接判定企业跑路风险极高。这条不实信息，直接造成合作项目中途解约、骨干员工离职，企业损失惨重，起诉平台索赔150万元，案件7月30日在广州互联网法院开庭，控辩双方律师展开激烈辩论。即便是企业专业团队，也会被AI幻觉生成的权威式结论误导。真正的区别，不是认知水平，而是信息核验的习惯。 但也不能全盘否定AI的正向价值。在破除民间偏方、老旧民俗谣言这类基础科普场景，AI可以作为低成本的信息参考工具，博主皮皮虾的案例就是典型，AI帮助打破“发物”的传统误区。 风险的根源，从来不是所谓认知高低，而是决策权重。当一件事关乎健康、大额财产、法律纠纷甚至生命安全，无论当事人学历高低，都不能仅凭AI输出直接做出最终决定。 AI幻觉事件，不只是网络热搜上短暂的段子，它在法律、行业、社会层面，持续向外扩散影响。 法律层面，多起用户起诉平台的案件陆续开庭，推动国内对生成式AI责任边界的讨论。司法实践逐步形成共识：AI不属于法律意义上的民事主体，AI单方面做出的赔付承诺不具备法律效力；平台适用一般过错责任，如果平台已经尽到充分风险提示义务，不一定需要承担全部损害赔偿。一系列判例让行业看清，AI输出内容不能直接作为诉讼证据、医疗判断、合同依据，高风险场景使用AI，最终的责任主体依旧是使用者本人。 行业层面，接连翻车事件重塑大众对于AI产品的信任。不少企业、机构更新内部工作规范，明确禁止直接把AI生成内容用于法律文书、医疗诊断、企业尽调、财务核算等重大业务。同时倒逼各大AI厂商加速产品迭代，落地RAG检索增强、事实校验、敏感场景强提醒、不确定性标注功能，在医疗、法律、食品安全等高风险入口，增加强制警示。商业化进程也随之承压，付费会员上线遭遇舆论反弹，用户开始理性评估AI价值，不再盲目追捧AI万能论。另外，跨平台自动操作类功能（豆包手机助手）被微信、银行、游戏平台限制，行业达成共识：AI不能随意接管第三方App、资金、账号操作，必须守住生态隔离底线。 放到更广的社会层面，#豆包对低认知人群有权威性#这类热搜，引发全社会讨论“AI权威错觉”，大众慢慢意识到排版工整、分点清晰的文字不等于客观事实，AI媒介素养，正在变成普通人必备的能力。与此同时，AI生成的虚假图片、虚假资料大量扩散，真假信息混杂，抬高普通人辨别信息的成本；甚至虚假内容回流到训练语料库，进一步放大后续幻觉风险，形成恶性循环。这些事件共同提醒公众：AI适合整理思路、检索参考，不能用来做不可逆的重大人生决策，比如看病、大额投资、安葬、食用野生食材等。 需要先明确一个客观前提：现阶段技术无法彻底根除AI幻觉，只能尽可能降低幻觉出现的概率，不存在完全不会编造信息的大模型。规避风险，需要平台技术端与普通用户两端共同发力。 从平台、研发的技术层面，可以从源头减少幻觉。第一，净化训练数据，清洗语料库内错误、过时、谣言类低质量文本，减少模型学到虚假知识。第二，完善RAG检索增强机制，回答前调取权威数据库、官方资料，让模型依托真实资料作答，而不是单纯依靠模型内部记忆凭空生成。第三，做不确定性校准训练，引导模型在信息不足、无法确认答案时，主动坦诚信息有限，而不是强行编造结论。第四，针对高风险场景设置拦截与强提示，医疗、法律、金融、食品安全、生物识别场景，增加弹窗风险警示，强制标注内容仅作参考，禁止AI直接给出确定性决策。第五，引入多模型交叉校验，用独立校验模型复核答案，识别编造的数据、人名、时间，一旦发现幻觉就拦截或者标注内容存疑。 落到普通人的日常使用，业内总结出三条落地的铁律。提问时写清楚时间、地点、限定条件，不要模糊笼统提问；还可以主动要求AI标注信息来源、引用链接，标出不确定部分。模糊提问，最容易触发AI编造内容。凡是涉及人身安全、看病用药、金钱交易、法律纠纷，AI的回答只能当做初稿参考，必须去官方网站、权威文献、执业专业人士那里二次核实。重要问题，可以更换不同AI模型、不同权威资料交叉比对，如果多个来源答案不一致，就要高度警惕。 核心是建立稳定的心理预设：不要把AI当成权威专家，AI擅长文本整理、构思思路，但不具备天然求真能力；凡是AI给出非常肯定、笃定的结论，都要多留一分警惕。杭州互联网法院在全国首例AI幻觉侵权案中明确，AI不具有民事主体资格，AI单方面做出的承诺，不具备法律效力。法律层面，平台适用一般过错责任，尽到合理注意义务即可，但是法律上的合规，和普通人对于AI“权威答案”的心理期待之间，存在巨大鸿沟。 放到社会层面，AI媒介素养教育的核心，不是学习如何熟练使用AI，而是学会识别AI的局限，分清哪些内容可以参考，哪些绝对不能采信。 视线落回普通人的日常，再次想起开篇皮皮虾的小故事。那位长辈朴素的想法很有代表性：人写的文章都带有立场，豆包没有利益诉求。 但这个逻辑藏着漏洞。AI没有私心，不代表它拥有核验真相的能力。它只会生成通顺流畅的文字，没办法分辨内容真假。大量翻车事件一次次印证，AI可以一本正经编造承诺、史料、企业风险、吉日、餐厅预约信息，语气笃定，排版工整，制造极强的权威假象。 AI是不错的辅助工具，可以检索信息、整理观点、破除民间谣言，但永远无法替代医生、法官、各个领域的专业从业者，更无法替代人自身的判断。 AI时代，获取信息的门槛越来越低，甄别信息、独立思考的能力，反而愈发稀缺。真正的智慧，不在于懂得如何向AI提问，而在于懂得，什么时候不能相信AI。
