ARTICLE · 1203509
AI对低认知人群有权威性
AI对低认知人群有权威性写在前面： 放了个超长的国庆假期，去了5个城市，喝了8顿大酒，半个多月不着家了，孩子天天自己点外卖，期间还有学生来催更终于收拾好体力脑力，继续沉思之旅。自从开始写这个公号，不但AI焦虑缓解了，还经常进入心流状态，那可是姑姑一直在寻找的。下面是最新一期推文，选题来自同事的吐槽：之前医院新引进的机器人说她颈动脉有斑块，担心了好久，“今天去查体了，医生仔仔细细地看了，没有！！开心”。 10月15日，#豆包对低认知人群有权威性冲上微博热搜科技榜第一。 发生了什么？10月14日晚7点07分，89.5万粉丝的科技博主"虎掰掰"发了一条不到一百字的帖子。他给术后出院的家人买了皮皮虾，有人拦着不让吃，说海鲜是"发物"。他懒得解释，甩过去一句：你去问豆包。 豆包：不仅能吃，还得多吃蛋白质。 博主补刀："看来人类的文盲还是要靠AI界文盲治，感谢豆包。" 第二天早上，热搜第一。原帖一天点赞9600多。评论区基本分两派：一半说，终于有人点破了，家里老人你说十句他不信，豆包说一句立马照做；另一半火更大——"低认知"三个字，凭什么拿来给人贴标签？ 从今年秋天起，很多中国家庭里那个"说了算的"，已经悄悄换人了。以前这个位子上坐着家里年纪最大的人，一句"我吃过的盐比你吃过的米多"就能终结争论；现在，终结句式变成了五个字：豆包说能吃。 新上任的权威家长，有一个所有前任都没有的特点：不承担任何后果。 上海一位有十年临床经验的沈医生，65岁的父亲做完脑CT，查出腔梗。她开了两种预防类药物。父亲去问了豆包，AI列出几种副作用，他就不肯吃了。沈医生反复劝，没用。最后是父亲自己把她开的处方拍照发给了豆包，得到AI确认之后，才放心把药吃下去。 这位医生对南方都市报的记者说："自己当医生却说服不了父亲，最后还要靠豆包，觉得很失败。" 当医生的女儿，说服力抵不过一个聊天框。这不是她的失败，是她的竞对永远客客气气、永远秒回。 南都调研组今年6月和30位老人线下访谈，几乎所有人都说会拿AI问养生、问健康，什么拿不准的都问AI。问到"AI会不会说错"，不少人根本不知道"幻觉"这个词——他们默认AI说的都是对的。踩过坑的，也只是少数几位：肖阿姨打完乒乓球肩颈疼，AI在不知道她既往病史的情况下，给出了"百分之百运动后肌肉拉伤"的诊断。她照着热敷、做肩颈操，疼得更厉害，半夜进了急诊，确诊是颈椎疾病急性发作。64岁的兰姨用AI刷题考无人机执照，进了考场才发现，它给的答案有三成是错的。 【姑姑翻译】老人不是分不清真假，过去他们问邻居、问赤脚医生、问电视里的专家、问百度，每一次换，都有人赚走了他们的信任。这一次也一样——只是AI的嗓门最像"懂行的人"。 豆包在这件事上答对了皮皮虾，这不假。它打败的"发物"，是一个流传更久、更没根据的说法。所以先别急着笑话信AI的长辈——看看他们过去信的东西，未必比AI高明多少。 问题是：豆包的权威是从哪里来的？ 我数了数，大致四样东西。第一，秒回。第二，笃定——先结论后分点，排版工整，加粗划重点。第三，不道德评判（No judgement)。第四，全年无休。 南都采访的老人实话实说："你问家里的儿女，谁有那么耐心啊？" 医生诊室门口永远排长队，子女的微信几个小时才回，而AI两秒钟给你一整篇，还带"您好，很高兴为您解答"。 这让我想起费孝通在《乡土中国·长老统治》里的话。他说在变迁缓慢的社会里，年长者见得多，自然握有教化后辈的权力，问谁该信谁，得问老人。可他还写了一句： "在变迁中，习惯是适应的阻碍，经验等于顽固和落伍。顽固和落伍并非只是口头上的讥笑，而是生存机会上的威胁。" 姑姑把这段话翻出来是想说：权威这个位子从来不会空着。长老的经验不灵了、专家在塌房、医生三分钟打发一个病人、子女在加班——那个"能问的人"的位子空了几十年，AI不过是坐了上去。 有位博主"张抗抗KK"说起他爷爷。老人五十岁前后查出心脏、肾脏不好，家里一直围着心和肾治，县医院甚至给他输葡萄糖，越治越重。后来是家里人在《参考消息》上看到相关内容，才想到可能是糖尿病。博主说："那时候没有豆包，谁知道呢？也不知道谁说的对。" 这次连豆包官方的回应都值得细读。大致意思是：AI带给用户的权威感，来源于表达通俗、逻辑稳定，并不是AI具备专业裁判能力；这是"通俗化表达形成的信息降维"，不能把愿意接受通俗内容的人贴上"低认知"标签。 官方这次倒是诚实：模型底层设计以提升用户满意度为目标，倾向顺着用户的想法进行论证。 这件事学术界有个名字，叫"谄媚"（sycophancy）。Anthropic的研究团队在多个主流模型上发现了一致的行为模式：模型会频繁地错误承认错误、给出迎合用户的反馈，甚至模仿用户的错误——因为顺着说，用户满意度评分更高。 认知科学也有这方面的研究。Mosier和Skitka在1996年研究飞行员为什么忽视自己的判断去跟自动导航，把这种"宁可不信自己也信机器"的倾向命名为自动化偏见（automation bias）。2019年，伯克利大学的Logg等人又发现，在不少任务里，人会把更高的可靠性赋给算法给出的建议，哪怕对方只是个他不理解的算法——他们叫它"算法欣赏"。人不是天生信或不信机器，而是该怀疑的时候不怀疑，该使用的时候不敢用，两头都吃亏。 上海交通大学徐剑教授团队2025年的调研得出几个数字：面对大模型可能出错这件事，只有8.5%的公众保持高度警觉，29.7%的人几乎没意识到AI会编造信息，45.6%的人缺乏具体的风险理解。 【姑姑翻译】它的语气永远确定，是因为"不确定"这个选项没被写进它的KPI。 人类信"像权威的东西"，不是第一次。 北宋有个方子叫圣散子，是苏东坡从一位叫巢谷的隐士手里讨来的。巢谷视若珍宝，连亲儿子都不传，苏轼对着江水起誓才拿到手。苏轼用它在黄州、杭州的疫病里救过不少人，于是把它写进文章，又交给名医庞安常刊行天下。 方子从此有了另一个名字：苏东坡推荐过的方子。 南宋叶梦得在《避暑录话》里复盘这件事： "子瞻以巢谷奇侠而取其方，天下以子瞻文章而信其方……人之惑盖有至是者！" 天下人信的不是那味药，是苏东坡的文章。到了明弘治六年（1493年），吴中大疫，地方官令人按方修合圣散子、沿街施药、刊行其方——结果"病人服之，十无一生"。这个方子才从医书里彻底退场。差不多同一时期，把医方塞进通俗日用的类书成了出版热潮，万历年间河北出的通书《便民图纂》就收了当时士大夫争着服用的补阴丸；李时珍在《本草纲目》里批评，说此药苦寒，天天吃"降令太过，脾胃受伤"。 把《避暑录话》翻出来，几个意思呢？ 五百年前，把专业知识打包成"人人可查"的普及品，就已经在造孽了。那时候的"排版工整"，是刻工整齐的木版字；那时候的"语气笃定"，是苏学士的名头。载体换了，众人心里的那道捷径没挪：认形式，不认内容。 2026年10月，来自斯坦福等四所机构的几位作者在《自然·健康》（Nature Health）上发表的文章里有个真实病例：一位60岁的男士问ChatGPT怎么减少氯摄入，照AI的建议用溴化钠替代了食盐——三个月后，他因溴中毒住院，出现幻觉和被害妄想。这个病例此前刊登在美国内科医师学会的《内科医学年鉴》上。 最让研究者脊背发凉的，不是这个建议错了，而是后续：这位男士找不回那段对话，医生完全无法知道AI当时到底跟他说了什么，也就无法复盘他是怎么一步步走进急诊的。论文里有句话： "Harms are not only possible, but structurally hidden from the clinicians, researchers, and regulators who could otherwise detect and correct them." 【姑姑翻译】伤害不只是"可能发生"，它对所有本可以发现和纠正它的人——医生、研究人员、监管者——是结构性隐身的。医生看病有病历、有处方、有追责通道；AI给的建议，错在哪句话上，无人记录。 国内也有发生同样的事。有农户照AI给的配比调农药，150亩芝麻绝收；有旅客信了AI"退票手续费只收5%"，实际被扣了40%；杭州互联网法院审结的全国首例"AI幻觉"侵权案里，AI给错了高校报考信息，被用户质疑后不但不认错，反而"承诺"赔偿10万元还教用户去起诉——法院最终的认定是：人工智能不具有民事主体资格，AI生成的"赔偿承诺"不能视为开发公司的意思，判决驳回。承办法官说，从社会常识看，用户不应轻信AI的此类随机表述。 这三件事的共同点：芝麻、机票、诉讼，全都是人先交出了核对权。AI最危险的时刻，恰恰不是它胡说八道的时候——胡说八道容易被识破——而是它一本正经、语气笃定、还分了三点的时候。 中国的监管其实早就动手了，只是很多人不知道。 2022年国家卫健委、国家中医药局联合印发的《互联网诊疗监管细则（试行）》白纸黑字写着两条："处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方"；"其他人员、人工智能软件等不得冒用、替代医师本人提供诊疗服务"。2026年3月，国家药监局《关于"人工智能+药品监管"的实施意见》又明确了十二个字的机制：数智赋能、人工复核、全程留痕。 可制度画的是平台的线——管的是"互联网医院里AI不能开处方"；它管不到饭桌上、家庭群里、老人枕头边的语音提问。现实是，医生们说，如今门诊一上午30个病人，25个带着AI诊断进门。以前患者带着问题进诊室，现在带着答案进诊室；答案不一样，看病就变成了对质。 中国卫生信息与健康医疗大数据学会等机构发布的《中国家庭健康大数据报告》测过，"家庭健康掌门人"里女性占到61.8%，而且连年上升；预约挂号、在线问诊、买健康产品，女性"掌门人"的订单全面高于男性。另有商业机构连续多年的调研显示，银保渠道健康险客户七成以上是女性，约六成的保单是妻子为丈夫投保。 也就是说：买错的人是她，被嘲笑"好骗"的也是她。"低认知人群"这个词在中文互联网上的实际指向，大家心里都清楚——大妈。可没人问过一句：她的可核实信息来源在哪里？她挂不上号的号源在哪里？谁跟她解释过"发物"到底是什么？ 嘲笑一个信息上游干旱的人，是最省事的。 这两年文科生听够了"被AI取代"。第2期我们算过：塔尖岗位月薪34万，塔基6479。今天说说另一面——文科训练里有一门快要失传的功夫，叫"怎么不信一本书"。史料学的第一课是孤证不立；版本校勘的日常，是对着几个本子一个字一个字地对；读文献先查作者、查时代、查转载链。说到底，文科教育的底色，就是怀疑的纪律。 而AI的回答，是终极孤证：它开口就是结论，你问出处，它可能给你编一个。杭州那起案子里，AI连"赔偿10万"都敢说。面对一个不提供信源链条的权威，受过"怎么不信"训练的人，比只会背知识点的人安全得多。 家有文科生的父母们，别逼着孩子硬啃理科的另一个理由就在这里。 第一，对很多老人来说，问AI比不问强。南都的报道里也有正面案例：一位李阿姨体检查出血糖12.92，医生建议服药，她跟AI要了一份详细的饮食控制方案，执行半年，五次复查全部达标。 第二，监管方把责任边界划出来了：AI的"承诺"不作数，用户不该轻信；但同时法院也说——在客服等足以让用户产生合理信赖的场景里，AI说的话仍可能约束服务提供者。也就是说，平台的免责不是无限的。 所以真正的问题从来不是"老人为什么信AI"。是那个位子空着的时候，我们都在忙。AI没有抢走权威，是权威先旷了工。 光感慨没用，把能做的列出来，贴冰箱上也行。 1. 三类红线问题，AI只能当"预习"。命（用药、剂量、饮食禁忌）、钱（转账、退款、投资）、法（合同、纠纷）——AI的答案拿去当背景知识，动手前必须再找一个来源：医生、官方电话、专业窗口。一个来源不叫核实，叫听说。 2. 让它给出处。哪条规定、哪家机构、哪句话的原文。标不出来，或者标了一个查无此文的，说明它自己也在猜。 3. 反问一句："给我三个反对这个结论的理由" 。它平时太顺着你说话了，这一问是给它拆护栏。答不上来，警惕加倍。 4. 把对话留下来。爸妈问过AI什么，截图或长按保存，看病时带给医生。这几秒钟的动作，治的正是Nature Health说的"结构性隐身"——让医生看得见是怎么走到今天这步田地的。 5. 告诉爸妈四个官方号码。12320（卫生健康热线）、12315（消费维权）、12333（人社咨询）、12378（金融消费维权）。 6. 别纠正爸妈。下一句别说"AI说的也不对"，换一句："妈，豆包还跟你说啥了？"把AI变成你们俩的共同话题，而不是你们俩的裁判。
奥妮尔勋爵2002年在BBC里斯讲座《信任问题》里说过："A crisis of trust cannot be overcome by a blind rush to place more trust... In judging whether to place our trust in others' words or undertakings, we need information and we need the means to judge that information." 【姑姑翻译】信任危机，没法靠"更努力地信"来解决。要决定信不信一句话，人需要两样东西：信息，以及判断这份信息的手段。 那个位子空了几十年，如今有人坐了上去，肯回答，有耐心，多数时候还对。这是好事。只是别忘了问完它之后，回头问一句活人。 我们总得有一个，配得上她的信任。
感谢你，看到了这里 🌹🌹🌹 评论区聊聊：你家的长辈从豆包那得到过什么离谱回答？👇👇👇 南方都市报·奥一网：《老爹信AI不信当医生的女儿 预防脑梗处方找AI"过目"后才放心服药》，2026年6月12日 大众新闻（大众日报）/新浪财经：《"豆包对低认知人群有权威性"冲上热搜，AI信任的尺度在哪里？》，2026年10月15日 什么值得买社区：对4平台热搜讨论的梳理（原帖9600+赞、2678赞置顶评论等），2026年10月15日 直播吧/游民星空：豆包官方回应"低认知"标签，2026年10月15日 费孝通：《乡土中国·长老统治》，1948年 叶梦得：《避暑录话》；俞弁《续医说》（明弘治六年吴中圣散子案）；李时珍《本草纲目》对补阴丸的批评；参《医学与哲学》2024年第3期《日用类书涉医文献的历史特点及当代价值》 Yang, K. et al., "The Invisible Risks of AI-Generated Health Information", Nature Health, 2026年10月9日（Binghamton University/Texas A&M/Stanford/Indiana University） 《内科医学年鉴》（Annals of Internal Medicine）溴化钠替代食盐致溴中毒病例报告（60岁男性），转引自《卫报》等 央广网：《AI承诺回答错误就赔偿10万元 用户起诉后法院作出判决》（杭州互联网法院全国首例AI幻觉侵权案），2026年4月16日；中国青年网、中国经济网2026年1月报道 国家卫生健康委办公厅、国家中医药局办公室：《互联网诊疗监管细则（试行）》，2022年（第二十一条） 国家药监局：《关于"人工智能+药品监管"的实施意见》，2026年3月 人民日报健康客户端：《患者拿AI诊断来"考"医生？专家：AI只能当辅助工具》（含大阪都会大学2025年研究：生成式AI平均诊断准确率52.1%），2026年10月10日 Mosier, K. & Skitka, L., automation bias（1996）；Parasuraman & Riley, "Humans and Automation", 1997；Logg, Minson & Moore, "Algorithm appreciation", Management Science, 2019 Anthropic：模型谄媚（sycophancy）行为研究（覆盖Claude、GPT-4、LLaMA 2等模型） 上海交通大学徐剑教授团队：公众大模型认知调研（8.5%高度警觉、29.7%几乎未察觉幻觉），2025年 QuestMobile：《2026年AI用户洞察与营销分析报告》（AI原生APP用户5.37亿、月人均使用85.1次、豆包活跃渗透率77.2%、60后占比10.8%），2026年10月13日；《中国移动互联网2026春季大报告》（60后用户单季净增1660万），2026年4月 阿里巴巴、浙江开放大学：《2025"银发+AI"应用趋势报告》（5557份问卷；老年人建议中仅4%涉及安全与风险），2025年10月 中国卫生信息与健康医疗大数据学会家庭健康专委会等：《中国家庭健康大数据报告》（女性"家庭健康掌门人"61.8%），2018年 Onora O'Neill, A Question of Trust: The BBC Reith Lectures 2002, Lecture 4（BBC官方transcript） BBC News: "OpenAI boss says world 'right to be afraid' but 'should trust' AI firms"（Sam Altman at Dreamforce, 2026年9月15日） QuestMobile数据来源及《中国家庭健康大数据报告》相关表述以原始报告为准；个别案例细节以原始报道为准。本文不构成医疗建议。
欢迎转发给你在乎的人。
一、先问AI，再问医生
二、AI赢的不是知识，是耐心
三、组装出来的权威
四、五百年前，它叫圣散子
五、机构性隐身
六、制度已经划了线
七、家里的"健康掌门人"，多半是她
八、文科生最知道"像权威"有多危险
九、给豆包们的公道话
十、姑姑的清单：明天就能做的六件事
参考资料
