ARTICLE · 1074089
AI医疗安全再响警钟,污名化表述竟让大模型分诊降级危重患者

一聊科技早7点 · 2026-09-25
关注我们,每天早上 7 点,5 分钟看懂 AI 医疗科技
一句偏见描述,为何能让AI把危重病人判轻?
— 重磅头条 —
❶ 研究:污名化表述可致大模型急诊分诊降级危重患者
污名化措辞让 LLM 分诊“看人下菜碟”
大语言模型正被尝试用于急诊分诊,但输入信息里一个词,就可能让病情恶化患者的优先级被悄悄调低。一项在两家学术急诊科开展的对照实验,把同一批病例配上不同措辞,结果值得所有做医疗 AI 的人停下来看一眼。
▍污名化降级
“频繁就诊急诊”这一污名化表述,在全部六个模型-数据集组合中均造成有害降级,最高达 9.4%;在同一配对病例内,它比中性表述的优先级高出 1.4 至 7.1 个百分点。
▍精神病史偏移
精神病史表述也带来显著偏移,最高 9.5%;不过其“污名化 vs 中性”的差异仅在一个模型上达到显著。种族、语言、保险则未见一致的有害偏移。
🔗 来源:Nature Digital Medicine · 关注我们,每天7点见
— 即时快讯 —
· 英国医院和全科诊所要求患者用自己的话描述就诊经历,应对AI代写投诉激增 — AI生成的投诉信可能含不实信息,干扰诊所还原真实事件,从业者需警惕。
· 据MedTech Dive报道,智能体AI正从被动响应转向自主规划医疗工作流 — 细节待核;若落地,有望减少人工编排环节,提升诊疗效率。
· AI公司Tandem Health完成7500万英镑B轮融资 — 数字健康AI赛道再获大额资本注入,行业竞争加剧。
· 综述:微调、检索增强生成及混合策略用于临床决策,效果对比尚不明确 — 为LLM临床落地的后训练策略选择提供证据梳理,指导方法选型。
· CurveBeam AI获FDA许可,股价翻倍 — AI影像设备获监管推进,提振市场对AI医疗器械信心。
关注我们,明天7点见
本简报由 AI 辅助生成,仅供参考、不构成医学建议、欢迎大家转发留言交流