ARTICLE · 980400
英国监管机构警示:医疗AI转录工具频繁出错,正在威胁患者安全
英国监管机构警示:医疗AI转录工具频繁出错,正在威胁患者安全8月31日，英国NHS法定患者权益机构Healthwatch England发布风险警示，针对正在英国医疗体系快速普及的AI医疗转录工具（AI Scribe）发出警告：这类AI问诊记录工具频繁出现识别错误，混淆药名、误诊、遗漏医嘱，错误常常没有被医生发现，直接写入患者病历，已经对患者安全构成现实威胁。 一、AI转录工具是什么 这类AI工具会旁听医患问诊对话，自动完成语音转写、生成病历摘要、转诊信件，用来减轻医生文书工作压力，目前英国NHS已经在使用27款不同的AI转录产品。 定位是辅助工具，不能替代医生审核。但现实中，不少医护在高强度工作下容易产生自动化偏见，直接采信AI输出内容。 二、真实危险案例，错误后果十分严重 机构公开多起真实事故案例： 1. 诊断完全颠倒：检查结果本是“无脱髓鞘”，AI转录漏掉否定词，写成“存在脱髓鞘”（可关联多发性硬化重症），患者本人发现错误，医生并未察觉。 2. 混淆相似药物：AI把医生开具的处方药物错换成另一种药，同样是患者本人发现问题。 3. 关键医嘱被遗漏：AI总结信删掉专科医生要求患者续开偏头痛处方的指令，一旦没有纠正，会造成患者断药。 大量案例共性：很多错误是患者发现，而不是临床医生发现。如果患者没有识别，错误会永久留存于医疗档案，进而误导后续诊疗方案。 三、监管争议：该类工具不被归类为医疗器械 英国药品与保健品监管局MHRA最新规则：仅做转录、病历摘要、草稿生成的AI工具，不属于医疗器械，不需要医疗器械认证，监管力度大幅弱化 。 这一决定引发医疗界担忧：AI不只是简单转录，会自主判断信息取舍、做摘要推断，输出会直接影响临床决策；一旦发生医疗伤害，责任会更多落到医护人员身上，厂商缺少强制监管约束 。 Healthwatch England呼吁：需要建立明确的错误上报、病历纠错机制，完善AI医疗记录的安全规范，不能盲目推广AI减负工具而忽视安全风险。 四、行业启示：医疗AI不能只追求效率 医疗AI的核心矛盾：提升工作效率 vs 保障诊疗安全。 AI转录可以解放医生文书时间，但现阶段模型依然会产生漏识别、幻觉、语义理解偏差。 即便技术再成熟，AI输出必须经过人工复核，不能直接作为正式医疗记录。 该事件也给全球医疗AI落地敲响警钟：医疗场景下，效率不能凌驾患者安全之上，监管、复核机制必须同步跟上。 ⚠️本文仅资讯解读，不构成投资建议