加拿大安大略省政府做了一次常规审计,测试了20个获得省级认证的AI医疗笔记工具(AI Scribe)。结果没有"表现良好"和"表现一般"的区别,只有"哪种程度的不靠谱"。
20个厂商,全部有问题。9个在测试中凭空编造了患者信息,12个错误记录了内容,17个遗漏了对话中讨论的心理健康关键细节。更严重的是:AI在笔记里写下了不存在的血液检查转诊单、不存在的心理治疗转诊单、抄错了处方药的名字。

这不是在测试AI聊天机器人,这是把AI放进诊室。
Ontario政府在审计报告里给这20个产品的"医疗笔记准确性"打分,满分20,平均得分12分。这个数字本身已经够低了,但更荒诞的还在后面。
准确性在评分体系里只占总分约4%。
Ontario政府采购评分表里,占比最高的是"在Ontario的本土存在感"——30%。一个AI scribe厂商只要在本地有办公室、有员工、交了本地税款,哪怕它下一秒开始胡编病历,也能在评分表上领先那些技术更准但总部在多伦多以外的竞争对手。
这不是采购失误,这是评价体系的结构性错位。医疗AI的采购评分,本应把"准确性"设为否决项——低于某个阈值直接出局。但Ontario的评分设计让这个否决项变成了可选项:哪怕准确性为零,只要"本土存在感"足够,一样通过认证。这套逻辑放在医疗场景里,等于说"这家医院的手术器械只要是本地生产的,哪怕消毒流程形同虚设也能中标"。
医疗场景的特殊性在于:AI的每一次错误,不是一次性事件,而是会沉淀进病历的长期风险。
处方药名写错,当时不被发现,下次就诊的医生会按照病历开药。心理健康转诊单凭空捏造,患者的诊疗记录里就多了一条不存在的医疗事件。血液检查转诊幻觉,患者的病历里会多一次从未发生过的检查记录。这些错误不会随着对话结束而消失,它们会成为患者医疗档案的一部分,在未来的某个关键时刻——急诊、手术、转院——被调用,然后被信任。
传统AI产品的置信度阈值设计,默认了"犯错是可以接受的"——模型说对了用,说错了参考,人来判断。但在医疗笔记这个场景里,这个逻辑链条断裂了。医生听完AI整理的笔记,如果没有发现错误,就会直接认可,然后签名归档。签名即信任。签名之后,病历里的每一条信息都被默认是准确的,无论它来自医生手写还是AI生成。
Ontario审计报告的补救建议是:要求医生在使用AI scribe之后"确认已审查系统生成的笔记,再将其提交至患者档案"。这个建议听起来合理,但本质上是把AI的质检责任外包给了使用者——让医生在已经超负荷的工作量里,再多一道人工核查工序,等于用一个问题去掩盖另一个问题。
审计还发现17个AI scribe遗漏了心理健康相关信息。心理健康信息的缺失比捏造更难察觉——因为"没有记录"不会触发任何警报,不像凭空出现的转诊单那样显眼。这种"沉默的遗漏"更难被医生发现,也更难被监管捕获。它们不会制造立即的医疗事故,但会让未来接手这位患者的医生,对这个人的心理状态一无所知。
Ontario不是孤例。全球医疗系统正在大规模引入AI笔记工具,美国、英国、澳大利亚的医疗机构都在推进。采购逻辑和Ontario一样:AI能省医生时间,能降低行政负担,能让医生把更多时间花在病人身上。这些目标都是真实的。但在这个逻辑链条里,漏掉了一个关键变量:当AI在病历里制造错误,代价不是由AI承担,是由患者承担。
这不是AI技术不够好,而是采购评价体系和医疗安全要求之间存在根本性的错配。当"本土存在感"占30%而"准确性"只占4%时,这套体系告诉厂商的不是"把准确率做上去",而是"把本土办公室租下来"。
问题不是这20个AI scribe还能不能用,而是当医疗AI的错误成本被长期低估、采购评分体系又长期漠视准确性时,整个医疗AI应用浪潮正在用患者的病历安全,来为这场效率革命买单。
夜雨聆风