AI诊断的本质是“概率计算”,根据训练数据中的统计模式,预测最可能的输出。这种机制决定了它的两个固有特征:第一,它对自己输出的内容没有“理解”,只有“概率”;第二,当训练数据不足或模式出现偏差时,它会自信地输出错误信息。ACL 2025收录的一篇综述论文(Can We Trust AI Doctors?)将“医疗幻觉”(Medical Hallucination)定义为“模型生成的、事实上不正确、逻辑不一致或缺乏权威临床证据支持的任何输出”。这不是“偶尔的错误”,而是AI的固有属性。一篇发表于2025年的核医学影像综述(DREAM report)也确认,AI生成内容中的幻觉“可能歪曲解剖和功能信息,损害诊断准确性和临床信任”。
AI在医疗中的失败并非2026年才出现。历史上最著名的案例是IBM Watson for Oncology。2018年,美国健康医疗媒体STAT曝光了IBM内部文件:Watson肿瘤解决方案经常给出“多个不安全、不正确的治疗意见”。在一个极端案例中,Watson对已有出血症状的癌症患者推荐了可能导致严重出血的药物。STAT的调查发现,Watson的推荐基于合成数据(synthetic data)而非真实患者数据,主要由纪念斯隆·凯特琳癌症中心少数医生构建的假设病例训练。结果就是一套在理想化条件下“合理”的算法,在真实世界的复杂临床场景中频频出错。德克萨斯大学系统2017年的审计显示,该项目已花费6200万美元,但未能交付任何功能性产品。MD安德森癌症中心最终注销了全部投资。IBM的失败不是孤例。据中央广播电视总台健康报2026年7月报道,部分医疗AI产品“未经充分验证便进入临床,为误诊、漏诊埋下隐患”;部分医务人员过度依赖AI输出结果,“削弱了独立判断能力”。中国医学科学院医学信息研究所医疗卫生法制研究室主任曹艳林指出,AI已深度融入医疗卫生的每一个环节,但“技术狂奔的路上,新型法律风险不容小觑”。