当AI“看见”并不存在的东西:两个案例揭示医疗AI的真实风险

近年来，AI被不断包装成医疗行业的“下一场革命”：它可以读X光、看CT、写病历、辅助问诊，甚至被寄望于提升诊疗效率、缓解医生短缺。但把近期两个案例放在一起看，我们会发现一个令人不安的事实：医疗AI当前最大的风险，不只是“答错”，而是它会以极具说服力的方式，把错误伪装成专业判断。

【案例一】一种比普通“幻觉”更危险的现象——“海市蜃楼式推理”。斯坦福研究团队发现，当前最前沿的多模态AI模型，即使根本没有看到医学影像，也会像真的看过一样，主动描述图像细节、给出病灶判断，甚至生成完整的临床推理链。这说明模型并不一定是在“理解图像”，而可能是在利用题目措辞、统计规律、疾病患病率和训练记忆进行高概率猜测。它最危险的地方在于：模型并不知道自己不知道，却表现得仿佛自己看得很清楚。

【案例二】谷歌医疗AI在分析脑部扫描时，居然写出了一个人体根本不存在的结构——“basilar ganglia”。这并非简单的笔误那么轻松，因为在医疗场景里，术语的每一个字母都可能影响临床理解、后续决策和患者安全。更值得警惕的是，这类错误并没有立刻被发现，而是因为表述“太像真的”，在公开材料中存在了很长时间。这说明：AI的错误并不总是荒唐到一眼可见，很多时候，它恰恰危险在“像真话”。

把这两个案例合在一起，可以看到医疗AI至少暴露出五类核心风险。

首先，是虚假感知风险。传统误差是“看错了”，而现在的问题可能是“根本没看，却说自己看到了”。这意味着AI在多模态任务中的“感知能力”与“语言表达能力”严重脱钩。模型可以用超强语言能力掩盖视觉理解不足，让医生、患者甚至研究人员误以为它真的具备影像判断能力。

其次，是虚假自信风险。无论是凭空描述不存在的影像，还是捏造一个不存在的解剖结构，AI都很少主动承认“不确定”或“我不知道”。在医学这种高风险领域，真正可怕的不是系统偶尔出错，而是它在出错时仍然语气笃定。对临床而言，一个“自信地错”的系统，往往比一个“谨慎地慢”的系统更危险。

第三，是评测失真风险。如果模型可以通过题目模式、数据污染、训练记忆在没有图像的情况下仍取得高分，那么现有很多医疗AI基准测试就可能高估了模型真实能力。也就是说，一些看似漂亮的成绩，未必代表模型真的会看图、会诊断，而可能只是“会考试”。这会误导医院采购、投资判断和监管评估。

第四，是流程放大风险。很多人以为AI出错，只要让医生“最后把关”就行。但现实是，临床工作流节奏快、信息量大，医生不可能逐字逐句审查每一次输出。AI一旦进入影像判读、病历转录、患者沟通、智能体协作等环节，小错误可能沿流程层层传播，最后演变成误诊、漏诊、错误用药或不必要检查。所谓“人类监督”并不是零成本保险，反而可能带来新的效率负担和责任模糊。

第五，是过早部署风险。当前业界对医疗AI的推广速度明显快于其安全治理速度。从AI影像辅助，到AI健康建议、AI病历整理、AI科研助手，产品已经大规模进入真实世界。但从这两个案例看，连最基础的事实准确性、输入校验、错误表达控制都还没有彻底解决。如果在缺乏护栏、缺乏验证、缺乏责任边界的情况下仓促部署，AI可能不是在“提升医疗”，而是在把不确定性引入医疗核心环节。

这并不意味着AI在医疗中没有价值。问题不在于“能不能用AI”，而在于——

不能把语言上的流畅，误当成医学上的可靠；

不能把演示中的惊艳，误当成临床中的安全；

不能把模型会回答，误当成模型真的会诊断。

这两个案例共同传递出的核心警告是：医疗AI最值得警惕的，不是它偶尔犯错，而是它会把错误包装成专业、自然、可信的医学判断。

在医疗这样一个容错率极低的领域，真正需要建立的不是更大胆的想象力，而是更严格的验证体系、更透明的不确定性表达，以及更克制的落地节奏。

否则，AI越“聪明”，风险也可能越隐蔽。

相关学习资料