夜雨聆风如今时不时就能听到AI诊断疾病的新闻，貌似医生被AI替代越来越近了。我不敢说这种情况永远不会发生，但先要看清楚这些新闻是咋回事，才能更好判断。仔细看的话，就知道很多新闻是用了夸大标题。下面就详细解释一下。
首先要明确一点，目前为止并没有AI参与真正的疾病诊断，这些新闻讲的很多都不是涉及真实病人的临床试验，而是在模拟环境下，针对一些病例资料的实验，这些实验被称作沙盒推演（sandbox）。也有的是研究对医生辅助诊断的价值。仅有的一些独立诊断研究大多是与图形识别相关的单一指标，比如识别视网膜病变，在窦性心律的心电图中发现房颤线索，以及影像诊断等等。真正像医生那样独立接诊病人，开具检查和处方的现实研究目前还没有。
既然AI诊断还处于临床试验早期，那么所有的相关研究都应该至少以临床试验的标准来评价。这里我想联系自己以前在国内的科研经历来作为参照，解释该如何评价AI的临床诊断研究及其新闻报道。
我的博士研究生课题，以及博士毕业后的很多工作都和一种新型的内镜诊断技术相关。在进行前瞻性的诊断试验之前，我们前期的大多数工作是阅读已有的图像，和病理标准进行对照，总结两者的相关性，并且找出一些可描述和定量的特征，可以算是诊断标准。然后把这些标准拿到新的检查中去验证，也就是根据实时的图像预测病理诊断，然后评估预测的准确性。我们团队在这方面做了很多工作，也发表在了比较权威的杂志上。
这里很重要的一点，那就是前瞻性研究的时候不能再用之前已经看过的图像和病人资料。原因很简单，总结经验和特征时用过的资料相当于考试之前的模拟考，模拟考的考题如果用在真实考试中，那就考验不出真实的成绩。
不过即便我们的结果很好，也发表了很好的文章，依然不能说明什么问题。比如我自己一篇关于溃疡性结肠炎的文章被引用了上百次，但浏览过后就发现几乎全部是文献综述的引用，并没有人用我们的标准去重复试验。而且因为这个技术比较小众，使用的范围比较小，我们也不知道最后别人是否在用我们的标准，是不是效果也很好。
那么我们回到AI的诊断试验上来，第一个需要担心的就是“模拟考”的问题。我们都知道当前的生成式AI，也叫大语言模型前期需要很多数据和资料来进行训练。研究AI问题的专家发现，很多验证预测式AI准确度的研究所用的检测样本，和他们之前用来训练AI的样本存在重复和相似性。这就像用模拟考的试题来做考试，自然成绩就好很多。但如果考试真题和模拟考试题内容相差很大，成绩就会大跌。
一些复杂病例的AI诊断也有这个问题，这里面包含很多罕见病的诊断。喂给医疗大语言模型做训练的资料大多是来自发表的病历报告，和一些医院的讨论资料。医生诊断罕见病受个人和团队经验的影响很大，没有见过，听过和读过的诊断就很难想到，但这对于大语言模型来说不存在问题。虽然很多大语言模型公司都声称不会存储任何学习资料，但已经有研究表明大语言模型实际上只是把资料重新编码以后存储。比如让AI画一个蒙娜丽莎的微笑，它会又快又好的完成绘制。虽然专业画家也可以靠记忆画出来，但速度绝对比不上AI。从某种程度上来说，大语言模型诊断复杂病例相比人类医生就是作弊。
如果要测验一个模型的可靠性，必须确保测试的样本和学习的材料不重复。最好的方法是做前瞻性的研究，也就是用新的没有记录的实际病例来验证，也就是现实临床场景中的临床试验。因为伦理的原因，目前还不可能让AI直接独立接诊病人。那么类似的试验还是只能将采集到的病历输入给AI做模拟诊断，然后由医生把关。但采集过的病历资料本身就已经含有了医生的思考和劳动，AI实际上是顺着医生的工作轨迹和思路继续工作。不管结果怎样，都不代表AI的真实水平。
假如真的有一天，在伦理审核通过后（有比较坚实的数据证实AI诊断的安全性，病人知情同意参与试验），AI从病史采集到临床诊断都能够媲美甚至超过医生，那么是不是就意味着医生真的要被替代了呢？这就再回到我本人经历的临床研究上，答案是还不能。因为一个医院，一个团队的研究会受到利益的影响，有意识的作出很好的结果。究竟是不是真好，还要经过其他团队的验证，以及在实践中进一步检验。
总之，AI诊断涉及到临床，那就要按照临床试验的标准和流程来，不能因为它时髦，又有权力资本变现的巨大压力，就特殊对待。没有经过临床试验的严格检验，仅凭宣传和游说就冒进的推广，很可能带来无法预测的灾难。
2026/7/14
