ARTICLE · 994328
AI帮忙看CT,出了错该由谁负责?
栏目：七日光年·周一速递
摘要：AI已经能在CT、磁共振等影像中快速寻找异常线索。但它更像一位速度很快的助手，而不是可以独立作决定的医生。近日发布的新指引明确：医疗决定不能交给算法，责任也不能推给机器。
欢迎来到今天的七日光年。
在医院影像科，一名医生打开一组CT图像。
过去，医生需要一张张查看。如今，屏幕上可能会先出现几个由AI标出的方框，提醒医生：
“这里值得重点看看。”
AI可以在很短时间内处理大量图像，寻找容易被忽略的细微变化。于是，一个普通人非常关心的问题出现了：
如果AI看错了，应该由谁负责？
是医生、医院、开发AI的企业，还是“算法自己”？
最近发布的《人工智能医学影像研究伦理指引》，给出了一条非常明确的原则：
AI只能辅助，最终的诊断和治疗决定必须由医生作出。
一、AI究竟是怎么看CT的？
我们可以把医学影像AI理解成一名看过大量练习题的助手。
在训练阶段，研究人员会给它提供许多经过标注的医学影像：
哪些位置存在某种影像特征，哪些属于正常表现，哪些容易被混淆。
算法反复比较这些图像，逐渐学会寻找规律。
当一张新的影像出现时，它会把新图像和过去学到的规律进行比较，然后给出提示：
这里可能需要关注；
这片区域和某类特征比较相似；
这个位置的大小或形状发生了变化。
因此，AI擅长的往往是快速寻找、测量、比较和分类。
这有点像机场安检设备。
设备可以迅速从大量行李图像中标出可疑区域，但最终还需要工作人员结合现场情况作出判断。
二、AI看得快，为什么不能直接代替医生？
因为医学判断并不是简单的“看图猜答案”。
一张CT或磁共振影像，只是患者信息的一部分。医生还需要结合年龄、症状、检查结果、既往情况以及影像变化，才能综合判断。
而AI看到的，通常只是被交给它的那部分数据。
如果把一辆汽车的轮胎照片交给维修程序，它也许能发现轮胎磨损，却不知道汽车刚刚出现了方向盘抖动。
医学影像AI同样存在这个问题：
它可能很擅长观察局部，却不一定了解患者的全部情况。
更重要的是，AI的回答本质上是根据数据计算出来的结果。它可以发现某些相似规律，却不等于真正理解疾病和患者。
三、AI为什么也会看错？
第一种原因，是它学过的“练习题”不够全面。
假如训练数据主要来自某个年龄段，换成儿童、老年人或者罕见情况，准确性就可能下降。
第二种原因，是医院之间存在差别。
不同医院使用的设备、拍摄参数和图像质量可能不同。一套算法在甲医院表现很好，搬到乙医院后，不一定还能保持同样水平。
这就像一个人只熟悉普通话语音，突然让他识别带有浓重地方口音的录音，出错概率可能上升。
第三种原因，是AI可能学错了规律。
假如某批训练图像中，某类病例恰好都来自同一种设备，算法可能错误地记住设备留下的图像特点，而不是疾病本身的特征。
第四种原因，是模型会发生“性能漂移”。
医院设备更新了，患者人群改变了，数据和以前不一样了，原来表现良好的算法也可能逐渐变得不准确。
因此，一个AI通过实验测试，并不意味着它以后永远不需要检查。
四、出了错，能不能说“这是AI决定的”？
不能。
新指引提出，必须坚持人是技术设计、部署和应用的最终责任主体。
简单地说，AI没有法律身份，也不会自己承担责任。不能在发生问题后，把责任推给一句“算法就是这样判断的”。
但这也不意味着所有责任都应由最后点击确认的医生一个人承担。
一套医学影像AI从研发到使用，涉及许多参与者：
研究人员负责设计和验证算法；
科技企业负责产品的性能与安全；
医疗机构负责选择合适的系统并规范使用；
医生负责结合患者情况进行复核和判断；
相关部门负责审查、监管和制定规则。
因此，真正需要建立的是一条可以追溯的责任链。
系统使用了什么版本？
依据什么数据给出提示？
医生是否进行了复核？
发现异常后是否及时处理？
只有记录完整，出现问题时才有可能查明原因。
五、为什么医学影像数据特别需要保护？
一张医学影像不只是普通照片。
它可能包含姓名、检查时间、设备编号等信息，也可能反映一个人的身体状况。
如果大量影像被用来训练AI，就必须回答几个问题：
这些数据从哪里获得？
患者是否知情？
数据有没有进行脱敏？
谁可以查看和使用？
研究结束后如何保存或者销毁？
新指引要求对影像数据从采集、传输、存储、分析、共享到销毁进行全过程管理，还应建立授权和撤回机制。
即使影像已经去掉姓名，也不能掉以轻心。因为一旦和其他信息重新组合，仍可能暴露个人身份。
六、AI会不会对不同人区别对待？
有这种风险。
如果训练数据中某些人群数量太少，AI对他们的判断可能不够可靠。
例如，儿童、老年人和罕见病患者的影像数据通常不像常见病例那么丰富。如果直接使用一套覆盖不足的模型，可能出现明显偏差。
所以，评价一个医学影像AI，不能只看一个漂亮的“平均准确率”。
还要看它在不同年龄、不同人群、不同医院和不同设备上是否稳定。
这就像一辆汽车不能只在晴天、平路上测试，还要经过雨天、夜间和复杂道路的考验。
七、这份指引会给普通人带来什么？
它并不意味着AI可以从今天开始独立诊断，也不是具体医疗纠纷的判责条款。
它主要为相关科研机构和科研人员开展研究提供伦理参考，推动研发过程更加规范。
对普通人来说，最重要的变化方向有三个。
第一，医疗决定必须由人掌握。
AI可以提供线索，但不能悄悄成为最后拍板的人。
第二，患者有权知道AI扮演了什么角色。
新指引强调，应让患者了解相关技术的作用、潜在风险和局限。
第三，个人影像数据不能被随意拿去训练模型。
数据的获取、使用和共享都应有明确规则，并接受伦理审查。
八、AI的真正价值不是代替医生
医学影像每天会产生大量图片，医生的工作量很大。
AI可以先进行快速筛查，帮助标记需要优先关注的图像，也可以完成测量、比较等重复性工作。
在影像医生较少的地区，它还有可能帮助提高工作效率，让有限的专业力量服务更多人。
但它最合理的位置，依然是助手。
一个好的医学AI，不是让医生退出屏幕前，而是让医生更快地发现重点，把更多时间用于综合判断和与患者沟通。
写在最后
AI看医学影像，很像导航软件帮助司机开车。
导航可以计算路线、提醒拥堵，甚至提前告诉你哪里需要转弯。
但它不了解道路上的所有突发情况，也不能替司机承担驾驶责任。
医学影像AI也是如此。
它可以看得很快，找到许多人眼难以迅速发现的规律；但它的结果仍然需要医生核查，使用过程仍然需要医院管理，系统性能仍然需要企业和研究人员持续负责。
技术越先进，越不能让责任变得模糊。
真正值得期待的，不是“AI取代医生”，而是AI与医生各自发挥优势，让医学影像检查变得更高效、更可靠，也更尊重每一位患者。
七日一程，光年可至。这里是《七日光年》，每天一篇，陪你走向明天。
参考资料
国家科技伦理委员会医学伦理分委员会：《人工智能医学影像研究伦理指引》，2026年8月 科技日报：《推动人工智能医学影像负责任创新》，2026年8月28日 世界卫生组织：《卫生健康领域人工智能伦理与治理指南》，2021年