医疗AI · 数据偏差与责任

医疗AI可能把尺子当成癌症线索：一份漂亮成绩单，漏了哪两件事？

医院告诉你，一套医疗AI的准确率很高。大多数人接下来会问：它有多准？

两项新近研究提醒我们，还应多问两句：它究竟凭什么作出判断？训练它的数据里，有没有像我这样的人？

这两个问题，分别指向医疗AI最容易被平均分遮住的两处风险：捷径学习与人群代表性。

一把出现在皮肤照片里的尺子，可能被模型当成癌症信号；一套越来越多地用于训练AI的细胞图谱，也可能缺少足够的亚洲样本。两者放在一起看，会发现医疗AI的可靠性并不只取决于模型有多先进，还取决于数据怎样采集、谁被记录，以及出错时由谁接住。

Johns Hopkins团队分析过一个皮肤癌影像数据集。照片来自两类机构：一类是服务高风险人群的癌症诊所，另一类是癌症病例较少的普通皮肤科诊所。

两类机构使用的影像系统质量不同。癌症诊所为了追踪皮肤病灶的大小，还更常把尺子放进照片里。

对医生来说，尺子只是记录工具，相机质量只是采集条件。对一个以提高预测准确率为目标的模型来说，它们却可能成为非常“好用”的线索：高风险诊所的照片更常对应癌症标签，尺子和某种相机画质也更常出现在这批照片中。

于是，模型可能学会一条省力的路径——看见尺子或某种画质，就提高对癌症的判断概率。

这叫“捷径学习”。模型在测试数据上可能得到漂亮成绩，因为测试集延续了相同的采集规律。换到真实世界，用普通手机拍照，尺子消失、相机变化，那条捷径便可能失效。

这里的“可能”很重要。研究揭示的是数据中存在可被模型利用的潜在线索，并没有证明所有皮肤癌AI都靠尺子判断，更没有证明所有医疗AI都会误判。

研究团队提出的G-AUDIT，就是在训练数据阶段寻找这类风险。它检查任务标签与患者信息、设备、环境和采集方式之间的关系，并对模型可能利用的非临床线索进行排序。

相关论文发表于2026年5月29日的《npj Digital Medicine》。期刊页面注明，目前公开的是未经最终编辑的版本，后续仍可能修订。Johns Hopkins在7月20日发布研究传播说明，尺子与相机案例因此再次进入公众视野。

同在7月20日，Mount Sinai牵头团队在《Cell Genomics》发表了对三套大型单细胞图谱资源的分析，涉及超过13,500份样本。

单细胞图谱可以理解为一张高精度的人体细胞地图。它们正在被用于生物标志物研究、精准医学，也越来越多地成为AI训练材料。

研究发现，在Human Cell Atlas中，接近70%的样本没有记录祖源信息。在有记录的样本里，欧洲祖源人群明显过度代表，亚洲与拉丁裔人群代表不足。其他两套资源也出现了类似的不均衡。

对于北美华人，这不是一个遥远的数据伦理话题。

当某类人群在训练资源中太少，机构便很难判断模型在这一人群上的表现是否同样稳定。更棘手的是，如果大量样本连祖源信息都没有，研究人员甚至难以完成可靠的分组比较。

这项研究也有清楚的限制。它使用的是公共数据集中已经报告的祖源、种族和族裔信息，并非对每一份样本直接测定遗传祖源。“亚洲人”本身也是非常宽泛的分类，无法涵盖不同地区、遗传背景和生活环境的差异。研究检查了三套重要资源，却不能代表所有单细胞数据集。

因此，样本不足是一项需要处理的风险信号。现有证据没有证明某个具体临床模型已经因此误诊亚洲患者。

医疗AI的评估体系长期偏爱一个容易比较的数字：总体准确率。

这符合各方的现实激励。研究团队需要清楚的结果，供应商需要容易展示的性能指标，采购方也希望用一张表快速比较产品。总平均分越简洁，决策看起来越高效。

问题在于，平均分会把多个关键差异压在一起：模型在不同医院是否一样稳定；换一种相机是否仍然有效；对不同年龄、性别或祖源人群，误差是否集中发生；部署半年后，输入数据变化了没有。

模型答对了多少次，与模型为什么答对，是两种证据。前者衡量结果，后者决定它能否离开原来的数据环境。

更稳妥的采购与治理，需要把责任分散到完整链条中。

开发者要说明数据来源、用途边界和已知失效条件；机构要做适合本地人群与场景的外部验证；临床人员要知道何时可以参考、何时必须复核；管理者还要预先设定监测、上报和停用机制。

如果这些问题都留给患者在诊室里临时追问，责任已经放错了位置。

数据存在偏差，并不表示每套医疗AI都不可靠。样本不够均衡，也不会自动转化成临床伤害。

有些模型可以通过外部数据验证、重新校准、限制使用场景和持续监测，降低已知风险。AI也可能帮助医生处理大量影像或发现人眼不容易稳定识别的模式。

关键在于证据是否覆盖了准备服务的人群和现实环境。如果只公布一个总体分数，却不提供分组结果、外部验证和人工责任安排，机构看到的仍是一份不完整的成绩单。

北美医疗体系服务着高度多元的人群。对华人家庭而言，合理态度可以很具体：不因为“AI”两个字拒绝一项服务，也不因“准确率很高”就停止追问。

当AI参与筛查、分流或判断时，可以先问：

1. 这次医疗决定中，AI参与了哪一步？
    它提供提示、排序或建议，还是直接影响结论？
2. 最后由谁复核？
    如果AI结果与症状、检查或医生判断不一致，接下来怎样处理？
3. 它是否在和我相近的人群中验证过？
    如果没有足够证据，还有什么人工检查或替代路径？

患者不必读懂算法，也不必要求医生当场解释全部技术细节。这三问的作用，是让一项看不见的自动化决定重新回到可解释、可复核的医疗流程里。

对诊所、健康机构和管理团队，问题需要再往前一步：

1. 用途边界
   ：模型解决什么任务，明确不能用于什么任务？
2. 数据人群
   ：训练和验证数据来自哪里，是否报告年龄、性别、祖源及关键临床分组？
3. 外部验证
   ：离开原医院、设备和采集流程后，性能是否仍然成立？本地人群是否单独验证？
4. 人工与监测
   ：谁复核高风险结果，怎样监测数据漂移、异常和分组性能？
5. 责任与停止条件
   ：出现错误由谁记录、上报和纠正；达到什么条件必须暂停使用？

这五项不会让风险归零，但能把“相信一个分数”变成一套可以检查的治理流程。

这也解释了为什么，CytoWorld在探索AI智能体与北美大健康机构的整合应用时，值得把注意力放在数据、人群、工作流程与责任边界上。通用自动化能力能否进入具体机构，要看每个场景的证据与权限；它不能直接等同于临床能力。

一份医疗AI成绩单是否值得信任，最终要看它能否回答两件事：模型学到了什么，以及它看过谁的数据。

• 看到“高准确率”时，继续寻找分组表现与外部验证。
• 涉及自己或家人的判断时，确认AI参与哪一步、由谁复核。
• 机构引入系统前，留下用途、监测、上报与停用的书面责任链。
• 对“代表性不足”保持警觉，也保留证据边界，不把风险信号写成已经发生的伤害。

1. Detecting dataset bias in medical AI using a generalized and modality agnostic auditing approach｜npj Digital Medicine｜2026-05-29
2. New tool detects hidden bias in medical AI｜Johns Hopkins University｜2026-07-20
3. Single-cell atlases of the human body may not fairly represent global populations｜Mount Sinai｜2026-07-20
4. Are Different Populations Fairly Represented in Single-Cell Omic Atlases?｜Cell Genomics｜2026-07-20

本文为公共信息与研究解读，不构成医疗建议，也不评价任何具体医疗机构或产品。G-AUDIT识别的是潜在捷径风险；单细胞图谱研究识别的是代表性缺口。两项证据均不能单独证明某个临床系统已经造成误诊。G-AUDIT论文有美国FDA相关研究人员参与，但论文页面明确声明其内容不代表FDA政策。加拿大或美国具体机构采用何种医疗AI，须以该机构当次说明为准。

北 美 观 察 家

North America Observer

Focus Hairun Media Ltd. · 北美聚焦海润传媒