FDA讨论生成式AI医疗器械:一次准确率不再够用

传统软件可以列出有限输入，再验证固定输出；生成式AI医疗器械却可能接受开放问题、连续对话和多模态数据，对相似输入给出不同表达，还会随着底层模型、提示、检索、护栏和编排发生变化。一次测试集上的高准确率，很难代表它在真实临床轨迹中的全部行为。

2026年8月18日，美国FDA发布生成式AI医疗器械监管考量讨论稿，征求风险评估、上市前评价和上市后监测等意见。文件明确声明：它不是草案或最终指南，也不提出新的监管要求。企业不能把其中设想当成已经生效的合规清单；更值得关注的是，监管讨论正在把“模型好不好”转换为“最终器械在特定用途里能否持续安全工作”。研发团队现在要准备的，不是一张更高的模型榜单，而是一套可解释的产品级证据。

讨论稿强调，FDA监管的是符合医疗器械定义的产品及其软件功能，不是抽象的生成式AI技术。基础模型只是组件，真正面对患者或医护人员的界面、检索、规则、工具和工作流共同决定风险。把基础模型评测成绩直接当成器械性能，是最先需要拆掉的误区。

FDA提出一个可能的双轴启发框架：横轴是器械活动的程度与独立性，纵轴是依赖错误输出可能造成的伤害严重度。提供一般信息、强烈建议采取行动、在医护监督下执行、完全自主采取动作，位置不同；错误推荐非处方药与错误调整胰岛素剂量，后果也不同。风险不是由“用了生成式AI”单独决定，而由动作与后果共同决定。

这意味着产品需求不能只写“生成问答”或“辅助决策”。团队要明确每项功能是否仅展示信息、是否把用户推向特定行动、是否直接下诊断或发起医嘱、谁能拦截、动作是否可逆。相同文本在专业医生界面与患者自助界面中，也可能产生不同风险，因为使用者独立识别错误的能力不同。功能说明要写到“谁在何时依赖它做什么决定”。

讨论稿还指出，“非指令”到“指令”不是二元开关。对话可能从解释常识逐步走到具体剂量建议；一句“请咨询医生”并不会自动消除前面强烈行动建议的影响。多轮产品必须评估完整对话轨迹，而不是逐句抽样。

护理升级同样有两个错误方向：升级不足可能延误治疗，过度升级则可能制造焦虑、无必要检查、急诊资源负担和信任损耗。企业需要按具体临床场景定义两类错误的代价，不能把它们压成一个平均准确率。

面对几乎无法穷尽的输入与输出空间，FDA讨论一种受临床人员培养启发的胜任力评价思路。它不是把AI当医生，也不是已经确定的审批制度，而是探索如何在无法遍历每种情况时评价特定用途。文件提出的可能结构包括非临床器械基准测试与临床确认。被评价的对象应是最终用户看到并实际部署的完整器械，而不是孤立基础模型。

非临床阶段应围绕预期用途拆出能力：理解输入、提取关键事实、形成相关输出、遵守禁区、识别不确定性、在需要时升级给人。测试集要覆盖常见病例、边界条件、罕见但高伤害情形、不同人群、对抗输入和工作流中断，并记录失败类型，而不只是给一个总分。每项能力都要有通过阈值、不可接受错误和人工接管条件。

临床确认则观察产品进入真实或逼真工作流后，是否仍按预期工作。医护人员是否正确理解输出、警告会不会被忽略、系统是否改变原有分诊顺序、建议是否诱发自动化依赖，这些都可能是模型离线测试看不到的问题。临床安全取决于人机系统，而不是模型单体。

产品团队还要保存配置基线：底层模型版本、提示、检索来源、护栏、工具调用和界面。任何一项变化都可能改变胜任力边界。只有把评价结果绑定到具体配置，后续升级时才知道哪些证据仍有效、哪些必须重做。

评价数据本身也要有来路。团队应记录病例选择、标注者资质、参考标准、排除条件和人群覆盖，并把结果按高风险场景与关键亚组拆开查看。总体平均分可能掩盖少数但严重的失败。

FDA此前就AI医疗器械真实世界表现征求意见，关注输入输出变化、性能漂移、临床流程和用户行为。生成式AI器械尤其容易受到指南更新、患者结构变化、记录习惯、基础模型替换和检索库更新影响。上市前通过只证明某个版本在某组条件下可接受，不代表产品永久稳定。

监测设计应从风险场景倒推指标。除了整体准确性，还可追踪高风险意图识别、升级不足与过度升级、关键禁区触发、无来源陈述、重复询问后行为漂移、不同人群差异、用户覆盖建议的频率和临床不良结果。监测指标必须能触发调查、降级、回滚或暂停，而不是只进入月报。

数据来源可以包括器械日志、电子健康记录、患者报告结果、医护反馈和质量事件，但要处理数据完整性、互操作和隐私边界。抽样复核必须保留原始上下文，因为只看最终一句输出，可能看不见对话如何从一般信息滑向具体行动。对话轨迹、使用者角色和下游动作应进入同一条监测记录。

当监测发现漂移，团队要能定位变化来自模型、提示、检索、用户群还是临床流程，并按预设阈值采取行动。没有版本记录和回滚路径，发现问题也无法迅速止损。

对正在研发的企业，最实用的起点不是等待监管答案，而是选择一个范围窄、责任清楚、可观察结果的功能。先说明预期用途和禁止用途，再画出“提供信息—引导行动—实际执行”的能力边界，列出错误后果与剩余防护。越靠近高后果、不可逆和自主动作，证据强度与人工控制就应越高。

随后建立能力矩阵，把每个临床任务连接到测试场景、阈值、用户角色、接管方式和上市后指标。评测必须覆盖最终器械配置，并由临床、质量、法规、数据和工程团队共同签署。模型升级不能只过技术验收，还要重新确认临床能力是否越界。

组织还应提前设计变更分类：哪些内容更新只需常规验证，哪些会改变预期用途、风险位置或临床行为，必须进入更严格评审。对第三方基础模型，要记录供应商变更通知、不可见依赖和替代方案，避免关键器械能力建立在无法解释的单点变化上。基础模型可外购，产品责任不能外包。

这份讨论稿的评论期截至2026年10月19日。它最重要的启示不是预测FDA最终会采用哪种框架，而是提醒企业：生成式AI医疗器械面对的是开放世界，单次准确率不再足以支撑长期信任。真正的交付物应是范围清楚的能力、与风险相称的证据，以及上线后可持续发现变化的系统。先证明产品在具体任务里会做、不会越界、出错能被接住，再谈扩大自主程度。