Q&A: AI在GMP车间的合规红线——欧盟Annex 22草案说了什么,FDA怎么看,企业怎么落地01生成式AI在GMP关键决策中被明确排除？为什么？小轩：谢老师，我最近翻到一篇报道，说欧盟出了个Annex 22草案，是全世界第一份制药GMP的AI专项法规。但有一句话让我特别意外——生成式AI和持续学习模型被明确排除在关键应用之外。现在到处都在谈大模型落地，为什么欧盟反而要禁？谢老师：这个问题问得非常准。不是欧洲人保守，是他们分清了“辅助工具”和“决策工具”的区别。生成式AI的本质特征是概率输出——同样的问题问两次，它可能给你两个不同的答案。一个批次该不该放行，今天答案是“放”，明天同一批数据变成“不放”，这在GMP环境下是绝对不允许的。小轩：所以在药厂做GMP关键决策，能用的一定是“死”模型？谢老师：对。在欧盟GMP框架下做关键质量决策，必须用静态确定性模型——给定相同输入，永远输出相同结果。Annex 22草案的适用范围明确没有覆盖有概率输出的AI系统，这不是技术能力问题，是输出可预测性的底线问题。02FDA和EMA在AI监管上有什么不同？小轩：那FDA呢？我听说FDA也有一份AI支持监管决策的指南草案？谢老师：2025年1月，FDA发布了《使用人工智能支持药品和生物制品监管决策的考虑因素》指南草案。这份文件的核心不是禁止，是“管住”。它提出了一套基于风险的七步可信度评估框架——先定义AI模型的角色和范围，再基于模型影响和后果评估风险等级，接着制定和执行可信度评估计划，最后判断模型对特定用途是否适用。小轩：也就是说两者的监管逻辑不一样？谢老师：不一样的底层逻辑。EMA倾向于从源头筛选，只允许确定性模型进关键决策。FDA倾向于用验证框架来管，不管你是哪种模型，只要你能证明你是可靠的、可解释的、可追溯的，特定场景下就认。一个卡入口，一个管过程。03FDA和EMA联合发布十项原则，说明什么？小轩：那2026年1月FDA和EMA联合发布的“十项基本原则”又是怎么回事？这算是一个里程碑信号吧？谢老师：是的。2026年1月，FDA和EMA共同发布了《药品开发优良人工智能实务指导原则》，提出了十项跨大西洋对齐的原则——包括采取基于风险的全生命周期方法、明确界定使用情境、强化数据治理与文件化，以及落实技术生命周期管理。这份文件最重要的意义是告诉行业——这不再是单个监管机构的技术性探讨，而是后面监管政策走向的风向标。两家最大的监管机构，在AI如何合规这件事上，第一次说好了要往同一个方向使劲。04从准入到验证：分级管控已成共识小轩：那药企该如何根据AI的风险等级制定验证策略？谢老师：这正是Annex 22草案最实操的部分。关键定义是“关键性”。如果AI直接影响产品放行、质量控制或放行测试，就属于关键GMP应用，必须用静态确定性模型，强制人工审核，测试数据必须独立于训练数据。非关键应用则可以更灵活，允许用生成式AI辅助，但强制人机回圈机制。小轩：AI系统的生命周期管理和传统软件到底有什么本质不同？谢老师：传统软件一次验证管用好几年，但AI模型有一个传统软件没有的东西——漂移。数据变了，AI的输出可能就变了。你不是在上线那一刻验证完就结束的，你必须持续监控模型性能，必须有明确的阈值和重新验证触发条件。FDA的十项原则和Annex 22草案都指向同一个方向——AI管理不再是“一次性验证”，而是贯穿设计、开发、部署到退役的持续管理链条。05可追溯、可解释、可验证：AI合规的三根柱子小轩：还有一个实操问题——审计追踪。传统CSV时代我们追踪的是“谁、何时、做了什么”。可是AI系统自己就在做决策，该怎么审？审计官会要求看模型代码吗？谢老师：这一点上监管机构和企业其实都挺清醒的。看代码不是现实方案。那用什么替代？用“输入-输出-版本”的追踪。根据GAMP AI指南的建议和EMA对首款AI病理工具的审评实践，审计追踪应该包含三样东西——AI推理的输入数据、输出的结果、使用的模型版本及对应的性能指标。每次模型推理都应该被记录，版本要锁定，输出的置信度也要记录。要能追溯到，这个决策是基于哪个版本的模型、哪一批数据。审计官不是要你解释算法原理，是要你能证明全过程可控、可回溯。小轩：那“可解释性”到底怎么落地？检查官会不会要求我们把AI的决策逻辑掰开讲清楚？谢老师：可解释性在AI监管里不是非黑即白，要跟风险挂钩。用通俗的语言向检查官说明AI的局限性、依赖的数据和模型对特定场景的适用性。2026年FDA与EMA联合发布的十项原则概括为提供“清楚且必要的资讯揭露”——不是要求你当技术专家，而是要求信息公开透明。06概率AI被排除，真的是堵路吗？小轩：最后一个问题。Annex 22草案把概率输出AI排除在适用范围之外，这条红线会不会扼杀创新？谢老师：一个很尖锐的矛盾是——概率AI和人类分析师的判断逻辑在本质上其实很像。人的判断也不是绝对确定性的，但监管机构对人的要求是“资质确认”，对AI却要求“输出可重复”。这公平吗？不一定。但作为合规底线，它目前就是红线。关键在于找到平衡点——能够发挥概率AI的分析优势，同时又确保关键决策环节的确定性。不是堵路，是划车道。07一点小结小轩：今天聊下来，脉络清晰了很多。关键决策只能用静态确定性模型；生成式AI在非关键场景可用但必须人工审核；FDA用可信度评估框架，EMA倾向于按风险分级；AI系统验证不是一次性，而是持续监控整个生命周期。谢老师：总结得很到位。无论在哪个监管体系下，核心原则都回归到那四个字——可信、可控。把这两点做实了，AI就是GMP的加速器，不是合规的定时炸弹。
夜雨聆风
