想要链接仙八个人微信以及加入仙八AI+PV微信群,欢迎手动搜索:AIPVer。添加时,请备注来由。
5月19日,欧盟委员会发布了《欧盟人工智能法案》高风险AI系统分类草案指南,正式开放公众反馈,征集截止日期:2026年6月23日。

这份草案指南有多长?含附录超过了400页。
仙八把其中和药物警戒、医疗AI最相关的部分介绍下。
先说背景:这份指南解决什么问题
《欧盟人工智能法案》(EU AI Act)于2024年8月1日正式生效,但"分类"问题一直是实操难点。
一个AI系统,到底算不算"高风险"?算了的话,要遵守哪些义务?
这正是草案指南要回答的核心问题。
指南依据《AI法案》第6条,把高风险AI分成两类路径,逐一给出解读标准和实际案例。
高风险AI的两条认定路径
路径一:产品安全组件路径(第6(1)条)
如果一个AI系统:
• 是某个欧盟协调立法覆盖的"受监管产品"本身,或者是该产品的安全组件 • 且该产品需要接受第三方合规认证
两个条件同时满足,这个AI系统就属于高风险。
附件I列出的受监管产品包括:机械设备、玩具、电梯、压力设备、无线电设备、医疗器械、体外诊断医疗器械,以及汽车、航空等行业产品。
注意:医疗器械(MDR/IVDR)明确在列。
什么叫"安全组件"?指南给出了两种判断标准:
第一种:意图标准。如果AI系统的预期用途,是预防或减轻对人身或财产安全的风险,它就是安全组件。比如一套AI视觉系统,预期用途是检测手术机器人附近的人员并触发安全停止指令,这就是安全组件。
第二种:后果标准。即便供应商没有把它定位成安全功能,但如果这个系统一旦故障或失效,就会危及人身健康或财产安全,它依然算安全组件。比如一套电梯AI门控系统,供应商的原始意图是优化运营效率,但如果系统失效可能导致夹人,它仍然被认定为安全组件。
哪些功能不算安全功能?
指南说得很清楚:
• 性能优化(提升效率、节能) • 服务自动化(账单处理、客户流程优化) • 非安全相关的质量控制
只要失效后不直接危及人身或财产安全,就不算安全功能,不走这条路径。
路径二:附件III用例路径(第6(2)条)
附件III列出了8个高风险应用领域:
1. 生物特征识别 2. 关键基础设施 3. 教育与职业培训 4. 就业与劳动管理 5. 基本公共服务与私人服务 6. 执法 7. 移民、庇护与边境管理 8. 司法与民主进程
注意到了吗?附件III里没有"药物安全"这个领域,也没有明确的"药物警戒"用例。
但这不代表PV相关AI完全不受影响。在第5类"基本服务"中,"紧急医疗分诊系统"被明确列为高风险用例。AI辅助紧急救治优先级排序,落在这里。
企业最关心的:高风险认定之后要做什么
一旦AI系统被认定为高风险,供应商和使用方需要满足一系列义务,包括:
• 建立并维护风险管理体系 • 建立数据治理规范 • 提供完整的技术文档 • 实施透明度和信息提供要求 • 建立人工监督机制 • 确保系统的准确性、稳健性和网络安全
对于医疗器械(MDR/IVDR)相关企业,指南特别给了一个减负机制:AI合规要求可以整合进已有的MDR/IVDR质量管理体系,不必另起炉灶重建一套。
重要的"过滤器"机制:可能不是高风险
《AI法案》第6(3)条设置了一个"过滤器":即便一个AI系统在用途上落入附件III的某个用例,只要它符合以下任意一个条件,可以申请豁免高风险分类:
• 仅执行窄范围的程序性任务(比如:把非结构化数据转为结构化数据、对文件进行分类归档、检测重复项) • 仅用于改善已完成的人工活动的结果 • 用于检测决策模式或偏差,但不替代或影响原有的人工评估 • 仅执行评估的前置准备性任务
这个机制对PV AI工具的实践意义很大。
举个例子:一个用于案例进件的AI工具,如果它的功能只是把PDF格式的SAE报告转换为结构化数据字段,它很可能符合第一条(窄范围程序性任务),可以申请豁免高风险分类。
但如果这个工具同时还在做因果关系评估建议、严重性分级推荐,那就可能超出"程序性任务"范围,需要认真评估是否构成高风险。
关键原则:功能边界决定分类结果。
时间线
根据《AI法案》和最新的AI Omnibus修订:
• 附件III相关的高风险义务:原定2026年8月2日起执行,现已延期至2027年12月2日 • 附件I相关的高风险义务(医疗器械等产品路径):原定2027年8月2日,延期至2028年8月2日 • 政府采购的高风险AI系统:最终合规期限为2030年8月2日
延期了,但合规准备不该推迟。
分类认定工作现在就要做,因为分类结论会影响后续所有合规动作的节奏。
草案还在征询意见,你可以参与
欧盟委员会的利益相关方反馈征集,截止日期是2026年6月23日。
如果你或你的公司在欧盟市场有AI产品或AI部署,这是一个影响最终指南内容的机会,建议认真对待。
Takeaways
第一,EU AI Act高风险分类的核心逻辑是两条路径:产品安全组件路径(附件I)和用例路径(附件III)。医疗器械明确在附件I里。
第二,"安全组件"的认定同时看意图和后果,不是只看供应商说这个系统是干什么的。
第三,附件III没有单独列出药物安全领域,但PV团队使用的AI工具可能通过功能与其他高风险用例产生交叉。
第四,第6(3)条过滤器机制很重要,执行窄范围程序性任务的AI工具可能豁免高风险分类,但边界需要认真评估。
第五,高风险义务的生效时间已经延期,但分类评估工作不应该等到最后一刻。
第六,医疗器械公司可以把AI合规整合进现有MDR/IVDR体系,这是指南给出的明确减负信号。
第七,截止6月23日,利益相关方可以向欧委会提交反馈意见。
夜雨聆风