乐于分享
好东西不私藏

欧盟发布AI高风险分类指南

欧盟发布AI高风险分类指南

想要链接仙八个人微信以及加入仙八AI+PV微信群,欢迎手动搜索:AIPVer。添加时,请备注来由。

5月19日,欧盟委员会发布了《欧盟人工智能法案》高风险AI系统分类草案指南,正式开放公众反馈,征集截止日期:2026年6月23日。

这份草案指南有多长?含附录超过了400页。

仙八把其中和药物警戒、医疗AI最相关的部分介绍下。

先说背景:这份指南解决什么问题

《欧盟人工智能法案》(EU AI Act)于2024年8月1日正式生效,但"分类"问题一直是实操难点。

一个AI系统,到底算不算"高风险"?算了的话,要遵守哪些义务?

这正是草案指南要回答的核心问题。

指南依据《AI法案》第6条,把高风险AI分成两类路径,逐一给出解读标准和实际案例。

高风险AI的两条认定路径

路径一:产品安全组件路径(第6(1)条)

如果一个AI系统:

  • • 是某个欧盟协调立法覆盖的"受监管产品"本身,或者是该产品的安全组件
  • • 且该产品需要接受第三方合规认证

两个条件同时满足,这个AI系统就属于高风险。

附件I列出的受监管产品包括:机械设备、玩具、电梯、压力设备、无线电设备、医疗器械、体外诊断医疗器械,以及汽车、航空等行业产品。

注意:医疗器械(MDR/IVDR)明确在列。

什么叫"安全组件"?指南给出了两种判断标准:

第一种:意图标准。如果AI系统的预期用途,是预防或减轻对人身或财产安全的风险,它就是安全组件。比如一套AI视觉系统,预期用途是检测手术机器人附近的人员并触发安全停止指令,这就是安全组件。

第二种:后果标准。即便供应商没有把它定位成安全功能,但如果这个系统一旦故障或失效,就会危及人身健康或财产安全,它依然算安全组件。比如一套电梯AI门控系统,供应商的原始意图是优化运营效率,但如果系统失效可能导致夹人,它仍然被认定为安全组件。

哪些功能不算安全功能?

指南说得很清楚:

  • • 性能优化(提升效率、节能)
  • • 服务自动化(账单处理、客户流程优化)
  • • 非安全相关的质量控制

只要失效后不直接危及人身或财产安全,就不算安全功能,不走这条路径。

路径二:附件III用例路径(第6(2)条)

附件III列出了8个高风险应用领域:

  1. 1. 生物特征识别
  2. 2. 关键基础设施
  3. 3. 教育与职业培训
  4. 4. 就业与劳动管理
  5. 5. 基本公共服务与私人服务
  6. 6. 执法
  7. 7. 移民、庇护与边境管理
  8. 8. 司法与民主进程

注意到了吗?附件III里没有"药物安全"这个领域,也没有明确的"药物警戒"用例。

但这不代表PV相关AI完全不受影响。在第5类"基本服务"中,"紧急医疗分诊系统"被明确列为高风险用例。AI辅助紧急救治优先级排序,落在这里。

企业最关心的:高风险认定之后要做什么

一旦AI系统被认定为高风险,供应商和使用方需要满足一系列义务,包括:

  • • 建立并维护风险管理体系
  • • 建立数据治理规范
  • • 提供完整的技术文档
  • • 实施透明度和信息提供要求
  • • 建立人工监督机制
  • • 确保系统的准确性、稳健性和网络安全

对于医疗器械(MDR/IVDR)相关企业,指南特别给了一个减负机制:AI合规要求可以整合进已有的MDR/IVDR质量管理体系,不必另起炉灶重建一套。

重要的"过滤器"机制:可能不是高风险

《AI法案》第6(3)条设置了一个"过滤器":即便一个AI系统在用途上落入附件III的某个用例,只要它符合以下任意一个条件,可以申请豁免高风险分类:

  • • 仅执行窄范围的程序性任务(比如:把非结构化数据转为结构化数据、对文件进行分类归档、检测重复项)
  • • 仅用于改善已完成的人工活动的结果
  • • 用于检测决策模式或偏差,但不替代或影响原有的人工评估
  • • 仅执行评估的前置准备性任务

这个机制对PV AI工具的实践意义很大。

举个例子:一个用于案例进件的AI工具,如果它的功能只是把PDF格式的SAE报告转换为结构化数据字段,它很可能符合第一条(窄范围程序性任务),可以申请豁免高风险分类。

但如果这个工具同时还在做因果关系评估建议、严重性分级推荐,那就可能超出"程序性任务"范围,需要认真评估是否构成高风险。

关键原则:功能边界决定分类结果。

时间线

根据《AI法案》和最新的AI Omnibus修订:

  • • 附件III相关的高风险义务:原定2026年8月2日起执行,现已延期至2027年12月2日
  • • 附件I相关的高风险义务(医疗器械等产品路径):原定2027年8月2日,延期至2028年8月2日
  • • 政府采购的高风险AI系统:最终合规期限为2030年8月2日

延期了,但合规准备不该推迟。

分类认定工作现在就要做,因为分类结论会影响后续所有合规动作的节奏。

草案还在征询意见,你可以参与

欧盟委员会的利益相关方反馈征集,截止日期是2026年6月23日。

如果你或你的公司在欧盟市场有AI产品或AI部署,这是一个影响最终指南内容的机会,建议认真对待。

Takeaways

第一,EU AI Act高风险分类的核心逻辑是两条路径:产品安全组件路径(附件I)和用例路径(附件III)。医疗器械明确在附件I里。

第二,"安全组件"的认定同时看意图和后果,不是只看供应商说这个系统是干什么的。

第三,附件III没有单独列出药物安全领域,但PV团队使用的AI工具可能通过功能与其他高风险用例产生交叉。

第四,第6(3)条过滤器机制很重要,执行窄范围程序性任务的AI工具可能豁免高风险分类,但边界需要认真评估。

第五,高风险义务的生效时间已经延期,但分类评估工作不应该等到最后一刻。

第六,医疗器械公司可以把AI合规整合进现有MDR/IVDR体系,这是指南给出的明确减负信号。

第七,截止6月23日,利益相关方可以向欧委会提交反馈意见。

我是仙八,觉得文章对您有帮助的,别忘了点赞👍、在看👀、分享↗️,让更多PV同道受益。您的支持,就是前进的动力!需要更快速地增进PV技能、了解前沿PV资讯/资料,一天不到一块钱,就可以加入仙八AI VIP陪伴群。仙八现在也接1-1付费咨询,欢迎联系。

相关学习资料