欧盟AI法案如何划定高风险AI：教育评分、招聘筛选、信用评分和签证审查都在列

欧盟《人工智能法》（Regulation (EU) 2024/1689）是首个全面的人工智能法律框架。该法按风险将AI系统分为四类：不可接受风险、高风险、透明风险、最小或无风险。

禁止做法与生效时间

来源列出的九类禁止做法中，在公共可进入空间为执法目的使用实时远程生物识别被列为第8项；生成非自愿性露骨内容或儿童性虐待材料（CSAM）的AI系统被列为第9项。禁令第1至第8项于2025年2月生效；第9项于2026年12月生效，并作为AI Omnibus的一部分引入。

高风险边界

高风险AI指可能对健康、安全或基本权利构成严重风险的用例。来源列出的高风险用例包括：

• 教育机构中可能决定入学或职业路径的AI，例如考试评分；
• 就业、员工管理和自雇准入工具，例如招聘简历排序软件；
• 用于获得基本私人或公共服务的AI，例如可能使个人无法获得贷款的信用评分；
• 关键基础设施中的AI安全组件；
• 产品安全组件，例如机器人辅助手术中的AI；
• 用于远程生物识别、情感识别和生物特征分类的AI；
• 执法中可能影响基本权利的用途；
• 移民、庇护和边境管理中的用途，例如签证申请自动审查；
• 司法和民主程序中的AI解决方案。

高风险系统需要满足的义务

高风险AI系统在进入市场前需要满足：

• 适当的风险评估和缓解机制；
• 使用高质量数据集，降低歧视性结果风险；
• 记录活动，保证结果可追溯；
• 提供详细文档，便于主管部门评估合规；
• 向部署方提供清晰、充分的信息；
• 设置适当的人类监督措施；
• 保持高水平的稳健性、网络安全和准确性。

这些义务自2027年12月2日起适用于高风险AI系统。

透明风险规则

透明规则涉及信息披露义务。例如，用户使用聊天机器人时应被告知正在与机器互动；生成式AI提供方应确保AI生成内容可识别；深度伪造和用于向公众传递公共信息的文本应明显标注。透明规则于2026年8月生效。

通用AI模型规则

通用AI模型规则于2025年8月生效。对可能带来系统性风险的通用AI模型，提供方应评估并缓解风险。2025年7月，欧盟委员会发布了三项工具：通用AI模型义务范围指南、通用AI行为准则，以及通用AI模型训练内容公开摘要模板。

治理和执行

从2026年8月2日起，AI办公室和成员国监管机构负责实施、监督和执法。AI办公室对通用AI模型拥有执法权，可要求提供技术文档、评估模型、要求纠正措施并处以罚款。AI董事会、科学小组和咨询论坛参与治理。2026年7月的网络安全与AI行动计划提出了协调做法；欧盟委员会还将启动提高模型评估能力的行动，预计到2027年投入运行，以加强第三方评估。

最小或无风险

AI法案不对最小或无风险AI引入规则。来源举例包括AI视频游戏和垃圾邮件过滤器。

需要继续观察的变量

来源没有给出各高风险场景的具体技术标准。从义务清单可以推断，教育、招聘、信贷、签证等场景的系统可能需要在开发阶段嵌入风险管理、文档和人工复核，但这是推断。后续还需要观察高风险义务实施细则，尤其是“高质量数据集”和“适当人类监督”在不同行业的具体含义；成员国监管机构的执法尺度是否一致；以及AI办公室对通用AI模型的执法如何影响上游供应链。以上均属于基于现有时间表的推断。

资料来源：欧盟人工智能法框架