AI 安全与合规:欧盟 AI 法案的影响

某家医疗 AI 公司的影像诊断系统准备进欧洲市场，信心满满。欧盟监管机构看了一眼，给出四个字："高风险"——合规审计、数据隐私评估、算法透明度文档、持续监控报告，一套流程下来投入 200 万，以后每年还要再花 50 万审计。他们这才明白：合规成本，是设计阶段该算进去的，不是上线之后才知道的。

写在前面

2024 年 8 月 1 日，欧盟《人工智能法案》（EU AI Act）正式生效。这是全球第一部系统性约束 AI 的立法，覆盖在欧盟使用 AI 的所有企业，包括中国出海公司。

很多企业以为"合规"是法务的事，等到产品准备上线才发现：

合规不是成本，合规是产品设计的一部分。 本篇用真实案例讲清楚：你的 AI 系统到底属于哪个风险等级，以及企业到底该怎么合规。

01｜欧盟 AI 法案的风险分级

欧盟 AI 法案的核心逻辑是**"风险分级、逐级加码"**——不同风险的 AI 系统，义务完全不同。

欧盟 AI 法案风险分级（从高到低）┌─────────────────────────────────────────────────────────────┐│ 第一级：禁止（Unacceptable Risk）— 直接封禁              ││  · 社会信用评分（政府层面）                               ││  · 实时公共空间生物识别（抓捕逃犯除外）                   ││  · 操纵人的弱点让人上瘾的 AI                             ││  · 基于种族/宗教/性取向的歧视系统                        ││  生效时间：2025 年 2 月 2 日                              │├─────────────────────────────────────────────────────────────┤│ 第二级：高风险（High Risk）— 强制合规                    ││  · 就业招聘（简历筛选、绩效评估）                        ││  · 信贷评分、保险定价                                    ││  · 医疗影像诊断、教育评分                                ││  · 执法与司法辅助                                        ││  义务：合规评估 + 技术文档 + 人类监督 + EU 数据库注册    ││  生效时间：2026 年 8 月 2 日（核心条款）                 │├─────────────────────────────────────────────────────────────┤│ 第三级：有限风险（Limited Risk）— 透明度义务             ││  · 聊天机器人：必须告知用户"你正在和 AI 对话"            ││  · 深度伪造（Deepfake）：必须标注"AI 生成内容"            ││  生效时间：2024 年 8 月 1 日起逐步                        │├─────────────────────────────────────────────────────────────┤│ 第四级：最小风险（Minimal Risk）— 无强制义务             ││  · 垃圾邮件过滤、推荐系统等                              ││  · 多数企业日常 AI 工具落在这里                          │└─────────────────────────────────────────────────────────────┘

重点说清楚一件事： 绝大多数企业的 AI 系统（文档处理、客服辅助、数据分析工具）落在最小风险层，不需要强制合规，但仍要遵守通用数据保护条例（GDPR）。

02｜一个真实案例：SCHUFA 信用评分案

欧盟 AI 法案高风险条款最直接的判例，来自德国信用评估机构 SCHUFA。

SCHUFA 是德国最大的信用评级机构，给银行、房东、电信公司提供个人信用分数。这个分数决定了：你能贷多少款、房租能不能租、甚至手机卡能不能开。

2023 年 12 月，欧盟法院（CJEU Case C-634/21）裁定：SCHUFA 的 AI 信用评分系统构成 GDPR 第 22 条下的**"完全自动化个人决策"**——机器直接拍板，人没有实质性参与。

法院判决带来了三项义务[1]：

第一，解释权。 当银行拒绝你的贷款申请，必须告诉你："我们的 AI 给你的信用分是 62 分，主要原因是过去 24 个月有 3 次逾期还款记录。"——不是给一个分数，而是给出人类可以理解的原因。

第二，人工复核权。 如果信用评分对你产生了负面重大影响，你有权要求人工复审，而不是被算法一棒子打死。

第三，数据准确性义务。 AI 使用的每一条数据，都必须有合法依据。

这个案例直接影响所有涉及个人重要决策的 AI 系统：信贷、招聘、保险、医疗诊断、教育评分。一旦被认定为"高风险"，以上三项义务全部适用。

03｜AI 安全三角：隐私·偏见·可解释性

欧盟合规背后，核心在解决三个互相关联的问题：数据隐私、算法偏见、模型可解释性。这三个问题构成 AI 安全的铁三角。

3.1 数据隐私（GDPR）

GDPR 第 22 条不只是保护个人数据的"使用权"，它直接限制了 AI 的决策权[1]。

2018 年 GDPR 正式生效，意大利数据保护机构（Garante）就依据 GDPR 处罚了 OpenAI：ChatGPT 被认定非法使用用户对话数据训练模型，要求整改。法国 CNIL 也对银行贷款风控 AI 因缺乏透明度开出罚单。

GDPR 对 AI 的核心约束：

3.2 算法偏见

算法偏见是 AI 合规里最"暗雷"的部分，因为它往往不是设计者故意的，而是训练数据的历史偏差。

典型案例： 亚马逊曾开发 AI 招聘工具，通过学习历史简历数据训练，结果系统学会了歧视女性——因为过去 10 年进入公司的工程师男性占多数，AI 把"男性"当成了加分项。2018 年亚马逊解散了这个团队。

欧盟 AI 法案要求高风险 AI 系统必须做偏见和公平性测试（Article 10），涵盖受保护特征（性别、年龄、种族、宗教、残障等），并在上市前提交技术文档。

国内视角： 中国企业出海，如果招聘 AI 在欧盟使用，雇主（Deployer）必须在使用前告知员工代表及受影响候选人，且成员国可保留比欧盟标准更严格的补充规定[4]。

3.3 模型可解释性

可解释性（Explainability）是 AI 合规里技术含量最高的部分。

两类方法：[1]

对于大语言模型，常见的解释方式包括：思维链推理（Chain-of-Thought）、检索引用、溯因探针（Counterfactual probes）。

法律层面需要什么？ 欧盟 GDPR 里的"解释权"并没有在法条里出现"right to explanation"这四个字——这是一个被学界和媒体创造的概念[1]。实际法律要求的是：对数据主体产生重大影响的决策，必须能够提供有意义的信息。但"有意义"没有精确定义，形成了三种主流解释：

目前主流实践是中等解释——这对线性模型容易，对大语言模型极难。

04｜医疗 AI：合规成本是设计阶段该算进去的

回到开头的案例。一家医疗 AI 公司准备将 AI 影像诊断系统推向欧洲市场，收到监管机构"高风险"认定后，做了一次成本盘点：

医疗 AI 欧盟合规成本估算（示意）━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━合规评估与文档编写        80 万数据隐私评估（DPIA）      30 万算法透明度文档            20 万人类监督机制设计           20 万首次欧盟数据库注册        10 万初次合规改造合计         ~200 万━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━年度持续监控报告          20 万年度第三方审计            30 万年度合规维护合计         ~50 万/年━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━注：以上为示意性估算，非精确报价。    实际成本因系统复杂度、已有文档完备程度而差异巨大。    来源：参考欧盟 AI Act Article 14 / Article 27 合规要求 [4][1]

这个数字让很多中小医疗 AI 公司打起了退堂鼓。但更残酷的真相是：已有生产系统做回填式合规的成本，是一开始就内建合规的 3 到 8 倍[4]。

换句话说：等产品做完再合规，比一开始就把合规设计进去，贵 3-8 倍。

医疗 AI 合规最核心的两个节点：

05｜中国 AI 监管：走在欧盟前面的那只靴子

欧盟 AI 法案生效，中国也不是旁观者。中国对生成式 AI 的监管框架，走的是另一条路。

中国 AI 监管时间线━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━2022 年 3 月   《互联网信息服务深度合成管理规定》生效               → 要求深度合成内容（AI 换脸、语音合成、AI 写作）               必须显著标注"深度合成内容"               → 年底各大平台开始强制添加水印2023 年 8 月   《生成式人工智能服务管理暂行办法》生效               → 面向公众提供的生成式 AI 服务须备案               → 训练数据须合法，不得含侵犯知识产权内容               → 服务提供者须有内容过滤机制               → 2026 年 8 月配套行为准则草案预计完成2024-2026      《人工智能安全治理框架》持续完善               → 同步跟进欧盟 AI 法案进展               → 推动国内 AI 治理标准与国际接轨━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━来源：参考国家网信办、工业和信息化部政策文件 [4]

中国企业的双重挑战： 中国 AI 公司如果同时服务国内外用户，既要满足中国监管要求（备案、内容审核、数据本地化），又要满足欧盟 AI 法案（透明度、高风险分类、人类监督），两套框架的合规成本需要叠加计算。

06｜企业合规路线图：什么时候该做什么

根据欧盟官方指引[4]，企业合规分为三个阶段：

企业 AI 合规路线图━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━阶段一：D0–30（第一个月）━━━━━━━━━━━━━━━━━━━━━━━━① 盘点：列出公司所有在用 AI 系统（哪怕是内部工具）② 分类：每个系统属于哪个风险等级？   · 招聘/信贷/医疗/司法辅助 → 极高风险   · 聊天机器人/Deepfake 创作 → 有限风险   · 文档处理/数据分析/客服辅助 → 最小风险③ 角色确认：你是 Provider（开发商）还是 Deployer（使用方）？   两者义务不同——同一家公司的同一个 AI，   对外提供是 Provider，自己内部用是 Deployer④ 确认监管时间线：你的高风险系统 2026 年 8 月 2 日前必须合规━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━阶段二：D30–90（第二至三个月）━━━━━━━━━━━━━━━━━━━━━━━━① 起草 AI 治理文档：AI 策略 / 可接受使用政策 / 人类监督规程② 如有高风险系统：启动数据保护影响评估（DPIA）③ 做供应商尽调：问模型供应商要 EU 合规声明、CE 标志、技术文档④ 如使用 GPAI（通用 AI）模型：确认是否超过 10^25 FLOPs 训练算力门槛   → 超过则视为有系统性风险，义务更重⑤ 启动 AI 素养培训：确保使用 AI 的员工了解合规要求━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━阶段三：D90–180（第三至六个月）━━━━━━━━━━━━━━━━━━━━━━━━① 完成高风险系统合规评估② 部署人类监督机制（置信度阈值、人工复核流程）③ 建立事故上报流程（AI 出错时的响应机制）④ 向欧盟数据库（EU Database）注册高风险系统⑤ 完成审计就绪准备（内部或第三方算法审计）━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━来源：参考 EU AI Act Article 14 / Article 27 / 山东商务厅合规指引 [4]

结语｜合规不是终点，是信任的起点

欧盟 AI 法案的本质，不是给 AI 企业加枷锁，而是建立一套市场信任机制。

当消费者知道 AI 在医疗诊断时有医生复核、在信贷审批时能给出解释、在招聘时不会因为性别歧视把人直接过滤掉——他们才会真正接受 AI。

对于中国企业来说，欧盟 AI 法案的合规框架，其实也是内部治理升级的机会：GDPR 合规做好了，数据质量更好；偏见测试做了，模型更公平；可解释性做好了，模型出了故障也更容易排查。

先把合规当产品功能做，而不是当成本中心管。 这是欧盟法案教会整个行业的那句话。

#AI合规#欧盟AI法案#GDPR#AI安全#算法偏见#可解释AI#数据隐私#AI出海

互动设计：

投票：你的公司 AI 系统，目前落在哪个风险等级？ A. 最小风险（无强制义务）——我最轻松 B. 有限风险（聊天机器人/Deepfake）——有点透明度压力 C. 高风险（招聘/信贷/医疗/司法）——正在准备合规 D. 还没盘点过——回去赶紧查

系列互链：

参考来源

[1] GDPR Article 22 与 EU AI Act 双重合规框架，来源：AI safety, data privacy, algorithmic bias, model explainability 相关综述（2025），provider: yuanbao，2026-08-29。

[2] SCHUFA 案 CJEU C-634/21（2023 年 12 月）裁定，来源：EU Court of Justice 官方判例。

[3] EU AI Act 风险分级（Annex III 高风险分类），来源：EU AI Act 官方文本（2024 年 8 月 1 日生效）。

[4] 企业 AI 合规路线图（90/180 天实施计划），来源：EU AI Act 合规指引、山东商务厅 AI 监管解读（2026-08），provider: yuanbao，2026-08-29。

[5] 中国 AI 监管时间线：深度合成规定（2022 年 3 月）、生成式 AI 管理暂行办法（2023 年 8 月），来源：国家网信办、工业和信息化部政策文件。