前言：欧盟《人工智能法案》（AI Act）有关高风险 AI 系统的合规要求今年将正式落地，目前中文互联网对此的解读和分析尚不充分。
未来隐私论坛（Future of Privacy Forum, FPF）正在更新《欧盟 AI Act 红线解读》系列博客。本号将持续追踪更新并翻译转载，同时会附上文章提及的相关法条和文件原文，欢迎关注追踪更新。

欧盟 AI Act 已于 2024 年 8 月 1 日正式生效。禁止性 AI 行为条款自 2025 年 2 月起开始执行，通用人工智能（GPAI）模型相关义务自 2025 年 8 月起适用，而高风险 AI 系统的全面合规要求将在 2026 年 8 月 2 日正式落地。（因《AI 法案》数字综合修正案（Digital Omnibus on AI）近日通过，相关落地时间有所变动）

AI Act 第 5 条第 1 款第 g 项就“特定敏感特征的生物特征分类”设置了专项禁令，矛头指向那些利用个人生物特征数据推断或推测其种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向的 AI 系统。

AI Act 第 5 条禁止的人工智能实践：

1. 1. 以下人工智能实践应被禁止：
    （g）将生物特征分类系统投放市场、为该特定目的投入使用，或加以使用；该类系统基于自然人的生物特征数据（biometric data）对个人进行分类，以推断或推知其种族（race）、政治观点（political opinions）、工会成员身份（trade union membership）、宗教或哲学信仰（religious or philosophical beliefs）、性生活（sex life）或性取向（sexual orientation）。

但该禁令不涵盖以下情形：基于依法获取的生物特征数据集（例如图像）进行标注（labelling）或筛选（filtering），或者在执法（law enforcement）领域中对生物特征数据进行分类（categorizing）。

欧盟委员会发布的《禁止性 AI 行为指引》（以下简称《指引》）指出，敏感信息可以在当事人不知情的情况下，从其生物特征数据中被提取、推断或推测，从而导致有损人格尊严、侵犯隐私权及违反欧盟法律框架所保护的非歧视原则的不公平或歧视性对待。

《指引》相关条款同时反映了立法者长期以来对处理敏感个人数据所带来的风险的关切，尤其是在当事人不知情的情况下进行处理的场景。下面将对 AI Act 及《指引》中的相关重点进行分析。

一、有限的适用范围与核心概念界定

要触发 AI Act 第 5 条第 1 款第 g 项的禁令，必须同时满足以下五个条件：

1. 1. 第一，AI 系统已被投放市场、投入使用或正在被使用；
2. 2. 第二，该 AI 系统属于生物特征分类系统；
3. 3. 第三，该系统对个人进行了分类；
4. 4. 第四，分类依据是个人的生物特征数据；
5. 5. 第五，该系统对敏感特征进行了推断，例如种族、政治观点、宗教信仰等。

五个条件须同时成立这一要求，在实践中具有重要意义。这一设计一方面限制了禁令的适用范围，另一方面也带来了如何将其适用于具体情形的疑问，尤其是当系统被刻意设计为规避对敏感特征的显性推断、却仍实现相似效果时。

1 .1 如何界定“生物特征分类”

生物特征分类是指依据个人的生物特征数据，将其划入预先设定的群体，而非对其身份进行识别或验证。此类分类可能被用于例如推送定向广告或进行统计分析等目的，而未必涉及对个人身份的识别。

AI Act 第 3 条第 40 款对生物特征分类系统的定义是，依据自然人的生物特征数据将其分配至特定类别的 AI 系统，但若此类功能仅附属于某项商业服务且完全出于客观技术原因所必需，则不在此列。

值得注意的是，AI Act 对生物特征数据的定义（第 3 条第 34 款）包含了基于生物特征的行为特征，比 GDPR 中的对应定义更为宽泛。此外，依据服装、饰品或社交媒体活动进行的分类，不属于 AI Act 下的“生物特征分类”范畴。

《指引》进一步阐明，生物特征分类可涉及基于物理特征的类别，例如面部结构或肤色，其中一些可能对应受欧盟非歧视法律保护的敏感特征。

与此同时，AI Act 的定义包含一项重要限制。若分类功能附属于其他商业服务且出于客观技术原因所必需，则该系统不满足“生物特征分类系统”的定义。根据 AI Act 第 16 条序言，附属功能是指与另一项商业服务有内在关联、无法独立于该服务运作的功能。

《指引》提供了若干示例加以说明。例如，在电商平台上允许消费者预览商品效果的面部或身体特征过滤功能，由于其与售卖商品这一主服务密切关联，可能构成附属功能。同样，整合于社交媒体平台中、允许用户修改图像或视频的滤镜，也可能被认定为附属功能，因为其无法独立于平台的内容分享服务而使用。

相比之下，《指引》也列举了落入禁令范围的系统示例。例如，分析社交媒体上传照片中的生物特征数据、对个人进行政治倾向分类并向其推送定向政治内容的 AI 系统，以及分析照片中生物特征数据以推断性取向并用于投放定向广告的系统，由于此类分类并非出于客观技术原因所必需，均属于 AI Act 下“生物特征分类”的定义范畴，因此受到禁止。

生物特征分类的风险还与 GDPR 下更广泛的数据保护关切相互呼应。欧盟数据保护委员会（EDPB）已明确，对敏感特征的推断本身可能构成 GDPR 第 9 条项下的特殊类别个人数据；而欧盟法院也在 Meta 平台案（案号 C-252/21）中确认，处理能够揭示 GDPR 第 9 条第 1 款所列类别信息的数据，须被视为特殊类别个人数据的处理。

1.2 禁令适用的前提：分类须落实到个体层面

触发禁令的另一个核心条件是，系统须对单个自然人进行生物特征数据分类。若生物特征分析仅在群体层面进行，而未针对具体个人，则禁令不适用。例如，仅依据年龄、性别或族裔等特征对整体群体进行属性估计（有时称为人口统计分析）的系统，不在禁令范围之内。

1.3 AI Act 下的“敏感特征”范畴

AI Act 第 5 条第 1 款第 g 项仅在生物特征分类系统被用于推断以下特定敏感特征时方才适用，包括：种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向。

这意味着并非所有生物特征分类系统均受到禁止。禁令专门针对那些试图从生物特征数据中推断出上述特别敏感特征的系统。

举例而言，一个声称能从声音推断种族的系统，属于禁令适用范围；而依据肤色或眼睛颜色等物理特征进行分类的系统，或用于分析犯罪受害者 DNA 以确定其地域来源的系统，则不受第 5 条第 1 款第 g 项禁止。《指引》还举例指出，一个声称能从纹身或面部特征推断宗教信仰的生物特征分类系统，同样落入禁令范围。

二、生物特征分类用于偏差检测：哪些情形不在禁令范围之内？

AI Act 第 5 条第 1 款第 g 项的禁令并不覆盖所有生物特征分类的使用场景。具体而言，用于对依法获取的生物特征数据集进行标注或筛选的 AI 系统不受此禁令约束，执法场景同样适用此例外。AI Act 序言第 30 条解释，此类使用可能包括按头发颜色、眼睛颜色等生物特征对图像进行分类。

《指引》指出，对生物特征数据集进行标注或筛选，有时是确保 AI 系统训练数据能够均衡覆盖不同人口群体的必要手段。若训练数据中存在系统性的群体差异，例如历史数据采集中存在偏差，算法可能复制这些偏差并导致歧视性结果。在此情形下，依据特定特征对数据进行标注，可能是提升数据质量、防止歧视的必要举措。在某些情况下，AI Act 对高风险 AI 系统的要求本身（见第 10 条）甚至可能要求进行此类标注操作。

《指引》提供了若干合规示例。一个场景是，对生物特征数据进行标注以防止招聘算法因历史偏差训练数据而歧视特定族裔群体；另一个场景是，在医疗诊断中按肤色或眼睛颜色对患者图像进行分类，这在某些癌症诊断中具有医学意义。

上述例外在执法场景中同样适用。例如，执法机构可能使用 AI 系统对疑似含有儿童性剥削材料的数据集进行标注或筛选，或通过标注性别、年龄、眼睛颜色、发色、伤疤、标记或纹身等生物特征来协助识别受害者或建立案件关联，以及通过标注手部特征或独特纹身等来帮助识别可能的犯罪嫌疑人。

三、与欧盟现行法律框架的关系

AI Act 有关生物特征识别的禁令须放在欧盟现行数据保护框架的背景下理解。关于AI Act与GDPR的协调适用，可见：

GDPR 第 9 条第 1 款对特殊类别个人数据的处理设置了一般性禁止规则，但设有若干例外，这意味着某些涉及生物特征分类的生物特征数据处理，在符合 GDPR 严格规定的前提下，仍可能在 GDPR 框架下合法进行。

AI Act 在此之上引入了额外的限制层，由此引发了与 GDPR 之间重要的法律冲突问题。如本系列第一篇文章所分析，GDPR 具有优先适用性，AI Act不影响GDPR 的适用。然而，GDPR 与 AI Act 在此问题上的交叉处理，仍需进一步的指导意见加以厘清。

《指引》明确，旨在通过生物特征数据推断 GDPR 第 9 条第 1 款所保护属性的 AI 系统，若尚未被 AI Act 第 5 条直接禁止，则被列为高风险 AI 系统。与此同时，AI Act 第 5 条第 1 款第 g 项进一步限制了依据欧盟数据保护法律进行合规处理的空间，尤其是在 GDPR、《执法指令》（LED）及欧盟数据保护条例（EUDPR，即 Regulation (EU) 2018/1725）框架下，利用生物特征数据推断种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向等敏感特征的可能性受到严格限制，仅保留对依法获取的生物特征数据集进行标注或筛选的有限例外。

该禁令还与《执法指令》第 11 条第 3 款一脉相承，后者明确禁止基于特殊类别个人数据（包括种族、族裔、政治观点、宗教信仰或性取向）而产生歧视性结果的画像行为。

总结 Take-away

• • 禁令针对的是特定推断行为，而非生物特征分类本身：
• • AI Act 第 5 条第 1 款第 g 项并非禁止一切生物特征分类，而是禁止将 AI 系统投放市场、投入使用或使用于以下目的：依据生物特征数据推断种族、政治观点、宗教信仰、工会成员身份、性生活或性取向等特定敏感特征。
• • 禁令仅在第 5 条第 1 款第 g 项的全部累积条件同时满足时方才适用。这意味着，大量生物特征分类行为，例如基于非敏感物理特征的分类，或不涉及上述敏感特征推断的分类，均不在禁令范围之内。
• • 系统的目的与设计是判断禁令是否适用的核心：
• • 《指引》高度强调 AI 系统的目的与功能性，尤其是系统是否被设计用于推断条文所列的敏感特征。这意味着，判断禁令是否适用的标准，不在于系统是否进行了生物特征分析，而在于其是否旨在从生物特征数据中推断受保护属性。
• • 《指引》所举示例清晰体现了这一区分：声称能从声音推断种族或从面部特征推断宗教信仰的系统属于禁令范畴，而依据眼睛或头发颜色进行分类的系统则不在其内。
• • 与欧盟数据保护法的关系尚需进一步厘清：
• • GDPR 已就第 9 条第 1 款所列特殊类别个人数据的处理设置了限制，AI Act 则通过禁止特定生物特征推断行为，叠加了新的法律约束。
• • 鉴于 AI Act 本身明确“不影响”GDPR 的适用，对于那些在 GDPR 第 9 条第 2 款框架下或许可以合规处理、但在 AI Act 下被明确禁止的情形，主管机构仍需给出进一步的指导意见。