夜雨聆风
【AI生成监管】欧洲拟根据新《人工智能法案》禁止AI裸体化
欧盟正朝完善其具有里程碑意义的《欧盟人工智能法案》迈出一步，欧洲理事会提出了旨在简化监管并应对人工智能新兴风险的新修正案。
3月13日，理事会发布了对欧盟人工智能法案更新的立场，包括对人工智能裸体工具的新禁令以及对敏感个人数据使用更严格的标准。该提案是更广泛的“Omnibus VII”立法方案的一部分，旨在简化欧盟的数字监管框架并减轻企业的合规负担。
虽然这些变更旨在使规则对企业更实用，但最新的修订也反映了人们对人工智能技术滥用的日益担忧以及加强防护措施的必要性。
欧盟人工智能法案修正案针对有害人工智能内容
根据修订后的欧盟人工智能法案，提出的最重要变革之一是一项针对能够生成非自愿性或亲密图像的人工智能工具的新禁令。
据委员会称，新条款明确禁止“人工智能在生成非自愿性及亲密内容或儿童性虐待材料方面的行为”。此举正值欧洲监管机构日益关注AI生成深度伪造内容带来的现实危害之际。
该提案紧随3月13日早些时候欧洲议会议员通过了他们版本的禁令。两机构的合作表明，在谈判结束后，欧盟《人工智能法案》最终版本中可能会继续对人工智能裸体化工具的限制。
推动更严格规则的推动源于一起引发关注的事件，该事件涉及由 xAI 开发并集成进社交平台 X（前身为 Twitter）的 Grok 聊天机器人。自12月底开始，该聊天机器人据称生成了数百万张非自愿的亲密图片，迅速在网上传播，引发了广泛的反弹。
对此，欧盟委员会今年早些时候对该平台及其人工智能功能展开了正式调查。
对于政策制定者来说，这一事件凸显了生成式人工智能工具创建和传播有害内容的速度——以及欧盟人工智能法案为何需要机制来应对此类风险。
高风险人工智能系统法规的变更
除了新的禁令外，拟议的改革还调整了高风险人工智能系统规则实施的时间表，这是欧盟人工智能法案的关键组成部分。
欧盟委员会此前建议将这些规则的实施推迟最多16个月，以便监管机构有时间制定有效执行所需的技术标准和工具。
根据理事会的提案，修订后的截止日期将为：
-
2027年12月2日，针对独立高风险人工智能系统 -
2028年8月2日，针对嵌入产品的高风险人工智能系统
这些延期旨在为组织提供更清晰的指导和充足的准备时间，同时确保监管框架的可执行性。
与此同时，理事会恢复了要求提供者在欧盟数据库中注册人工智能系统的高风险技术，即使公司认为其系统符合豁免条件。该措施旨在加强欧盟人工智能法案下的透明度和监督。
更强化敏感数据保护措施
另一项关键修正案聚焦于组织在开发或测试人工智能系统时如何处理敏感个人数据。
委员会的提案恢复了在偏见检测和更正过程中使用特殊类别个人数据的“严格必要性”标准。这意味着组织必须明确说明为何需要这些数据，才能用于提升算法公平性。
这一变化反映了欧洲内部关于如何在创新与强有力隐私保护之间取得平衡的持续讨论——尤其是在人工智能系统越来越依赖庞大数据集的情况下。
此外，修订后的欧盟人工智能法案提案将建立国家人工智能监管沙盒的截止日期推迟至2027年12月。这些沙盒旨在让企业在监管监管下的受控环境中测试人工智能技术。
简化规则而不削弱监督
拟议修订的更广泛目标是简化影响欧盟各地企业的复杂数字监管网络。
作为数字综合计划的一部分，欧盟委员会一直在努力减轻行政负担，同时提升成员国间AI规则的一致性。
塞浦路斯共和国欧洲事务副部长玛丽莲娜·拉乌纳强调了在创新与监管清晰之间取得平衡的重要性。
“简化人工智能规则对于确保欧盟数字主权至关重要。作为总统，我们紧迫地推动了这项提案，并迅速达成协议，以便及时实施人工智能法案。该提案将带来更大的法律确定性，使规则更相称，并确保成员国间执行更加协调。我们准备与共同立法者携手，共同支持我们的企业，促进创新，建设更具竞争力的欧洲。”
理事会的提案还引入了监管机构的新指导义务。根据修订后的欧盟人工智能法案，欧盟委员会将提供更清晰的指导，帮助企业遵守高风险人工智能要求，同时降低合规成本。
欧盟人工智能法案的下一步
随着理事会正式采纳谈判立场，讨论将进入下一阶段。该提案将与欧洲议会协商，以最终确定更新后的框架。
尽管这一过程仍可能涉及修订，但最新进展表明，欧洲仍致力于通过欧盟人工智能法案塑造全球人工智能治理——在创新、商业竞争力和应对新兴技术风险之间取得平衡。
随着生成式人工智能工具的快速发展，关于如何监管它们的争论远未结束。但理事会的最新提案明确表明：欧洲决心加强在人工智能滥用威胁隐私、安全和数字技术信任的保护措施。
安情视界——洞见未来，智掌先机，持续追踪全球安全动态，精准解读政策与事件，深度预测研判趋势，护航企业全球化征程。