乐于分享
好东西不私藏

AI 监管进入「强执行时代」:以后用 AI 也要守规矩了

AI 监管进入「强执行时代」:以后用 AI 也要守规矩了

EU AI Act 8 月 2 日 deadline 倒计时一个月,违规罚款最高全球营收 7%。中国三部门刚发《智能体规范应用实施意见》,所有 AI 生成内容必须打水印。全球监管从「建议」变成「强制执行」——AI 再也不是想怎么用就怎么用的野孩子了。

上半年还觉得监管远在天边

六个月前聊 AI 监管,大多数人觉得跟自己无关。

「那是企业的事。」「合规是大公司才要操心的。」「跟我有什么关系。」

但最近三件事,让这个问题突然变得很近。

第一件:GPT-5.5 在第三方的幻觉测试里,错误率高达 86%。是的,它跑分第一、推理一流,但在你不知道的时候它真的会一本正经地编论文、造数据、引用不存在的法律条文。这个数字出来后,连最反对监管的极客群体都反问了:这种东西,不该有点约束吗?

第二件:欧盟宣布,AI Act 高风险系统的合规 deadline 定在 2026 年 8 月 2 日——只剩一个月。违规罚款最高全球营收 7%。如果你是一家有 AI 产品的公司,不管总部在深圳还是硅谷,只要面向欧洲用户,你就得遵守。

第三件:6 月底,中国网信办、工信部、公安部三部门联合印发《智能体规范应用与创新发展实施意见》,从算法备案到内容标注到深度合成水印,一条条白纸黑字写清楚了。

三件事叠加,信号很清楚:AI 的「狂野西部」时代,结束了。

EU AI Act:不是建议,是法律

欧盟把 AI 系统分成了四个风险等级。

「不可接受风险」——社会信用评分、实时面部识别——已经被禁了。「最小风险」——比如 AI 做游戏 NPC、过滤垃圾邮件——基本不管。

真正受影响的,是中间两类。

「高风险」系统,包括招聘筛选、信用评估、医疗诊断。今年 8 月 2 日起,这些系统必须满足全套合规要求:风险管理体系、数据治理、人工监督机制、透明文档、安全审计。每一项都要拿出证据,不是写份文档就能过关。

「有限风险」系统,主要是聊天机器人和深度合成内容。要求相对轻——必须向用户透明告知「这是 AI 生成的」,不能假装是真人。

对中国企业来说,影响很实在。你面向欧洲卖一款 AI 客服工具、AI 招聘初筛系统、甚至 AI 生成的头像软件——到了 8 月 2 日如果还没合规,可能面临的不是「警告」,而是直接罚款和禁售。

中国:三箭齐发

中国的监管速度一点不慢。

第一条是内容标注。所有 AI 生成的内容必须打标——机器可读的元数据标注,加上用户可见的「AI 生成」标识。换句话说,以后你看到一篇没标「AI 生成」的内容,可以合理怀疑它要么是人写的,要么违规了。

第二条是算法备案。所有对外提供服务的 AI 产品,算法名称、用途、技术原理、训练数据来源,必须去网信办的备案系统登记。重大变更要重新备案。

第三条是深度合成水印。显式水印(用户看到的「AI 生成」标签)+ 隐式水印(嵌入内容本身、肉眼不可见但机器可读取)。两条必须同时有。

这三条的落地意义是:以后普通人用 AI 产品时,你会大量看到「AI 生成」的标志和右下角水印。不是平台好心提醒你——是法律要求。

对普通人,到底变化在哪?

有人说,这些规定都是管企业的,跟我没关系。

其实关系不小。

你收到的 AI 生成内容,会多一个「标签」。 以后刷到一篇公众号文章、一段短视频、一张头像,如果它是 AI 生成的,你不必猜——它会标注。这在一定程度上能帮你辨别信息的可信度。

你用的 AI 工具,可能会有更多「拒绝」。 合规要求增加了「安全护栏」——AI 网关在用户请求和模型之间加了一层审核。很多以前能直接生成的内容,可能因为合规原因被拦住。不是你用错了,是规则变了。

AI 产品更贵了吗?短期可能会。 合规不是免费的。AI 网关、审计日志、水印系统、偏见检测——每一项都要成本。部分免费 AI 工具可能会因为合规成本过高而停运或转收费。但长期看,活下来的产品会更可靠。

到底是保护还是刹车?

这是最值得讨论的问题。

支持的一方说:GPT-5.5 幻觉率 86%、AI 被用来批量生成假新闻、换脸视频偷人脸——没有监管的 AI,最后伤害的是所有人。规则不是限制,是底线。

反对的一方说:欧洲的 AI 公司本来就少,中国的初创企业还在追硅谷的速度。这么早就把规则锁死,会不会让厉害的模型都在美国出、中国企业只能跟着跑?

目前来看,全球主流的思路是「分级管制」——最危险的严管,风险小的轻管,没风险的不管。这个思路是合理的。AI 行业担心的不是「有规则」,而是「规则一刀切,或者今天一套明天一套」。

一个细节值得注意:NIST 发布的 AI RMF 3.0 框架和 EU AI Act 是可以互相映射的。这意味着全球监管正在趋同——以后不会出现「在欧盟合规但在美国不合规」的撕裂局面。对你我来说,这比规则本身更重要。

因为规则定了,企业才能安心干事。规则一天不定,所有人都在猜。