点击上方“蓝字”,轻松关注我们


2026年4月,国家网信办通报了一则执法消息:“剪映”、“猫箱”App及“即梦AI”网站因未有效落实AI生成合成内容标识规定,被依法约谈、责令改正、警告,相关责任人被从严处理。三款产品均隶属字节跳动,分别覆盖AI视频创作、AI角色互动、AI图像与视频生成——对应C端AI应用的三个主力方向:创作工具、情感陪伴和内容生成。
对头部平台开刀,信号明确:标识不是“建议”,是“底线”。
1
一部办法,两种标识
2025年9月1日,《人工智能生成合成内容标识办法》正式施行,配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(GB 45438-2025)同步实施。这是我国首部专门针对AI生成合成内容标识的部门规章,明确了两种并行的标识方式。
显式标识:在生成合成内容或交互场景界面中添加,以文字、声音、图形等方式呈现,可被用户明显感知。具体要求按内容类型区分——文本需在起始、末尾或中间适当位置添加文字或通用符号提示;音频需添加语音提示或音频节奏提示;图片需在适当位置添加显著提示标识;视频需在起始画面和播放周边添加显著提示标识。
隐式标识:采取技术措施,在生成合成内容文件数据中添加不易被用户明显感知到的标识。其中,文件元数据标识为法定要求,须包含生成合成内容属性、服务提供者编码、内容编号等信息;数字水印为鼓励方向,嵌入内容本体实现防篡改与溯源。前者是硬要求,后者是倡导性方向。
显式标识让用户看得见,隐式标识让机器读得懂,覆盖从生成到传播全链条。
2
落地近一年,为何乱象犹存?
新规落地至今已近一年,各大头部平台陆续上线AI标识功能,并配套了相应管理措施。但现实层面,短视频、图文笔记、直播间的AI未标识现象仍大量存在。
“今年还是避免不了看到AI生成的疑似新闻、虚假科普视频、消费奇观以及铺天盖地的带货营销在互联网上传播。”一位业内人士表示。在他看来,AI伪造正从“一眼假”逐步向高拟真段位升级,背后更滋生了分工明确、收益可观的黑灰产链条。
问题出在两头:一是长尾应用的“标识隐形”,即头部平台合规率大幅攀升,但大量中小应用仍无标识能力或缺乏执行意愿;二是恶意规避的规模化,即从几十元的基础去水印工具到上千元的定制“无痕服务”,隐匿标识的黑灰产正在明码标价地迭代。在一些技术社群中,“AI去水印神器”是热门分享资源,甚至有专门的教程教授如何规避标识检测。
3
监管在加码,透明化大趋势不可逆转
2026年4月30日,中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动。行动的第一阶段聚焦AI应用服务典型违规问题,“生成合成内容标识落实不到位”被列为7类需要重点整治的突出问题之一。
AI治理的压力,正在从制度文本传导到执法现场。
中国不是唯一在推AI内容标识的国家。欧盟《人工智能法案》第50条设定了四类透明度义务:AI系统与自然人交互时须告知对方正在与AI对话;生成合成音频、图像、视频或文本的AI系统,其提供者须确保输出以机器可读格式标记且可被检测为人工生成;情绪识别或生物分类系统的部署者须告知被分析者;深度伪造内容及涉及公共利益的AI生成文本,部署者须披露其人工生成属性。违反透明度义务的企业,或将面临最高1500万欧元或全球年营业额3%的罚款。
从中国到欧盟,路径不同,但透明化的大趋势不可逆转。
结语
从内容狂欢到全球联动的精准监管,AI内容的“野蛮生长”正在终结。标识办法搭了骨架,清朗行动补了牙齿,但合规的最后一公里,长尾应用的执行能力、标识地下产业链的治理、模型层责任边界仍是待解之题。AI视听产业的下一轮竞赛,不再是谁跑得更快,而是谁能在规则之内跑得更稳。可以预期,谁先适应规则、完善技术能力,谁就会在这轮产业洗牌中占据先机。
//特别说明:本号所载内容均整理自公开网络及文献资料,旨在促进知识分享与学术交流,不作任何商业用途。如任何个人或机构对内容的版权归属或准确性存有异议,敬请及时与我们联系,我们将在第一时间核实并妥善处理。
文字:王一明
美编:王一明
校稿:曾丽
注:转载本文请注明原创“九霄幻境”,并在文首注明“来源:九霄幻境”,侵权必究。


夜雨聆风