关于AI合成内容的标识和监管，目前全球多个国家和地区正在逐步出台相关规定，中国在此领域已率先实施具体政策。以下是主要进展和分析：

一、中国现行法规

1. 《生成式人工智能服务管理暂行办法》

• 生成式AI服务提供者需对图片、视频等内容添加显著标识（如水印、文字说明）。

• 禁止利用AI生成虚假信息、歧视性内容，并要求建立用户投诉机制。

• 提供者需进行安全评估、算法备案，并通过网信部门审查。

• 实施时间：2023年8月15日

• 核心要求：

• 处罚措施：未标识或违规内容最高面临10万元罚款，严重者暂停服务。

2. 《互联网信息服务深度合成管理规定》（2023年1月）

• 明确要求深度合成服务提供者和技术支持者需对AI生成内容进行标识，涵盖语音、图像、视频等场景。

二、国际动态

1. 欧盟《人工智能法案》（AI Act）

• 高风险AI系统需满足透明度义务，生成内容必须标明“由AI创建”。

• 深度伪造内容需显著披露，违者最高罚款全球营收6%。

• 进展：2024年5月通过最终草案，预计2026年全面实施。

2. 美国

• 联邦层面：白宫2023年10月行政令要求开发者在AI生成内容中嵌入“不可移除水印”。

• 州立法：加州等州正推进法案，强制政治广告中AI生成内容需标注。

• 行业自律：Google、Meta等公司承诺使用SynthID等工具标记AI内容。

三、技术实现与挑战

1. 标识技术

• 显性标识：在图像/视频角落添加“AI生成”文字（如Midjourney默认操作）。

• 隐性水印：Google的SynthID在像素中嵌入不可见水印，抗截图和编辑。

• 元数据标准：C2PA（内容来源和真实性联盟）推动在文件元数据中记录创作信息。

2. 执行难点

• 技术规避：用户可能使用工具去除水印，需发展更鲁棒的标识技术。

• 跨境监管：不同国家法规差异可能导致合规成本上升。

• 长尾场景：个人用户使用开源模型（如Stable Diffusion）生成内容难以追溯。

四、行业影响与应对建议

1. 企业合规成本

• 头部平台（如抖音、微信）已上线AI内容标识功能，中小开发者需集成API增加成本。

• 内容审核团队需培训识别未标注AI内容，人力投入增加约15-30%。

2. 用户应对策略

• 创作者：需在商业作品中明确标注AI辅助比例，避免版权纠纷（如Getty Images要求投稿者声明）。

• 消费者：可通过检测工具（如Hive Moderation、AI or Not）验证内容真实性。

3. 未来趋势

• 立法细化：针对金融、医疗等高风险领域的AI内容可能出台专项标识规则。

• 技术融合：区块链或用于存储AI内容生成溯源信息，提升可信度。

建议相关企业提前部署内容标识系统，并关注各国立法动态以避免跨境业务风险。普通用户则应提高对AI合成内容的辨识意识，尤其在接收新闻、金融建议等关键信息时，优先选择已标注来源的内容。

申明：以上内容为deepseek整理！

记者14日获悉，国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。办法共14条，将于今年9月1日起施行。

人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。

• 显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。
• 隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

办法明确——

■ 对生成合成内容添加显式标识

服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

• 在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；
• 在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；
• 在图片的适当位置添加显著的提示标识；
• 在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；
• 呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
• 其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

■ 在生成合成内容的文件元数据中添加隐式标识

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

来源：央视新闻

申明：本文 相关内容来源deepseek及央视新闻，相关内容、图片及版权归原作者所有，如有侵权请联系删除，谢谢！

— END —

AI私教一对一指导！

AI换衣，你的衣橱！

我如何用一周时间，从电脑小白变成Excel技巧达人？| 0基础可学

【限时特惠】职场人必备的Excel与电脑基础教程：一次购买，永久提升你的办公效率！0基础可学，实用简单的电脑办公制表课，只需9.9元（99微信豆），一年免费答疑指导，抢先学：#《文员Excel、WPS制表速成》告别加班，从小白到达人，可答疑辅导@乐意s乐活

--其他好课：1、身份证号秒变出生年月？Excel这个功能90%的人浪费了！2、别再手动算年龄！身份证号1秒提取年龄+性别，行政/HR收藏了3、Excel这个冷门功能，能让所有日期自动显示星期？90%的人不知道！4、Word隐藏的‘准考证神器’！90%的人没发现这个按钮…5、Excel字体调到任意大小竟这么简单？90%的人只会用默认字号！

关注“乐意s乐活”：点“文体健康”-“教学视频”学习更多！

-其他好文：1、国家12部门联合发文！健康消费迎来重大利好，这些行业要爆发！2、微信‘元宝’AI添加太麻烦？3秒二维码直通车，手慢无！