【摘要/导语】近期,某网络通讯工具公众平台针对“AI生成低俗内容”“未标识深度合成内容”“AI换脸侵权”等违规行为开展专项治理。作为AI领域的法律从业者,我们必须清醒认识到:技术的狂欢不能逾越法律的边界。本文将结合《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》及《民法典》人格权编,解析网络通讯工具生态下AI内容运营的合规义务,并为顾问单位提供可落地的《AI内容发布审核SOP》与《深度合成标识技术方案》。

一、网络通讯工具治理背后的法律依据
网络通讯工具平台的治理动作并非无源之水,其直接依据是两部核心规章:1.
《互联网信息服务深度合成管理规定》(网信办等三部门令〔2023〕第1号)第17条(强制标识):深度合成服务提供者应当对使用其服务生成或者编辑的文本、图像、音频、视频等信息内容,采取技术措施添加不影响用户使用的标识。
第12条(主体责任):提供人脸编辑等生物识别信息编辑功能的,应当提示使用者依法告知被编辑个人,并取得其单独同意。3.
《生成式人工智能服务管理暂行办法》(网信办等七部门令〔2023〕第15号).
第9条(内容合规):提供者应当采取措施防止生成煽动颠覆国家政权、恐怖主义、淫秽色情等内容。3.
第7条(数据来源):训练数据须具有合法来源,不得侵害他人依法享有的知识产权、肖像权、名誉权等。4.
律师提示:网络通讯工具作为平台方,依据《民法典》第1197条(网络服务提供者知道或应当知道侵权而未采取必要措施的,承担连带责任),必须履行上述监管义务。
二、高频违规场景与法律风险
结合该网络通讯工具治理公告,以下场景是AI企业最容易“踩雷”的重灾区:
违规场景 | 法律定性 | 典型案例映射 |
AI换脸/拟声 | 侵犯肖像权、声音权益(《民法典》第1019条、第1023条) | 案例05:殷某桢诉某问智能(AI合成声可识别即受保护)案例07:孙某某诉餐饮公司(AI拜年营销侵权) |
未添加隐式/显式标识 | 违反《深度合成规定》第17条,平台可予下架 | 案例09:李某某诉徐州欣某传媒(未标识致公众误认代言) |
生成低俗/虚假内容 | 违反《生成式AI办法》第9条,严重者触犯《治安管理处罚法》 | 案例10:某国际投资公司诉曹某(传播未核实AI内容致名誉侵权) |
利用AI洗稿/搬运 | 侵犯著作权(《著作权法》第10条) | 案例03:奥特曼LoRA模型案(平台注意义务) |

三、给顾问单位的合规清单(SOP)
为避免在网络通讯工具生态(公众号、视频号、小程序)被处罚或封禁,建议企业立即建立以下制度:
1. 内容标识制度(Technical Compliance)
显式标识:所有AI生成的图片、视频、音频,必须在显著位置(如右下角)添加“AI生成”或“本内容为AI合成”水印。
隐式标识:在文件元数据中嵌入GeneratedByAI=True及生成工具ID,确保可追溯。
2. 生物识别信息授权制度(Consent Management)
若产品含“AI换脸”、“AI拟声”功能,必须在用户使用前弹窗,明确告知:“将处理他人人脸/声音信息,请确保已获对方单独同意。”
保存用户签署的《授权确认书》及被编辑方的《知情同意书》。
3. 内容安全审核制度(Content Moderation)
在上线前接入官方内容安全API(如网络通讯工具安全风控),对涉政、涉黄、涉暴内容进行拦截。
建立人工复审机制,特别是对“AI生成新闻/财经评论”类内容(参照案例10)。
4. 数据来源合规(Data Provenance)
建立训练数据台账,严禁使用未授权的影视剧、明星照片、受版权保护的文本进行模型训练。
若使用开源模型,务必审核许可证(如Llama 3禁止特定商用场景)。
网络通讯工具的治理风暴,是中国AI法治走向成熟的必经之路。技术可以“深度合成”,但法律责任永远是“真实存在”的。
作为法律顾问,我们的价值不仅是帮客户处理诉讼,更是在违规发生前,帮他们把“AI合规基因”植入产品设计的每一个环节。
【参考文献与适用法律法规】
《中华人民共和国民法典》第1019条(肖像权)、第1023条第2款(声音权参照肖像权保护)
《中华人民共和国著作权法》第10条
《中华人民共和国个人信息保护法》第28、29条(敏感个人信息单独同意)
《互联网信息服务深度合成管理规定》(网信办等三部门令〔2023〕第1号)第12、17条
《生成式人工智能服务管理暂行办法》(网信办等七部门令〔2023〕第15号)第7、9条
北京互联网法院(2023)京0491民初12142号;成都铁路运输第一法院(2025)川7101民初8546号;广州互联网法院(2025)粤0192民初23599号
夜雨聆风