央视曝光 AI “造黄” 产业链,法律如何严惩 “智能涉黄”?

法律小讲堂，生活大作用。欢迎订阅！

事件回顾

整条黑产链条呈现专业化、流水线、商业化特征：上游，有人公开售卖 AI 涉黄软件、破解版工具、云端算力服务，以及所谓 “付费提示词”，一套工具打包价从几元到上百元不等，大大降低了违法门槛；中游，有人专门接单 “定制”，根据客户需求，对特定人物进行换脸、伪造不雅视频，单条收费数十元至数百元，批量制作、批量出货；下游，通过微信群、QQ 群、网盘、暗网、短视频平台隐蔽账号等渠道进行贩卖、传播，部分不法分子还通过会员制、付费观看等方式持续牟利，形成完整的 “制、售、传” 一体化利益链条。

更令人担忧的是，受害者多为普通网民、学生、职场人士甚至公众人物，很多人在完全不知情的情况下，照片被盗用、人脸被合成，相关虚假不雅内容被恶意传播，导致其遭受网络暴力、社交社死、家庭矛盾、工作丢失等严重后果。由于 AI 伪造内容逼真度极高、溯源困难、传播速度快，受害者往往维权艰难、痛苦不堪。

律师说法

AI “造黄” 本质上仍是制作、贩卖、传播淫秽信息及侵害公民人格权益的违法犯罪行为，技术手段的翻新，并不改变其违法犯罪的性质，我国《刑法》《治安管理处罚法》《民法典》《网络安全法》《深度合成服务管理规定》等法律法规，均已构建起严密的规制体系。

首先，从刑事追责角度来看，利用 AI 制作、贩卖、传播淫秽物品，将直接触犯刑事罪名。以牟利为目的，制作、复制、出版、贩卖、传播淫秽视频、图片、音频等物品的，将构成传播淫秽物品牟利罪。根据法律及司法解释规定，淫秽视频文件达到一定数量、违法所得达到相应金额，即可入罪，达到 “情节严重”“情节特别严重” 标准的，可判处三年以上有期徒刑直至十年以上有期徒刑，并处罚金或者没收财产。即便不以牟利为目的，单纯在网络上大量传播淫秽内容，情节严重的，同样构成传播淫秽物品罪，可处二年以下有期徒刑、拘役或者管制。

其次，利用 AI 对他人进行换脸 “造黄”、制作虚假不雅内容并传播，除涉黄类犯罪外，还将同时侵害他人人格权，涉嫌其他严重刑事犯罪。将他人面部合成至淫秽内容中进行散布，公然贬损他人人格、破坏他人名誉，情节严重的，构成侮辱罪；盗用他人肖像、非法获取并使用他人人脸信息，还可能构成侵犯公民个人信息罪。一行为触犯数罪名的，司法实践中可依法从重处罚，甚至数罪并罚，相关违法所得一律予以追缴，涉案工具、设备也将被依法没收。

同时，为 AI “造黄” 提供技术支持、工具售卖、引流推广、存储传输等帮助的人员，同样难逃法律追责。明知他人利用 AI 实施制作、传播淫秽物品犯罪，仍为其提供软件工具、算力支持、服务器托管、推广引流、支付结算等帮助的，以共同犯罪论处，依法追究刑事责任。即便未直接参与 “造黄”，只要为黑产链条提供关键助力，同样构成犯罪，不存在 “间接参与就没事” 的灰色空间。

此外，从行政与民事责任来看，尚不构成刑事犯罪的 AI 涉黄行为，公安机关可依法给予行政拘留、罚款等治安处罚；对于侵害肖像权、名誉权、隐私权的行为，受害者有权向人民法院提起民事诉讼，要求侵权人立即停止侵害、删除内容、消除影响、赔礼道歉，并主张精神损害赔偿。

东环律师｜北京总所

业务洽谈｜010-58646577

法律咨询｜18500893811

东环律师｜太原分所

业务洽谈｜0351-8361867

法律咨询｜18603465787