AI专刊26年第17期丨男子设立通讯群并销售AI制作淫秽物品程序、教程获刑等

近日，北京市海淀区人民法院审结一起涉“AI犯罪”的案件。该案件中，被告陈某主动创建并长期掌控多个聊天群组，并以此为据点，先通过免费发布少量低俗影像作为诱饵（共计5个视频和15张图片），吸引用户付费进群。群成员付费后，犯罪人在群内系统性地传授如何利用人工智能软件生成色情内容并提供相关程序工具和教程。整个运作期间，犯罪人借助这种隐蔽的线上社群模式，累计获取十万元左右的非法收益。上述行为贯穿近两年，直至2025年6月被警方查获。

经审理，法院查明本案是一起利用社交群组销售人工智能制图软件及教程、进而传播淫秽内容的新型网络犯罪。犯罪人的行为污染了网络空间，且其累计违法所得超过10万元，已经构成“情节严重”。最终，法院做出如下主要判决——（1）明确了技术工具中立，但是技术开发者和提供者不能将技术设计或用于实施违法犯罪活动。也就是不得对AI生成工具预设用于生成淫秽内容的参数或指令。若借助工具便利化违法操作并牟利，则须承担相应责任。（2）由于犯罪人在群内发布的淫秽物品数量未达入罪标准，因此本案不同于直接生成淫秽内容的犯罪，而是属于“工具提供型”涉AI犯罪。因此，法院未认定为传播淫秽物品牟利罪，而是依法以非法利用信息网络罪惩处，为同类案件提供参考。（3）由于犯罪人管理多个群组，成员众多，违法所得数额较大，法院为惩治新型网络犯罪而彰显处罚力度，对被告人判处实刑并处罚金、没收违法所得及作案工具。

海淀法院在此案中为AI技术工具提供者划定了法律红线，明确传递了“技术中立不等于责任豁免”的认定导向，同时也厘清了“工具提供型”涉AI犯罪的认定规则，并彰显了依法严惩利用新技术犯罪的态度。本案裁判不仅有助于遏制技术滥用，更切实维护了清朗的网络环境和公众合法权益，实现了法律效果与社会效果的统一。

参考资料：

[1]海淀法院网：《男子设立通讯群并销售AI制作淫秽物品程序、教程获刑》https://bjhdfy.bjcourt.gov.cn/article/detail/2026/05/id/9317951.shtml

2026年5月15日，英国上议院通信与数字委员会发布了政府对其于3月18日提出的报告《人工智能、版权与创意产业》【参见往期内容：AI专刊26年第7期“04英国万名作家联名抗议AI公司可以未经授权使用其作品”；AI专刊26年第8期“04英国政府发布《版权与人工智能报告》”】的回应。回应主要从五个部分展开。

1.关于政府方法（Government approach）

对于委员会建议（1.应当排除对《版权、设计与专利法》的任何改革，以免削弱许可版权作品用于AI训练的激励，聚焦于在现有框架内加强许可、透明度和执法；2.政府应在12个月内作出基于证据的最终决定，优先考虑英国创意产业和国内AI部门的长期健康，而非跨国科技公司的利益；3.应当效仿澳大利亚，公开声明不会提出带有“选择退出”权利保留机制的新商业性文本与数据挖掘例外），政府认可该建议，并指出“除非且直到确信改革将实现我们对经济和英国公民的目标，否则不会引入版权法改革”，同时，政府拒绝必须“在创意产业和AI产业之间二选一”的说法，认为两者都是工业战略核心。

对于委员会建议（1.政府应尽早发布声明，鼓励商业AI开发者使用版权作品训练模型时获得适当许可，支持“许可优先”；2.确保价值流向个体创作者和权利人，引入不可放弃的公平报酬权，并支持以创作者为先的报酬模式；3.政府干预应努力创造支持AI许可市场的条件，而非依赖单一市场计划，市场应满足个体权利人和中小AI企业需求，对现有模式进行补充），政府同意AI开发者必须寻求许可，除非适用例外条款，并透露创意内容交易所（CCE）试点将测试多种商业许可模式，预计2026年夏季启动运营试点平台。对于创作者报酬，政府将成立独立和小型创意组织工作组，探讨内容许可和确保个体创作者公平报酬问题。但对于市场干预，目前政府认为证据不足，因此不会干预市场。

对于委员会建议（引入针对未经授权数字复制品和“模仿风格”使用的保护措施，给予创作者和表演者对其身份商业利用的明确、可执行的控制权，同时保障言论自由），政府同样认为现有的法律框架（假冒、版权、表演者权）不足以保护尤其是非知名艺术家和公众免受数字复制品侵害，同时注意到美国版权局和丹麦政府已采取行动，政府将监测其发展，并将在夏季启动关于数字复制品的咨询，对如何解决肖像未经许可被复制带来的伤害征求意见，同时保护合法创新。

对于委员会建议（1.制定清晰、相称的AI训练数据使用透明度报告框架，超越现有自愿实践和欧盟要求；2.赋予大型AI开发者透明度义务法定效力，指定监管机构，同时注意避免对中小企业造成过重负担；3.要求商业AI开发者向监管机构进行更详细的机密披露；4.考虑公共采购和监管工具支持合规，减少AI开发者将训练迁往海外或延迟在英发布新模型的动机；5.英国不应长期依赖海外不透明模型，主权AI应优先开发国内治理的、内置透明度的模型，明确使用版权数据需提供报酬），政府回应，透明度确实有助于权利人维护权利，政府将发布创作者控制其在线作品的机制审查，涵盖标准、技术方案和输入透明度。并指出政府重视AI主权，于2026年4月启动了“主权AI”部门，投资5亿英镑，支持英国本土AI公司，减少对海外提供商依赖。

对于委员会建议（1.政府应支持行业和技术社区主导的、开放、可互操作、全球一致的权利保留、来源和标签标准，目前“自愿标注原则”可能不足，应通过立法，要求平台对完全AI生成内容进行适当标签；2.对主要平台和AI提供商提出明确、可执行的期望，并与英国通信管理局合作，嵌入在线安全和媒体素养制度。）政府回应，将成立AI标签工作组，并于秋季发布中期报告，同时指出目前非法AI生成内容已受《在线安全法》监管。政府认为大多数AI应在使用时受到监管，必要时立法。对于媒体素养，政府已发布《媒体素养行动计划》，英国通信管理局正在调查AI对媒体素养的影响。

对此，传播与数字委员会主席基利男爵夫人表示：“政府表示将制定‘最佳实践’，鼓励开发者更透明地说明他们用来训练模型的来源，但仅凭最佳实践无法促进许可、推动合规或实现强有力执法。只有强制性框架才能创造公平竞争环境，促进负责任的培训数据实践。......未来几个月将是为所有利益相关者确立人工智能和版权明确方向的关键。......我们将与部长们持续对话，确保政府利用一切可用手段，展现必要的雄心，推动该问题取得实质性进展。”

从该政府回应可以看出，政府对委员会的不少观点持肯定态度，并积极开展设立工作组、制定文件、举行会议等活动，但总体上仍呈现保守主义的趋势。如在政府方法、市场干预等问题上，政府都提到“证据不足”，在许可模式、数字复制品、透明度等问题上，对于其他国家所采取的措施，英国政府仍表示“持续监测”的观望状态。对此，委员会主席的评论呈现批评态度，可以看出政府的审慎和委员会的“雄心”存在矛盾。对于中国等正在计划制定AI与知识产权政策的经济体而言，英国在这方面过去与未来一段时间的实践或许将提供有价值的观察样本。

参考资料

[1] 英国议会：上议院通信与数字委员会发布政府对人工智能与版权报告的回应

https://www.parliament.uk/business/lords/media-centre/house-of-lords-media-notices/2026/may-2026/lords-communications-and-digital-committee-publishes-government-response-to-ai-and-copyright-report/

[2]英国议会：政府对委员会报告《人工智能、版权与创意产业》的回应committees.parliament.uk/publications/53047/documents/296552/default/

2026年5月20日，山东青岛一家婚恋机构的相亲墙上所展示的某嘉宾照片被发现撞脸乒乓球运动员樊振东和演员曹骏。机构工作人员解释称，一是嘉宾本身就与樊振东长得比较相像，二是为保护嘉宾的隐私，会对不愿意公开真实照片的嘉宾的照片进行AI处理，但随即有网友指出，该嘉宾的照片与樊振东曾在社交平台公开发布的照片背景几乎完全相同，机构被质疑侵犯公众人物的肖像权。5月21日，机构紧急撤下所有相关物料，并公开向樊振东、粉丝和公众致歉，承认该照片确实是来自“樊振东先生的照片”，是员工失误放入的，其以后会“全面整改”内部审核流程。但其未对撞脸演员曹骏的事实进行回应。

与此同时，5月19日某水果罐头也被发现包装上所印制的人物撞脸已故球星科比。厂家工作人员声称头像是用AI生成的“代言人”，原型之一确实是科比，但这是他们自己“原创”的人物形象，不应构成侵权。但是在商品评论区，大量消费者评论配上了与科比有关联的视频、图片和文字，甚至包含科比的原声。

上述事件因均涉及公众人物，舆论较高，有众多法律专家对事件进行了分析和点评。讨论焦点在于：AI生成与公众人物相同或者高度相似的照片，是否构成肖像权侵权。而是否构成侵权，关键在于AI生成的人物形象是否具有“可识别性”。当普通公众能够通过该形象的特征，与某特定自然人之间建立稳定的联系，即可能构成肖像权侵权。

此前北京互联网法院也审理了一起AI换脸短剧主演“神似”国内某知名演员的案件，法院在案件中认为：“司法实践中过往的肖像权侵权行为多表现为未经肖像权人同意直接使用其肖像，肖像的可识别性十分明显。但可识别性标准并非要求侵权内容与肖像权人肖像完全一致，作为识别主体的一般公众、特定行业人群能够识别即达到该标准。因此，使用AI技术换脸合成的肖像，即使与肖像权人肖像存在一定差异，但如果能够被一般公众或特定行业人群识别，应当认定使用了特定自然人的肖像。”

上述案件中，因涉案人物为公众人物，一般公众对其肖像具有基本的识别能力，且容易被发现侵权。但普通人在社交平台公开发布自己的照片后，若被AI抓取为素材并生成与之高度相似的人物形象，因可识别其人物肖像的群体主要限于其亲友、同事、社交媒体粉丝等，甚至有人会更少，其可能存在一定举证困难。但“可识别性”仍是侵权判断的核心要件。

相关主体在使用AI进行人物形象创造时，首先，其对公众人物的知名度应该有一定认知，在使用AI技术生成人物形象时，应当认识到一般公众对该人物肖像具有基本的判断能力和识别能力，其行为会侵害相关公众人物的合法权益，应当施以相当的注意力对生成结果进行审核和风险排查。其次，即使不是明显可识别的公众人物，通过公开的社交媒体、网站等进行图片检索和比对，也是其应该且可以尽到的合理注意义务，而不能侥幸认为：没被发现就没问题、不是名人就没问题、没有直接指向是谁就没问题……

参考资料：

[1] 今日头条：《AI撞脸樊振东曹骏引侵权争议，青岛婚恋机构致歉整改，法律界聚焦界定标准》，

https://m.toutiao.com/ai_subscribe/7642294971311063602/

[2]澎湃新闻：《商家用AI生成“科比风”代言人称“原创不侵权” 律师：形象可识别即构成侵权》，

https://m.thepaper.cn/baijiahao_33203541?sdkver=7d05c2f1

[3]法治网：《短剧角色AI换脸“神似”知名演员 法院判制作方和播出方侵权》，

http://www.legaldaily.com.cn/IT/content/2026-03/23/content_9361068.html

《人工智能应用伦理安全指引1.0》（TC260-005）

是我国首个AI应用伦理安全专项标准化技术文件，与现行法规协同适用，主要聚焦 “未违法但有风险” 灰色地带。

该《指引》总结了人工智能应用伦理安全影响，涉及到人类主导权影响、公共秩序影响、个体认知与社会价值影响、社会分化和歧视影响、生命健康与基本权益影响、可持续生态影响等方面。《指引》也阐述了伦理安全理念，“贯穿全过程”以及“妥善处理人工智能与人、社会、自然之间的相互关系，以造福人类、服务社会和可持续发展为导向，推动人工智能朝着有益、安全、公平方向健康有序发展，避免不合理的人工智能技术路线选择与盲目应用，保障人工智能始终服务于增进人类共同福祉”。同时，《指引》提出了增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治、普惠共享共九项原则。《指引》的具体指引内容分为四个具体板块，包括通用指引、应用开发指引、服务提供指引、应用使用指引。

人工智能已经从单纯生成内容快速扩展到辅助决策、智能控制、智能体等高自主场景，复杂性与自主性显著提升。随着技术极速发展，相关的伦理风险集中显现，不断出现虚假信息、深度伪造、算法歧视、隐私泄露、认知异化、情感依赖、就业冲击等相关问题。法律规范大多解决的是“底线”问题，而在“底线”之上的灰色地带越来越多。本次中央网信办指导、全国网络安全标准化技术委员会（TC260）牵头发布《指引》旨在为“灰色地带”设立统一的安全标准。

《指引》不替代法律，但可作为监管裁量、司法裁判的重要参考。《指引》聚焦落地场景、可操作，对开发者、服务提供者、用户责任进行了清晰的划分。《指引》强调了重点领域精细化治理，包括医疗、金融、政务服务、科研、资讯等。

参考资料：

[1]全国网络安全标准化技术委员会：《TC260-005 <人工智能应用伦理安全指引1.0>》https://www.tc260.org.cn/portal/article/2/6aee9380ac44434d994eb6990bd92997

[2]中国青年报：《筑牢AI伦理安全基石：<人工智能应用伦理安全指引1.0>正式发布》https://wlaq.gmw.cn/2026-05/21/content_38780436.htm

2026年5月19日，美国的《下架法案》（Take It Down Act）生效，该法律旨在严厉打击未经同意传播私密图像的行为，根据法案文本，这一法案又名“遏制网络平台深度伪造滥用处置法案”。其中“深度伪造”被定义为“'通过软件、机器学习、人工智能或其他任何计算机生成或技术手段，包括通过改编、修改、操控或篡改真实的视觉形象，在合理人整体观察时，无法区分真实的视觉形象。”

在AI时代，《下架法案》直接规制利用人工智能（AI）技术制作的“深度伪造”（Deepfakes）内容，对于科技公司和社交媒体平台的内容审核义务有了更加严格的规定。

该法案对社交媒体公司和在线平台施加了明确责任。一旦接到受害者通知，相关平台必须在48小时内移除涉事内容，并积极采取措施删除重复或相似的侵权材料。当然，该法案所提出的“下架”等并非仅针对深度伪造图像，对于真实的图像，如果未经受害人的同意，经受害人举报后，平台仍然有下架义务。

在涉及信息网络的侵权领域，针对网络平台责任，基本都适用避风港原则，即网络平台在知道或者应知侵权的情况下，应及时断开连接，采取必要措施如下架侵权内容等。美国从联邦层面生效《下架法案》，对于遭受AI深度伪造色情图像的受害人来讲，无疑提供了迅速获得救济、避免不良影响的进一步扩大。

但是，以往网络服务平台者在处理针对侵权内容的举报投诉时，通常有处理机制和流程，该法案对于科技公司或者社交媒体公司施加的48小时下架义务，有可能会导致删除这一“义务”和“权利”被滥用，进而导致提前审查删除，或者有些合法的内容也被删除。

参考资料：

[1]美国国会网站https://www.congress.gov/bill/119th-congress/senate-bill/146/text

[2]FTC网站：《联邦贸易委员会开始执行<拆除法案>》https://www.ftc.gov/news-events/news/press-releases/2026/05/ftc-begins-enforcing-take-it-down-act

致谢：实习生张煦、黄燕珊、李曼雨对本文内容编辑做出贡献