非法利用“AI换脸”软件,广西一男子获刑~-夜雨聆风

非法利用“AI换脸”软件,广西一男子获刑~

案件信息

案件名称：覃某某制作、复制、出版、贩卖、传播淫秽物品牟利罪案件

案件类型：刑事

审理机构：四川省宣汉县人民法院

公诉机关：四川省宣汉县人民检察院

案号：（2024）川1722刑初259号

承办法官：曹国治

检方指控

公诉机关指控，被告人覃某某从2020年下半年在互联网上接触到了制作换脸的淫秽视频，因而产生通过制作换脸淫秽视频牟取非法利益的想法，便通过互联网购买、学习掌握了“deepfake”“AI换脸”软件使用方法。被告人覃某某自2021年9月开始，先后在“司机社”网站、“老王”论坛注册“阿基米德”“armstrong3”账号，上传制作好的换脸淫秽视频或视频截图进行宣传推广换脸淫秽视频定制服务，即根据客户提供的照片或要求制作换脸淫秽视频。买家通过被告人覃某某发布在“司机社”网站、“老王”论坛的微信号与其取得联系、商讨价格及具体需求。被告人覃某某为制作符合买家所需的换脸淫秽视频，利用“AI换脸”软件将从买家、互联网等渠道收集到的他人人脸信息与互联网下载的部分淫秽视频中的人脸信息进行替换合成，制作生成买家需要的虚假换脸淫秽视频。随后，被告人覃某某通过微信将虚假换脸淫秽视频发送给买家或将虚假换脸淫秽视频上传至百度网盘提供给买家下载。至案发，被告人覃某某通过自己的微信、银行卡等方式收取售卖淫秽视频的牟利款共计95,160.42元。经宣汉县公安局对送审的111部视频进行鉴定，属于淫秽物品。案发后，被告人覃某某已向公安机关退缴全部违法所得。

为证实上述指控，公诉机关当庭宣读、出示了立案决定书、户籍证明、到案经过，证人证言、被告人覃某某的供述和辩解，微信交易记录、电子数据检查笔录、鉴定意见等证据证实。公诉机关认为，被告人覃某某以牟利为目的，制作换脸淫秽视频111部并通过互联网进行贩卖，非法牟利95,160.42元，情节严重，其行为触犯了《中华人民共和国刑法》第三百六十三条第一款之规定，犯罪事实清楚，证据确实、充分，应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。被告人覃某某自愿认罪认罚，依据《中华人民共和国刑事诉讼法》第十五条的规定，可以从宽处理。据此，建议判处被告人有期徒刑三年至三年六个月，罚金二十万元。根据《中华人民共和国刑事诉讼法》第一百七十六条的规定，提起公诉，请依法判处。

辩护意见

被告人覃某某对指控事实、罪名及量刑建议没有异议且签字具结，在本案开庭审理过程中其提出本案计算的违法所得金额中有其出售正规搞笑视频的收入，但庭审后期其又明确表示本案认定的违法所得金额中不包含其出售正规搞笑视频的收入金额，其余均未提出异议。其辩护人提出的辩护意见是：被告人已经自愿认罪认罚，辩护人仅发表独立的辩护意见。

一、本案无论是传播视频部数，还是牟利金额，被告人的行为均未达到司法解释规定的情节严重的标准。

1.覃某某传播淫秽视频的部数不应直接以被告人扣押设备中提取的数据即111部来认定，而应该以实际查实的贩卖、传播的部数来认定。本案证据显示本案查实从2021年11月28日起有买家购买了案涉淫秽视频，分别是2部、5部和60部，共计67部，若三人具有储存介质的情况下，均存在从他处购买下载的可能性，并非被告人独自且直接向其贩卖、传播。起诉书认定111部，但储存了111部不等于传播了111部。同时覃某某向不同的人传播的淫秽视频很可能是重复的，应当去除重复视频后来认定，显然不能证明被告人实际贩卖的100部以上的淫秽视频。

2.被告人系通过网络云盘传播淫秽视频，不应直接以传播数量来认定情节严重。根据相关司法解释和案例，鉴于网络云盘的特点，不应单纯考虑传播制作、复制、贩卖、传播淫秽电子信息的数量，还应充分考虑传播范围、违法所得、行为人一贯表现以及淫秽电子信息、传播对象是否涉及未成年人的情节，综合评估社会危害性，恰当裁量刑罚，确保罪责刑相适应。因此，本案被告人传播的数量也不应认定为情节严重。

3.被告人的牟利金额应从2021年11月28日起算。全案证据显示被告人成功制作视频的时间为2021年9月之后，本案在仅有三人供述、三人的聊天记录及提取的视频的情况下，直接采取推定的办法认定被告人所有的微信、支付宝转账记录都为贩卖、传播淫秽物品牟利所得是违反证据规则的。在无客观证据支撑的情况下，无法排除被告人2021年11月28日之后贩卖的系非淫秽视频的可能性，那么本案即使采用推定原则，也仅能以本案有客观证据证实的第一笔购买时间即2021年11月28日开始推定，因此建议法庭对交易流水进行筛选。

二、被告人覃某某具有坦白、积极退赃、认罪认罚、表现良好等从轻、从宽处罚情节。综上，恳请法庭对被告人覃某某从轻处罚并适用缓刑。

法院查明

经审理查明，从2020年下半年开始，被告人覃某某在互联网上接触到了制作换脸的淫秽视频，因而产生通过制作换脸淫秽视频牟取非法利益的想法，便通过互联网购买、学习掌握了“deepfake”“AI换脸”软件使用方法。自2021年9月开始，被告人覃某某先后在“司机社”网站、“老王”论坛注册“阿基米德”“armstrong3”账号，上传制作好的换脸淫秽视频或视频截图进行宣传推广换脸淫秽视频定制服务，即根据客户提供的照片或要求制作换脸淫秽视频。买家通过被告人覃某某发布在“司机社”网站、“老王”论坛的微信号与其取得联系、商讨价格以及提出具体需求。被告人覃某某为制作符合买家所需的换脸淫秽视频，利用“AI换脸”软件将从买家、互联网等渠道收集到的他人人脸信息与互联网下载的部分淫秽视频中的人脸信息进行替换合成，制作生成买家需要的虚假换脸淫秽视频。随后，被告人覃某某通过微信将虚假换脸淫秽视频发送给买家或将虚假换脸淫秽视频上传至百度网盘提供给买家下载。至案发，被告人覃某某通过自己的微信、银行卡等方式收取售卖淫秽视频的牟利款共计95,160.42元。经宣汉县公安局对送审的115部视频进行鉴定，鉴定结论为均属于淫秽物品，但其中4部视频属于重复视频。案发后，被告人覃某某已向公安机关退缴违法所得95,170元。

另查明，经公安机关对在案的115部视频鉴定和哈希值对比鉴别，被告人覃某某移动硬盘内的60部淫秽视频与在案证人宣汉人胡某在被告人购买的60部淫秽视频哈希值结果相同；被告人百度网盘下载的55部淫秽视频中的51部为哈希值不同的无重复淫秽视频，有4部属于哈希值相同的重复淫秽视频；被告人移动硬盘中的60部淫秽视频与其百度云盘上下载的51部淫秽视频的哈希值无重复。宣汉县公安局网安大队在工作中发现，有宣汉籍人员在网上购买淫秽视频的线索，经核查，覃某某有作案嫌疑，宣汉县网安大队民警遂于2023年9月8日前往广西壮族自治州XX市被告人覃某某家中将其抓获，并传唤至广西壮族自治州XX市公安局黄村派出所接受调查，至2024年9月10日被取保候审被先行羁押3日。到案后，被告人如实供述了自己的犯罪事实。庭审中，被告人覃某某再次明确表示愿意认罪认罚。

案发后，被告人覃某某所有的电脑主机一台、移动硬盘一个、手机三部扣押在案。

上述事实有经庭审质证、确认的受案登记表，立案决定书，强制措施凭证，起诉意见书，被告人基本情况（附照片）及户籍证明，抓获说明，传唤证，扣押决定书，扣押清单，吸毒现场检测报告书，鉴定说明、鉴定书、提取说明、提取物品情况说明及哈希值清单，鉴定意见通知书，电子数据检查笔录，关于提供法庭审判所需证据材料通知书的情况说明，远程勘验笔录，电子勘验记录，陈某某案的相关材料，覃某某作案电脑、手机截图，覃某某购买制作软件交易记录，微信聊天交易记录，微信账单，银行账单，胡某、林某、叶某购买微信交易截图，被告人的供述与辩解，证人林某、叶某、胡某、廖某某的证言，被告人的退赃票据和保证金票据，认罪认罚具结书，量刑建议书等证据证实，足以认定。同时，辩护人提交的XX市某某公司出具的被告人表现良好证明以及相关案例，公诉人质证认为与本案无关联，相关案例与本案的案情不同，仅属个案情况，本院认为被告人庭审中表示已经很少在XX市某某公司上班，对该公司出具的被告人的平时表现证明本院将综合予以认定，对于相关案例本院将结合本案案情综合予以参考，并依法判处。

评判理由

被告人及其辩护人针对本案提出的辩解及辩护意见，本院结合查明的事实、采信的证据及相关法律规定，综合评判如下：

关于情节严重的认定问题

1.关于本案是否认定情节严重的问题即本案案涉淫秽视频的部数以及违法所得金额的认定问题。经查，本案被告人不仅贩卖淫秽视频，还使用相关软件利用“AI换脸”技术加工制作淫秽视频，其部分视频通过百度云盘上传供买家下载仅是其向买家贩卖淫秽视频传输视频的方式，其上传到百度云盘的55部淫秽视频经公安机关依法鉴定甄别排除4部视频为重复视频，而51部视频为相互不重复的淫秽视频，且被告人移动硬盘中的淫秽视频60部与在案证据证实的贩卖给宣汉人胡某的淫秽视频哈希值一致即属相同的视频，同时该60部视频经公安机关鉴定甄别其哈希值与其上传至百度云盘的51部淫秽视频的哈希值不同即属于不同的视频内容，结合被告人的稳定供述，这些淫秽视频均是用于贩卖牟利，据此本案足以认定被告人制作并用于贩卖的淫秽视频为111部，指控事实成立，对辩护人相应辩护意见本院不予支持。对于本案被告人的违法所得，庭审中被告人有辩解称其中存在其出售正规搞笑视频的收入，但庭审后期又表示本案指认认定的违法所得金额中没有其出售正规搞笑视频的收入，全部属于其贩卖淫秽视频的收入，辩护人也表示无法排除存在被告人正规收入的可能以及综合全案证据应当认定本案有买家确认的时间为起算点。经查，被告人到案后一直稳定供述其作案过程以及获利情况，并未提及存在贩卖淫秽视频以外的收入情况并全额退缴了其确认的赃款，在案证据显示被告人对其与购买淫秽视频的买家的聊天记录及买家的网络交易名称进行了指认，且对自己出售淫秽视频的微信及银行交易明细也进行了逐一指认，对自己贩卖淫秽视频的收入记录进行了勾画，对部分不属于贩卖淫秽视频的收入记录进行了叉画，同时其收款记录的付款人名称基本能与其聊天记录中的人员名称对应，其在庭审中也进一步表示本案违法所得存在小数是因为部分买家临时发红包的奖励，综上足以认定本案指控的被告人贩卖制作淫秽视频的违法所得金额属实，被告人的辩解及辩护人的辩护意见不能成立，本院不予支持。综上，根据相应司法解释的规定，无论是被告人制作贩卖淫秽视频的部数还是其违法所得金额，本案都应当认定属于情节严重，对于辩护人相应辩护意见本院不予支持。

关于认罪认罚与缓刑适用问题

2.关于本案是否认定被告人认罪认罚的情节以及是否适用缓刑的问题。被告人在本案庭审前与公诉机关签署了认罪认罚具结书，庭审中也多次表示自愿认罪认罚，其在庭审初期却辩解称本案指控认定的违法所得金额中存在自己的正规收入，对此公诉人在庭审中撤回了对其认罪认罚的认定，但庭审后期被告人又明确表示本案其指认认定的违法所得金额全部是其贩卖淫秽视频的收入，其出售正规视频确有收入但不包含在这其中，鉴于被告人在庭审中的表现，公诉人在法庭辩论阶段又确认了被告人认罪认罚的效力，本院认为被告人在庭审中虽有反复和辩解，但最终确认了自己供述的真实性，自愿认罪认罚，对其认罪认罚情节本院予以认定。关于适用缓刑的问题，本案属实情节严重，刑期在三年以上，同时结合被告人的犯罪事实、情节、对社会的危害程度以及其认罪悔罪态度，本案不宜对其适用缓刑，对相关辩护意见本院不予支持。

本院认为，被告人覃某某以牟利为目的，通过互联网利用“AI换脸”软件技术加工制作淫秽视频并对外贩卖，本案查实涉案淫秽视频111部，违法所得共计95,160.42元，情节严重，其行为已触犯刑律，构成制作、贩卖淫秽物品牟利罪。公诉机关指控成立。被告人被抓获归案后，能如实供述自己的罪行，构成坦白，依法可以从轻处罚。被告人已退清全部赃款，可以对其酌情从轻处罚。被告人自愿认罪认罚，依法可以从宽处理。公诉机关量刑建议适当。

判决结果

综上，根据被告人覃某某犯罪的事实、犯罪的性质、情节和对社会的危害程度及其悔罪表现，依照《中华人民共和国刑法》第三百六十三条第一款、第六十七条第三款、第六十四条以及《最高人民法院、最高人民检察院<关于办理利用互联网、移动通讯终端、声讯台制作、复制、出版、贩卖、传播淫秽电子信息刑事案件具体应用法律若干问题的解释>（一）》第一条、第二条，《最高人民法院、最高人民检察院<关于办理利用互联网、移动通讯终端、声讯台制作、复制、出版、贩卖、传播淫秽电子信息刑事案件具体应用法律若干问题的解释（二）>》第十一条，《中华人民共和国刑事诉讼法》第十五条、第二百零一条之规定，判决如下：

一、被告人覃某某犯制作、贩卖淫秽物品牟利罪，判处有期徒刑三年二个月，并处罚金人民币二十万元。

（刑期从判决执行之日起计算。判决执行以前先行羁押的，羁押一日折抵刑期一日，扣减先行羁押3日，即2024年12月20日起至2028年2月16日止；罚金限于本判决发生法律效力的第二日起三十日内缴纳。）

二、被告人覃某某退缴的违法所得95,160.42元，上缴国库。

三、对扣押在案的电脑主机一台、手机三部、移动硬盘一个、予以没收，依法处理。