AI换脸恶搞同学?你可能已经违法了!

  2020年过年前后，虞某接触“AI 换脸”技术后产生好奇。2021年6月起，他以牟利为目的，未经他人同意，收集人脸信息与淫秽视频人脸信息替换合成，在网络社交软件传播。同时，他创建群组提供定制服务，根据客户提供的素材制作换脸视频，还销售软件、提供素材并传授教程。这不仅侵犯个人权益，还危害公共信息安全，破坏社会公共秩序。杭州互联网法院审理此案，判决虞某停止侵权、赔礼道歉并支付损害赔偿款6万元。

1. 刑事犯罪层面

   传播淫秽物品牟利罪（《刑法》第363条）  

     虞某将AI换脸技术用于合成淫秽视频并传播牟利，符合”以牟利为目的制作、传播淫秽物品”的构成要件。根据司法解释，视频点击量达5000次或获利5000元以上即可入刑。  

   侵犯公民个人信息罪（《刑法》第253条之一）  

     未经同意收集人脸信息（属于生物识别信息），符合”非法获取公民个人信息”情形，若信息条数达500条或违法所得5000元以上即构成犯罪。  

2. 民事侵权层面

   肖像权侵权（《民法典》第1019条）  

     未经许可使用他人肖像进行淫秽视频合成，属于”利用信息技术伪造”侵害肖像权的典型情形。  

   名誉权侵权（《民法典》第1024条）  

     将他人肖像与淫秽内容结合导致社会评价降低，构成诽谤性侵权。  

3. 社会危害性

   该行为同时触犯《网络安全法》第12条（禁止传播暴力、淫秽信息）及《数据安全法》第32条（非法处理敏感数据），破坏网络空间秩序。

虞某滥用“AI 换脸”技术，在互联网公共空间非法获取人脸信息，制作淫秽视频在大量人群的网络社交群组传播，违反法律法规和社会公德，侵害公共信息安全，破坏社会公共秩序。而且他明知他人可能用于不正当目的，仍销售软件、提供素材和教程，扩大了更多人个人信息被侵害的风险。法院认为，虞某的行为不仅侵犯了个人的私益，还对社会公共利益造成了损害，所以依法应承担停止侵害、赔偿损失、赔礼道歉的民事责任。

杭州互联网法院的判决体现以下法律适用逻辑：  

1. 责任竞合处理

   刑事部分未提及可能因证据标准未达（如淫秽视频传播量或获利金额未达立案标准），故优先以民事侵权审理。若刑事立案，将面临数罪并罚。  

2. 赔偿金额考量

   6万元赔偿可能包含：  

   被侵权人精神损害赔偿（《民法典》第1183条）  

   侵权获利追缴（证据显示群组定制服务及软件销售流水）  

  合理维权费用  

3. 禁令判决必要性

   判令”停止侵权”符合《民法典》第997条人格权禁令制度，体现对AI技术滥用的预防性救济。

1. AI换脸≠娱乐免责。根据《民法典》1019条：任何组织或个人不得以丑化、污损方式侵害他人肖像权，AI合成同样适用！  

2. 转发也违反。即使不是你制作的，但转发超500次或造成严重后果，可能构成诽谤罪（刑法246条）

3. 平台承担连带责任。若受害者举报后平台未删除内容，平台需承担赔偿责任（《网络信息内容生态治理规定》）

AI科技高速发展，但科技发展的意义在于造福于民。本案不仅规范了对于互联网新兴领域的发展，也警示了公民在自己的人身权受到侵害时，要敢于并且善于 使用法律去维护自己的合法权益。技术虽好玩，法律红线可别碰！