AI换脸拟声成诈骗新工具!这4条法律红线,转给家人朋友

近期多地警方预警：眼见不一定为实。最近，AI换脸、拟声技术频频登上热搜。有人用AI让老照片“开口说话”，有人用AI换脸直播带货，也有不法分子利用AI换脸冒充亲友、领导实施诈骗。技术越来越逼真，风险也越来越大。今天用一篇文章说清：AI换脸拟声背后，有哪些法律红线？---一、热点：AI换脸拟声有多真？只要一张照片、一段语音，就能合成一段以假乱真的视频。此前，某地警方曾通报一起典型案件：一公司负责人接到“好友”视频电话，对方称急需资金周转，他未多想便转账，事后发现视频中的“好友”是AI换脸合成，10分钟内被骗走430万元。多地公安机关近期也发布预警：利用AI换脸、拟声冒充熟人诈骗的案件正在增多。---二、法律红线一：未经同意AI换脸，侵犯肖像权、名誉权《民法典》第1019条规定，任何组织或者个人不得利用信息技术手段伪造等方式侵害他人肖像权。未经肖像权人同意，不得制作、使用、公开其肖像。也就是说，哪怕只是觉得“好玩”，把朋友、明星的脸换到视频里，未经同意发布，也可能构成肖像权侵权；如果视频内容带有侮辱、诽谤性质，还可能侵犯名誉权。被侵权人可以要求停止侵害、删除视频、赔礼道歉，并赔偿损失。---三、法律红线二：用AI换脸诈骗，最高可判无期用AI换脸、拟声冒充他人骗取钱财，符合诈骗罪构成要件。《刑法》第266条规定：· 诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制；· 数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑；· 数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。注意：即使没骗到钱，也可能构成诈骗未遂，仍要承担刑事责任。---四、法律红线三：用AI换脸制作、传播淫秽物品，涉嫌犯罪将他人肖像通过AI换脸技术制作成淫秽图片、视频并传播，是典型的违法行为。· 即使不以营利为目的，情节严重的，可能构成《刑法》第364条传播淫秽物品罪；· 以牟利为目的的，则可能构成第363条制作、复制、传播淫秽物品牟利罪，最高可处无期徒刑。同时，还要承担侵犯肖像权、名誉权的民事责任。---五、法律红线四：非法获取、使用个人信息“喂”AI，可能涉罪AI换脸需要大量人脸、声音等生物识别信息。根据《个人信息保护法》，人脸、声音等生物识别信息属于敏感个人信息，未经本人单独同意不得处理。《刑法》第253条之一规定，窃取或者以其他方法非法获取公民个人信息，情节严重的，构成侵犯公民个人信息罪，可处三年以下有期徒刑或者拘役；情节特别严重的，处三年以上七年以下有期徒刑。所以，非法购买、爬取人脸照片、语音素材用于AI训练，可能不只是违规，而是犯罪。---六、平台和发布者也有责任《互联网信息服务深度合成管理规定》明确，深度合成服务提供者应当对使用其服务生成或编辑的信息内容进行标识，并建立健全审核管理制度。《生成式人工智能服务管理暂行办法》也要求提供者承担信息内容生产者责任。2025年9月1日起施行的《人工智能生成合成内容标识办法》进一步要求：AI生成合成内容应当添加显式标识和隐式标识。也就是说，平台不能“隐身”。如果平台放任AI换脸虚假信息传播、不履行标识和审核义务，可能面临行政处罚。---七、普通人如何防范和维权？1. 保护生物信息：不随意上传高清正脸照，不授权不明App采集人脸、声音。2. 转账前核实：视频通话中可要求对方做特定动作，如转头、挥手，或询问只有彼此知道的私密问题。3. 发现被换脸：第一时间保存证据，如链接、截图、录屏，向平台投诉删除，并报警或向法院起诉。4. 不传播：看到AI换脸视频，未经核实不转发、不评论，避免成为侵权、传谣链条的一环。---技术本身无罪，滥用技术的人必须担责。转发这篇文章给家人朋友，别让“眼见为实”变成“眼见为骗”。