ARTICLE · 1119930
7 亿次下载!AI 恶意工具泛滥,普通人的照片早已不安全
近期，根据公开的数据统计，各种各样的AI换图、一键脱衣等恶意软件已经被下载了七亿次左右。
很多人看完了之后的第一反应就是：这跟我有什么关系呢？我并不是一个网红或者明星。
但是侥幸的心理，也就是普通人的最大隐私风险。
目前处于人工智能的时代，在朋友圈里随便上传的照片，在班级群里随便分享的照片，在合影中随便拍摄的照片，对于他人而言，只需要用到一个软件、进行一次点击、花费十几秒钟的时间，就可以把它们变成一张完全虚假并且具有极大伤害性的照片。
一、真实的案例屡见不鲜，受伤害最大的就是普通的大学生和普通的人
很多人认为AI伪造伤害和自己没有关系，但是最近几年来国内外发生的很多典型案例已经打破了这个想法。
香港大学发生的真实案例是：700多张AI伪造图片，受害人都是身边的亲人
2025年7月，香港大学曝出了一起引起广泛关注的AI伪造隐私事件。一名就读于法律系的大一学生，经常使用免费的人工智能软件来非法获取同学、学姐以及授课老师的日常生活照片。
然后又把这些普通的日常生活照片批量上传到AI工具中，产生大量的虚假不雅图片并将其上传到社交媒体上，总数达到700多张，受到伤害的女性有二十多人。所有的受害者都是身边的熟人、学校的师生，并没有一个网红或者公众人物。
更加令人后怕的是，在事件发生之前，并没有人发现有什么不正常的地方。直到它的同伴用电脑的时候不小心发现了这些恶意图片，这样一起长时间、秘密进行的校园人工智能隐私侵犯案件才被揭露。案件曝光之后引起很大的社会反响：高学历的人群和普通的大学生成为了AI恶意伪造的主要受害对象。
日本的社会性丑闻：一万多人的人工智能造假事件，把人们的认知都给戳破了
在更早的时候，日本曾经发生过震惊整个亚洲的大规模AI脱衣伪造事件。大量的普通的女生们的社交自拍、生活合照被网友批量爬取，并用AI工具批量生成出虚假的照片，在匿名社群和境外论坛中广泛传播。
这场风波牵涉到上万位普通的女性，大都为素人、学生、上班族，并没有名气。很多受害人并没有意识到自己的形象被恶意修改并传播到了网络上，之后遭受了网络暴力、名誉损失以及心理创伤。
该事件也使得日本社会第一次正视到：人工智能隐私侵犯，并非是少数人的恶作剧，而已经发展成为一种规模化的、产业化的新形式的网络暴力。
国内也出现了类似的情况：很多高校的学生因为感情纠纷或者恶意报复，使用AI一键脱衣功能制作并传播他人的不雅照片，在网络上进行扩散，已经有多名受到了公安机关的处罚以及学校的处分。
所有的例子都表明一个残酷的事实：网红有团队来维权，而普通人的、熟人的、学生的，则是AI伪造最容易下手、最没有保护的对象。
二、技术并没有什么神奇的地方，就是很低的作恶门槛
所谓的AI一键脱衣，主要的技术就是深度伪造（Deepfake）。听上去很高深的样子，但是门槛很低，人人都可以做到。
目前主流的生成式AI使用的是扩散模型，在训练之前就学习了大量的人像、衣服和光影的数据，并且可以做到"从无到有地创造出完整的画面"。
当你上传一张正常的日常生活照片的时候，AI并不会去还原隐藏的画面，而是胡乱地修改画面的内容。不能控制也无法预测到人工智能会产生什么样的结果，并且也不能制止其他人使用你的图片来犯罪。
主要的问题是门槛为零。不需要专业技能，不需要高成本的仪器，不需要学习教程，上传图片之后点击一下按钮，十几秒钟就得到结果。
技术本身是中立的，可以用来修复旧照片、影视特技制作等。但是当技术完全平民化了，没有任何限制也没有任何门槛的时候，它就会变成伤害普通人的隐私的"数字凶器"。
三、你认为距离很远，其实就在眼前
很多人最大的错误观念就是认为只有出名的人才会被关注。
实际情况是，普通人照片最易被利用、维权最困难、造成的损害也最大。
同学聚会的照片、班级集体的照片、公司团建的照片、朋友圈自拍的照片、短视频随手拍的照片，这些都是表面上看起来无害的日常生活照片，一旦被他人保存下来，就会变成人工智能伪造的素材。
一但有伤害发生，就会很快地传播开来，在微信群里、在各种社交平台上以及匿名论坛上，图片都会被迅速地传播出去。
即使最后发现为伪造，但已经造成的影响和心理伤害都是不能挽回的。除了个人隐私受到侵害之外，还会引起周围人的误解、排斥以及二次网络暴力的发生。
随着发展，这些工具到现在为止也不再仅仅是一键脱衣这么简单了，AI换脸、AI拟声、AI伪造视频等软件层出不穷，所有的底层逻辑都是相同的，只是表现形式不同罢了。
四、法律规定，是违法行为
注意：制造并传播AI生成的不雅图片不属于恶作把戏，而是一种严重的违法行为，如果行为恶劣的话还可能构成犯罪。
《民法典》规定，任何人不得利用技术手段对他人肖像进行伪造、丑化，未经同意而私自篡改、伪造他人的肖像并传播的行为将会被认定为侵犯肖像权、名誉权和隐私权，受到侵权的一方有权向人民法院起诉，并要求赔偿损失并公开赔礼道歉。
根据《治安管理处罚法》的规定，对传播伪造的淫秽图片的行为进行罚款或者行政拘留。
批量生产、对外出售、广泛传播并且从中获取利益的行为属于制作、传播淫秽物品罪；用伪造的照片来实施敲诈勒索的行为则构成了刑事犯罪。
到2025年实施的《生成式人工智能服务管理暂行办法》里面也有这样的规定：AI生成的内容不能侵犯个人隐私、人格尊严，平台应当承担起监管责任。
一句话：制作、储存、传播和分享都有可能触犯法律，这不是灰色地带而是一条法律红线。
五、是什么原因导致了这种现象的发生呢？
有很多人对此表示疑惑：危害这么大，为什么总是清理不干净呢？
第一是境外泛滥。大量的恶意AI工具服务器基本上都是架设在海外的，国内下架了一部分之后，新的工具很快就会换上另一个名字再次出现，封堵起来很难。
第二就是本地轻量化的方式。目前已经有多种AI模型可以在手机上或者本地电脑上直接生成内容，而不需要将图片上传到云端，因此也就没有了平台监控、无法追溯源头、不能取证的情况。
第三种是匿名犯罪。用户用虚拟账号、隐蔽群组等方式传播，想要追查就很难了。
但是困难并不等于免责，警方仍然可以通过IP记录、设备日志以及传播链路来固定证据，所有犯罪行为都会被追究责任。
六、普通人最实用的五条保护措施
既然不能完全消除恶意的人工智能技术，但是我们可以把被侵犯的风险降到最低。
- 控制住社交照片的传播范围
在朋友圈里不要发高清大图，可以适当降低图片质量；关闭陌生人可见选项，防止照片被别人随便抓取。 - 不随意发布他人的肖像照片
自拍、生活照、身份证照片等等都不能发给陌生人，也不能把它们上传到一些不知名的人工智能工具或者小众的测试软件里。 - 要小心所有的AI趣味测试
比如AI变老、AI换装、AI特效互动等等，其实都是在收集大量的普通人肖像数据，存在泄露和被滥用的风险。 - 发现自己的照片被AI造假之后
第一时间进行截图、录制视频，并保存好相关的链接，然后马上通知平台删除，并且在需要的时候向警方报案或者请专业的律师帮助。 - 绝不围观、转发AI伪造的照片
在发现之后不要进行保存或者分享的行为。如果要投诉的话，请通过官方渠道进行，不要让信息在互联网上流传开来给当事人造成更大的伤害。
七、技术本身没有错，使用它的人要有底线
生成式的AI本身是一种先进的技术，可以为影视、设计、科研等各个行业提供帮助。真正的危险就是突破了道德和法律界限之后所进行的滥用行为。
七亿次的下载量就是一种冰冷的警告，AI作恶门槛已经很低，普通人的数字肖像正在裸奔。
将来AI造假的能力会越来越逼真，真假难以分辨。尽管监管部门正在不断加强和完善，但是个人隐私保护的第一道防线始终都是自己。
不要随便泄露自己的信息，不能滥用AI工具，不对他人进行侮辱性的传播，这是每个人在数字化时代都必须掌握和遵守的基本技能。
本文为网络安全科普，数据与案例均来自公开权威报道，不针对任何个体与平台。