你随意发布到朋友圈的自拍、旅游照、公开场合的路人照等,被有心人拿去后又会变成怎样呢?
答案比你想象的要恶心得多,只要花一百多块钱买个软件,点两下鼠标,几秒钟就可以将正常照片合成裸照,并且可以批量生成。

最近北京海淀法院判决的两起案件,把这条隐藏在暗处的黑色产业链彻底地暴露在了阳光之下。
先说说靠卖软件赚了十多万的张某。
很多人认为干这个的都是技术大牛,实际上张某根本不会从零开发程序。

他就是从境外一家公司的开源AI图片模型中分离出脱衣功能模块,制作成一个点开就可以使用的傻瓜软件——不需要懂代码、不需要学PS,上传一张照片后设置两个参数,几分钟就能得到一张图。
他躲在境外社交平台上,建起了好多个群,打着AI绘画、技术交流的幌子招揽人。

2023年刚上市时一套才六十多,到2025年直接涨到168元。
光是他最大的一个群,有两万七千多人,付费的高级会员群也有几千人,两年来非法获利十多万元。
最后他被判处一年六个月,罚金两万元,定罪名为非法利用信息网络罪。
简言之,他赚的是“卖作案工具”所得,明知买家会用于违法活动,却故意简化操作、低价出售,相当于为犯罪创造了条件、铺平了道路。
你以为卖软件就到此为止了吗?
这才只是产业链的中游。
更往下还有专门接单代做的“加工厂”。
2024年北京也有一起类似的案件,被告人白某某专门帮人做AI合成裸照,一张收5块钱。
不管对方是女学生、女老师还是身边的女同事,他来者不拒,几个月就做了近七千张,卖给了三百五十多人,赚了快一万块钱。
他心里知道买家拿这些图是造谣报复还是敲诈勒索,但是他只管赚钱,不问其他。
最后他定的是制作、贩卖淫秽物品牟利罪,直接判了三年。
同样沾染这条黑产,两人罪名、刑期相差如此之大,根本原因就在于前者是提供犯罪工具,后者是直接制作、贩卖淫秽内容牟利,后者主观恶性大、直接危害大,法律惩罚也重。
再往产业链最下游走,就完全是奔着害人去的,普通女生平白无故被卷入其中的例子比比皆是。
2023年广州有一位女博主,在地铁上随手拍下日常穿搭发在网上,转眼间就被别人利用AI合成了一张裸照,并配上一系列不堪入目的谣言流传于网络之上,好好的名声就这样白白受损。

今年3月河南南阳的案子更加离谱,团伙批量合成女性银行员工的假裸照,装成挂号信寄给全国各地的网点,开口就要求封口费。
最后,邮政渠道拦截下来的280封信,才将这伙人一网打尽。
为什么这条黑产打了又打,还是有人大胆地钻进去呢?
简而言之就是门槛太低、来钱太快、总有人抱有侥幸心理。
以前做这样的假图需要一定的PS技术,而现在一百多块就能买到软件,几乎人人都可以使用。
整条链路上分的明明白白,上游改模型做工具,中游接单代加工,下游拿去造谣、报复、敲诈,每一环都在赚黑心钱,坑的都是毫无防备的普通人。
最气人的就是受害者维权太难了。
图片传播速度快,源头大多隐藏在境外,等到你发现的时候,它已经转了七八个群,看到的内容是不希望看到的,名誉损失无法量化挽回。
总有人拿“技术中立”当挡箭牌,说算法本身没有错。
技术本身无所谓好坏,但是使用技术的人分善恶。
明知该工具被用于害人却故意制造出傻瓜版、低价往外卖,甚至建群教唆他人使用、逃避检查,就不算中立,而属于实质上的帮凶。

我国早就出台了《生成式人工智能服务管理暂行办法》,无论是做软件的、卖软件的,还是拿来做图害人的,每一个环节都有规矩管着。
真犯了事,拿“技术中立”当借口根本行不通,该担的责任一概不能逃脱。
说了这么多,最关心的还是怎样避免发生这样的事情?
真遇上了又该怎么办呢?
日常发图留两个心眼,社交平台少发高清正脸全身照,私密场景、精准定位记得关掉,不随便把私人照片发给陌生人,也不乱点陌生链接上传照片,公开平台发图可以加一点浅水印、降低图片清晰度,大大增加AI合成的难度。
如果真的不幸遇上了,别慌,按这几步来:
1. 立刻固定证据,截图保存传播链接、发布账号、聊天记录,能录屏最好,不要只存图片本身;
2. 第一时间向发布平台投诉,要求删除内容、封禁账号,正规平台都有专门的肖像权、名誉权侵权投诉通道;直接报警,拿上证据到辖区派出所报案,AI合成淫秽图片、造谣敲诈的行为已经构成违法犯罪,只有公安机关介入才能追究责任。
千万不要认为“丢人”就忍气吞声,你越是忍气吞声,坏人就越嚣张。
只有看了这四个案件之后才明白,一百元钱动动手指就可以随意糟蹋一个人的名誉,违法成本太低,作恶门槛太低。
但是不能用猎奇来取乐,不能把别人的尊严当作笑料。
技术本来是为人的,不是用来泄私愤、赚黑心钱的。
我们普通人也应该多留点心,保护好自己,比什么都强。
夜雨聆风