夜雨聆风学习资料网

ARTICLE · 1371249

你下载的宠物写真App,可能藏着一个换脸开关

你下载的宠物写真App,可能藏着一个换脸开关

给家里的猫拍张照片,生成一张穿花衬衫、戴墨镜泡泳池的卡通像——这类 AI 小应用看着人畜无害,很多人手机里都有一两个。

但上周公布的一项调查发现:同样一款应用,某些人打开之后,看到的完全是另一个界面。

一款应用,两张脸

11 月 2 日,WIRED 联合非营利研究机构 AI Forensics 和域名情报公司 Infoblox 发布调查:一个由 400 多个应用和域名组成的网络[1],伪装成宠物写真、语言教学、AI 健身教练这类日常工具,通过了苹果和谷歌应用商店的审核,然后在用户下载之后,悄悄加载一个隐藏的网页界面——用你上传的照片,生成色情换脸图片和视频。

调查里最典型的一款叫 Viefur,号称「宠物写真生成器」:花大约 4 美元买 130 个金币,就能把你家仓鼠穿沙滩裤、你家猫穿夏威夷衬衫的搞笑写真做出来。功能是真的,一点没骗人。

这只是掩护。调查人员逆向了它的代码,发现这个网络里的应用藏着几十个色情换脸模板,用户上传真人照片就能往里套,模板名称里有赤裸裸的暴力场景。9 月份,这个网络在 Google Play 上还有 27 款应用同时在线,累计下载超过 35 万次——很多标着「全年龄」适用品级。最火的一款下载超过 10 万次,评论区早有人留言警告,无人处理。

为什么苹果谷歌都审不出来?

这套骗术的核心,是「先过审,后换壳」。

审核员下载应用时,看到的就是一个干干净净的宠物写真工具,安装包里没有任何违规内容——因为它真的没有。

手脚在服务器上。应用每次被打开,都会悄悄向后台服务器上报一串信息:你从哪来、用什么语言、设备唯一标识。服务器当场决定:给你看正常版,还是加载隐藏的换脸界面。研究人员发现,其中一个明显触发条件是——你从 Facebook、Instagram 上的广告点进来下载的。

打个比方:商店里摆的样品是好的,但送到你家的那台,开机后显示什么由远程服务器说了算。传统的应用审核是「验一次、管终身」的思路,默认应用上架后还是送检时的样子。而现在的应用是活的,脸随时能换。

更讽刺的是,这个网络的流量入口,恰恰是 Meta 平台上数万条视频广告——用假名字注册的付款账号、零粉丝的页面投放。调查还发现,部分广告里出现过 AI 生成的儿童性虐待内容,多国监管机构已经因此启动调查。从广告引流、商店分发到苹果谷歌的支付系统收款,这条黑色生意几乎全程搭着大平台的便车。

幕后是谁?

调查指向中文开发者和一家在香港注册的公司 KeLing Technology Limited。证据链包括:纯中文的服务器托管、用中文写的代码注释、广告视频上带中文剪辑软件的水印。这家公司在被记者联系后,迅速抹掉了与这些工具的公开关联。

这个网络大约运营了一年,高峰期每周新注册约 30 个应用和域名——下架一批,注册一批。AI Forensics 的首席研究员 Paul Bouchaud 对媒体说,这是一个有组织的商业化运作:一个运营方、几百个一次性应用,「他们不指望追责能跟上,而到目前为止,确实没跟上」。

平台不是没反应。苹果下架了 19 款应用,发言人承认审核时这些应用完全合规、「上线后开发者换掉了内容来源」,并称过去一年因同类手法封停了数万款应用;谷歌在被联系前已自行下架大部分;Meta 处理了 1.16 万个广告账户和 4700 多个商业主页,封禁了 209 款应用的广告投放。

但数字摆在一起看就明白了:一年 400 多个应用、数万条广告,靠下架追,永远追不上换壳的速度。

普通人的四道防线

这事离国内读者并不远。国内应用商店同样长期存在「马甲包」「换壳」问题,监管层多次点名整治;而把别人照片换成不雅图像,在国内本身就是违法行为。具体到手机上,可以记住四条:

第一,别从信息流广告里直接点装应用。 这个网络的主要入口就是社交平台广告——正规开发者很少靠「零粉丝账号+耸动视频」获客。

第二,看开发者信息。 联系方式是免费邮箱、没有官网、开发者名字一串乱码的,多留个心眼。

第三,「全年龄」评分不可信,要求上传人脸的要想清楚。 这次 35 万次下载里有不少标着适合所有年龄段。任何让你上传清晰人脸照片的「写真」「换装」应用,先默认照片可能被留存,再决定给不给。

第四,孩子的设备要过一遍。 伪装清单里有语言学习、健身指导这类面向日常场景的工具,孩子下载时不会起疑。

写在最后

这不是「某款坏应用」的故事,而是审核制度被精准钻了空子:静态送检,对付不了「服务器决定给你看什么」的动态应用。要堵住它,平台需要的是持续的行为审计,而不是一次性准入。

对普通人来说,提醒其实就一句:网上每一件让你上传脸的事,都值得多想三秒。


参考来源:

  • WIRED:Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features[2]
  • ThreatCluster:Over 400 AI Apps Slip Past Apple and Google Vetting[3]

引用链接

[1]400 多个应用和域名组成的网络: https://www.wired.com/story/hundreds-of-mundane-ai-apps-are-hiding-abusive-deepfake-features

[2]WIRED:Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features: https://www.wired.com/story/hundreds-of-mundane-ai-apps-are-hiding-abusive-deepfake-features

[3]ThreatCluster:Over 400 AI Apps Slip Past Apple and Google Vetting: https://threatcluster.io/article/over-400-ai-apps-slip-past-apple-and-google-vetting-conceali-b5caa445

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料