ARTICLE · 1398963
135款"脱衣"App,13岁账号就能下:三位参议员把苹果、谷歌、Meta一起写进了信里
先把这笔账摆出来。
11月18日,三位美国参议员分别致信苹果、谷歌和Meta的首席执行官,要求解释为什么能够生成非自愿裸体图像的应用仍然出现在应用商店、并通过社交平台的广告获客。英国《卫报》当天独家披露了这封信。11月22日,国内科技媒体集中转述了这一事件。
数字很扎眼:技术研究机构在10月的调查中,用注册为13岁男孩的测试账号,在苹果和谷歌商店里查到135款具备生成裸体或色情图像功能的应用;其中一款账户开启了家长控制,仍可访问部分应用。另一家欧洲非营利机构在11月发现444个相互关联的应用网络,部分应用对审核隐藏深度伪造功能,却通过社交平台的广告公开宣传。联合国儿童基金会今年初披露,11个国家至少120万名儿童报告过去一年成为非自愿裸体图像的受害者。一家平台回应称已删除9200万条色情广告——删除量很大,但信函要问的恰恰是:为什么这些广告还能跑到用户面前。
另一边的账是治理成本。开发者改一次上架包、商店加一道持续复查、广告平台补一层素材识别,都是可以量化的投入;而不做这些,代价是被监管点名、被国会追问、被要求限期答复。参议员要求苹果在12月9日前给出回应。
这不是一封"外国议员吵架"的信。它指向一个所有做图像生成工具、应用分发和广告平台的人都绕不开的问题:当有害能力被藏在功能后面,谁该为它出现在用户手机里负责?
先把状态说清楚:这是参议员的质询信,不是诉讼,也不是处罚决定;信中的数字来自第三方研究机构的测试,苹果对部分应用分类提出异议,测试账号可下载不等于实际儿童已经下载使用。本文按公开报道整理,不把质询写成认定。
一、信里问的三件事
第一件,审核之后还有没有管理。参议员问的是:应用上架后新增被禁止的功能,平台怎么发现?反复违规的开发者怎么识别?被下架的开发者换个名字回来怎么办?苹果自己把这种行为叫作"批准后调包"——开发者先交一个干净的版本过审,再把脱衣功能加上去。
第二件,年龄门槛是不是真的。技术研究机构设了四个13岁男孩测试账号,两个平台各两个,其中一个开启家长控制。测试发现,部分订阅在用礼品卡余额购买时没有发出预期的家长批准请求。苹果回应称仍在核查,并强调按其现行规则应当获得批准。
第三件,广告是不是在替这些应用拉客。参议员指出,社交平台上有人公开宣传脱衣功能,甚至出现含儿童性虐待材料的付费广告。研究机构9月发现332条此类付费广告。平台回应称已禁止此类内容并采取技术措施,但质询的核心是:规则写在纸上和执行落在系统里,中间差了多少。
二、这封信在国内法下对应什么
参议员信函本身不产生中国法上的责任,但同类行为放在中国法律框架里,撞的是几条很硬的线。
《生成式人工智能服务管理暂行办法》第四条明确,提供和使用生成式人工智能服务不得生成暴力、淫秽色情以及虚假有害信息等法律、行政法规禁止的内容,第四项还要求尊重他人合法权益,不得侵害肖像权、名誉权、隐私权和个人信息权益。第七条要求训练数据具有合法来源,涉及个人信息的应取得同意或者符合其他法定情形。第十四条要求发现违法内容时停止生成、停止传输、消除影响并采取模型优化等措施整改,同时向主管部门报告。
《互联网信息服务深度合成管理规定》第六条禁止利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息;第十条要求服务提供者对使用者的输入数据和合成结果进行审核,建立健全违法和不良信息特征库,留存网络日志,发现违法信息及时处置并报告;第十三条专门写到互联网应用商店等应用程序分发平台——应当落实上架审核、日常管理和应急处置责任,核验深度合成类应用的安全评估和备案情况,对违规的采取不予上架、警示、暂停服务或者下架等措施。
这条第十三款,正是这封信在中国法下的镜像:商店不是只管敲门那一下的门卫,它承担的是持续性的管理责任。
再往下是人格权与未成年人保护。《民法典》第一千零一十八条、一千零一十九条规定肖像权的制作、使用、公开规则,第一千零二十四条保护名誉权;《个人信息保护法》第三十一条要求处理不满十四周岁未成年人个人信息须取得监护人同意,并制定专门的个人信息处理规则。若涉及淫秽物品的制作、传播牟利,还有刑法第三百六十三条、三百六十四条规定的罪名空间——具体是否入罪要看主观目的、数量、传播范围等要件,不能仅凭应用功能直接下结论。
三、责任被切成四段,风险却在一条链上
这类应用之所以难管,在于链条上的每一段都可以说"我只做我那一段"。
开发者提供能力,商店负责分发,广告平台负责获客,支付渠道完成变现。任何一段单独看都有规则,但有害能力是从这几段的缝隙里长出来的:开发者把功能藏起来,商店只在审核时看一眼,广告用看似中性的图片引流,用户点进去才看到真实用途。
这封信泄露的正是这种断裂感——苹果说已经删除了研究报告提到的应用,但那些应用仍然在被下载过的手机上运行;商店说规则禁止,开发者说我的应用只是普通照片编辑器;平台说广告违规,广告主说落地页在另一个域名。规则都有,执行被切碎了。
对国内同行的启示很直接:把合规做成"审核时点的一次性检查",在这类能力面前基本失效。有效的做法是把审核从点扩成线——上架前查、版本更新时查、行为异常时查、被投诉后查,四道口子都要有人守。
四、三类主体,对号入座
第一类,图像生成与编辑工具的开发者。
在模型侧和输出侧同时设闸:对"脱衣""去掉衣服""生成裸体"这类提示词建立拦截清单并持续更新;对高度私密人像的输入增加确认步骤;输出侧接内容识别,命中即拒答并留日志。训练语料和微调数据要留来源记录,不能让违规样本从数据流里混进来。产品形态上,把年龄门槛做成真实校验,而不是注册时点一下"我已满十八岁"。
第二类,应用商店和分发平台。
参考深度合成规定第十三条的动作:上架时核验安全评估与备案情况;对图像类、相机类、AI修图类应用建立专项复查清单;把"审核后新增功能"纳入版本比对检测;对同一开发者主体被下架后换个马甲重新上架的情况,做主体维度的关联识别。被通报违规的应用,处理范围要覆盖已安装设备的后续版本推送。
第三类,广告与流量平台。
广告素材用生成内容识别模型过一遍,尤其注意那些落地区在站外、落地页与素材呈现不一致的投放;对成人暗示类关键词和图片建立广告主资质核验;被投诉的广告主按主体封禁,而不是只删单条广告。信里提到"部分应用向审核隐藏功能、却在广告中公开宣传"——这恰恰说明广告侧比商店侧更容易看到真实用途,广告审核可以成为发现违规应用的前置信号。
五、现在该做的六件事
做一次提示词红线自查。把产品支持的中英文提示词过一遍,确认裸体生成、非自愿私密图像相关表达会被稳定拦截,并把测试样本和拦截结果存档。
把审核从"上架时"改成"全周期"。建立版本更新、功能新增、用户投诉三个触发点的复查机制,明确谁负责看、多久看一次、看完留什么记录。
核验深度合成类应用的评估与备案状态。分发平台对这类应用建立单独的台账,没有完成安全评估、备案的,按规则不予上架或者暂停服务。
把未成年人门槛做实。不满十四周岁用户的个人信息处理取得监护人同意并制定专门规则;涉及付费订阅的,确保家长批准流程不会被礼品卡、第三方支付绕过。
广告和商店数据打通。广告侧发现的违规主体,同步给上架审核侧;同一开发者名下多款应用出现相似违规的,按主体处理,别让下架变成换个图标重来。
保留完整的处置记录。发现违法信息后的处置时间、措施、报告对象、账号处理结果,逐条留存。对外的每一次"我们已经删除",都需要有内部的证据支撑。
政策写在纸上很容易,拦在门口很难。真正拉开差距的,是应用上架之后的十二个月里,有没有人一直在看。
本文依据公开报道与公开法律法规整理,仅供交流参考,不构成针对特定事项的法律意见。















































































