苹果下架19款App:AI灰色生意,谁来负责?

你以为自己下载的是一款给宠物生成写真的AI工具。

可有人打开同一款软件，看到的却是另一套功能：利用真实人物照片，制造未经同意的色情深度伪造内容。

更荒诞的是，相关应用中的一部分，曾经通过正规应用商店的审核。

11月2日，WIRED公布调查，苹果在收到线索后移除了19款应用。真正值得追问的，是它们为什么能上架，又为什么能在审核通过后悄悄变脸。

一、表面是普通工具，背后却藏着另一门生意

根据WIRED与安全研究人员的调查，400多个关联应用和网站域名构成了一个网络。这个数量不是400款全部上架的App，不能混为一谈。

一些产品包装成宠物写真、语言学习或AI健身工具。研究人员发现，部分应用会联系远程服务器，根据用户来源等信息，决定展示正常功能，还是加载隐藏界面。

审核人员看到的，可能是一款普通应用；通过特定广告进入的用户，看到的却可能是不同内容。这是研究人员发现的规避审核模式，不能解释为AI偶然出错。

相关应用还借助广告、应用分发与付费机制运转。令人不安的地方在于，这门生意的一部分，依附于普通用户熟悉的大型科技平台。

二、苹果说审核时没问题，这个解释够不够？

苹果向WIRED表示，相关应用在审核时符合规则，开发者后来替换了应用所加载的网站内容。苹果移除了19款应用，并表示过去一年已暂停大量使用类似替换手法的应用。

这是苹果对事件的解释，并非独立调查对平台所有审核措施的完整评价。但它揭示了一个问题：应用提交审核时是一种状态，用户真正使用时，可能变成另一种状态。

一次审核通过，无法自动保证一个能够远程改变功能的产品始终安全。

我们不能因此断言平台完全没有防护。但既然这种风险已经存在，持续监测是否有效，就值得追问。

用户信任应用商店，是期待它尽可能及时识别风险。事后下架当然必要，可已传播出去的侵害性内容，不会因为软件被删除就自动消失。

三、灰产借用的，是正规平台的信用

陌生网站上的可疑工具，容易让人警惕。出现在熟悉的应用商店里，用户就可能降低戒心：至少，它看起来经过了审核。

应用商店提供的不只是下载入口，也承载着信任；广告平台提供的不只是流量，也能扩大产品触达；支付系统则让收费成为持续经营的可能。

这不是说正常基础设施天然有错，而是说，当它们被违规经营者利用时，治理不能只盯着最后一个软件图标。

WIRED也记录了Meta对相关广告、账户和页面采取的清理行动。这说明问题跨越多个环节。

一家负责广告，一家负责下载，一家提供支付。平台可以分工，受害者遭受的伤害却不会按业务边界拆开。

商业利益可以分散到多个平台，保护用户的责任却不能在平台之间消失。

四、创新越快，持续管理越不能缺位

AI图片生成、视频制作和智能办公，都有真实价值。出现恶意深度伪造，不意味着应该否定所有正常工具。

需要治理的，是未经同意利用他人肖像制造侵害性内容，以及有意规避审核的商业行为。

首先，对能够远程改变主要功能的应用，平台应加强后续监测，不能只检查首次提交。

其次，广告承诺与商店介绍明显不一致时，应成为提高审查等级的信号，而不是让两个部门各看各的材料。

再次，反复注册、重复违规的经营主体，不应只付出一个应用被下架的代价。关联账户识别、主体治理和依法配合调查，都应跟上。

最后，还要让受害者更容易举报、请求删除并保存证据。治理效果不能只看下架了多少，也要看处理是否及时、维权是否可行。

这些做法无法保证风险归零，却能提高恶意经营的成本，降低普通人的维权难度。

五、AI时代，信任不能成为被透支的资源

普通人的要求并不复杂：下载的软件，应当与介绍一致；自己的照片，不应被恶意利用；自己的肖像，不该成为别人牟利的工具。

当AI越来越容易制造逼真的内容，平台的价值就更不能只用应用数量、广告收入和交易规模衡量。

它还应该体现在识别风险、保护用户，以及问题发生后承担相应责任的能力上。

苹果下架19款应用，是一次治理行动。下一批伪装成正常工具的违规应用出现时，能否更早发现，才是持续的考验。

AI可以越来越聪明，平台不能越来越健忘。

技术创新可以不断突破边界，商业责任却不能因此失去底线。

今日讨论

如果一款AI应用通过审核后隐藏违规功能，你认为平台应承担什么责任？开发者负主要责任、平台持续审核，还是还要建立更有效的追责和救济机制？欢迎留言。

资料来源

WIRED，Matt Burgess，2026年11月2日：Hundreds of Mundane AI Apps Are Hiding Sexually Abusive Deepfake Features。

原文：https://www.wired.com/story/hundreds-of-mundane-ai-apps-are-hiding-abusive-deepfake-features/

本文为新闻评论，平台回应与研究人员判断均按来源归因。封面为AI生成概念插画，非事件现场照片。