乐于分享
好东西不私藏

13款AI脱衣App被旧金山起诉

13款AI脱衣App被旧金山起诉

AI日报 · 风向

苹果和谷歌的应用商店,又摊上事了。

按理说,这两家巨头对“色情内容”的审核一直是行业标杆,封号下架那是家常便饭。但是,这次美国旧金山市检察官办公室直接点名,矛头直指13款披着“换脸”外衣的"AI 脱衣”App。

这波操作有点狠,检方不仅要求立即下架,还指控苹果和谷歌靠这些应用赚了数百万美元

🔥 伪装成工具,实则是“脱衣”

IT之家 7 月 18 日消息,据 9To5Mac 报道,旧金山市检察官 David Chiu 发起的调查发现了大问题。

13款违规应用里,8款藏在 App Store,5款躲在 Google Play。它们大多打着“换脸工具”的幌子,用户下载打开后,才能解锁深度伪造色情功能。

咱就是说,这种“挂羊头卖狗肉”的套路,在 AI 圈早就不是新鲜事,但这次规模确实有点大:

  • 其中一款应用下载量超过100万,官网直接展示了十多种 AI 风格图片;
  • 另一款更离谱,宣称可以生成“免费且无审查”的视频。

David Chiu 已经向两家巨头发出停止侵权函,要求立刻把这13款 App 清出商店。

💰 检方指控:平台也在“分赃”

这次调查最扎心的一点,是检方没把苹果和谷歌当成单纯的“受害者”或“监管者”,而是直接划进了“共犯”圈。

Chiu 在信里指出,苹果和谷歌一直从这些有害技术中获利。按照应用商店的分成机制,这两家公司很可能通过这些"AI 脱衣”应用的内购或订阅,赚取了数百万美元

这就意味着,只要钱还在进账,平台的审核动力可能就打了折扣。这波属于是把科技巨头的“遮羞布”给扯下来了。

巨头回应:有的认罚,有的还在扯皮

面对指控,两家的反应速度倒是挺快,但态度略有不同。

谷歌发言人比较干脆,表示会对违反政策的应用采取下架等处置措施,没多废话。

苹果则发表了一篇完整的声明,强调 App Store 从设计之初就是安全平台,严禁色情内容。目前,苹果已移除了3款涉事应用,对应的开发者账号正在终止。

对于剩下的4款应用,苹果的说法是“正在联系开发者要求整改”,如果不行再下架。至于另外那几款怎么处理的,声明里没细说。

说实话,这种“先下架一部分,再观察一部分”的处理方式,很难不让人怀疑是不是在拖延时间。毕竟,100万下载量的应用能活到现在,本身就说明审核机制存在巨大的漏洞。

这波风波之后,"AI 换脸”类应用的生存空间会被进一步压缩,这是肯定的。但对于普通用户来说,真正该警惕的是:下一个伪装成“修图神器”的陷阱,可能已经在路上了。

你同意检方对苹果谷歌的指控吗?留言区见

来源:IT之家 | 链接:https://www.ithome.com/0/978/337.htm

— AI日报观察员,每天带你用内行视角看 AI

#旧金山# #app# #脱衣# #AI#