聊AI的时候，我们总是先想到那些酷炫的事情——写文章、做视频、生成PPT。但硬币的背面，AI也在做另一件事：造假。上周，美国纽约布鲁克林联邦法院处理了一起案件，两个男人被逮捕，罪名是在网上发布了"数千张"非自愿的AI深伪色情内容。这是《Take It Down Act》生效后的第一批刑事指控。更重要的是，这项法案中关于"平台删除义务"的条款，就在5月20号正式生效。这意味着，以后只要有人报告了AI深伪内容，社交平台必须在规定时间内删除，否则也要担责。这不是一个"你们美国的事情"，这是给全球所有做AI产品的人，敲了一记警钟。
"几张假图"为什么需要一整个法案来管
你可能觉得，不就是几张假图吗？但问题在于，AI深伪技术发展得太快了。几年前，生成一张逼真的假脸还要很强的算力和专业工具。现在，你在手机上装一个App，输入一张照片，几分钟就能生成以假乱真的内容。而且质量和数量都在爆发式增长。《Take It Down Act》的核心逻辑很简单：如果你用AI制作了某人的虚假色情内容，并且未经对方同意发布，这就是犯罪。这个法案2025年就已经通过了立法，但"平台删除义务"的条款直到2026年5月20日才真正生效。也就是说，在过去的一年里，社交平台对这类报告的响应是非强制性的——可以删，也可以不删。现在不行了。不删，就是违法。
这次案件针对的是色情深伪，但AI假内容的范围远不止于此。上周，The Verge还报道了一个有意思的案例：一本名为《The Future of Truth》的书，被爆出作者用AI生成了至少6段虚假引文。更离谱的是，作者Steven Rosenbaum在被质问后，先是说"我负全责"，然后又甩锅给AI，说"是AI把我的书搞砸了"。他还补充了一句："AI是一个有趣的写作伙伴，它很有创意、很狡猾、很不寻常……然后在一些你完全想不到的地方背叛你。"这句话让我觉得很有意思：一个已经知道AI会"背叛你"的人，依然选择继续用AI。这说明什么？说明在很多人心里，AI带来的效率提升，已经大到可以忽略它可能导致的诚信风险。但当AI造假的后果从"书里有几个假引文"变成"被伪造的色情内容毁了职业生涯和生活"的时候，这个权衡就不再是简单的效率问题了。
对小公司的影响
很多做AI产品的小公司，看到这些新闻可能会想："这跟我没关系，我又不做深伪产品。"但事实是，法律的风险正在从"内容创作者"向"技术提供者"和"平台运营者"蔓延。《Take It Down Act》已经要求社交平台对深伪内容负责。接下来，会不会要求模型提供商（比如开源模型的发布者）也承担一定的责任？会不会要求API提供商（比如AI生图服务）对用户的生成内容进行过滤？这些问题的答案，会根据"第一案"的判罚结果而逐步明确。
夜雨聆风