小红书立规:AI到底是“最强辅助”还是“造假帮凶”?

一条AI生成的带货视频，可能让消费者倾家荡产；3000个账号同时用同一句话刷屏，背后可能没有一个真人。当AI的潘多拉魔盒被打开，最先站出来划红线的，竟然是小红书。

宋代工笔画里的龙猫，最近“活”了过来。它没有依靠一支专业动画团队，没有经历数周的建模和渲染，一切只是因为创作者@一方画猫呢 在完成工笔画原稿后，把画丢进了一个AI模型。模型精准还原了龙猫的神态，爪子自然挥动、穿云而过。

这在几年前几乎是天方夜谭。

一位影视行业人士曾提到，通过3D建模制作动画时，光是一个5秒的镜头就要花15天。而现在，AI把时间单位从“天”压缩到了“小时”。可口可乐、耐克开始用AI拍品牌片，商汤旗下的Seko平台把单分钟动画成本降低了99.5%，吸引了超过10万创作者入驻。

效率的飞跃让创作者欢呼雀跃，但当所有人都在讨论AI能“做什么”时，很少有人停下来想一想：AI失控了会“怎样”？

01

“数字替身”正在挤占你我的生存空间

技术不会只长天使的翅膀。

当AI的创作门槛趋近于零，内容的物理约束消失了——过去，一篇“亲身经历”的背后是创作者的时间、金钱和肉身在场感，这些投入本身就是真实性的背书。现在，算法解构了这一切。

AI起号账号批量制造虚假经历、用虚拟人设收割流量已经成了产业链。有团伙利用AI技术抓取关键词，批量生产诋毁企业形象的“网络垃圾”，目的仅仅是赚取平台流量收益。还有人利用AI洗稿，以20到50分钟一篇文章的频率批量发布虚假信息，导致谣言在网络上迅速扩散。

而更令人细思极恐的是，这些“数字替身”不仅在抢流量，还在抢我们饭碗——当AI能批量产出比真人更“勤奋”的内容时，平台凭什么把流量分给一个每天只能产出一篇的作者？

02

不止抢内容，还在“抢脸”：AI冒充的灰色生意

2025年，一桩“AI冒充名人带货”的案子震惊了市场。不法分子用AI换脸技术仿冒央视主持人李梓萌推销鱼油产品，消费者慕名下单，却不知道屏幕里那张“脸”根本不是真人。

这绝非个案。

2025年全年，网信部门清理了8700余条AI仿冒违规信息，处置了1.1万余个仿冒公众人物账号。抖音随后启动专项治理，整治范围包括AI生成虚假商品展示、虚构身份带货、AI生成虚假测评等内容。北京消协联合8家电商平台承诺严禁AI换脸仿冒名人带货。

一些年轻人已经开始自救。有人在闲鱼上发布“AI反诈验证”服务，帮人鉴定视频中的主播是不是AI生成的；还有人制作“AI痕迹识别教学”，在知识付费平台上月入过万——新的行业正在AI造假的阴影下生长出来。

03

平台交锋：规则谁先定，谁就抢占先机

面对这股不可逆的技术浪潮，小红书在2025年4月率先给出了系统性的治理主张：鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器，所有AI参与创作的内容均需主动标识。

随后的8月，小红书官方发布AI内容强制标识公告，明确对未主动声明的AI生成内容将添加显式或隐式标识，并禁止用户恶意删除、篡改或隐匿此类标识。2025年上半年，小红书共处置虚假笔记320万篇、虚假人设账号1万个、虚假低质AIGC笔记60万篇。

小红书的逻辑很清晰：在这个AI内容泛滥的时代，谁能率先建立信任机制，谁就能在用户心中种下一颗“真实”的种子。

但这种“主动标识”能完全解决问题吗？问题在于——平台无法监管所有用户，更无法监管所有AI模型。

04

国家标准来了：“显隐双标”给AI戴上紧箍

平台的单兵作战终究有边界。2025年9月1日，国家网信办等四部门联合制定的《人工智能生成合成内容标识办法》正式施行。

新规的核心是“显式+隐式”双重标识体系。显式标识在内容显著位置以文字、图形等方式呈现；隐式标识则通过数字水印嵌入文件，实现溯源追踪。用户不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识，更不得利用AI技术制作传播虚假信息和侵权信息。

与此同时，抖音、B站、微信视频号等平台纷纷更新用户协议，要求发布者主动标识AI生成内容。不主动标识的平台将采取限流、下架、封号等措施。大模型公司也被要求在模型层面加入不可篡改的水印标识。

05

从“技术狂奔”到“规则赛跑”

AI的潘多拉魔盒已经被打开，但幸运的是，我们从未如此深刻地意识到：技术没有善恶，规则才有。

小红书的先行一步，国家的强制标识法规，平台间的协同治理——这些都指向同一个信号：AI内容行业正在进入“规则赛跑”阶段。谁能在保护真实内容的前提下，合理运用AI工具，谁就能在这场变革中活下来。而试图靠AI造假、批量生产垃圾内容牟利的玩家，将被淘汰出局。

这场博弈的最终受益者，不会是平台，也不会是工具，而是每一个愿意认真对待内容的创作者，以及每一个希望在真实与虚假之间找到答案的普通人。

技术革新的大门已经敞开，但真正的“AI革命”，不止在于我们能做什么，更在于我们选择不做什么。

商务合作请联系微信/电话:

18123717254

欢迎大家关注以下矩阵账号

了解科技、营销领域最新资讯