AI 内容创作者,正在稀释社交信任

AI 账号最危险的变化，不是“越来越像人”，而是平台还没有决定：一个不是真人的创作者，到底该被怎样标记和治理。

当 AI 生成的人设进入社交平台，它影响的不只是内容供给，而是用户对“这里有没有真人”的基本判断。

从虚拟偶像，到普通人设

The Verge 的 Robert Hart 写到一个变化：早期 AI influencer 很容易辨认。它们通常很精致、很昂贵、很像一个工作室项目。

比如 Lil Miquela、Imma、Shudu Gram，这些虚拟形象的存在感很强。你不一定喜欢它们，但你大致知道自己看到的是一个“虚拟项目”。

现在的问题不同了。

生成式 AI 降低了制作成本，AI 人设不再需要大型团队，也不一定要走精致路线。它可以像一个普通生活方式博主、健身账号、穿搭账号、情感陪伴账号、带货账号，混进时间线里。

越普通，越难识别。

很多平台已经开始给 AI 图片、AI 视频、AI 音频加标签。

但这里有一个治理缝隙：标签通常针对单条内容，而不是整个账号身份。

一张图是不是 AI 生成的，和一个账号是不是“合成角色”，是两个不同问题。

前者是内容披露，后者是关系披露。

用户关注一个账号，不只是消费单条内容，也是在建立某种弱关系：这个人是谁？他的经历真实吗？他的推荐来自使用经验、商业合作，还是批量生成的人设脚本？

如果平台只标记内容，不标记身份，就会留下巨大的灰区。

对做产品、营销、增长的人来说，AI content creator 不是一个猎奇话题，而是会改变获客生态。

它至少带来四个后果：

低成本人设可以批量生产，平台会出现更多看起来像“个人表达”的商业内容。

这会让真实创作者的注意力成本变高。

过去一个账号的人设、历史、互动关系需要时间积累。现在，部分“人格感”可以被合成出来。

这会让用户更警惕，也会让平台上的信任建设更难。

一个账号的粉丝、互动、照片、生活记录，都可能被包装。品牌不能只看表层指标，而要看真实影响力和转化质量。

如果平台不划定真人和合成角色的边界，用户迟早会用自己的方式划线：屏蔽、迁移、只信任熟人网络，或者转向更封闭的社区。

The Verge 提到一个关键点：对平台来说，互动就是互动。

一个 AI 人设如果能带来观看、评论、私信和停留时长，它在短期指标上并不一定是坏事。

这就是治理难题。

平台一方面需要打击诈骗、冒充、色情勒索、虚假宣传；另一方面又不愿意主动压低内容供给和互动规模。

结果就是：只要没有明显违法违规，很多合成账号会处在暧昧地带。

社交平台之所以叫社交平台，不只是因为有内容流，而是因为用户相信那里有足够多真实的人。

如果真人比例、真实关系和真实经验被持续稀释，平台就会从社交网络滑向内容农场。

短期看，内容更多了；长期看，信任更少了。

当用户开始怀疑每一个头像背后都可能没有人，平台的社交价值就会被重新定价。

如果你在做社区、内容平台、创作者工具或品牌投放，现在就应该重新设计三件事：

AI 内容不会消失。真正要争的是边界。

AI 让内容生产更便宜，但信任不会因此更便宜。

谁能让用户更清楚地知道“我正在和谁互动”，谁就能在 AI 内容泛滥之后保住社区价值。