批量AI“小海”卖惨带货,抖音通报:经平台核查,相关人物系AI合成数字人,相关账号及内容已被依规处置

10月23日，抖音黑板报发布关于开展“清朗·整治短视频虚假人设乱象”专项行动的公告（二），全文如下：

抖音致力于打造开放、积极、多元、友善的平台，帮助用户记录和分享真实美好生活。平台始终倡导创作者坚持真实真诚的创作原则，在鼓励展示真实自我的同时，持续打击虚假人设、恶意摆拍等违规行为。近期，抖音持续开展“清朗·整治短视频虚假人设乱象”专项行动，深入清理虚假人设类有害内容和违规账号，营造真实可信的网络环境。

本次专项行动聚焦短视频虚假人设乱象，开展深度治理，重点整治以下五类违规行为：假扮弱势群体骗取关注、虚构职业资质发布专业内容、利用AI仿冒人物虚假营销、鼓吹奢靡迷信引流牟利、编造冲突剧情博取流量。

10月1日至10月22日期间，平台累计处置违规账号2万余个，清理违规视频4.7万余条。

典型案例如下：

案例一：账号“桂*”虚构“朋友在电机事故中离世”的社会事件，吸引流量，经平台核查，相关信息属编造，相关账号及内容已被依规处置。

案例二：账号“宇*”发布摆拍救助流浪汉的视频博取关注，经平台核查，视频中当事人系被雇佣出镜，并非真实流浪汉，相关账号及内容已被依规处置。

案例三：有矩阵账号利用“小海”AI形象进行卖惨带货，经平台核查，相关人物系AI合成数字人，相关账号及内容已被依规处置。

案例四：账号“爷*”发布摆拍“爷爷生病仍独自抚养孙女”的视频进行卖惨博同情，经平台核查，相关信息系编造，相关账号及内容已被依规处置。

抖音始终致力于构建真实记录、向上向善的网络生态。平台将持续治理虚假人设类违法违规内容，畅通用户举报渠道。平台呼吁广大网友对此类以博眼球、蹭流量、谋私利为目的的虚假人设内容保持高度警惕，也希望广大创作者自觉坚守文明创作底线，真诚记录美好生活，共同维护清朗、真实、安全的网络空间。

此前报道：

近日，一批名叫小海的“苦命男孩”AI数字人在短视频平台批量涌现。镜头里的“小海”哭诉着单亲、身世窘迫，不少中老年人在一声声“姨姨妈妈”中下了单。

据媒体报道，这些账号带货的商品价格往往高于其他电商平台；有运营者称，“选对中老年赛道，一天赚两三千算是少的”。所谓“苦命”，不过是引流的话术。

即便有网友发布视频，揭露“小海”实际为AI数字人进行提醒，仍有老人没有意识到自己正在为一段虚构的身世付费，反而将其视为新的剧情内容。