“苦命男孩小海”相关账号,利用AI形象卖惨带货,被处置!

公告表示，10月1日至10月22日期间，平台累计处置违规账号2万余个，清理违规视频4.7万余条。其中提到一批典型案例。

案例一：账号“桂*”虚构“朋友在电机事故中离世”的社会事件，吸引流量，经平台核查，相关信息属编造，相关账号及内容已被依规处置。

案例二：账号“宇*”发布摆拍救助流浪汉的视频博取关注，经平台核查，视频中当事人系被雇佣出镜，并非真实流浪汉，相关账号及内容已被依规处置。

案例三：有矩阵账号利用“小海”AI形象进行卖惨带货，经平台核查，相关人物系AI合成数字人，相关账号及内容已被依规处置。

案例四：账号“爷*”发布摆拍“爷爷生病仍独自抚养孙女”的视频进行卖惨博同情，经平台核查，相关信息系编造，相关账号及内容已被依规处置。

 此前报道 

近日

一批名叫“小海”的苦命男孩

在短视频平台上批量涌现

这些“小海”对着镜头一口一个“姨姨妈妈”，哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有七旬老人独自坐火车前去探望。

这些由AI技术生成的十几岁男孩形象，无一例外都在上演着“懂事、窘迫、心疼长辈”的苦情剧本。在一些视频里，“小海”眼含热泪，对着镜头展示手里的馒头：“姨姨妈妈，我是小海，同学们都去吃饭了，我躲在教室里面吃馒头。姨姨妈妈，我有好好吃馒头，我还买了个肉包是给姨姨妈妈的，小海想把好吃的给姨姨妈妈们……”

而这些让老人们牵肠挂肚的“贴心晚辈”，实际上根本不存在，全是由AI合成的“数字人”。

转发

  提醒身边人别上当！

来源 | 综合抖音黑板报、四川日报

编辑 | 邓聿修

校对 | 居伟强