夜雨聆风学习资料网

ARTICLE · 1205362

今天凌晨,吴越把"AI自己"骂上了热搜

今天凌晨,吴越把"AI自己"骂上了热搜

“

伪造比自证便宜,“我是我”就成了这个时代最贵的三个字。

  凌晨三点多,吴越在微博上开火了。

“一觉醒来,谁在利用Ai肆意抓人替自己作恶?这位‘花姐’你骗了多少人的钱?请如数奉还!太恶劣!!!”

  骂的是一个叫“花姐”的账号。视频里的“吴越”,声音是AI复刻的,对着镜头侃侃而谈:“这个产品不是他们找我,是我找他们。”张口就是回馈老粉丝、联合厂家送福利,卖的是一款护肤品。同一条产线还捎带了“邓亚萍推荐”。两位名人,几段素材,一场直播,齐活。

  最扎心的是视频底下那行小字:“作者提示:含AI生成内容”。

  标了。但好像没派上用场。天亮之后,#吴越发声AI诈骗太恶劣#冲上热搜。

— 凌晨还刷着直播的爸妈,和屏幕里过分完美的“家人”

📌 本文看点

01

造假成本,塌到地上了

02

有标识,为啥还骗得到

03

三招识别,一件实事

01

COST

造一个“吴越”,成本可能不到一顿早饭

  先说清楚一件事:骗子盯上AI,不是因为AI聪明,是因为AI便宜。

  放几年前,想做一条以假乱真的明星带货视频,你得会剪辑、会抠像、会配音,团队加设备,没个几万块下不来。现在呢?把本人几段公开的音视频喂给软件,等一会儿,一个会说话、会笑、会冲你喊“家人”的“吴越”就出炉了。有媒体拆过步骤:一张照片加一段素材,零基础两分钟出片,门槛基本被铲平了。

— 几段普通素材进去,一个会说话的“人”出来

  成本塌到地板上,产量只会爆炸。快手公布过一组数:单一平台每天新增109万条AIGC视频,日均1600万新增关注、1.7亿互动。这里头绝大多数当然是玩梗整活,但你也看出来了。内容供给的闸门彻底打开,浑水摸鱼的成本跟着一起塌。

109万+

日均新增AIGC视频

1600万

日均新增关注

1.7亿

日均互动

— 数据来源:快手公布

  佣金更是火上浇油。新京报调查的“AI小海”事件里,部分商品佣金高达55%。一件一百块的东西,五十块进推流者口袋。你猜这笔钱够买多少条AI视频?

  说白了,这不是哪个骗子的灵光一现,是一门算得过账的生意。

02

BLIND SPOT

有标识,为什么还是骗到了爸妈

  你可能会问:平台不是要求标注AI生成内容吗?

  标了。花姐的视频底下就标着,温峥嵘被AI盗播的录屏里,很多也标着。

  但盯着这些直播下单的人,不是我们。

  是凌晨还刷着手机的妈妈,是觉得“明星总不会骗人”的爸爸。他们不刷热搜,不知道吴越昨晚发了火,更分不清屏幕里那张脸、那个声音,早就不是本人。温峥嵘自己说过一句让人心里一沉的话——

「我现在就很难证明我是我。」

  她闯进仿冒直播间质问“你是温峥嵘,那我是谁”,反被对方拉黑。你品品这句话的分量。自证的成本,比造假高太多了。

— 同一张脸,同时“现身”三个直播间卖三种货

  已故音乐家刘欢的遭遇更过分。人刚走,就有AI生成的“妻子卢璐”出来讲“临终故事”,转头推销黄精五黑粉;还有账号假扮他儿子带货。逝者的肖像、公众的情感,被明码标价塞进了购物车。

  表面看,是骗子太精。不,细想之下,真正的问题是:标识制度有了,可看得懂标注的人,和掏钱下单的人,压根不是同一批。

03

PIPELINE

比个案更瘆人的,是那条流水线

  单看吴越这事,是个案。把最近的事摆一块儿,味道就变了。

  新京报10月16日曝光的“AI小海”:清一色清秀乖巧、缺少母爱的大学生人设,冲着屏幕喊“姨姨妈妈”,“校园带货大赛就差两单了”。截至10月15日,“小海”话题播放量6亿次。报道刊发后,涉事账号一夜之间删视频、改名、关橱窗——反应之快,说明他们比谁都清楚自己在干什么。

  更魔幻的是后续。一群年轻人用造“小海”的同款AI工具,批量生产“恶人小海”:戴金链子、叼着烟,冲白发老人出言不逊;或穿着囚服抓着铁栏,喊着“对不起姨姨妈妈”“我是骗子”。想用魔法唤醒被魔法蒙住的长辈。

  聪明吗?聪明。悲哀吗?也真悲哀。当揭穿一个骗局需要再造一个骗局,这事本身就说明,靠普通人自发对抗,已经不够了。

  法律界的态度倒很明确:冒名带货,名誉侵权和消费欺诈两条线都占着,金额够大就是刑事诈骗;平台若不及时处置,扩大损失的部分要承担连带责任。

04

ACTION

别转发恐慌了,做三件实事

  骂完骗子,说点能用的。下次给爸妈打电话,塞这三句:

1

同一时间,“她”要是在三个直播间卖三种货,铁定是AI。大明星再缺钱,也没法分身。温峥嵘本人,就同时“现身”过三个直播间。

2

让她关掉声音再看一遍。AI的嘴型、眼神和语气,静音时特别容易露馅,那是一种“过分流畅”的僵硬。

3

还有最重要的:别只帮爸妈拉黑一个账号,要当着他们的面,拆开一个“花姐”给他们看。从哪合成的、怎么标的识、佣金是多少,掰碎了讲。一次面对面的祛魅,胜过一百句“别信别信”。

— 当面拆开一个“花姐”,胜过一百句“别信别信”

∞

THE END

写在最后

当伪造比自证便宜,“我是我”就成了这个时代最贵的三个字。

  我们管不了骗子的算法,但至少能让爸妈知道:屏幕里那个喊你“家人”的人,可能连人都不是。

END

  如果你觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见。

相关学习资料