数千元1单的生意!中央网信办出手整治AI“复活”逝者乱象

据网信中国4月30日消息,中央网信办部署开展为期4个月的“清朗·整治AI应用乱象”专项行动,将重点整治不当使用AI“复活逝者”,滥用逝者信息等突出问题。
此前南方都市报推出报道《当AI“复活”亲人成为一门生意:有人坦言“再像也不爱我”》。有技术提供商表示,其一年完成693单AI“复活”亲人的订单,每单定价数千元甚至上万元。

早在去年清明节,央视便对“AI复活亲人”发出过质疑——这项服务声称,只需提供逝者的照片或录音,就可以通过AI技术让亲人在屏幕上“活”过来,甚至开口说话。然而,这背后所涉及的伦理和法律问题也逐渐浮出水面。“AI”复活能实现怎样的效果?数字重生的法律边界又在哪儿?

中央网信办有关负责人表示,本次专项行动分两个阶段开展,第一阶段为“清朗·AI应用服务典型违规问题”专项治理行动,重点整治AI数据投毒、生成合成内容标识落实不到位等问题。第二阶段为“清朗·整治AI信息内容乱象”专项行动,聚焦利用AI技术生成“数字泔水”、假冒仿冒他人、侵害未成年人权益等问题。
其中提及,专项行动将重点整治不当使用AI“复活逝者”,滥用逝者信息等突出问题。
据此前媒体报道,在生成式AI发展浪潮下,通过收集逝者生前的图片、音视频等资料,数字“复活”他们的音容笑貌已不罕见。
在一些电商平台上,有不少做AI“复活”生意的商家,商品标价从几元、几十元到上百元乃至数千元。有技术提供商表示,其一年完成693单AI“复活”亲人的订单,每单定价数千元甚至上万元。
“纵使模仿得再像,也不爱我。”一位利用“AI”复活父亲的女孩坦言。业内人士也分析指出,基于目前的技术条件,其与老照片修复的性质相似,只是加入了更多互动和个性元素,“复活”的亲人也并不包含其生前的记忆,只是一个能互动的“木偶”,还不大可能走向真正意义上的数字永生。
知名歌手李玟去世后被网友用AI“复活”。她坐在镜头前,对粉丝诉说着暖心话语。随后,李玟母亲委托律所发布声明称,部分网络用户未经李玟近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,以温情之名非法牟利,借机售卖AI服务、恶意转评引流推广个人业务。
不仅仅是李玟,被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人无一例外,均表示对此不能接受。
广东广信君达律师事务所管委会主任、法学博士闪涛告诉记者,“AI‘复活’如果被滥用的话,不仅会给当事人及其亲友带来侵害,也可能危害社会公共秩序,违背公共道德与公序良俗,甚至被不法分子利用从事违法犯罪活动。”

记得把公号加星标,否则可能看不到推送哦
推荐阅读
责编 周杨云 校对 郑涵 审核 王欢 综合南方都市报、网信中国、央视新闻 封面图据央视新闻



夜雨聆风