
做养老、健康、家庭类的内容的人可能会看到这样的视频:“霸总”穿得非常正式地对镜头说,“每天都要问我‘暖’,还要给我房子、提亲。”
在评论区中,有人真的把对方当作某个企业家来对待,并且留下了年龄、住址以及联系方式等信息。创作者认为只是“很感人的”就随手转发一下,这样就会使更多的人把虚拟的人设当作真实的自己来对待。
新华社在四月份的时候就报道了关于“AI霸总”的事情。这样的形象可以是AI数字人也可以是经过了换脸和拟声之后的样子,在后面还会有一些打赏、带货或者付费会员以及私密渠道推广的内容。
问题不只在于“视频是用人工智能制作出来的吗?”账号是谁管理的?人设是否真实的?是否有AI标志?最后要将人引导到什么地方去?这些问题都要分别进行调查。
转发之前要进行以下四个方面的检查。
第一点就是把原来的视频链接以及账号主页都留下来。看看有没有说“AI生成”或者“虚拟人”的字样,并且在之前录制过的视频中的人物名字、年龄和身份是不是一直在变呢?
第二步是截取一些清楚重要的画面给朱雀AI检测助手来帮助它进行图像上的辅助分析。观察面部纹理、手部、服饰、反光以及背景是否会产生出特征提示。
第三步就是查询身份以及相关的商业链条。以视频中出现的名字、公司、地址为关键词进行反向检索;如果网页不断地引导用户去私聊、添加联系人、点赞或者购买商品,请千万不要帮助它传播开来。
四、再决定怎么写如果没有证据证明这是真人真事,那么就不必用“暖心企业家”这样的口气来发布了;如果确定是人工智能或者虚假演绎的时候,按照现在的平台功能主动标注出来。
已经把AI的标志写上去了,并不等于就可以放心地为它引流了。要将标识与话术放在一起来看:一方面说明这是虚拟的形象,另一方面又暗示着真人恋爱、索要隐私或者诱导付费的风险仍然存在。创作者还要告诉长辈们不要在评论区留下自己的联系方式、地址以及家庭情况等信息。
中央网信办今年的专项行动已经把盗用别人的肖像、用数字虚拟人做广告和AI换脸、换声音来冒充别人等行为列入了整治范围之内。这样的东西并不是一般的“土味情话”。
如果朱雀提示有生成特征的话就可以把它当作继续调查的一个线索来使用,但是不能因为一次结果就给账号下结论。还要回到原来的链接上,并且要说明清楚自己的身份以及实际的引流过程。
反过来说,并不具有明显的AI特点,也并不能证明对方是一个真实的商人,更不能保证交易、理财、养生的产品或者感情上的承诺是可靠的。
对于老年人而言,一次转发就相当于一次背诵。身份不明、反复要求个人隐私数据、最终导致支付费用的视频,宁愿不看也不用。
让父母看到真实的这个世界要比帮助一个人的虚拟形象增加人气更值得。点开“阅读原文”就可以试一试朱雀AI检测助手了,如果有家里的老人也看了这样的视频的话,请大家留言谈谈自己的看法。
夜雨聆风