AI让死者复活拉票,你投的真是自己选的票吗?当一位来自印度的议员借助AI换脸技术跳出宝莱坞舞蹈来为你拉票时，你手中所投出的那张选票，那究竟代表的是民主的真实意愿，还是一段代码所营造出的狂欢景象？
接着请不要急着发笑，这已经不再是简单的恶搞行为了，这就是2024年印度大选的真实情况莫迪跳着孟加拉语舞蹈的合成视频播放量超过了千万次。且西孟加拉邦首席部长班纳吉被替换成同一段舞蹈，而且宝莱坞影星阿米尔·汗被伪造视频用来拉票。另外已故的政治家被复活来为政党背书，同时我把这看作是深度伪造竞选时代正式开启了，是全球范围的监管，并且连进入这个时代的资格都还没有获得。有不少人错误地觉得这仅仅是印度特有的混乱现象，不对。另外印度仅仅是那种类似煤窑里金丝雀的存在。2024到2025年全球有72场选举，38个国家都出现了深度伪造选举的事，38亿人都受这事情影响。还有斯洛伐克AI音频伪造选举对话在禁言时间段扩散，同时美国新罕布什尔州出现模仿拜登声音来劝阻初选投票的机器人电话，联邦通信委员会罚了违法者600万美元还起诉了人家。罗马尼亚总统选举因为AI驱动的信息行动被宣告作废这是全球到目前为止唯一的一个例子，因此问题不在于印度，问题在于你我所参与的每一次选举之中。我要提出一个违背常规认知的看法：深度伪造对选举造成的真实威胁，并非是它欺骗了你，是它让你不再去信任任何事物。而且学术界给这种特定现象赋予了一个十分精准的称谓说谎者红利（liar'sdividend）。那究竟什么含义，而且当一段真实且或许会带来致命影响的政客讲话被公之于众时，那位政客仅仅轻描淡写地说一句这是AI伪造的，所以证据就变得如同烟雾一般难以捉摸。在2024年美国大选中，双方阵营都很娴熟地运用这类话术，刻意将真实与虚假的界限搅得模糊不清。其实相较于被欺骗，更为可怕的是失去辨别真假的意愿这就是深度伪造作为游戏规则改变者最为深层的毒性所在。有个人讲，别担心，我们依靠法律，另外欧盟的《AI法案》降临，规定深度伪造内容要有机器可读标识，关键条款到2026年8月2日才完全生效；还有美国在2024年2月让FCC禁止AI语音机器人打电话，同时二十多个州都制定了法律；再说韩国修改《公职选举法》，接着选举前90天禁止AI深伪，最高判7年有期徒刑，是感觉挺厉害吧？还有无奈都是慢吞吞的节奏，再说印度各政党在2024年大选的AI生成竞选内容上花了大约5000万美元，而一个三人小组制作一条像真的选举视频成本才约5万元人民币，最快几分钟就能弄出片子，而监管的话语还没落地，造假的代码已经更新到第三代。在2024年被确认的AI选举相关事件里，有46%的事件没办法确定其归因情况。同时欧盟的《AI法案》能够对欧洲平台上的深伪管理，是无法对跨越国界的WhatsApp群组加以管束；另外印度到2025年11月才对IT规则修订，首次给出了合成信息的法定定义。而学者清晰地指出它没有在《人民代表法》的框架内专门去处理选举方面的深伪问题，这并非是法律落后于技术发展，是主权方面的边界跟不上算法没有国界的态势。因此外国行为体借助监管方面的缝隙来开展认知操纵，已经被学者判定为是结构性存在漏洞点。我不断思索后愈发确信，我们正在目睹一种新型权力的出现，也就是真实的定价权正在诞生。以往是掌控媒体的人掌握真实，如今是掌握生成式AI的人，加之能以5万元成本批量生产真实。印度有近10亿选民，有超8亿网民，人均每天刷社交媒体时长超3小时，执法部门在选举季根本没办法实时去甄别并删除相关内容。当一位年轻的印度选民看到最喜欢的演员为某政党拉票时，按照印度选民自己的表述，他辨别真假的可能性几乎为零。如果真相成为了需要付费才能获取的内容的话，那么民主的基石就会被偷偷地抽掉。存在部分人将期望寄予平台自律这一情况，别抱不实在际的幻想。Meta在爱尔兰总统竞选深伪事件里有删除部分视频的举动，不过那属于事后弥补；另外欧盟委员会于2025年11月宣告成立信息监管新机构，还去加大对《数字服务法》《AI法》的执法力度。要留意爱尔兰事件已经发生了，平台以及内容审核常常是在问题出现后才采取行动。算法推荐的根本逻辑是追求用户的参与度，且深度伪造政客跳舞、骂战、制造丑闻这类行为，正好是能极大提升参与度的因素，让平台自行监管深伪现象，就如同让烟草公司去自查肺癌问题一样不现实。我的态度十分清晰：对于选举深度伪造的应对，要提升到关乎认知主权的国家安全层面来对待，不能仅仅放在虚假信息治理的民事范畴。其实有三件事要做，首先在选举期间，所有和候选人相关的AI生成的音视频，要强制加上显式水印还要区块链溯源，而且发布方要承担真实推定的举证责任，如果拿不出原始素材就按操纵选举罪来处理。其次对于跨国有组织的选举深度伪造情况，按照认知战来判定性质，还要授权情报与网络安全部门主动去反制，等着别人来投诉。最后是最为关键的一点将媒介素养纳入选民教育之中，让每一个公民在走向投票站前清楚：你所看到的，不再是就等同于事实。但请你回答我这样一个问题：当一段AI生成的视频能致使一位候选人宣布退出竞选，一段伪造的音频能够直接阻止整个州的选民去投票。你还会拿表达自由作为操纵选举大开方便之门的理由吗？另外自由绝对不是没有限度的，选举的公正就是那一定要坚守的界限。还有印度议员的那一场舞蹈，不仅打乱了宝莱坞的节奏，更是戳破了全球选举信任最后那一层像窗户纸一样的东西。现在他们利用AI让逝者重现、让电影明星出面支持、让政客跳起舞来；而未来，他们就能够凭借同样的代码，让你投出违背自己内心意愿的那一票到你生命终结之时还会觉得那是自己做出的选择。如果连亲眼看到的才是真实都变成了这个时代最危险的错误认知，那么下一次选举到来之前，还敢随便相信你所看到的任何一个竞选视频吗？声明:本文章9O%以上都是自己原创内容，只有少量素材借助AI辅助，但是所有内容都经过自己严格审核和复核。图片素材全部都是来源真实素材或者AI原创。文章旨在倡导社会正能量，无低俗等不良引导，望读者知悉。
夜雨聆风
