点击蓝字

关注我们
巴以战场的炮火还未散去,另一场看不见硝烟的战争却已悄然爆发。在全球网络舆论场上,一些被伪造的战地画面、被篡改的新闻事实被疯狂转发,紧接着,AI辟谣工具又应声而起,力求以技术反制技术。我们可以看见——造谣与辟谣同源于AI。于是这场舆论战役,武器不是兵戈,是人工智能;争夺的不是领土,是难有终点的真相。

PART 01

算法织谎:AI虚构内容泛滥冲突舆论场



中东大地,战火长燃。远在千里之外的人们曾在社交平台上看见过一组图片:加沙母亲抱着儿子的遗骨,在断壁残垣下跪坐着痛哭;儿童被压在巨石之下,满面泪痕;婴儿在废墟当中挣扎,孤苦伶仃孑然一身... ...配上揪心的文字,这些图片在网络上疯传,无数网友为无辜的生命落泪,愤怒声讨战争的残酷;再有一段军方高层发表强硬言论的视频,语气笃定,指向明确,画面清晰,被各大账号争相转载,瞬间点燃双方对立情绪,谩骂与对抗席卷评论区。
没有人料到当时牵动万千情绪、似真非假的种种现场内容皆为AI工具所捏造:令人心碎的孩童照片是AI生成的,高层领导挑起对立的言论也是AI精心模仿的结果。故而AI用极其真实、细腻的虚假画面戳中人们的共情点,唤起愤怒,挑明对立,放大仇恨,网络舆论场因而被AI草草搅成一锅真假难辨、鱼龙混杂的混沌浓汤。
一新闻人守护真相的路从来就不是一帆风顺的:记者冒着危险进入战区拍摄最真实的现场画面,编辑对所有细节都层层核查、反复求证,对每个信源都仔细核实,不留任何疑点。因此人工核查是新闻业坚守真相的最后一道可靠防线,也是对事实、对生命、对公众最郑重、最妥帖的交代。但毋庸讳言,在AI谣言狂轰滥炸的今天,这道防线也十分脆弱。
AI有意识地制造苦难场景来消费大众的善意,又断章取义地伪造言论以激化地域、文化矛盾,更用裹挟情绪的虚假信息主动撕裂公共舆论空间。战火本身已有物理伤害,但AI制造的信息迷雾已使全世界都看不清冲突的本质,因此谎言泛滥的舆论场中,理性失声,偏见当道。




PART 02

以技制谎:AI辟谣成为当下防御常态

由于AI谎言充斥巴以冲突舆论场,人工核查又明显失守,故各界都急切、主动地展开技术自救,谷歌、微软及法新社、路透社诸媒体都推出了AI鉴伪工具,社交平台也启用了算法筛查,由此自然地迎来一场“用AI反制AI”的保卫战。
由于法新社用AI图像溯源技术十分自然、妥帖地发现了加沙医院假图中纹理重复、手指畸形诸种破绽,而微软Azure内容审核工具能对深度伪造视频的光影错位做到秒级识别,X平台算法又对冲突内容做了全网拦截。诸种工具短时内便有力阻断了部分AI谣言传播,对合成音频、重复贴图的识别尤见实效。
然而,技术反击从一开始便暴露了死穴:AI 辟谣实质上就是“旧特征识别战”,故而只能检测数据库中已有的种种造假套路,因此刚修补一个漏洞,更高级的生成算法就可绕过,且能完美复刻无明显破绽的画面。更根本、更危险的是,技术辟谣有“非黑即白”的严格判定逻辑,故其可以断定“童尸照是AI生成”,但绝不能据此还原真实的伤亡数据,也无法从技术角度厘清假视频背后所涉冲突的来龙去脉。
由于机器为真相做了背书,故技术的冷峻、信息的模糊都客观上加剧了公众的迷茫:不信辟谣者认为是“掩盖真相”,信辟谣者不能理解技术逻辑,本意是用技术重建信任,结果却让舆论场在真假之间更无定见。
PART 03

真伪纠缠:一场没有终点的技术鏖战
TECHNICAL REPORT

由于造假、辟谣都成了AI算法博弈中的一部分,故由二者造成的没有赢家、没有终局的真相困局已经把新闻业及公众都卷入无解闭环之中。
巴以冲突中所展开的舆论攻防实质上已经是AI技术内卷竞赛的生动体现:造假AI不断迭代模型,系统、充分地抹去纹理、声纹诸种破绽,故能生成几近无懈可击的虚假内容,而辟谣AI又紧接其后升级检测规则,力图跟上造假节奏。因此二者轮番升级、互为诱因,真相在算法缝隙中艰难求生,永远落后于谣言一步,也自然形成了“道高一尺,魔高一丈”的死循环。
最令人痛惜、最危险的是公众已经失去了可以依靠的真相背书者:以往真相有记者实地调查、媒体专业核查、人类理性良知诸种明确支点,故有温度、有立场、有公信力。但今时造假的是机器,辟谣的也是机器,算法没有情感,没有良知,也无职业操守,因此公众看不懂技术逻辑,不能自然判断AI辟谣是否客观公正,更根本的是难以分辨辟谣工具是否已被立场裹挟。
由于眼见不为实、算法不可信,故公众已经陷入严重的信任危机,对所有信息都持怀疑态度,或被情绪裹挟,或彻底漠视真相,因此新闻业所坚守的真实底线正在被系统消解,本应守护真相的专业核查,如今已被冰冷的技术轻易取代。更可怕的是,AI对抗AI的战争没有明确终局,当真相彻底成为技术博弈的附属品,新闻公信力必然崩塌,公众认知必然迷失,舆论场便陷入虚实难辨、理性尽失的绝境。这是AI技术无序内卷之下最清晰、最不可避免的真相终局。
结语

战火轰鸣中,万万巴以民众正承受着真切的战争苦难,虚构的AI画面却全网散播。依靠AI反击谎言的方式治标不治本,那么怎样才能让真实的苦难被正视,让真正的有效信息来到公众面前?新闻工作者和每一位观众,都应当敬畏事实、保持理性,不受算法而裹挟,不被情绪左右;日新月异的科学技术不要再消费苦难、制造纷争,而要用以记录真实、传递善意。今夕何夕,愿真实与和平共存长青!
参考资料:澎湃新闻《AI假图骗术大汇总》;央视新闻《世界周刊丨极限伪造》
策划:重新周刊
作者:熊可
编辑:李佳琳
审核:刘诗瑞
图片来源:网络
指导:刘海明 张小强

夜雨聆风