顾正龙:AI 技术传递错误资讯后果严重

作者：顾正龙（华语智库高级研究员、新华社原高级记者）

自2026年2月28日美以伊朗战争爆发以来，AI （人工智能）技术在产生和传递假信息，是供政治和军事需要的一个活生生的例子。这些假信息被用来虚构叙事，分散舆论、污染公共资讯来源，并阻碍在混乱时期评估情况的能力，因为这些信息内容带来的压力使接收者难以理清在不确定中进行验证，这被认为是乌克兰和加沙战争以来同样角色的延伸。

瓦解宣传结构

阿联酋《FUTURE CENTER UAE 》智库网站4月2日刊载文章指出，战争中的AI技术不再只是助长误导性内容的制作手段，更是重新设计事件本身，使其更具吸引力和影响力的工具。如果攻击确实发生，须重新定义应该如何看待这场战争。它依照美学规则重现现实，提供更明显、清晰且完整的体验，产生一个胜利叙事，并以对某位被击败者的明确胜利作为顶端，并在一种危机混乱状态中加强，动员与情感冲动的价值优先于批评与心理评估。

套用伊朗当前战争状况，并反驳由AI技术制作并由国际媒体如德国之声、法新社、美联社及《纽约时报》等资讯审核服务监控的假片段，AI生成且针对性的宣传影片所提供的视觉综合，可以透过聚焦于模拟现实而非产生血腥表情的片段来驳斥，具体如下：

1、全视野效果：人工片段包含完美的捕捉角度，清晰呈现碰撞瞬间，甚至追踪巨大爆炸及其破坏效果，这些效果清晰、巨大，充满碎片与浓烟。这并非透过真实拍摄的影像达成，这些影像通常来自远距离，由普通人在避难所或安全空间内拍摄，火箭弹呈现为光点，爆炸则是不确定的闪烁。这透过刻意营造的氛围来提升戏剧性和视觉刺激感，最大化危险感，同时提升可信度，因为这些片段置于夜晚氛围中，天空被爆炸的色彩映照，烟雾缭绕，背景昏暗，或让人觉得像是卫星、夜间或热成像摄影机捕捉到的画面。

2、选择具有强烈象征意义的地点：如选择知名地标、军事区、国际机场等，这些容易被轰炸和纵火的地点，并非荒谬，而是刻意选择更具意义且具象征意义的语言解读，因为这些地点被摧毁时的视觉呈现不仅意味着毁灭，也可能暗示声望下降及主权侵犯。

3、情感动员：生成内容的视觉结构不仅限于轰炸与爆炸场景，而且可以延伸至更复杂的层次，产生集体情感，唤起同仇敌忾的气氛，例如伪造名人在战争中参与支持一方对抗另一方的政治活动的出版物。这还伴随着士兵哭泣或心理崩溃的影片与影像生成，唤起哭泣作为权力失衡的视觉象征，也是对手失败的象征，心理崩溃转化为失败应得的象征证据，内容重塑了战争的情感感知，不仅呈现事件本身，也引导人们如何感受战争。

4、军事准备的描绘：除了巨大爆炸场景及对手心理崩溃的表现外，“胜利”叙事的语义建构透过视觉化的战备与军事优势呈现完成，这些画面中出现了巨型飞弹与防御碉堡，这些因战略目的难以实际展示。这些人工产生的影片素材用于传达与威慑或战备相关的讯息，无论是面向内部或外部观众，皆在心理战的背景下制作。

5、混合构造：部分生成素材并非完全是假，而是故意混淆真伪，将真实片段如火灾放大，或传送其他情境影像，例如攻击时展示洪水影像，或将飞行模拟游戏的影片当作真实突袭。这种在影片中结合真实与误导元素的手法，让影片更具真实感，也更难被反驳。

6、语言符号：此视觉结构由伴随文本补充，文本并非解释事件本身，而是情感上重新诠释事件。

错误资讯的危险后果

在危机与战争时期的混乱中，接收者难以分辨真伪。当审计报告指控其偏袒一方而非另一方，AI技术使用假讯息所带来的危险后果不仅在战争或危机层面显现，也体现在建立用户与资讯环境健康关系、重塑真理概念的层面。问题不仅在于假内容的存在，更在于分辨真假的能力崩溃。

生成式AI技术也开启了前所未有的可能性，能在视觉内容中按时间顺序重新排列事件，使假场景或改动场景能呈现为与危机或冲突相关的特定时刻，这种操控不仅限于创造不真实场景，还延伸至改变事件序列的感觉，增强演员控制公众印象与引导情绪的能力。

这些危险后果在战争时期更加严重，因为双方采取相互猜忌的策略，双方隐瞒损失、放大对方损失，造成资讯真空与不确定环境，促使生成影片的传播非谎言，而是潜在且无法验证的解释。人工智能因此成为填补这个空缺的工具，使用者在冲突时期的压力下获得这种空缺，降低了验证能力，使他们更可能相信所产生的内容，甚至在内容与其支持一致时采纳，因为接收者往往透过接触与自己信念一致的内容来确认自己的决定，这降低了他因情绪偏见而心理反驳的能力，甚至指责反对者有偏见。

虽然伊朗常被指控是这些影片的幕后黑手，并组织协调的运动在社群媒体上散布，但美国却利用将真实影像与电影、电玩场景混合的宣传材料，来美化美国军事力量，正如白宫发言人所描述，这种使用并非假象，而是作为展示实力有效手段。此意图是为生成式人工智能技术的宣传使用提供合法性，并非使其成为非法或媒体及政治假讯息工具，而是成为官方政治话语的一部分。

这些与资讯通讯与媒体环境相关的风险，并不能消除在危机与战争期间，人工产生假内容对官方机构信任的战略风险，这些风险透过谣言混淆国内，影响市场，并在污染的资讯环境中削弱决策者的能力。

策略转变

这些做法不能被视为短暂现象，但它们清楚显示沟通策略的转变，尤其是在战争与危机时期，AI技术不仅是冲突武器库中的新工具，而是重新定义其核心圈子，将其从战场转向公众认知，并改变那些不一定与实际发生情况相符的公共形式。这属于一场意义管理战争的框架内，不仅依照传统的媒体消除机制，也涉及建构一个无源替代现实的技术，在视觉不再足以证明信念、看到某物不再是证据、影像本身可能是错误资讯工具的时代，重复着相同的真理。

由于经济、科技与发展的动机推动生成内容的必然性，并根据最大且最具影响力的国际机构与行动者就业先例，以及在最具影响力的国际现实与危机中展现使用证据，产生的材料将不再是可被监控与反驳的独立文本，而是将逐渐整合进资讯环境中，无论是在战争、灾难或政治危机的脉络中，使所有内容（包括真实内容）都能重新配置，成为讨论、指责与怀疑的空间，并依交织因素展开这并非没有吸引力与指引的动机，这使得资讯领域陷入缺乏参考且容易被持续解读的流动性。

如何应对

这种转变反映在宣传与危机管理策略的重新表述上，行动者不再试图说服大众接受单一连贯叙事，而是倾向于以多重叙事淹没公共领域，甚至可能相互矛盾，使目标不再是说服，而是混乱与分散注意力，在一个反驳价值因误导性内容发布后即时获得的即时利益而降低，数位社会接收并促进其流通、扩散及影如何响力放大，即使被否认并否认它，促使制作人继续使用它。

面对冲突期间认知管理的这些危险发展，推广并巩固“知识安全”概念变得越来越重要，英国“艾伦·图灵研究所”于2020年报告中讨论此概念，作为一个总称，聚焦于社会生产、分发、评估及吸收资讯的过程，以及限制资讯取得或削弱评估资讯来源有效性或可靠性的威胁，并带来影响社会做出明智且及时决策，并协调应对危机行动的能力。

这需要制定集体知识管理策略，政府、媒体机构与学术组织携手合作，发展机制以强化社会判断资讯可信度的能力。这透过组织与结构性架构来实现，包括发展知识意识、提升教育、媒体意识与批判性思考，以及开发技术与技术工具，以透明且可靠的方式验证与评估内容来源，不仅限于数位内容稽核平台及其技能，还透过整合策略管理公共认知，平衡言论自由与打击错误资讯，并致力于恢复整体资讯系统的信任。这可能是对抗生成式人工智在能战争与危机中影响的最重要策略之一。

推荐阅读