常江丨重建真实性信仰:AI幻觉的生成原理、认识论意义与治理行动

一、AI幻觉的流行与挑战

当下，生成式人工智能日益深刻地介入知识生产、信息分发与公共讨论，成为最重要的媒介行动者之一。在此背景下，“人工智能幻觉”（AI hallucination）正在从一项技术副作用（technological side effect）转变为关乎媒介环境可靠性与公共生活秩序的核心议题，体现出重要的文化政治意义。

AI幻觉包含两层含义：第一，在客观上，它是具有完整语义形式和生成逻辑的错误信息或误导性知识，这些信息或知识因表层结构的合理性而极易被误认为“事实”；第二，在主观上，它是一种人类心理机制的技术化外显，是虚假认知（false perception）被智能技术系统的机器逻辑行动化的过程。与传统软件系统的功能性错误不同，AI幻觉并不源于程序崩溃或计算失灵，而是在很多情况下表现为“一本正经的胡说八道”——在语法、逻辑与叙述结构上高度连贯，甚至拥有专业化的语义表层，却在事实层面缺乏依据或夹杂虚构细节。其危险性正源于此：语言的流畅性与结构的完整性使“似真”取代“求真”成为知识生产的常态。当社会技术系统遵循机器逻辑自动化、大规模地生成并扩散看似合理的陈述时，公共生活赖以维系的认识论基础便也随之动摇。

      要准确理解AI幻觉带来的挑战和危机，必须回归生成式人工智能的技术逻辑。大语言模型通过对海量语料进行统计学习来优化下一个词元的条件概率分布，从而实现文本预测；其核心机制在于最大化统计一致性。有研究者将大型语言模型喻称为“随机鹦鹉”（stochastic parrot），强调生成活动建立在语言模式的拟合而非对现实世界的理解之上。因此，在信息不足或语境模糊的情境下，模型会以概率机制自动补全结构，生成形式上连贯却可能脱离事实的内容。由此可见，AI幻觉其实是智能技术系统的概率预测机制在不确定条件下的自然展现。然而，当这种“自然展现”嵌入数字媒体生态，其后果便超越了单纯的技术偏向范畴，而全面进入认知和制度层面；其遵循的“机器逻辑”也不再只是一项技术属性，而逐渐结晶化为某种系统规律。逐渐成为环境一部分的AI幻觉不仅传播错误信息，更以自动化判断的“可信外观”持续塑造人类的感知和生产意义的方式，潜移默化地重构真实性的社会标准，并可能对公共福祉与信息文明的走向产生深远影响。

在新闻传播领域，上述风险尤为突出。真实是新闻实践的生命线，新闻业长期依赖制度化的专业规范来维系真实性的神圣认识论地位，多源核查、编辑把关与事实验证构成新闻公共信任的制度基础。然而，随着生成式人工智能成为活跃的新闻行动者，技术系统的语言能力开始不断被“自然地”误读并默认为专业判断能力的一部分。目前，尽管在主流新闻机构中，生成式AI仍主要被限定于检索、转录、摘要和标题辅助等环节，其输出通常也受到编辑规范与事实核查机制的约束，AI幻觉在相当程度上仍可被制度性抑制；然而，对于全球范围内不断涌现的数字新闻创新机构来说，生成式AI直接嵌入日常生产流程已是“常规操作”。相较传统新闻组织，这些新兴新闻行动者虽处于行业边缘，却往往背靠资本雄厚、技术尖端的高科技公司开展实践，因而表现出更强的技术激进性和制度突破倾向。例如，微软于2024年宣布与Semafor等数字新闻平台合作，成为AI介入数字新闻采编与分发流程的标志性事件；OpenAI与Axel Springer的联合则致力于增强内容生产与自动化信息分发的系统性结合，持续深化数字新闻业与智能媒介生态的结构性耦合。正是在这一过程中，AI幻觉得以不断突破传统新闻业的制度性约束，并在平台资本、算力资源与技术解决主义共同驱动的新闻创新逻辑中持续深化其社会嵌入，成为新闻业智能化转型的重要文化症候。

 AI幻觉在新闻生态下的流行有其结构依据。在以“流通”为核心功能的数字新闻生态中，平台算法将人工内容与生成内容并置分发，令深陷宏大信息流的用户难以区分来源；推荐机制则进一步加速光滑语义形式的扩散，使大量未经充分核查的生成内容迅速传播。对这种流通结构而言，语言流畅性与表达完整性成为可见性最强的指标，而验证过程却被隐匿于后台。渐渐地，“可流通性”成为认知判断的显性标准、新闻行动的“硬通货”。大量现实案例已经揭示这一结构性风险。例如，在2025年印巴冲突期间，多家新闻机构的社交媒体账号发布了基于AI生成的“战况报告”，其中包含错误的军事数据与关键人物被捕等不实信息，导致虚假内容迅速扩散。而相对“软性”的文化领域更是AI幻觉的“重灾区”。例如，2025年5月20日，老牌报纸《芝加哥太阳报》评论版就向其读者推荐了一系列并不存在的书籍，这些书籍从书名到简介均为AI编造内容。AI幻觉的泛滥和自然化不仅挑战了新闻真实的普遍标准，更触及职业伦理、编辑制度与责任归属等制度问题。

      故而，探讨AI幻觉的生成原理与治理机制必须超越单纯的技术优化话语，触及媒介制度与公共理性如何重构的宏大议题。我们需要追问：当生成能力成为媒介竞争优势，验证机制是否会被边缘化？当概率理性渗透公共传播结构，人类是否仍能保持对证据与来源的敏感性？这些问题指向一个更深层的命题——在算法主导的媒介环境中，真实性的认识论权威应如何获得制度性的保障？唯有以系统、关系和网络化的视角剖析AI幻觉的生成与扩散原理，并重新构建技术、制度与公共理性的互动框架，才能有效回应其给公共生活秩序带来的挑战。

二、生态主义视野中的AI幻觉

 从技术原理出发对人工智能幻觉作出的解释多采取某种“内部主义”立场，即将问题主要归因于模型架构、训练数据规模或参数能力方面的不足。常见的话语框架包括：模型容量有限或数据覆盖不充分导致知识空缺，概率生成逻辑具有先验结构性局限，以及可通过检索增强（RAG）、后训练对齐机制或事实核查模块来降低幻觉率等。这一解释路径隐含一种决定论假设：技术系统被视为独立、封闭的结构，其绝大多数问题都可以通过内部优化加以修复。在此框架下，AI幻觉被界定为“功能性偏差”或“推理失误”，一种可通过算法升级而逐步消除的系统噪音。

然而，大量经验研究与实践案例表明，仅依靠模型优化并不能有效消除幻觉现象。原因至少体现在两个方面：一方面，幻觉在表现形式上并非简单的信息错位，而是知识结构的扭曲，它往往以高度连贯的叙述掩盖事实缺失，生成的是“结构上完整的虚构”，这种问题显然并不能通过提升信息匹配精度加以根除；另一方面，各种“补丁式”技术治理方案都默认幻觉是一种系统故障，却忽略了一个更深层的事实，即在机器逻辑的概率生成机制主导下，幻觉恰恰可能是一种结构性常态，或至少正在呈现由技术偏差向系统规律演化的趋势。由此可见，若脱离社会技术系统的“社会性”来讨论幻觉的生成与控制，无异于将复杂的生态失衡问题简化为单一器官的病变。人工智能作为当代社会技术系统的重要构成部件，始终深嵌数据生产环境、用户实践模式、平台竞争逻辑与制度规范结构之中，其输出的一切结果都是多重要素耦合的产物。

生态主义视角为我们考察AI幻觉提供了更具解释力的框架。媒介理论视域中的生态主义认识论，继承芝加哥学派城市社会学关于社会系统动态平衡的洞见，以及媒介环境学关于“媒介即环境”的核心观点，强调多元异质行动者之间的相互依存与彼此调适。将媒介理解为生态系统，意味着承认信息并非在封闭的算法结构中，而是在由数据、技术、交互实践与制度安排共同构成的复杂网络中流通。在这一网络中，不同行动者通过各种类型的“界面”连接——包括数据接口、平台机制、算法推荐系统与监管框架——形成高度开放且持续流动的关系结构，并基于彼此间互动不断生成新的文化形态与认知模式。因此，人工智能无法作为孤立技术实体产生效应，而必须依托其与数据生产者、工程师、平台企业、新闻机构、用户及监管部门之间形成的制度化网络结构运作。这也就决定了AI幻觉并非单一节点上的失误，而是整个网络结构张力失衡的一种系统性症候。

 基于上述理论转向，我们可以将AI幻觉把握为一种“生态耦合失衡”（ecological coupling imbalance）状况。所谓生态耦合，指的是社会技术系统不同层面之间的互动关系与互塑机制：数据分布影响模型的学习边界，模型架构与目标函数塑造生成逻辑，用户交互实践强化或抑制特定输出模式，制度激励结构则引导技术优化的方向与优先级。当这些层面在价值排序与优化目标上出现不协调时，系统便可能形成稳定性的偏差，AI幻觉就是最典型的症候。

      在数字新闻生态中，这种耦合关系尤为显著。新闻知识的生产本身依赖多源信息输入与制度化核查流程，然而，当生成式人工智能嵌入这一系统，其概率生成逻辑开始参与知识建构过程并作为“外来物种”破坏原有的生态平衡。在多数情况下，由于数据来源呈现碎片化与不均衡分布，模型演化目标优先追求表达连贯性与即时响应能力，而用户又在平台机制引导下偏好速度与新颖性，故真实性在整体新闻价值结构中的优先级被持续削弱，以维系生态系统的平稳运行。与此同时，科技资本主义的商业竞争逻辑高度强调生成效率与内容产出规模，这在外部又进一步加剧了系统内部各行动者目标的不一致性。在这种内外交织结构性张力之中，新闻与流行信息中包含的AI幻觉便不再是偶发异常，而成为生态平衡机制失调的可见表征。

      在数字新闻学的视野中，生态主义分析框架的意义在于重新定位“真实”在社会技术系统中的“生态位”。真实性不应仅被理解为新闻职业伦理的内部规范，更应成为贯穿数据生产、模型设计、平台运营与监管制度的结构性约束原则。换言之，对AI幻觉的控制和治理，不仅是提升算法准确率的问题，而且是如何在算法主导的信息环境中重建公共知识生产秩序的问题。唯有将真实性重新嵌入社会技术生态的整体结构之中，幻觉现象的治理才可能从症状修补转向系统调适。

三、人工智能幻觉的生态生成机制

基于前面的讨论，有必要建立一个“生态耦合系统”的分析框架，将AI幻觉生成的机制拆解为数据层、模型层、交互层与制度层四个相互递归、动态循环的层面。其中，数据层构成知识输入的环境基础，其分布偏差、语境断裂与历史沉淀在训练过程中被编码进模型结构之中；模型层通过架构设计与目标函数设置塑造生成空间，其优化逻辑往往优先考虑语言流畅性与统计一致性；交互层通过用户提问方式、使用场景与反馈机制稳定或强化某些输出模式；制度层则通过平台竞争格局、新闻职业规范以及监管政策框架，塑造整体技术发展方向与价值排序。在这一多层结构中，AI幻觉被理解为系统整体平衡机制紊乱的结果。不同层面的耦合关系围绕效能追求展开，却缺乏与真实性原则之间的历史关联与协调机制，导致AI幻觉的自然化。

      （一）数据生态：分布失衡与语境熵增

      数据生态是AI幻觉生成的基本输入环境。数据并不是世界知识的透明映射，而是历史、文化、语言与权力结构在数字空间中的沉淀与再生产。在数字媒体生态中，这种结构性条件表现为显著的数据分布差异。例如，在新闻领域，主流语言与发达地区的媒介文本往往高度丰富，而小语种文本、地方经验知识与边缘视角则明显稀缺；在知识生产体系中，科学技术文本因标准化程度高、可获取性强而占据优势，而日常实践经验则呈现碎片化与情境化特征。生成式人工智能系统依赖大规模语料进行训练，但“规模”并不等同于“完整”——模型在训练过程中并不识别数据分布状况背后的历史与权力结构，它只能在既有语料中学习统计规律。于是，原本存在于数据生态中的结构性不均衡被编码进参数空间，并在生成阶段以概率形式重新显现；而模型对高频模式的偏好则使上述不均衡结构进一步制度化。这就导致，当主流叙事在训练语料中占据优势时，其表达结构与叙述逻辑更容易被强化为“标准答案”；而相对低频但具有关键意义的经验知识则可能在优化过程中被弱化甚至边缘化。

      更为关键的是，数据在数字化与计算化过程中往往经历去语境化处理。媒介文本被切割为可计算的片段并剥离其原有的历史与社会条件，不同知识叙述之间的深层关联被弱化且叙述的时间连续性也被打断。用信息论的术语来说，也就是“语境熵”（contextual entropy）在这一过程中不断增加，令文本之间的统计共现关系取代了意义结构的连续性。后续模型在这样的高熵环境中进行预测时，也便更倾向于依赖形式上的连贯性来补全信息，而难以恢复那些原本必须依赖语境才能理解的复杂知识结构。

      上述分布失衡与语境熵增的双重条件，又在机器学习机制中被进一步放大。机器学习并非对数据生态的镜像复制，而是对数据模式进行结构化压缩与重构的过程。在这一过程中，统计显著性高的表达模式会在参数空间中获得强化，而低频但重要的信息则可能在损失函数优化中被忽略。当某一领域的知识存在断层或表达模糊时，模型在生成阶段往往通过概率整合给出确定性回答，从而掩盖原本存在的不确定性。在这个意义上，AI幻觉并非源自“错误数据”，而是产生于对不完整结构的过度确定化处理。这一机制在新闻传播活动中尤为明显。新闻报道往往依赖类型化结构与既定叙事框架，例如“冲突—回应—影响”或“事件—背景—评论”等。当写稿机器人或自动化系统根据既往同类报道的高频表达模式来组织当下文本时，其生成逻辑往往会优先追求叙事结构的完整而非事件细节的可靠性。在信息尚未充分确认的情况下，系统倾向于补全“合理”的因果关系或行动结果，使某些尚未证实的判断作为有机叙事元素融入报道之中。于是，不完全忠于经验现实的“信息”被嵌入新闻话语结构，看似自然却实质偏离事实。

      在更深层的意义上，AI幻觉表征着机器逻辑依循的概率理性与客观世界经验复杂性之间的尖锐张力。现实世界充满偶然与流动的关联，其不确定性往往难以被边界清晰、类型分明的叙事框架充分涵盖。然而，在概率理性之中，不确定意味着概率分布趋于平坦，而模型的优化目标则更倾向于在既定语境下形成陡峭分布，即输出统计意义上最具优势的答案。因此，模型面对知识空缺或信息不足时，往往优先生成“最合理”的补全，以维持结构连贯与表达完整，而尽量避免承认未知、保留多重可能或呈现模糊状态。由此观之，在数据生态层面，AI幻觉乃是数据结构失衡、去语境化处理以及概率优化机制交互作用的产物。在新闻传播环境中，这一机制尤具风险，因为新闻制度长期以“控制不确定性”为核心任务，通过核查与限定性表达对事实状态保持审慎，而生成式人工智能却在结构上倾向于压缩不确定性、提供确定陈述。两种真实评判逻辑之间的紧张关系，构成了数字媒体生态中幻觉问题的重要根源。

      （二）模型生态：目标函数与推理空间漂移

      如果说数据生态构成知识输入的环境基础，那么模型生态则决定生成空间的结构与运行逻辑。

      当前主流大语言模型多采用自回归预测机制，通过最小化交叉熵损失函数（cross-entropy loss function）来优化参数。在数学意义上，这一目标函数旨在提升下一个词元预测（next-token prediction）的准确率；而在语言意义上，这种准确率通常体现为表达的流畅性与结构的连贯性。然而，语言形式的成功并不等同于命题内容的真实性，语法正确与事实为真分属不同层次的判断标准。当模型以最大化统计一致性为训练目标时，其生成倾向自然偏向形式上的合理与完备。除非真实性被显式纳入训练目标，或通过外部知识约束、对齐机制等方式加以引入，否则它难以成为核心优化维度。由此，模型结构内部逐渐形成一种隐含的“流畅性优先原则”：在损失函数最小化逻辑下，“给出一个最合理的补全”往往比“承认未知”更具决策优势。因此，从模型生态的角度审视，幻觉并非模型偏离目标函数的异常，而恰恰是其忠实执行预测任务的结果，是概率优化目标与真实判断标准之间结构性错位的自然产物。

然而，目标函数只是生成逻辑的第一层结构。模型通过分布式向量表示构建语义关联网络，其语义空间建立在统计共现关系之上，而非逻辑因果结构之上。某些概念若在训练语料中频繁共现，便会在向量空间中形成邻近关系。但共现并不等同于事实关联，自动化的概念配对往往成为幻觉的直接来源。例如，“冲突”“袭击”“报复”“升级”等词汇在战争新闻报道中长期高度共现，于是它们在语义空间中形成稳定聚类。当写稿机器人报道某一突发冲突事件时，沿着高概率路径展开文本，便极易自然生成“报复行动”“军事升级”等表述——即便相关事实尚未发生。这一机制可以被理解为“推理空间的漂移”。需要强调的是，这种漂移并非突兀的逻辑断裂，而是自动化叙事沿统计最优路径的渐进延展。模型在语义空间中不断选择高概率的邻近节点，使文本始终保持高度连贯；但随着生成序列不断延伸，语义轨迹可能逐步偏离真实世界的事实结构。对于缺乏人工智能知识背景的用户而言，这种偏离往往难以被察觉，因为语言层面的连贯性往往能够有效遮蔽新闻叙事相对于原初事件的细微偏移。

      在新闻传播实践中，这种“推理空间的漂移”有着巨大的文化风险。尤其是在结构化程度高、类型惯例稳定的内容领域，AI幻觉更易发生并获得掩护。以此前《芝加哥太阳报》阅读版推荐不存在书籍的事件为例，相关虚假内容并非随意编造，而是模型依据既有书评文本的高频结构模式——如作者背景介绍、主题概述、风格评价与文学意义阐释等——生成的完整叙述。由于书评这一体裁本身具有高度类型化和程式化特征，模型只需沿着语义空间中“合理”的路径展开，即可拼接出一篇形式严整、逻辑自洽的报道文本。模型在语义结构上完成了一次高度流畅的推演，却在知识层面生产出“确定性的虚构”。这种结构性错位，正是AI幻觉在新闻生态中具有迷惑性与扩散力的重要原因。

      此外，模型生态中的确定性倾向还与其主流输出机制密切相关。尽管模型底层对下一个词元的预测本质上是概率分布，但在终端界面上，用户通常只能看到单一答案而非完整的不确定性结构。从多种可能到确定陈述的转化，在本质上乃是文化不确定性的一场技术性坍缩。现实世界中的知识往往伴随条件限制与概率区间，但生成系统却通过界面呈现将其转译为看似明确的判断。这种呈现方式强化了机器表达的权威外观，使用户误以为系统给出了确定结论，并在无形中为其赋予认知权威。在新闻实践中，这种“确定性呈现机制”具有格外重要的意义。严肃新闻业长期强调在事实未明时使用“据称”“尚待确认”等限定性表达，以制度化方式保留不确定性并维持审慎态度。然而，大语言模型在缺乏明确约束的情况下，往往倾向于输出结构完整、语气肯定的陈述，其广泛应用会持续削弱新闻话语中原有的谨慎机制。模型生态的这一结构性倾向，与新闻制度所维护的真实性规范形成张力，进一步推动数字媒体生态中知识判断标准的重组。

    （三）交互生态：前提固化与认知强化

      在数据生态与模型生态层面，AI幻觉已经具备生成的基本结构条件，但此时它只是存在于概率空间的一种潜在结果。生成系统的输出只有进入人机互动场景，才能真正获得社会意义：生成内容并非孤立存在，而总是在特定任务情境、提问方式与反馈结构中出现；人机交互的组织方式，则决定了生成结果是否以及在多大程度上被质疑、修正、接受与强化。质言之，交互生态是AI幻觉从“统计可能性”转变为“认知现实”的关键环节。

      首先，生成系统高度依赖输入提示（prompts）的结构。提示不仅提供信息，更限定问题的边界与回答方向。在新闻生产场景中，这一点尤为突出。例如，当记者或编辑要求大语言模型“总结某次冲突的原因与可能后果”时，提问本身已经预设了因果框架与趋势推断的逻辑。哪怕问题描述不充分、前提条件模糊，甚至隐含未经验证的假设，模型也将沿着这一输入逻辑展开推理，而不会主动质疑其前提，毕竟模型并不具备独立的怀疑机制，它只能在统计结构中寻找最优延续路径。尤其是，当问题本身存在价值或道德上的偏向时，生成系统完全有可能基于该偏向构造连贯叙述并为其赋予合理、流畅的形式，从而导致有害或歧视性幻觉的流行。在此层面，AI幻觉并非源于数据或模型层面的单独失误，而是交互逻辑中前提固化的结果。

      其次，大语言模型的人类使用者并非中立观察者。认知心理学早已指出，人类存在确认偏误（confirmation bias），倾向于强化既有信念而忽略矛盾证据。当生成系统提供结构完整、语气确定的回答时，用户往往（让自己）将其视为知识来源，而非概率产物。尤其在数字新闻业快节奏的生产环境中，时间压力与信息竞争加剧了媒体对稳定的“即时解释”的需求。自动化报道的语言流畅性与自信表达在认知上具有说服力，这种说服力并不依赖事实核查，而恰恰依赖其稳定性和即时性。藉此，生成系统的输出在认知层面获得初步合法性。该机制在社交媒体新闻传播中尤为明显：当平台用户利用生成工具撰写分析帖或评论时，只要文本结构完整、逻辑清晰，便容易在信息流中获得转发与认可；平台算法则往往依据互动率与停留时长进行内容分发，而非真实性评估。于是，流畅表达与确定语气成为平台可见性的重要指标，幻觉内容在互动过程中进一步获得情绪与认知上的强化。

      再次，人机交互中的反馈机制具有天然的不对称性。理论上，生成系统可以通过用户反馈对输出内容进行修正与优化；然而，在现实的新闻生产与信息消费场景中，纠错反馈往往并不稳定存在。记者在时效压力下难以逐条核查生成文本，普通用户则普遍缺乏验证能力与行动意愿。若错误回答未被及时、明确指出，它便不会进入修正循环；相反，当用户基于既有生成结果继续提问或展开讨论时，系统会将先前输出纳入上下文加以延续。幻觉由此进入自我强化过程：最初的偏差在连续互动中被逐渐固化，并演变为内部逻辑自洽的叙述结构。例如，在某突发事件报道活动中，生成系统若首次给出带有推测性的解释，后续提问往往围绕这一解释展开，如“这一行动将对地区局势产生何种影响”。在连续问答过程中，最初的假设被叙事链条层层延展，逐步转化为完整的分析框架。即便该前提缺乏事实支撑，互动本身却赋予其叙述连续性与逻辑完整性，使幻觉从统计空间中的潜在偏移，转化为交互空间中的稳定构型。这一过程可被理解为一种“认知共振效应”：当模型输出与用户预期形成结构性一致时，双方互动便不断强化这一结构。在数字新闻生态中，这种共振还可能借助网络化的转载、引用与评论机制进一步扩散，使原本源于概率补全的内容逐渐沉淀为公共话语的一部分。

       综上所述，在交互生态层面，幻觉的生成呈现三重机制：问题前提的固化、认知偏向的强化以及反馈机制的不对称。模型输出在与用户的持续互动中不断被延展、确认与整合，从而获得叙述连续性与认知合法性，完成从概率生成结果向社会认知现实的转化。对于新闻传播实践而言，这一过程尤具警示意义。AI幻觉的问题不仅存在于模型内部逻辑，更嵌入人机协同生产知识的总体过程。因此，唯有在交互结构层面引入更明确的质疑路径与制度性约束，重建对不确定性的公开表达与持续核查机制，方能有效防止概率逻辑被自然化为真实判断。

     （四）制度生态：真实性约束的结构失衡

交互生态连接机器逻辑与社会认知，但其运作始终嵌入更为宏观的制度生态之中。这里所谓“制度生态”，并非泛指一般意义上的社会制度环境，而是特指围绕生成式人工智能在新闻传播领域的开发、应用、分发与治理形成的规则体系、组织安排与激励结构的总体配置，具体包括平台竞争逻辑、媒体机构内部的生产规范与绩效评价机制、责任划分方式，以及内容传播与信息治理的规则框架。制度生态不仅决定技术开发与应用的总体方向，也决定真实性在多种价值目标中的优先级排序。如果说数据生态提供生成条件，模型生态塑造推理逻辑，交互生态完成认知转化，那么制度生态则为这一整套机制提供价值框架与激励结构，使其得以持续运转。

      在全球范围内，生成式人工智能的发展深刻受制于市场竞争与平台商业模式的驱动，已成为高度资本化与规模化的技术竞逐领域。在数字新闻创新实践中，人机协同逐渐取代早期的“防御性适应”，成为主导性理念。平台竞争主要围绕响应速度、用户规模、内容生产效率与互动指标展开。相较于专业伦理与文化规范，语言流畅度、信息覆盖范围与生成速度等大语言模型的“原生属性”更容易与点击率、留存率和订阅增长直接挂钩，从而被转化为核心绩效指标。在这一制度化趋势下，AI辅助写作、自动摘要与实时数据分析迅速普及，而与之相匹配的核查与问责机制却并未同步建立。技术优化因此优先服务于可量化的性能指标——如极端时效性、文本自然度与多语种扩展能力——而非事实严谨度与验证深度。可想而知，若真实性未被明确纳入系统设计与组织绩效评价的核心指标，便难以在优化逻辑中获得优先地位；同样，在日常新闻生产流程中，若未为AI生成内容设置专门的复核程序与责任链条，幻觉便可能在“效率优先”的结构环境中被默认为一种“可接受风险”。真实性由此从刚性规范转化为弹性要求，其制度约束力随之削弱。

与此同时，制度生态中的责任分配机制模糊，进一步稀释了真实性约束。当生成内容出现错误时，责任主体往往难以界定：开发者强调模型仅为工具，平台声称用户应自主判断，新闻机构则可能将问题归因于技术局限。在多方分担却缺乏明确问责的结构中，责任呈现“去中心化”状态，而风险却集中于公共知识空间。缺乏清晰责任边界的制度环境，更倾向于对AI幻觉进行自然化处理，将其解释为技术创新的附带成本，而非需要结构性治理的问题。

更为深远的是，制度生态还可通过信息循环机制反向影响数据生态。生成内容一旦进入公共传播空间，便可能被搜索引擎收录、被媒体转载、被用户引用，进而成为未来训练语料的一部分。若幻觉未被及时识别与标注，其虚构细节便可能在“模型—数据”循环中不断沉积，从偶发偏差演变为统计常态。这种再生产机制使生成文本逐渐脱离事实来源而获得传播合法性，形成“以生成文本为事实依据”的倒置逻辑。在新闻场景中，大量自动生成的评论、摘要与二次解读若被反复引用，便可能弱化原始信息的权威地位，加剧知识基础的混淆。

      总之，制度生态中的真实性失衡，既体现为绩效结构对效率逻辑的系统性偏向，也表现为责任机制与信息循环结构对幻觉风险的制度性容纳。这种结构安排，构成了AI幻觉得以持续生成并不断扩散的深层条件。倘若不在绩效评价体系、责任划分机制与信息治理框架中重新确立真实性的核心地位，任何局部性的技术修补都难以触及其结构根源，更无法从根本上作出校正。

四、AI幻觉的认识论意义

      经上述分析可以看到，AI幻觉的生成与流行，并非智能技术系统运行中的偶发“偏差”，而是源于经验历史的求知传统与当代数字技术理性之间结构性张力的文化表征；它揭示的也不是算法层面的误差机制，而是智能技术系统如何以机器逻辑重新编码真实性的意义与判准，并以近乎自然化的方式改变人类理解知识、判断可信度与分配信任的实践路径。正是在这一层面上，AI幻觉作为一种时代症候，标识出人类社会认识论结构正在经历的深层转型。

      在古典认识论传统中，知识发展的终极目标被理解为不断趋近“绝对真理”（absolute truth）。在对应论框架下，命题之为真依赖其与事实之间的对应关系；在一致论路径上，则强调命题在整体知识体系中的协调与连贯。尽管不同学派在理论立场上存在差异，但无论是强调外在对应还是内部一致，真实性始终被视为知识合法性的最终尺度与规范中心。

      然而，生成式语言模型遵循的机器逻辑并不以接近真理为目标。在智能技术系统中，“真理”是不可言说并被悬置的。整个系统的核心演化原则是概率最大化，通过不断完善统计一致性来构建陈述的合理性，进而完成对客观世界的解释。在此，语言形式的成功与命题真实性之间产生结构性分离，AI幻觉正是这种分离在认知经验中的显现。这一分离结构的自然化和制度化揭示了概率理性深度嵌入社会知识生产结构的历史趋势。需要强调的是，概率理性本身是道德中性的，现代科学就长期依赖统计方法、误差分析与不确定性计算来生产知识；但在具体的知识生产实践中，概率判断始终伴随方法说明、置信区间与可验证程序，其不确定性被明确表达并置入制度化审查机制之中。而生成式模型却在致力于界面终端将概率输出呈现为确定叙述，从而在形式上掩盖其统计属性。当概率逻辑脱离方法论语境并直接进入日常认知实践时，它便可能替代传统验证机制，成为新的“可接受性”标准。

这一认识论转向在数字新闻传播领域表现得尤为突出。在算法主导的媒介环境中，新闻内容的生成与分发日益依赖自动化系统。随着语言流畅性与即时响应能力被视为核心传播优势，概率生成的表达结构更容易获得平台可见性与流通权重。于是，自动化摘要、AI评论或数据解读即使事实基础相对薄弱，只要语言呈现出专业姿态、结构严整，便可能在流通网络中被赋予权威地位。在这一情境下，大众对“真实”的感知与判断不再由制度化核查机制主导，而是愈发受表现形式的影响，呈现个体化和情感化趋势。当新闻叙事足够连贯、逻辑结构完整且语气确定时，其社会接受度往往随之提升，而对证据来源与验证程序的追问则相应减弱。可见，生成式人工智能并未主动篡改真理，但其运行逻辑在客观上强化了形式合理性在认知判断中的地位。因此，新闻生态中的AI幻觉之所以具有迷惑性，并不在于其完全脱离现实，而在于其在表现层面高度成功——它复制了知识陈述的外观，包括因果结构、专业术语与分析逻辑，从而在认知层面获得初步正当性，并进一步借助数字新闻的流通网络实现自然化。

      在更深层次上，AI幻觉触及现代技术理性的结构。技术并非单纯工具，而是一种组织世界的方式。现代技术理性强调效率、可计算性与可扩展性，其演化目标是成为人类生活的“座架”（Gestell）。生成式人工智能正是这种理性的集中体现：它通过大规模计算与模式压缩，将语言结构转化为可预测资源。在这一过程中，现实被重新编码为统计模式的集合；复杂、多义、充满偶然性的世界被压缩为高概率路径的延展。由于技术理性本身并不内含真实性要求，故当社会系统以规模与速度为优先目标却未将真实性伦理原则嵌入优化结构时，“求真”便可能在整个技术系统的价值排序中被边缘化。

      随着时间推移，生成式人工智能将持续重构社会的认知分工结构，越来越多的文本生成、信息整合与知识表达任务被外包给机器系统。认知外包本身并不是什么问题，历史上的书写、印刷与数据库技术同样参与了知识生产。然而，由于人工智能并不以内在真实性为目标，故当知识表达被交由以概率最大化为核心逻辑的生成模型时，人类对来源与证据的主动审查可能逐渐弱化直至失去吸引力。在数字新闻实践中，认知外包已成为常规操作。记者、编辑与公众日益依赖生成系统进行信息整合与语言表达，并在对AI幻觉的动态认识与理解中形成相应的补救策略。然而，这种亡羊补牢式的工作无法从根本上抑制新闻认知外包带来的结构性影响。随着系统的表达能力逐渐成为公共信任的依据，而大众对事实来源链条与验证程序的关注不断减弱，知识合法性的基础终将发生根本性转移。这正是人工智能时代新闻业面临的深层危机：“信任”这一攸关认识论秩序的核心资源，逐渐失去制度与专业权威的保障，转而附着于大众对算法能力与技术品牌的崇拜；自动化新闻输出因其“智能”标签不断积累充分正当性，但这种正当性并不以内在真实性为前提。

      总而言之，AI幻觉这一时代症候的哲学意义远远超出模型层面的技术缺陷。它揭示了数字媒体生态与社会整体认识论结构之间的复杂耦合关系：概率理性、表现逻辑与制度激励相互交织，共同重塑知识合法性的生成条件。由此，AI幻觉并非单纯的“传播错误”，而是信任结构发生错置的产物；其在数字媒体生态中的大规模扩散，呈现信息社会在效率逻辑、规模逻辑与真实性要求之间蕴含的尖锐价值张力。这种张力对技术决策部门以及所有仍坚守人类价值立场的行动者提出了明确的行动要求：对真实的信仰不再只是自明的认识论前提，而成为需要多重制度保障的道德承诺；治理AI幻觉的核心任务也不应停留于“如何让模型不出错”，而在于如何在概率理性主导的技术环境中，通过可行的制度与设计方案，重新锚定真实性的制度化形态。质言之，真实性应被确立为公共认识论秩序的基石，而智能技术系统的底层设计原则、界面呈现方式、交互机制与制度安排，都必须围绕真实这一核心价值加以重构。

 五、AI幻觉的生态治理路径

      AI幻觉的生成作为智能技术系统多层生态耦合失衡的结构性表征，已经在社会认识论领域引发了广泛而深刻的真实性危机。因此，对AI幻觉的治理不能止步于单一技术维度的修补，而必须回应其背后的复杂生态结构与知识价值重组现实。总体而言，治理的核心策略在于建立制度化、可执行的跨层调适机制，使真实性不再只是道德呼吁或事后补救，而成为嵌入系统运行逻辑之中的结构性约束。与此同时，治理目标也不是彻底消除幻觉——这一目标既不现实，也无必要——而是在概率理性不可避免的前提下，通过积极的设计行动降低关键错误的生成概率、传播强度与制度容忍度。

      在数据生态层面，治理的关键在于修复知识输入环境的结构缺陷。前文指出，知识断层与语境熵增为幻觉提供了生成土壤，因此数据治理必须首先提升数据的透明度与可解释性，通过建立数据来源披露制度，对训练数据的主要类别、时间分布、语言结构与地域覆盖范围进行公开说明，使研究者与公众能够评估潜在偏向。这不仅有助于外部监督，也能帮助社会机构与个人用户在使用模型时进行充分的风险判断。对于新闻传播活动而言，这意味着在采用生成工具进行自动摘要或稿件辅助时，应当清楚其知识覆盖是否存在系统性盲区。同时，应推动语境标注机制的标准化，比如在数据采集与整理阶段加入时间戳、文本类型、来源级别等元数据，使知识片段在训练过程中尽可能保留情境线索，从而降低去语境化带来的语义漂移风险。对于严肃新闻业而言，这一点尤为重要，因为新闻文本高度依赖时间与事件背景，一旦语境被剥离，模型便可能将历史经验误用于当前情境。此外，还可考虑建立系统化的错误反馈回路，将已识别的幻觉案例纳入持续训练与对齐流程，形成可更新的“错误样本库”。在日常新闻生产中，媒体机构经内部核查发现的AI生成错误不仅应即时更正，更应制度化地反馈至模型调校机制，使错误成为结构性改进资源。

      在模型生态层面，治理策略必须直接回应“流畅性优先原则”与推理空间漂移问题。这意味着真实性约束不能仅依赖事后强化学习，而应前置至目标函数与生成逻辑内部。多目标优化设计可以在保障语言自然度的同时，引入事实一致性与外部知识对齐指标，使模型在生成过程中对事实冲突保持敏感。在数字新闻应用场景中，涉及事件报道、政策解读或数据分析时，应优先启用检索增强模块，将权威数据库纳入生成路径，从而减少单一的统计补全带来的偏差。与此同时，还应强化不确定性表达机制：当系统缺乏充分证据支持时，应优先生成条件性表达或知识边界声明，而非构造确定性叙述。在新闻传播语境中，这相当于在机器输出中自动引入“尚待确认”“根据现有资料”等限定性表达，从而恢复新闻制度中原有的不确定性保留机制。此外，新闻机构可结合自身实践需求，开发可追溯生成路径的可视化工具，使关键内容的语义关联结构或检索来源可供审查，以抑制隐性推理漂移并增强公众与编辑对生成内容的理解。

      在交互生态层面，治理重点在于缓解认知共振与反馈失调，建立复合式人机价值对齐体系。既然幻觉是在人机互动中获得稳定性的，那么界面设计便成为关键治理环节。正如洛里·艾默生（Lori Emerson）指出的，界面并非中立媒介，而是一种可访问性的结构安排，它在创造用户友好体验的同时，也限定了理解路径与操作逻辑。因此，在针对界面的设计行动中，应明确提示生成内容的统计性质，通过显性标签或置信度指示，使用户意识到其并非事实保证。对于数字新闻平台而言，可以在AI生成摘要或评论旁标注“自动生成”“需核实”等提示——这一实践已在主流信息平台广泛应用。此外，在涉及事实性陈述时，还需设计面向普通用户的便捷验证路径，例如自动链接相关来源或提供交叉检索选项，使用户能够在阅读过程中快速比对信息。对于医疗、法律、金融等高风险领域，应建立更严格的确认机制，避免生成内容被误作权威意见。总之，交互治理的目标不是削弱使用体验，而是在效率与审慎之间建立制度化缓冲区，防止形式连贯性直接转化为认知权威。

     在制度生态层面，治理的成效取决于责任结构与伦理框架的明确化。当前智能技术系统普遍伦理原则的缺位使全球社会在风险防御上缺乏稳定基础，构建人工智能伦理体系已成为数字生活价值重建的重要任务。无论具体原则如何制定，未来的智能技术伦理必须明确：媒体机构在使用生成工具时，对发布内容承担最终审核责任；平台则有义务对系统性风险进行持续评估。同时，国家或政府层面的技术规制应建立专门审计制度，对大型生成系统进行周期性评估，包括幻觉发生率、纠错效率与更新机制，并向公众披露结果，以形成信誉竞争与市场约束。更为根本的是，应将真实性指标纳入主流技术评价体系，使其成为技术竞争的正式维度，从而在效率逻辑之外建立新的价值平衡。

      需要强调的是，生态治理的关键不在于各层面的孤立改革，而在于跨层协同与结构联动。数据透明若缺乏制度审计的持续支撑，终将流于形式；模型多目标优化若缺少市场激励与评价体系的保障，可能在商业压力下被边缘化；界面设计若脱离伦理规范的引导，甚至会因误导性呈现而适得其反。因此，有必要构建跨层反馈机制，使交互层面暴露的错误能够回流至数据与模型层面加以修正，使制度审计的结果能够反向嵌入技术设计，使伦理规范与界面机制在实践中协同推进。与此同时，还要明确：生态治理的目标并不在于压制智能技术系统的生成能力，而在于通过合理划定边界，使概率理性与事实结构之间形成一种可持续的张力关系。唯有如此，AI幻觉这一“媒介物种”才能在可知、可控的框架内运行，而不至于在规模化扩散中侵蚀公共认识论秩序的根基。

   结语：生态理性与人文边界

      AI幻觉始终不只是一个单纯的技术问题，它承载的，是当概率理性成为知识生成的核心机制之后，人类如何重新确认真理、责任与判断意义的根本拷问。尽管目前生成式人工智能尚未彻底颠覆人类的认知权威，但这并不妨碍它凭借语言生成的高度成功，悄然改变我们对“知道”的理解方式，使形式合理性在无形中获得近似于事实承诺的地位。概率理性的扩张本身并非威胁——统计方法与模型推断原本就是现代知识体系的重要组成部分；然而，当这种逻辑被自然化、日常化，并以确定性叙述的方式嵌入主流认识论结构时，文化风险便随之浮现。毕竟，对于越来越多的人而言，大语言模型不仅提供答案，也在塑造问题的表达方式。当机器能够迅速构造完整叙述，人类是否仍保有对“不知道”的耐心，是否仍允许不确定性在公共讨论中占据正当位置，便成为亟待反思的命题。AI幻觉的文化本质，正在于一种“非人感”的自然化——技术理性以理所当然的姿态嵌入日常经验，从而模糊了真实性与可表达性之间的边界。

      因此，对AI幻觉的生态治理，其终极目标不仅在于降低错误率或提升系统效率，更在于守护人文的边界。在人本主义视域中，并非所有改造世界的能力都天然拥有正当性——真正的正当性来自对公共价值的承诺、对真实性的尊重以及对不确定性的诚实表达。若AI幻觉被视为可以容忍的副作用，而非一种结构性症候，技术理性便可能逐渐脱离公共规范，反过来塑造乃至主导价值秩序。从长远看，人工智能正在培育一种新的认知生态，在其中，人类与机器共同参与知识生产。但生态主义并不意味着回归简单的人类中心主义，而是在承认人机共生现实的前提下，通过积极的制度与伦理行动重新分配能力与责任，确保技术在拓展认知疆域的同时，不至于侵蚀经验历史中形成的人类道德共识。真正的进步，不在于消除一切风险，而在于构建能够回应风险、持续修正自身的制度秩序，在技术理性与人文边界之间建立一种负责任的共生结构。

             （责任编辑：张冠文）

排版：刘   珂

初审：辛大楞

复审：张登德

终审：张冠文