乐于分享
好东西不私藏

综合 ≠ 摘要*5:拆解AI多文档合并的黑箱

综合 ≠ 摘要*5:拆解AI多文档合并的黑箱

你把5份行业报告丢给 AI,10秒后它输出给你一份干净利落的总结。

但你没有发现:5份报告里,3份说市场规模500亿,2份说800亿,结果 AI 的总结里只写了500亿。

还有更隐蔽的。比如5份报告里有1份特别短,就两页纸,里面藏着别处都没提到的关键数据。但总结里一个字都没出现。

“多文档摘要”这个概念,刚接触时确实让人头大。你以为它就是”总结5次再拼一起”,其实 AI 内部干的事远比这复杂。

今天我希望能把这个黑箱拆开,看看里面到底是什么构造。

先搞清楚:AI到底在干什么

你可能会觉得,合并5份文档,就是让 AI 分别总结每一份,然后拼在一起。

不。

这么干的话你只会得到一个缝合怪——5段各自独立的总结,说的是同一件事但措辞不同,有些地方还自相矛盾。

AI 做的不是”摘要×5″,而是”综合”——把5份文档里散落的信息碎片,拼成一个完整的、没有自相矛盾的图景。

这件事的难度,跟单文档摘要完全不在一个量级。

难在哪?

第一,冗余。5份报告大概率都在讲同一件事,只是各自的角度和详略不同。AI 得判断哪些是重复的废话、哪些是独特的增量信息。

第二,矛盾。同一指标,5份报告可能给出3个不同的数字。AI 得决定信谁的、还是都列出来让你自己判断。

第三,视角差异。卖方研报和买方研报可能得出完全相反的结论——一个说”前景广阔强烈推荐”,另一个说”估值过高建议回避”。这俩结论你不能简单取平均。

所以,这是让一个侦探同时审问5个证人——他们说的有重合、有矛盾、各怀心思。侦探得自己判断谁说的对、谁在撒谎、谁漏了关键信息。

用学术话说,这叫”多文档摘要”(Multi-Document Summarization)。用大白话说,就是从一堆互相打架的材料里拼出一个完整的真相。

摘要和综合的区别就在这里。摘要只是把一个文本缩短,综合则要从多个来源里提取关键想法,消除冗余、裁决冲突、建立跨文档关联,最终拼出一个新的、完整的图景。整个本文要讲的就是这个过程——AI 怎么从5份互相打架的文档里,拼出一份靠谱的总结。

文字公式表达就是:

综合 = 摘要 + 冗余消除 + 冲突裁决 + 跨文档关联

三种策略,各有各的坑

那 AI 具体怎么处理这5份文档?

策略
直白解释
学术定义
Stuff
把所有文档一次性塞进一个 prompt,让 AI 直接出总结
将全部文档拼接为单一输入,由 LLM 一次性生成摘要
Map-Reduce
先每份单独总结,再把各份摘要合并成最终总结
对各文档分别执行摘要(map),再对摘要集合执行合并摘要(reduce)
Refine
逐份处理,每次用新文档更新已有总结
迭代式摘要,每轮将新文档信息融入已有中间摘要

第一招:Stuff,全塞进去

这是最简单粗暴的——把所有文档一次性塞进一个提示词里,让 AI 直接出一版总结。

就像侦探把5个证人同时叫到一个审讯室里一起问。简单,直接,一次搞定。

但问题在于,审讯室就那么大。AI 的”审讯室”叫上下文窗口,Claude Sonnet 4 能撑到100万 token,差不多1500页文本。听着不少,但真碰到几十份长报告,照样装不下。超过这个量,要么直接报错,要么 AI 开始”忘”前面看过的内容。

文档少的时候,这招又快又好。文档一多,就力不从心了。

第二招:Map-Reduce,分而治之

这招分两步走。先让 AI 对每份文档分别做总结(map),然后把5份总结再合并成一份最终总结(reduce)。

就像侦探分别审问5个证人,各自录一份口供,然后把5份口供交给分析师做交叉比对。

好处很明显——可以并行处理,5份文档同时总结,速度快。而且不管你有多少文档,理论上都能处理,因为每份都是单独消化的。

但坑也在这里。”摘要的摘要”会失真。每做一次总结,细节就丢一点。你把5份各自丢失了细节的摘要再合并一次,又丢一层。最后那份总结跟原文之间的信息损耗,可能比你想象的大得多。

第三招:Refine,边做边调

这招是逐份处理的。先看第一份文档,出一版总结。然后看第二份,用第二份的信息更新这版总结。再看第三份,再更新。以此类推。

就像侦探先审第一个证人,形成对案情的初步判断;再审第二个证人时,根据新证词不断修正自己的判断;一个一个来,判断越来越精确。

好处是最连贯——每份文档都不是孤立处理的,而是跟前面的内容融合在一起。最终输出读起来像一篇完整的文章,不像缝合怪。

但坑在于”先入为主”。第一个证人的证词定了判断的基调,后面再听到什么,都会被这个基调带着走。如果第一份报告的观点有偏差,后面4份很难把它纠正过来。第一印象,有时候比事实更顽固。

这三招不是谁取代谁,文档少用 Stuff,文档多用 Map-Reduce,要连贯用 Refine。

AI”大脑”里的四步推理

上面说的是”怎么喂文档”的策略。但 AI 拿到这些文档之后,脑子里到底发生了什么?

拆开它的推理过程,其实就四步。

第一步:认人

侦探到现场第一件事不是破案,是先搞清楚5个证人都是干嘛的——哪个是当事人、哪个是旁观者、哪个是专家、哪个可能跟案子有利益关系。

AI 也一样。

它先识别每份文档的类型(是论文还是报告还是新闻?)、结构(哪里是摘要、哪里是正文、哪里是结论?)、以及关键实体(人名、公司名、数据指标)。这一步主要靠预训练时积累的文档理解能力。

第二步:抽线索

侦探接着把5个证人的话拆成一条条线索,然后按案件归类——关于”市场规模”的放一摞,关于”竞争格局”的放一摞,关于”技术趋势”的放一摞。

AI 做的是,它先从每份文档里提取核心论点、支撑数据和结论,然后在不同文档之间建立对齐关系——识别哪些文档在讨论同一个问题、哪些用了类似的方法。这一步把分散在各文档中的信息”串”了起来。

第三步:对质

这是核心环节。

侦探把5个证人叫到一起对质——”你说市场500亿,你说800亿,到底多少?”这一步是整个推理过程最关键的地方,也是最容易翻车的地方。

AI 在这一步要做的是交叉比对和冲突检测。

它要识别不同文档之间的信息冲突:同一指标的不同数值、同一现象的不同解释、同一事件的不同叙述。然后做一个判断——是都列出来让你自己选,还是根据来源可信度裁决一个。

这一步之所以难,是因为与单文档摘要不同,5份文档之间矛盾是常态。这一步做得好不好,直接决定了总结的质量。

第四步:结案

侦探最后写结案报告。每条结论后面都注明”据证人A陈述””据证人B陈述”——不能凭空编。

AI 也一样。它输出一份结构化综述,每条信息标注来自哪份文档。这一步看似简单,但标注来源这件事本身就是一种防幻觉机制——逼着 AI 去想”这个结论我是在哪份文档里看到的”,想不起来就得标”待核实”。

推理阶段
直白解释
学术定义
认人
识别每份文档是什么类型、什么结构、关键实体是谁
文档识别与结构化(Document Identification & Structuring)
抽线索
从各文档提取核心论点,把讨论同一件事的线索归到一起
信息抽取与对齐(Information Extraction & Alignment)
对质
识别矛盾——同一指标不同数值、同一现象不同解释
交叉比对与冲突检测(Cross-Comparison & Conflict Detection)
结案
输出综述,每条结论标注来自哪份文档
综合生成与引用标注(Synthesis & Citation)

AI凭什么能”同时看到”5份文档?

说到这里你可能会问一个更底层的问题—— AI 怎么做到同时”看到”5份文档的?它的”脑子”真的装得下吗?

答案”注意力机制”。

想象这样的场景:一间会议室里挤着10万个人,每个人嘴里都在同时说话。但神奇的是,每个人都能听清所有人在说什么,并且自动判断”谁说的跟我相关、谁说的不重要”。相关度高的,就多关注一点;不相关的,就当背景音。

这就是注意力机制在做的事——每个词都在给其他所有词打分,决定该关注谁。

文字公式表达:

注意力 = 相关性 × 信息的意外程度

你越跟”我”相关,我越关注你;你说的话越出乎我的意料,我越要仔细听。这两个因素乘在一起,就是一个词对另一个词的”注意力权重”。

但这个机制有个致命问题:太贵了。

10万个人,每个人要给其他所有人打分——那就是10万乘以10万,100亿次打分。人数翻倍,计算量翻四倍。这就是 O(n²) 的恐怖之处。

这也是为什么早期的大模型上下文窗口只有4千 token——不是不想做长,是算不起。

后来工程师们想了一堆”偷懒”的办法。

第一个叫分块注意力。把10万人分成100个教室,每个教室内部互相打分,教室之间再传纸条交流。计算量从”10万人互相打分”降到了”100个教室各自内部打分加教室间传纸条”。

第二个叫稀疏注意力。不跟所有人打分,只跟”看起来重要的”打分。就像开会时你不会认真听每个人的发言,只关注跟你相关的或者说话有分量的那几个人。

第三个叫滑动窗口注意力。每个词只能看到前后一定范围内的词,看不到的就不管了。全局信息靠多层堆叠慢慢传递——第一层看到邻居,第二层看到邻居的邻居,层数够了,远处的信息也就传过来了。

没有这些”偷懒”的优化,长上下文模型根本不可能做到一次性读完5份文档。Claude Sonnet 4 已经撑到了100万 token,Gemini 也能到100万以上,靠的就是这一层层的技术叠加。

再拓展一句,这些计算之所以能跑起来,还得靠另一种硬件——GPU。CPU 像老教授,数学好但只有一个脑子,一道一道算;GPU 像一千个小学生,只会算1+1,但一人算一道,加起来比教授快一百倍。注意力机制那种”每个人给所有人打分”的大规模并行计算,正好是 GPU 的主场。

开卷考试 vs 过目不忘 vs 画关系图

上面说的是 AI”脑子”内部怎么推理。

但在把文档喂给 AI 之前,还有个更根本的选择:怎么喂?

目前有三条主流路线,各有各的最佳场景。

第一条路:RAG,开卷考试型

RAG 就是检索增强生成。但别管这个名字,记住一个类比就行——RAG 就像开卷考试。

GPT 是那个脑子聪明但记性差的学生。RAG 就是允许他带课本进考场。遇到不会的题,当场翻书找答案,找到相关的那一页,照着答。

好处是课本可以无限大。几百上千份文档塞进向量数据库,每次只翻跟问题最相关的那几页。而且单次查询成本很低,大约只要几美分。

但坑在于——翻书只能看到那一页。你翻到一个公式,但不知道这个公式是在什么场景下用的、前因后果是什么。就像考试时你翻到一个条款,但你不知道这条法律是针对什么情况立的。RAG 的碎片化问题根源就在这里:模型看到的是被切碎的片段,不是完整的论证链条。

适合的场景是:文档库特别大、查询特别频繁、每次只需要回答具体问题。

第二条路:长上下文,过目不忘型

这是天才学生,不用翻书。5本书的内容一口气全背下来,然后直接在脑子里交叉比对。

好处是你能看到每份文档的完整论证链条。前面讲的四步侦探推理——认人、抽线索、对质、结案——只有在长上下文模式下才能真正跑通,因为 AI 能同时看到所有文档的全貌,而不是被切碎的片段。

数据也能说明问题:在超过5万 token 的输入场景下,长上下文方案的信息召回率能到92%,引用准确率在88%到92%之间。而 RAG 方案——就是下面要讲的那种”开卷考试”——引用准确率只有75%到85%。差距就在这种需要全局视角的冲突检测上。

但坑在于脑子容量有限,而且贵。目前 Claude Sonnet 4 的窗口大约能装1500页文本,超过就得回头用 Map-Reduce 分批处理。而且装得越多,算力消耗越大——前面说了,注意力机制是 O(n²) 的,token 翻倍计算量翻四倍。

适合的场景是:文档数量可控(5到20份)、需要深度交叉分析、对信息完整性要求高。文献综述、行业研报整合,就是典型的长上下文场景。

第三条路:GraphRAG,画关系图型

这是那种会做思维导图的学霸。

他不是直接读书,而是先把5本书里所有的人物、事件、关系全部提取出来,画成一张巨大的关系图。然后把这张图按”朋友圈”分组——用社区检测算法把关联紧密的节点聚到一起,每个组出一个总结。最后把所有组的总结合并成全局摘要。

这个方案是微软提出的。它的核心优势是能处理那种”没有任何单一文档包含完整信息”的场景——5份文档各自只说了真相的一个侧面,你得把它们的关系网络拼出来才能看到全貌。

适合的场景是:文档之间关联复杂、需要全局视角、单看任何一份文档都不够。

路线
直白解释
学术定义
RAG
开卷考试:脑子聪明但记性差的学生带课本进考场
检索增强生成(Retrieval-Augmented Generation)
长上下文
过目不忘:天才学生一口气背完5本书直接在脑子里比对
长上下文窗口推理(Long-Context Inference)
GraphRAG
画关系图:学霸提取所有关系画成图按朋友圈分组出总结
基于知识图谱的检索增强生成(Graph-based RAG)

最好的方案其实是混着用。先用 RAG 从大库里翻出最相关的5到10份文档——便宜、快速。再把这些文档交给长上下文模型,让它过目不忘地做深度分析——准确、全面。实测下来,这种混合方案在文献综述撰写场景下效率提升约3到5倍,同时保持了较高的信息覆盖度。

知道了原理,为什么还是会翻车?

读到这里你可能会想:既然 Stuff 会超窗口、Map-Reduce 会丢细节、Refine 会先入为主,那我选对策略不就行了?

没那么简单。上面三种策略的坑是”选型层面”的,换一种策略就能绕开。但有些坑是”机制层面”的——不管你选哪种策略,它都可能出现。

坑一:递归合并放大幻觉

Map-Reduce 的坑不只是”丢细节”,更严重的是幻觉会随合并层数放大。当文档量很大时,你需要先分批总结,再把各批摘要再合并,合并完可能还得再合并——摘要的摘要的摘要。

就像传话游戏,5个人传一句话,传到最后面目全非。每做一次总结,AI 都可能”脑补”一点原文没有的东西。有论文专门研究了这个问题,发现递归合并过程确实会显著增加事实不准确的风险。这不是换策略能解决的——只要你需要多轮合并,这个问题就存在。

坑二:冲突裁决没有标准答案

第二节说的”矛盾”是 AI 面对的难题,但这里说的是另一个层面:即便 AI 正确识别了矛盾,它裁决矛盾的方式也不一定靠谱。

5个证人说法矛盾的时候,理想情况是侦探去查证谁对谁错。但 AI 没有外部事实可以查——它只能基于文档内部的信息”猜”一个。有时候它会各打五十大板——”据A说500亿,据B说800亿”就完了,不告诉你该信谁。有时候它会直接选择性忽略其中一个,只输出它”觉得更靠谱”的那个版本。

开头说的那个例子——3份说500亿2份说800亿,总结里只有500亿——大概率就是这个坑。AI 不是没看到那2份报告,而是它在裁决时偏向了”多数派”。

坑三:注意力机制的天然盲区

前面讲了注意力机制让 AI 能”同时看到”所有文档,但这个机制有盲区。AI 处理长文本时存在”中间遗忘”现象——位于输入中间位置的信息更容易被忽略,首尾两端的信息更容易被关注。

这意味着,即便你用 Stuff 策略把所有文档都塞进去了,AI 也”看到”了所有文档,但它在分配注意力时天然偏向首尾。内容少、位置靠中间的文档,信息在最终总结里出现的概率会明显降低。这不是策略选错了,是注意力机制的结构性短板。

坑四:引用准确率的天花板

不管用哪种策略,最好的模型引用准确率也就88%到92%。也就是说,每10条引用里,可能有1到2条是错的或者编的。关键数据,你永远得自己回去核对一遍。

这不是 AI 不行,这是当前技术的天花板。知道天花板在哪,你才知道什么时候该信它、什么时候该自己来。

失败模式
直白解释
为什么选对策略也防不住
幻觉放大
传话游戏传到最后面目全非
只要多轮合并就存在,换策略没用
冲突裁决无解
AI 只能基于文档内部”猜”谁对
没有外部事实源,所有策略都面临这个问题
注意力盲区
中间位置的信息被忽略
注意力机制的结构性短板,与策略无关
引用天花板
最好的模型也有8%-12%引用是错的
当前模型的固有限制

最后

下次你把5份报告丢给 AI 时,你知道它不是在”复制粘贴”,而是在做一场四步侦探推理:认人、抽线索、对质、结案。

你也知道它可能会翻车:传话失真、和稀泥、忽略话少的证人。

如果 AI 能同时审问5个证人并拼出真相,那当证人变成500个、5000个的时候,它还能保持同样的判断力吗?当证人开始说谎——不是事实错误,而是精心构造的误导——AI 的对质能力还够用吗?

这些问题,目前没有人能给出确定答案。

#多文档摘要 #大模型 #注意力机制 #RAG #AI科普