ARTICLE · 1377874
上下文窗口不是越大越好:制造业长文档的取舍

有人兴冲冲告诉我:新模型上下文到了很长一截,可以把整本工艺手册、设备说明书、近三个月工单一次塞进去,「再也不用切片了」。演示那天,问题是「某工序温度上限是多少」。模型答了一个数——来自旧版附录;正文早已修订。手册前后矛盾,窗口越大,它越可能「两头都看见,却挑错的那头」。
我说:把整本工艺手册塞进窗口,成本高、注意力散、还容易前后矛盾;上下文工程的核心是选择与压缩,不是堆料。窗口是容量,不是智慧。制造业长文档尤其如此。

一、大窗口诱惑与工厂现实
大窗口解决的是「一次性塞得下」;解决不了「该看哪一段」。工艺文件有版本、有废止页、有例外条款、有设备差异表。整本塞入,模型要在噪声里找信号,还要付Token账单。
更现实的约束:延迟、费用、隐私。产线侧问一个参数,不该每次搬运一本手册。出域与专网环境下,大上下文还会放大传输与留存风险。
所以「窗口越大越好」是产品叙事;工厂要的是「每次刚好够用的正确上下文」。
二、选择与压缩:上下文工程的两把手
选择
按问题类型选文档对象:问参数找有效版本的工序卡;问异常找同类故障案例;问权限找制度条款。选择依赖元数据:文种、工序、设备型号、版本状态、生效日期、密级。
压缩
不是简单截断,是保留决策相关句与表:门限、条件、例外、责任人。压缩结果应可追溯到原页码/段落ID,避免「摘要后无法对质」。
冲突处理
同窗出现多版本时,必须有优先级:生效>废止,正文>附录,专用>通用。没有冲突策略的大窗口,是矛盾放大器。
三、坑一 / 坑二 / 坑三
坑一:用大窗口替代文档治理
目录混乱、版本不清、扫描件未解析,却指望更长上下文救命。窗口救不了治理,只会让错误答案看起来更「有依据」。
坑二:检索召回很多,却不做重排与限流
Top50全塞进窗口,分数接近的噪声淹没关键句。要限流:先过滤生效版本与对象匹配,再取小集合。
坑三:压缩不可追溯
只给模型看摘要,用户看不到原句与页码。对质时两边都心虚。压缩必须带溯源句柄。
四、核心观点:核心是选择与压缩
钉死一句:
把整本工艺手册塞进窗口,成本高、注意力散、还容易前后矛盾;上下文工程的核心是选择与压缩,不是堆料。
大窗口是能力上限;治理与检索策略决定你实际用到哪一截。
五、怎么做:Step 1–5
Step 1:给长文档补齐最小元数据
文种、对象(工序/设备/物料)、版本、生效/废止、密级、结构化标题。没元数据,选择无从做起。
Step 2:按场景定义「上下文预算」
例如参数查询预算小、根因分析预算中、法规对照预算大。预算用Token与文档块数双限制,超了就重选,不靠硬塞。
Step 3:检索→过滤→重排→限流
过滤生效与权限;重排考虑对象匹配与版本新近;限流到预算内。禁止「召回多少塞多少」。
Step 4:压缩带溯源
摘要旁保留原段落ID/页码;回答必须能点开依据。无依据的句子降级显示。
Step 5:冲突检测进答案
若上下文含多版本或矛盾条款,显式提示并列出优先级结果,而不是默默挑一句。
六、与数据治理的关联:供给策略是治理颗粒度
上下文供给策略依赖元数据标签与文档结构化程度,本质是治理颗粒度问题。
文档级数据标准、切片标准、版本与密级,决定Agent能不能选对上下文。治理做得粗,窗口再大也是粗喂;治理做得细,小窗口也能精准。
七、效果大概长什么样
参数类问答依据落到正确生效版本; Token消耗下降,延迟更稳; 前后矛盾被显式暴露,而不是静默选错; 文档治理缺口通过「选不出上下文」暴露出来; 团队不再迷信「再买更大窗口」。
某装备制造企业把工艺问答从「整手册入窗」改为「元数据过滤+预算限流」后,错误引用旧附录的比例明显下降,单次调用成本也下来一截。省下的钱,够做一轮文档结构化。
八、补充:和RAG、Skill怎么配合
RAG负责找候选;上下文工程负责选与压;Skill负责按路径调用哪些文档类型。三者不是互相替代。只有RAG没有选择策略,仍会堆料。
对扫描件与表格:先提升解析与结构化,再谈窗口。解析失败的页,塞进窗口也只是噪声像素的文字幻觉。
安全上:密级过滤必须在入窗前完成。大窗口更容易误带密,审核要卡供给策略,不只卡模型输出。
评估时增加两项:依据版本正确率、矛盾检出率。只看「答得像不像」会纵容堆料。
采购大模型时,把「上下文长度」从第一决策因子降下来。先问:你们的文档元数据与供给策略准备好了吗?没准备好,长度是账单放大器。
最后:老师傅翻手册也不会一页页全读,他会按目录与经验跳。Agent更需要被教会「跳」,而不是被鼓励「吞」。
长文档还有「表意在表、在图」的问题。温度曲线、公差表、装配爆炸图,纯文本窗口再长也吃不准。上下文工程要承认多模态解析与结构化抽取是前置,而不是幻想更长文本窗口能替代看图。
版本冲突策略要写成可执行规则,而不是靠模型「感觉哪段更新」。例如:同标题取生效日期最新;专用设备附录覆盖通用章节;废止页不得入窗。规则进供给层,模型只在规则结果上阅读。
成本方面,大窗口会线性甚至超线性推高账单,且失败重试更贵。设预算能倒逼检索质量:选不准就重选,而不是加钱硬塞。财务与平台应用同一套预算语言。
对供应商Demo保持警惕:Demo手册短、无废止页、问题预埋。你要用自家带矛盾的真实手册测「矛盾检出」与「依据版本正确率」。测不出这两项,长度参数毫无意义。
和Skill结合时,Skill步骤应声明所需文种与元数据过滤条件,例如「仅生效版工序卡」。这样上下文选择不再临时发挥,而是路径资产的一部分。
一句话:上下文工程是治理的阅读器。元数据越细,窗口可以越小;元数据越粗,窗口再大也只是更贵的混乱。
供给策略还可以按角色差异化:工艺员看生效正文;审计员可看废止对照;外部供应商只能看受控摘要。同一问题,不同窗,不是歧视,是分级。
评估矛盾检出时,故意构造「正文与附录冲突」的题。模型若一本正经选错还带引用,说明冲突策略没生效。
压缩算法优先保留:数值门限、条件句、例外、责任人、生效信息。形容词和背景故事优先丢。
扫描件OCR质量低时,入窗前应降权或拒绝。低质量文本占窗口,是在买噪声。
与密级系统打通:密级不足的块不得入窗,即使检索分高。安全过滤在相关度之前。
长工单历史同样适用选择与压缩:不要把一年报工流水全塞进。按故障窗口与同类工况抽样。
团队KPI别设「平均上下文利用率」这种诱导堆料的指标。应设「依据正确率/Token单耗」。
若必须用超长窗做法规对照,也要分卷与目录导航,先定位章节再入窗,而不是整法典生吞。
工程上把供给策略配置化:场景→过滤器→预算→冲突规则。配置进版本库,评审同Skill。
收束:更大的窗口是能力,更好的选择是水平。水平来自治理颗粒度,不来自采购参数表。
选择阶段可以把「设备型号+工序+文种」做成组合键,检索先命中组合键再全文。组合键命中率低,说明元数据还没进生产级。
压缩后的上下文应允许用户一键展开原段。展开是信任装置,也能暴露压缩过度。
对多手册交叉引用,建立引用图:A引用B的条款要带着B的版本。断链引用不得入窗。
九、给你的行动清单(本周就能做)
- 抽一本高频工艺手册
,补齐版本/工序/生效元数据,缺的先标红。 - 为参数查询场景设上下文预算
(块数与Token双限),超预算必须重选。 - 要求答案展示依据页码或段落ID
,做不到的场景先不下生产。
下篇预告:《工业大模型选型:先问数据能不能出域,再问参数多大》——治理决定技术。
我是做制造业数据治理的老兵。窗口是筐,不是脑。会选、会压、会处理矛盾,才叫上下文工程。















































































