夜雨聆风学习资料网

ARTICLE · 1377874

上下文窗口不是越大越好:制造业长文档的取舍

上下文窗口不是越大越好:制造业长文档的取舍

有人兴冲冲告诉我:新模型上下文到了很长一截,可以把整本工艺手册、设备说明书、近三个月工单一次塞进去,「再也不用切片了」。演示那天,问题是「某工序温度上限是多少」。模型答了一个数——来自旧版附录;正文早已修订。手册前后矛盾,窗口越大,它越可能「两头都看见,却挑错的那头」。

我说:把整本工艺手册塞进窗口,成本高、注意力散、还容易前后矛盾;上下文工程的核心是选择与压缩,不是堆料。窗口是容量,不是智慧。制造业长文档尤其如此。

一、大窗口诱惑与工厂现实

大窗口解决的是「一次性塞得下」;解决不了「该看哪一段」。工艺文件有版本、有废止页、有例外条款、有设备差异表。整本塞入,模型要在噪声里找信号,还要付Token账单。

更现实的约束:延迟、费用、隐私。产线侧问一个参数,不该每次搬运一本手册。出域与专网环境下,大上下文还会放大传输与留存风险。

所以「窗口越大越好」是产品叙事;工厂要的是「每次刚好够用的正确上下文」。

二、选择与压缩:上下文工程的两把手

选择

按问题类型选文档对象:问参数找有效版本的工序卡;问异常找同类故障案例;问权限找制度条款。选择依赖元数据:文种、工序、设备型号、版本状态、生效日期、密级。

压缩

不是简单截断,是保留决策相关句与表:门限、条件、例外、责任人。压缩结果应可追溯到原页码/段落ID,避免「摘要后无法对质」。

冲突处理

同窗出现多版本时,必须有优先级:生效>废止,正文>附录,专用>通用。没有冲突策略的大窗口,是矛盾放大器。

三、坑一 / 坑二 / 坑三

坑一:用大窗口替代文档治理

目录混乱、版本不清、扫描件未解析,却指望更长上下文救命。窗口救不了治理,只会让错误答案看起来更「有依据」。

坑二:检索召回很多,却不做重排与限流

Top50全塞进窗口,分数接近的噪声淹没关键句。要限流:先过滤生效版本与对象匹配,再取小集合。

坑三:压缩不可追溯

只给模型看摘要,用户看不到原句与页码。对质时两边都心虚。压缩必须带溯源句柄。

四、核心观点:核心是选择与压缩

钉死一句:

把整本工艺手册塞进窗口,成本高、注意力散、还容易前后矛盾;上下文工程的核心是选择与压缩,不是堆料。

大窗口是能力上限;治理与检索策略决定你实际用到哪一截。

五、怎么做:Step 1–5

Step 1:给长文档补齐最小元数据

文种、对象(工序/设备/物料)、版本、生效/废止、密级、结构化标题。没元数据,选择无从做起。

Step 2:按场景定义「上下文预算」

例如参数查询预算小、根因分析预算中、法规对照预算大。预算用Token与文档块数双限制,超了就重选,不靠硬塞。

Step 3:检索→过滤→重排→限流

过滤生效与权限;重排考虑对象匹配与版本新近;限流到预算内。禁止「召回多少塞多少」。

Step 4:压缩带溯源

摘要旁保留原段落ID/页码;回答必须能点开依据。无依据的句子降级显示。

Step 5:冲突检测进答案

若上下文含多版本或矛盾条款,显式提示并列出优先级结果,而不是默默挑一句。

六、与数据治理的关联:供给策略是治理颗粒度

上下文供给策略依赖元数据标签与文档结构化程度,本质是治理颗粒度问题。

文档级数据标准、切片标准、版本与密级,决定Agent能不能选对上下文。治理做得粗,窗口再大也是粗喂;治理做得细,小窗口也能精准。

七、效果大概长什么样

  • 参数类问答依据落到正确生效版本;
  • Token消耗下降,延迟更稳;
  • 前后矛盾被显式暴露,而不是静默选错;
  • 文档治理缺口通过「选不出上下文」暴露出来;
  • 团队不再迷信「再买更大窗口」。

某装备制造企业把工艺问答从「整手册入窗」改为「元数据过滤+预算限流」后,错误引用旧附录的比例明显下降,单次调用成本也下来一截。省下的钱,够做一轮文档结构化。

八、补充:和RAG、Skill怎么配合

RAG负责找候选;上下文工程负责选与压;Skill负责按路径调用哪些文档类型。三者不是互相替代。只有RAG没有选择策略,仍会堆料。

对扫描件与表格:先提升解析与结构化,再谈窗口。解析失败的页,塞进窗口也只是噪声像素的文字幻觉。

安全上:密级过滤必须在入窗前完成。大窗口更容易误带密,审核要卡供给策略,不只卡模型输出。

评估时增加两项:依据版本正确率、矛盾检出率。只看「答得像不像」会纵容堆料。

采购大模型时,把「上下文长度」从第一决策因子降下来。先问:你们的文档元数据与供给策略准备好了吗?没准备好,长度是账单放大器。

最后:老师傅翻手册也不会一页页全读,他会按目录与经验跳。Agent更需要被教会「跳」,而不是被鼓励「吞」。

长文档还有「表意在表、在图」的问题。温度曲线、公差表、装配爆炸图,纯文本窗口再长也吃不准。上下文工程要承认多模态解析与结构化抽取是前置,而不是幻想更长文本窗口能替代看图。

版本冲突策略要写成可执行规则,而不是靠模型「感觉哪段更新」。例如:同标题取生效日期最新;专用设备附录覆盖通用章节;废止页不得入窗。规则进供给层,模型只在规则结果上阅读。

成本方面,大窗口会线性甚至超线性推高账单,且失败重试更贵。设预算能倒逼检索质量:选不准就重选,而不是加钱硬塞。财务与平台应用同一套预算语言。

对供应商Demo保持警惕:Demo手册短、无废止页、问题预埋。你要用自家带矛盾的真实手册测「矛盾检出」与「依据版本正确率」。测不出这两项,长度参数毫无意义。

和Skill结合时,Skill步骤应声明所需文种与元数据过滤条件,例如「仅生效版工序卡」。这样上下文选择不再临时发挥,而是路径资产的一部分。

一句话:上下文工程是治理的阅读器。元数据越细,窗口可以越小;元数据越粗,窗口再大也只是更贵的混乱。

供给策略还可以按角色差异化:工艺员看生效正文;审计员可看废止对照;外部供应商只能看受控摘要。同一问题,不同窗,不是歧视,是分级。

评估矛盾检出时,故意构造「正文与附录冲突」的题。模型若一本正经选错还带引用,说明冲突策略没生效。

压缩算法优先保留:数值门限、条件句、例外、责任人、生效信息。形容词和背景故事优先丢。

扫描件OCR质量低时,入窗前应降权或拒绝。低质量文本占窗口,是在买噪声。

与密级系统打通:密级不足的块不得入窗,即使检索分高。安全过滤在相关度之前。

长工单历史同样适用选择与压缩:不要把一年报工流水全塞进。按故障窗口与同类工况抽样。

团队KPI别设「平均上下文利用率」这种诱导堆料的指标。应设「依据正确率/Token单耗」。

若必须用超长窗做法规对照,也要分卷与目录导航,先定位章节再入窗,而不是整法典生吞。

工程上把供给策略配置化:场景→过滤器→预算→冲突规则。配置进版本库,评审同Skill。

收束:更大的窗口是能力,更好的选择是水平。水平来自治理颗粒度,不来自采购参数表。

选择阶段可以把「设备型号+工序+文种」做成组合键,检索先命中组合键再全文。组合键命中率低,说明元数据还没进生产级。

压缩后的上下文应允许用户一键展开原段。展开是信任装置,也能暴露压缩过度。

对多手册交叉引用,建立引用图:A引用B的条款要带着B的版本。断链引用不得入窗。

九、给你的行动清单(本周就能做)

  1. 抽一本高频工艺手册
    ,补齐版本/工序/生效元数据,缺的先标红。
  2. 为参数查询场景设上下文预算
    (块数与Token双限),超预算必须重选。
  3. 要求答案展示依据页码或段落ID
    ,做不到的场景先不下生产。

下篇预告:《工业大模型选型:先问数据能不能出域,再问参数多大》——治理决定技术。

我是做制造业数据治理的老兵。窗口是筐,不是脑。会选、会压、会处理矛盾,才叫上下文工程。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料