夜雨聆风学习资料网

ARTICLE · 1254491

AI答得准不准,先看它能否找对图表和文档

AI答得准不准,先看它能否找对图表和文档

AI答得准不准,先看它能否找对图表和文档

企业把资料交给AI问答系统时,常把注意力放在最后负责回答的大模型上。但如果搜索阶段漏掉关键图表,模型再会写也只能根据残缺材料作答。NVIDIA在10月21日公布Nemotron 3.5检索模型组合,分别处理内容提取、候选检索和相关性重排,目标是让代理更快拿到有用证据。

检索是一条流水线

Embed模型把文字和文档图像变成可搜索的表示,能查找藏在表格、信息图、产品资料中的信息。先检索一批候选,再由Rerank模型比较“问题与资料片段”是否真正相关,决定哪些内容进入回答上下文。Parse模型则负责把原始文档转成适合后续处理的内容。此次开放的Embed有8B和1B等版本,另有8B重排模型与约6.31亿参数的Parse模型;不同环节不能简单看成同一个聊天模型的大小版本。

以询问“下季度哪些商品会缺货”为例,系统可能要同时读需求预测图、库存表和供应商交期。只命中“库存”二字的片段不够,必须把能支持判断的数字和上下文找齐。NVIDIA称,在其固定代理、任务和语料的实验中,增加重排环节后,部分配置的代理推理词元成本下降约13%至14%,同时改善检索质量。

公开基准不等于你的企业效果

官方披露8B Embed在ViDoRe v3.1文档检索基准取得61.17 nDCG@10,并说明结果对应当时的榜单与评测条件。NVFP4版本的吞吐提升也来自指定的GB200硬件。换成中文扫描件、复杂权限体系或不同GPU,数字不会自动照搬。

准备搭建知识库的团队,可先挑一批真实问题,逐项标出“正确证据在哪一页”,然后比较现有检索与新模型在命中率、回答质量、延迟和总费用上的表现。特别要检查图片里的小字、跨页表格和权限过滤:检索模型升级不能替代资料清洗,也不能代替对敏感文档的访问控制。

相关学习资料