夜雨聆风学习资料网

ARTICLE · 1373248

大模型RAG实战:从文档到问答

大模型RAG实战:从文档到问答

我拿《民法典》合同编 526 条跑了一套 RAG,发现真正卡人的不是模型,是文档怎么切、怎么搜、怎么查错。

分片先定天花板。固定 500 字符硬切,精确率只有 62%——正好把"能约定违约金"和"法院可减少"切成两块。用户问能不能减,模型只看到前半句。换递归拆分 800 字符,精确率提到 74%;父子分片最高,但索引翻了好几倍。生产环境我选递归拆分 + 重排序,性价比最稳。

*向量和索引别盲目追新。*BGE-M3 中文法条检索 78%,比 OpenAI 高,还能本地免费跑。维度压到 512,精度只掉 2 个点,查询快一倍,做原型够用。数据不到 5 万条,直接上 Flat 索引,48 毫秒,不用调参。

检索优化最划算的是双路召回。向量搜语义、BM25 抓编号,合起来精确率从 74% 提到 81%。再加 bge-reranker 重排序,拉到 86%——关键是把相关法条顶到前两位,LLM 才看得到。HyDE 和查询改写还能再提两三个点,就是多调两次模型,延迟翻倍。

最后用 RAGAS 测,答案可信度 0.88,但上下文召回只有 0.79。说白了,它知道怎么答,却常漏掉那条关联法条。这种全局关系,得上 GraphRAG 或 LightRAG。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料