RAG系统中为什么需要文档切割？

RAG的检索和生成都需要长度适合、语义集中、可定位的知识单元。

主要在于以下几点：
1、模型上下文窗口限制。大模型一次能处理的文本的长度有限。

2、检索精度的需要。如果不切割，检索的粒度就是整篇文档，用户提一个问题，系统返回整篇文档来回答问题，信息密度低，噪声和冗余多。

3、向量表示的质量。一个向量要表示的内容越多，信息越复杂，向量越难精确表达。

RAG 中需要文档切割，是为了让知识变得可检索、可排序、可注入、可引用、可维护。