千万级文档 RAG 知识库：LlamaIndex 生产落

企业级 RAG 系统上线，最难的不是跑通 Demo，而是扛住千万级文档。

有券商用 LlamaIndex 搭研报问答。200 篇样本文档时效果惊艳。可一上 1200 万篇真实文件，索引跑了三天还没完。查个数据要等 8 秒多，准确率直接从 90% 掉到 60%。想在生产环境落地，得连闯七道关：

解析别一刀切：文本 PDF 保留表格结构，扫描件必须接 OCR。页眉页脚和表格千万别混进正文。
分块按文档来：技术文档切小点，法律文书留大点。试试“父子分块”，子块负责精准检索，父块提供完整上下文。
建索引得并行：单机串行处理千万文件太慢。用 Ray 做并行，向量生成最好本地部署，省时又省钱。
检索不能只靠向量：向量搜索对时间和数字不敏感。得把关键词、元数据过滤和重排序全用上。
性能优化抓重点：查询慢多半卡在 LLM 生成。向量库上量化省内存，加缓存，再搞流式输出。
全链路追踪：回答错了要知道是哪一环掉的链。用打点和追踪工具，把检索、重排全过程看清楚。

Demo 证明能做，工程才决定能不能扛。