ARTICLE · 1027997
企业AI知识库为什么难落地?
企业AI知识库为什么难落地?目前知识库的形态大概有三种：RAG知识库、LLM Wiki和Gbrain 三种都有不同的优缺点，但是目前基本都很难满足企业需求，特别是海量文档的知识库。 先看RAG知识库，一般都会对文档进行分片，而一旦分片了，不管后续工作流设计多优秀，基本都无法得到准确答案。 为什么呢？ 原因包含几个因素：召回率、精确率、长上下文。这三个因素带来的问题对应信息缺失、信息噪音和模型幻觉。 要想上下文信息完整，就要求召回率要高，但是只要召回率不是100%，就表明最终答案是不完整的，企业级应用容忍不了。 如果要提高召回率，就要加大topk，那么必然带来精确率下降，也就是说信息噪音在增加，最终给模型的上下文也会变得很长，模型就会更容易出现幻觉。 一句话，采用分片的知识整理方式，最终就会带来信息缺失、信息噪音和模型幻觉的不可能三角。 接着是LLM Wiki方式，这个跟RAG方式最大的区别是不做分片，而是以wiki页形式来组织知识，并且建立了各页的关联。 既然不做分片了，那么就不会用向量来做召回，因为wiki页长度大，向量相似度计算效果差。 而因为没有分片，而wiki也长度大，所以不可能把多个页同时塞给模型，这样也会出现幻觉问题，而且可能上下文容易爆了。那么，只能用agent loop的形式去检索答案了，带来的就是延迟增加，可能不是秒级别能回答的，如果海量文档，那更明显。 最后看一下Gbrain，这个其实是在LLM Wiki的基础上保留更多信息，比如状态、事件等，信息量更大，但是带来的就是复杂度增加和延迟更大。 从企业角度来看，如果知识库的问答只是99%的准确率而不是100%，那其实也很难接受的，因为你不知道哪次就会错误，所以你可能就得每次都做二次验证，那就是走回旧路了。 所以，除非能容忍知识库回答错误，否则准确率是99%还是10%不重要，重要的是你不知道哪次的错误会带来灾难。