✍️ 作者:智测随笔
D16 RAG:让AI从"瞎编"变成"有据可查"的检索增强生成
你有没有过这种崩溃时刻?
问 AI 一本刚出的书里写了啥,它一本正经地告诉你:"这本书第3章讲的是XXX……"结果你翻书一查——压根儿没这事儿。或者让它帮你查公司内部的产品文档,它给你编了一段看起来非常专业的"内部资料",细看全是胡扯。
这就是 AI 的老毛病:它只会"说人话",不会"查资料"。你问啥它都敢答,张口就来,专业术语一套一套的,就是内容靠不住。行话叫"幻觉"(Hallucination),说人话就是——一本正经地瞎编。
那有没有办法治治它?
有。今天要聊的RAG(Retrieval-Augmented Generation,检索增强生成),就是当下最主流、最管用的一剂"良药"。
一句话讲清楚 RAG
RAG = 先去查资料 + 再根据资料回答
就这么简单。
传统的大模型(比如你熟悉的 ChatGPT、文心一言、通义千问),回答问题时全靠"脑子里背下来的东西"——也就是训练数据。这些知识有截止日期,有盲区,还会记错。
而 RAG 干的事儿,是在模型回答之前,先让它去一个"外部资料库"里翻一翻,找到最相关的内容,再结合这些内容生成答案。
打个比方:
传统大模型
像一个学识渊博但记性不好的教授,你问啥他都敢答,但偶尔会瞎编。
加了 RAG 的模型
像同一个教授,只不过他桌上多了一台电脑,回答前会先查一下资料再开口。
哪个更靠谱?显然是有据可查的那个。
为什么 RAG 这两年这么火?
两个原因,简单粗暴。
第一,大模型自己"读书"太贵了。想让 AI 知道最新的知识、你们公司内部的资料、行业专属的术语,最暴力的办法就是把这些内容全塞进训练数据里重新训练一次。一次训练的成本,少说几十万,多则几百万美金,普通公司根本玩不起。
第二,RAG 又便宜又好用。你只需要把资料整理好放进一个数据库里,模型回答前去查一下就行。不用重新训练,知识更新也方便——加篇文档它就会了。
所以你会发现,这两年几乎所有"AI 落地"的项目,背后都有 RAG 的影子:智能客服、文档问答、企业知识库、法律助手、医疗辅助……
RAG 是怎么工作的?三步搞定
别被"检索增强生成"这五个字吓到,原理其实非常朴素。整体就三步:
第一步:把资料"备好"——索引构建
你得先有一个"资料库"。这个资料库可以是一堆 PDF、Word、网页、数据库表,啥都行。
系统会做一件事:把这些资料"切碎",切成一个个小的段落(专业点叫 chunk),然后把每个段落转成一串数字(叫 embedding,向量)。你可以理解为:给每段资料发一张"身份证",身份证上写了这段话的核心意思。
存好之后,以后就能快速比对"这段资料和用户的问题像不像"。
第二步:用户提问——检索
用户问了一个问题,比如"咱们公司年假是几天?"。
系统不会直接把问题丢给大模型。它会先把这个问题也转成一串数字(同样的"身份证"),然后去资料库里找最像的几段内容。这一步叫"检索"(Retrieval)。
可能搜出来 3-5 段最相关的:公司制度手册第 12 条、HR 群公告、员工 FAQ 第 5 条……
第三步:带着资料生成答案——增强生成
系统把这几段找出来的资料,和用户的原始问题一起打包塞给大模型,然后跟它说:
"请你根据下面这些资料,回答用户的问题。资料里没到的,就说不知道,别瞎编。"
大模型读完资料,组织一下语言,给出答案。这一步就是"增强生成"(Augmented Generation)—— 它生成的答案,是有据可查的。
整个流程可以浓缩成一张图:
用户提问 → 检索资料库 → 找到相关段落 → 连同问题一起给大模型 → 给出有据可查的答案
RAG 的实际威力
举几个你大概率会碰到的场景:
企业知识库问答 新人入职问"报销流程是啥?",AI 直接从公司制度文档里捞出答案,不用再问 HR。 客服机器人 用户问"这个产品保修多久?",AI 从产品手册、售后政策里检索,再生成回答,准确率蹭蹭往上涨。 法律/医疗辅助 律师问"这个案子的最新判例是啥?",AI 从判例库、法律法规库检索,辅助分析,不敢乱说。 个人笔记/学习助手 把你自己的笔记、读书卡片喂给 AI,问啥它都从你的资料里找答案——相当于一个只属于你、永远不会忘的"第二大脑"。
RAG 不是万能的
最后也得泼盆冷水:RAG 不是银弹。
资料质量决定上限。
你喂给它的是垃圾,搜出来的也是垃圾。
检索不是 100% 准确。
偶尔会搜偏,模型拿到不相关的资料也会瞎答。
复杂推理还是弱项。
RAG 主要解决"知道/不知道"的问题,复杂的逻辑推理、多文档综合分析,光靠它还不够。
所以现在更前沿的研究,是在 RAG 基础上叠 Agent、叠多跳推理、叠自我校验…… 让 AI 不光"有据可查",还能"边查边想"。
总结一下:
RAG 的本质,就是给大模型外挂了一个"资料库"加一台"搜索引擎"。它不会魔法,不会变出新知识,只是让 AI 回答问题之前,先学会翻一翻资料再说话。
夜雨聆风