【AI Agent】搭建「Agent型」RAG

【合辑】AI Agent 开发›

01

Agent RAG 是什么

你是知识助手，先用工具找完资料，再回答问题

你有 a、b、c 三个工具

如果是说明类问题 就用 a 工具，如果是数据查询就是 b工具

只依据工具返回的资料回答，不用自己补充

如果判断资料够了，就直接回答

资料不够就继续查，不能回答就说没有找到....

• 串行式的工作流架构 

• 变成了 

• Agent主从架构

检索工具内部的流程仍然保持流程一致

Agent 虽然灵活，但也意味着不稳定性，所以让检索流程保持统一，是 灵活 和 稳定性 之间的权衡

并且 检索流程中涉及很多参数，都是需要调试出来的，不应该让大模型去猜

在操作系统中，有 实时OS 和 通用OS

实时OS 强调实时性，确定性，用在汽车/医疗/航天，因为分秒必争，关乎任命

实时性，就是 所有事情必须在规定时间内给出回应，每一步都必须在规划设计内

02

Agent RAG 流程怎么走

项目就是之前开源在 Github 的 生产版，加了 Agent 模式

https://github.com/Hooho/production-rag

这是预览能力的演示地址，非真实可操作 (手机适配没怎么做)

https://page.hoholoving.com/rag-demo

• 第 1 轮输入：系统提示词 + 问题 A—— 输出决定调用 工具 B

• 第2轮输入：系统提示词 + 问题 A + 工具 B 的结果—— 输出：决定调用 工具C

• 第3轮输入：系统提示词 + 问题 A + 工具 B 的结果 + 工具C 的结果—— 输出：资料已经够了，循环结束，直接输出回答

就包含五个部分

Agent 接收到上一步的内容，发给大模型之后

大模型开始处理，并输出内容

比如这一次的思考过程是

让我搜索知识库中关于段永平的利润、净资产以及单笔最大收益的具体数值。
我来进行并行搜索：
1. search_knowledge 混合检索：“段永平投资赚了多少钱，身家多少亿”
2. search_knowledge 混合检索：“段永平哪一笔投资赚得最多，最大盈利金额”
或许还可以用 query_data？不，这是关于某人的知识库内容，不是商业数据。
我来并行执行这两次搜索

然后 大模型就决定调用 知识检索工具 两次

返回结构化的调用信息（这是 function calling，这样外部的程序就可以直接解析，从而去调用工具 

拿到模型想要调用工具，传入 模型 设置的参数

工具内部就开始执行，是已经固定了的程序流程逻辑（只截图一个

得到工具执行结果

准备在下一轮继续发给 Agent，开启下一个循环

主要就是新增了工具调用的结果 + 上一轮 大模型的输出

详细说内容就是两部分

这部分就略了，内容差不多，就是

• 再次思考

• 决定是否再调用工具，决定怎么调用，查什么内容

比如这次就决定换一种查询的角度和方式

本次大模型觉得资料已经够了，就不再调用工具

直接输出回答

至此，循环就结束了

所以整个循环就是这样

https://page.hoholoving.com/rag-demo/#chat

03

Agent RAG 怎么搭建

• 1.在程序中限定 查询次数

• 2.在程序最后一次中强制回答

—— 限制工具调用次数，默认最多 6 次，超过6次就强制回答，不给你再调用工具了

不过这个次数其实可以根据自己的资料来调试，看你的统计，是否大部分问题在 6次以内基本就能回答好

比如我的项目评测统计中

也就是说

证据全部拿齐的 165 道题里，在第几次调用拿齐

04

Agent RAG评测

• Agent 在复杂问题上，是不是真的比固定流程回答更好？

• Agent 的能力，需要花多少代价，比如 时间、token？

所以 这三类题，是比较能体现 Agent 能力的，距我多次评测的结果来看，Agent 确实都能拿到很高的分数

一共12道题，40个计分项

就是一起问两个问题，A + B

你无法直接搜索B，你必须先搜索A 得到资料，再根据资料 才能去搜索B

比如我问，“我出生的那年，大A 涨跌多少”

你直接单独查 “我出生的年份” 和 “大A 涨跌多少” 都不行

你必须先查 我的出生年份之后，才能去查 大A 涨跌多少

很明显，固定流程在这方面就很吃力

在多跳题上的具体表现就很明显了

这总体，就是 一个题目里面包含多个不相关的子题目，需要分别查询，然后再结合在一起回答

其实这类问题，属于是针对固定流程的缺陷进行打击的

比如我一次性问了 A+B ，固定流程目前的 查询改写，可以分成2个子问题 进行查询

所以在比较题上，并不算是 Agent 的明显优势

真正我觉得拉开差距的是下面这一列题

这一类就属于考验 Agent 推理能力的题了

题目十分宽泛，你需要一步步获取资料，然后调整查询的方向，才能找得到答案

比如我问 ，“段永平的书里拿哪些公司当反面例子？”

大模型 怎么知道什么是反面例子？

它只能一点点推理（根据返回的资料，或者 自己的知识

比如 试图命中一些关键词 “衰落” “倒闭” “失败”

然后再继续根据返回的资料，进行推理，比如我摘取了部分 思考过程

只摘取其中的重要部分

....
我需要再检索一下书中的负面案例：乐视？京东？网易？夏新？UT斯达康？ 可能还有其他。让我检索"段永平 投资失败 亏损 案例"以及"东方园林 乐视 诺基亚 反面案例"。
还有可能是《投资的本质》中的"反面教材"章节。让我搜一下。
具体检索： 1. keyword/vector: "段永平 投资失败 例子 亏损 教训 公司" 2. "东方园林 乐视 财报 造假 例子"

你可以看到它下一步开始查询

—— 造假、投资失败、亏损

从而又命中了新的资料

这一轮查询完之后，它又继续推理

....
还可能有的：夏新/乐视/网易（网易是正面）、UT斯达康？ 需要再检索一下书中的其他负面案例，比如"夏新""诺基亚""柯达""黑莓"等。也可能有"UT斯达康""福光"等。
让我做一次针对更多反面案例的检索，问"书中提到哪些经营失败、走下坡路的公司，如衰落、破产、造假、盲目扩张"

所以Agent 就是可以利用自己的推理能力，一点点调整查询的方向

—— 利用模型自身的常识+ 上一步提供的资料，来决定下一步查询的方向

这便是 Agent 最大的优势

虽然它也无法保证百分百拿到所有资料，但是已经比 固定流程 表现要好得多，上限高得多

比如它也可能无法推理出 “业务升级失败” “老板不靠谱” “管理层净吹🐮逼” 这种反面案例的查询方向

比如 富国银行虚开账户被罚 30 亿 的部分，意思上是反面例子，但用词完全不沾边，Agent 实在查询不到

Last

最后