SpringAI实战-8-RAG(检索增强生成)

问题1: 知识过时- 训练数据有截止时间,不知道最新信息- 例如: 无法回答"2026年最新政策"问题2: 幻觉问题  - 会"一本正经地胡说八道"- 编造看似合理但错误的内容

闭卷考试 (普通对话):  用户问题 → 大模型凭记忆回答 → 可能错误/过时开卷考试 (RAG):  用户问题 → 先查资料 → 基于资料作答 → 有据可查

┌──────────────────────────────────────────────────────┐│  1. Retrieval (检索)                                   ││     - 将用户问题转为向量                                ││     - 在向量数据库中找最相关文档                          │├──────────────────────────────────────────────────────┤│  2. Augmented (增强)                                   ││     - 把检索到的文档拼成上下文                           ││     - 构建增强版Prompt: 参考资料 + 问题                  │├──────────────────────────────────────────────────────┤│  3. Generation (生成)                                  ││     - 把增强Prompt发给大模型                            ││     - 大模型基于上下文生成准确回答                        │└──────────────────────────────────────────────────────┘

阶段一: 知识库准备 (离线)  原始文档 → 分块 → 向量化 → 存入数据库阶段二: 智能问答 (在线)  用户问题 → 检索 → 增强Prompt → AI回答

文档分块: TokenTextSplitter (Spring AI)向量化:   EmbeddingModel (阿里云)存储:     PGVector (PostgreSQL)检索:     余弦相似度 (ORDER BY embedding <=> ?)生成:     ChatModel (DeepSeek)

问题: 一篇文档可能几千字,直接向量化会怎样?- Embedding API有长度限制- 整篇文档一个向量,检索精度差- 检索到整篇文档,上下文太多干扰AI解决: 切成小块,每块独立向量化- 每块500 Token,精准定位知识点- 检索时只返回相关片段,减少噪声

public DocumentImportResponse importDocument(DocumentImportRequest request) {    // 阶段1: 文档分块    org.springframework.ai.document.Document sourceDoc =         new org.springframework.ai.document.Document(request.getContent());    TokenTextSplitter splitter = new TokenTextSplitter();    List<org.springframework.ai.document.Document> chunks =         splitter.apply(List.of(sourceDoc));    // 阶段2: 批量向量化    for (org.springframework.ai.document.Document chunk : chunks) {        float[] embeddingArray = embeddingModel.embed(chunk.getText());        String embeddingVector = VectorFormatUtil.formatToVector(embeddingArray);        Document docEntity = new Document();        docEntity.setContent(chunk.getText());        docEntity.setEmbedding(embeddingVector);        documentMapper.insert(docEntity);    }    return DocumentImportResponse.builder()        .totalChunks(chunks.size())        .message("文档导入成功,共切分为 " + chunks.size() + " 个知识块")        .build();}

POST http://localhost:8080/api/rag/import{  "content": "Spring Boot是由Pivotal团队提供的全新框架...[几千字]",  "metadata": "{\"source\": \"官方文档\", \"category\": \"教程\"}"}

{  "success": true,  "totalChunks": 12,  "message": "文档导入成功,共切分为12个知识块",  "chunks": [    {      "id": 101,      "contentPreview": "Spring Boot是由Pivotal团队提供的...",      "contentLength": 485    }  ]}

public RagResponse query(RagRequest request) {    // ========== 阶段1: Retrieval (检索) ==========    // 1.1 问题向量化    float[] queryEmbeddingArray = embeddingModel.embed(request.getQuery());    String queryEmbedding = VectorFormatUtil.formatToVector(queryEmbeddingArray);    // 1.2 语义检索 TopK    List<Document> relevantDocs = documentMapper.selectSimilarDocuments(        queryEmbedding, request.getTopK()    );    // ========== 阶段2: Augmentation (增强) ==========    // 2.1 拼接上下文    String context = buildContextFromDocuments(relevantDocs);    // 2.2 构建增强Prompt    String augmentedPrompt = buildAugmentedPrompt(context, request.getQuery());    // ========== 阶段3: Generation (生成) ==========    List<Message> messages = List.of(        new SystemMessage(systemPrompt),    // 角色定义        new UserMessage(augmentedPrompt)    // 参考资料 + 问题    );    Prompt prompt = new Prompt(messages);    ChatResponse chatResponse = chatModel.call(prompt);    String answer = chatResponse.getResult().getOutput().getText();    return RagResponse.builder()        .query(request.getQuery())        .answer(answer)        .sources(sources)        .augmentedPrompt(augmentedPrompt)        .build();}

private String buildContextFromDocuments(List<Document> documents) {    StringBuilder context = new StringBuilder();    for (int i = 0; i < documents.size(); i++) {        context.append("=== 参考资料 ").append(i + 1).append(" ===\n");        context.append(documents.get(i).getContent()).append("\n\n");    }    return context.toString();}

private String buildAugmentedPrompt(String context, String question) {    return """        请根据以下参考资料回答问题:        %s        问题: %s        请回答:        """.formatted(context, question);}

private static final String DEFAULT_SYSTEM_PROMPT = """    你是一个专业的知识问答助手。请根据以下提供的参考资料来回答用户的问题。    回答要求:    1. 仅基于提供的参考资料进行回答,不要编造信息    2. 如果参考资料不足以回答问题,请明确告知用户    3. 回答要准确、简洁、有条理    """;

POST http://localhost:8080/api/rag/query{  "query": "Spring Boot的核心特性是什么?",  "topK": 5}

{  "query": "Spring Boot的核心特性是什么?",  "answer": "根据参考资料,Spring Boot的核心特性包括:\n1. 自动配置...\n2. 内嵌服务器...",  "sources": [    {      "id": 101,      "content": "Spring Boot提供了自动配置机制...",      "similarityDistance": 0.12,      "metadata": "{\"source\": \"官方文档\"}"    }  ],  "augmentedPrompt": "请根据以下参考资料回答问题:\n=== 参考资料 1 ===\n..."}

Retrieval:  问题向量化 → 语义检索 → 相关文档Augmented:  拼接上下文 → 构建增强PromptGeneration: 系统提示词 → AI生成 → 返回答案

src/main/java/com/springailearn/├── service/│   └── RagService.java              # RAG核心逻辑├── controller/│   └── RagController.java           # REST接口└── model/    ├── RagRequest.java              # 请求对象    ├── RagResponse.java             # 响应对象    ├── DocumentImportRequest.java   # 导入请求    └── DocumentImportResponse.java  # 导入响应API接口:POST /api/rag/import   # 导入文档POST /api/rag/query    # RAG问答