Solon AI 五步构建 RAG 服务：2025 最新 AI + 向量数据库实战

此文参考自：https://www.toutiao.com/article/7506140643970826779/
引言：RAG 会成为 2025 年 AI 落地核心？

在2025年，检索增强生成（RAG）技术已成为企业级AI应用的标配。传统大模型受限于知识更新慢、业务适配性差，而 RAG 通过动态外接知识库，结合向量数据库与AI推理能力，显著提升回答的准确性与实时性。本文将基于 Solon AI 与 Redis Vector Search，从0到1搭建 RAG 服务，并结合电商客服场景，揭秘如何通过5步实现生产级落地。
一、项目初始化：Solon AI

核心依赖：

1. <dependency>
2.     <groupId>org.noear</groupId>
3.     solon-ai</artifactId>
4. </dependency>
6. <dependency>
7.     <groupId>org.noear</groupId>
8.     solon-ai-repo-redis</artifactId>
9. </dependency>
11. <dependency>
12.     <groupId>org.noear</groupId>
13.     solon-ai-load-pdf</artifactId>
14. </dependency>

复制代码

配置参考：

1. solon.ai.chat:
2.   ds3:
3.     apiUrl: "http://127.0.0.1:11434/api/chat" # 使用完整地址（而不是 api_base）
4.     provider: "ollama" # 使用 ollama 服务时，需要配置 provider
5.     model: "llama3.2"
7. solon.ai.embed:
8.   bgem3:
9.     apiUrl: "http://127.0.0.1:11434/api/embed" # 使用完整地址（而不是 api_base）
10.     provider: "ollama" # 使用 ollama 服务时，需要配置 provider
11.     model: "bge-m3:latest"
12.         
13. solon.ai.repo:
14.   redis:
15.     server: localhost:6379

复制代码

实例构建：

1. import org.noear.redisx.RedisClient;
2. import org.noear.solon.ai.chat.ChatModel;
3. import org.noear.solon.ai.embedding.EmbeddingModel;
4. import org.noear.solon.ai.rag.RepositoryStorable;
5. import org.noear.solon.ai.rag.repository.RedisRepository;
6. import org.noear.solon.ai.rag.repository.redis.MetadataField;
7. import org.noear.solon.annotation.Bean;
8. import org.noear.solon.annotation.Configuration;
9. import org.noear.solon.annotation.Inject;
11. import java.util.ArrayList;
12. import java.util.List;
14. @Configuration
15. public class RagConfig {
16.     @Bean
17.     public ChatModel chatModel(@Inject("${solon.ai.chat.ds3}") ChatModel chatModel) {
18.         return chatModel;
19.     }
21.     @Bean
22.     public EmbeddingModel embeddingModel(@Inject("${solon.ai.embed.bgem3}") EmbeddingModel embeddingModel) {
23.         return embeddingModel;
24.     }
26.     @Bean
27.     public RedisClient client(@Inject("${solon.ai.repo.redis}") RedisClient client) {  //构建知识库的连接客户端
28.         return client;
29.     }
30.    
31.     @Bean
32.     public RepositoryStorable repository(EmbeddingModel embeddingModel, RedisClient client) { //构建知识库
33.         // 创建元数据索引字段列表（用于支持混合搜索）
34.         List<MetadataField> metadataFields = new ArrayList<>();
35.         metadataFields.add(MetadataField.tag("title"));
36.         metadataFields.add(MetadataField.tag("category"));
37.         metadataFields.add(MetadataField.numeric("price"));
38.         metadataFields.add(MetadataField.numeric("stock"));
40.         return RedisRepository.builder(embeddingModel, client.jedis())
41.                 .metadataIndexFields(metadataFields)
42.                 .build();
43.     }
44. }

复制代码

技术选型优势：

• Redis Vector Search（建议 Redis 8+）：支持千亿级向量毫秒检索，实时数据更新秒级可见
  
• Solon AI：统一接口支持各种主流向量数据库，内置流式输出与异步处理。
  

二、数据处理：文档分块与向量化

1. 文档加载与分块

1. @Component
2. public class RagService {
3.     public void load(){
4.         // 加载PDF/Word文档
5.         List<Document> docs = new PdfLoader("product-manual.pdf").load();
7.         // 智能分块（动态调整块大小）
8.         docs = new TokenSizeTextSplitter(500, 64).split(docs);
9.     }
10. }

复制代码

分块策略：

• 动态分块：根据语义边界（如段落、表格）自动调整块大小，避免信息割裂；
  
• 重叠机制：设置64 Token的重叠区，确保上下文连贯性。
  

2. 向量嵌入与存储

在 RagService 的基础上，进一步补充

1. import org.noear.solon.ai.embedding.EmbeddingModel;
2. import org.noear.solon.ai.rag.Document;
3. import org.noear.solon.ai.rag.RepositoryStorable;
4. import org.noear.solon.ai.rag.splitter.TokenSizeTextSplitter;
5. import org.noear.solon.annotation.Component;
6. import org.noear.solon.annotation.Inject;
8. import java.io.IOException;
9. import java.util.List;
11. @Component
12. public class RagService {
13.     @Inject
14.     private RepositoryStorable  repository;
15.     @Inject
16.     private EmbeddingModel embeddingModel;
18.     public void load() throws IOException {
19.         // 加载PDF/Word文档
20.         List<Document> docs = new PdfLoader("product-manual.pdf").load();
22.         // 智能分块（动态调整块大小）
23.         docs = new TokenSizeTextSplitter(500, 64).split(docs);
25.         // 存储（内部自动完成向量嵌入，内部支持分批入库）
26.         repository.insert(docs);
27.     }
28. }

复制代码

性能优化：

• 批量处理：数据批次插入，降低I/O开销；
  
• 元数据附加：为每个向量附加来源、时间戳等字段，支持精准过滤。
  

三、检索增强：混合搜索

使用元信息字段 category 过滤（减少匹配范围），并使用向量检索

1. @Component
2. public class RagService {
3.     @Inject
4.     private RepositoryStorable repository;
5.     @Inject
6.     private EmbeddingModel embeddingModel;
8.     public void load() throws IOException {
9.         // 加载PDF/Word文档
10.         List<Document> docs = new PdfLoader("product-manual.pdf").load();
12.         // 智能分块（动态调整块大小）
13.         docs = new TokenSizeTextSplitter(500, 64).split(docs);
15.         // 存储（内部自动完成向量嵌入）
16.         repository.insert(docs);
17.     }
19.     public List<Document> find(String category, String query) throws IOException {
20.         return repository.search(new QueryCondition(query)
21.                 .filterExpression("category == '" + category + "'"));
22.     }
23. }

复制代码

场景适配：

• 元数据检索：处理明确实体（如商品目录）；
  
• 向量检索：应对复杂语义（如“性价比高的手机推荐”）。
  

四、生成优化：提示工程与流式输出

1. 动态Prompt设计

1. String promptTemplate = """
2.     你是一名电商客服专家，请根据以下上下文回答问题：
3.     ${context}
4.     问题：${question}
5.     要求：回答需包含具体数据，若信息不足则回复“暂未收录”。
6.     示例：库存查询 → “当前iPhone 20库存为500件，预计48小时发货。”
7.     """;

复制代码

关键技巧：

• 指令约束：限制回答范围，减少幻觉；
  
• 示例引导：提供标准回答格式，提升一致性。
  

2. 流式响应与溯源

写一个控制器，整合 ChatModel 和 RagService

1. import org.noear.solon.ai.chat.ChatModel;
2. import org.noear.solon.ai.chat.message.ChatMessage;
3. import org.noear.solon.ai.rag.Document;
4. import org.noear.solon.annotation.Controller;
5. import org.noear.solon.annotation.Inject;
6. import org.noear.solon.annotation.Mapping;
7. import reactor.core.publisher.Flux;
9. import java.io.IOException;
10. import java.util.List;
12. @Controller
13. public class RagController {
14.     @Inject
15.     RagService ragService;
17.     @Inject
18.     ChatModel chatModel;
20.     static String promptTemplate = """
21.         你是一名电商客服专家，请根据以下上下文回答问题：
22.         #{context}
23.         问题：#{question}
24.         要求：回答需包含具体数据，若信息不足则回复“暂未收录”。
25.         示例：库存查询 → “当前iPhone 20库存为500件，预计48小时发货。”
26.         """;
28.     @Mapping("/ask")
29.     public Flux<String> streamAnswer(String question) throws IOException {
30.         List<Document> context = ragService.find("商品", question);
31.         
32.         ChatMessage message = ChatMessage.ofUserTmpl(promptTemplate)
33.                 .paramAdd("question", question)
34.                 .paramAdd("context", context)
35.                 .generate();
37.         return Flux.from(chatModel.prompt(message).stream())
38.                 .filter(resp -> resp.hasChoices())
39.                 .map(resp -> resp.getMessage().getContent());
40.     }
41. }

复制代码

用户体验优化：

• 逐字输出：响应延迟降低至100ms以内（要看模型服务的性能）；
  
• 来源标记：返回答案关联的文档ID与置信度。
  

五、实战案例：电商客服RAG系统

场景：秒杀活动问答

需求：用户询问“iPhone 20秒杀库存和优惠规则”。
RAG处理流程：

检索：从商品手册中匹配“iPhone 20”的库存条款与促销规则；
生成：返回“当前库存2000件，限购1台，叠加满减券再降500元”。

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！