登录/ 注册
 找回密码
 立即注册
关闭

CSDN热搜

程序园 精品问答 技术交流 资源下载
返回列表 发新帖
首页 › 业界区 › 安全 ›4. 使用SpringBoot快速集成LangChain4J, 实现AI的丝滑调 ...

4. 使用SpringBoot快速集成LangChain4J, 实现AI的丝滑调用

铜坠匍 2025-6-20 07:47:47
1. 简介

前几章简单测试了一下LangChain4J的特性, 本章使用SpringBoot快速集成LangChain4J, 实现丝滑调用大模型, 往期内容传送门

  • LangChain4j 初识，想使用Java开发AI应用？
  • LangChain4j-AIServices，原来调用AI这么简单？
  • LangChain4j-RAG，实现简单的text-sql功能
LangChain4J官方提供了SpringBoot Starter, 本章就使用Starter进行快速集成.
2. 环境信息

使用SDK版本信息如下：
  1. Java: 21
  2. SpringBoot: 3.4.5
  3. LangChain4j: 1.0.1
  4. LLM: (使用在线的百炼(阿里)平台)
  5.         embedding模型: text-embedding-v3  
  6.         chat模型: qwen-plus
  7. PGVector(postgresql版本的向量数据库, 文章最后有相关的docker-compose): 0.8.0-pg17
复制代码
3. Maven
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  3.          xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
  4.     <modelVersion>4.0.0</modelVersion>
  5.     <parent>
  6.         <groupId>org.springframework.boot</groupId>
  7.         spring-boot-starter-parent</artifactId>
  8.         <version>3.4.5</version>
  9.         <relativePath/>
  10.     </parent>
  11.     <groupId>com.ldx</groupId>
  12.     langchain-test</artifactId>
  13.     <version>0.0.1-SNAPSHOT</version>
  14.     <name>langchain-test</name>
  15.     <description>langchain-test</description>
  17.     <properties>
  18.         <java.version>21</java.version>
  19.         <guava.version>33.0.0-jre</guava.version>
  20.     </properties>
  21.     <dependencyManagement>
  22.         <dependencies>
  23.             <dependency>
  24.                 <groupId>dev.langchain4j</groupId>
  25.                 langchain4j-bom</artifactId>
  26.                 <version>1.0.1</version>
  27.                 <type>pom</type>
  28.                 <scope>import</scope>
  29.             </dependency>
  30.         </dependencies>
  31.     </dependencyManagement>
  33.     <dependencies>
  34.         <dependency>
  35.             <groupId>org.springframework.boot</groupId>
  36.             spring-boot-starter-web</artifactId>
  37.         </dependency>
  38.                           
  39.         <dependency>
  40.             <groupId>dev.langchain4j</groupId>
  41.             langchain4j-open-ai-spring-boot-starter</artifactId>
  42.         </dependency>
  43.                           
  44.         <dependency>
  45.             <groupId>dev.langchain4j</groupId>
  46.             langchain4j-spring-boot-starter</artifactId>
  47.         </dependency>
  49.         <dependency>
  50.             <groupId>dev.langchain4j</groupId>
  51.             langchain4j-open-ai</artifactId>
  52.         </dependency>
  54.         <dependency>
  55.             <groupId>com.google.guava</groupId>
  56.             guava</artifactId>
  57.             <version>${guava.version}</version>
  58.         </dependency>
  60.         <dependency>
  61.             <groupId>dev.langchain4j</groupId>
  62.             langchain4j-reactor</artifactId>
  63.         </dependency>
  65.         <dependency>
  66.             <groupId>dev.langchain4j</groupId>
  67.             langchain4j-pgvector</artifactId>
  68.         </dependency>
  70.         <dependency>
  71.             <groupId>org.projectlombok</groupId>
  72.             lombok</artifactId>
  73.             <optional>true</optional>
  74.         </dependency>
  75.         <dependency>
  76.             <groupId>org.springframework.boot</groupId>
  77.             spring-boot-starter-test</artifactId>
  78.             <scope>test</scope>
  79.         </dependency>
  80.     </dependencies>
  82.     <build>
  83.         <plugins>
  84.             <plugin>
  85.                 <groupId>org.apache.maven.plugins</groupId>
  86.                 maven-compiler-plugin</artifactId>
  87.             </plugin>
  89.             <plugin>
  90.                 <groupId>org.springframework.boot</groupId>
  91.                 spring-boot-maven-plugin</artifactId>
  92.                 <configuration>
  93.                     <excludes>
  94.                         <exclude>
  95.                             <groupId>org.projectlombok</groupId>
  96.                             lombok</artifactId>
  97.                         </exclude>
  98.                     </excludes>
  99.                 </configuration>
  100.             </plugin>
  101.         </plugins>
  102.     </build>
  103. </project>
复制代码
4. 配置信息

4.1 application.yml

通过在配置文件中声明模型信息 即可实现对应模型的自动注入
  1. langchain4j:
  2.   open-ai:
  3.     # 普通聊天模型
  4.     chat-model:
  5.       api-key: ${LLM_API_KEY}
  6.       model-name: qwen-plus
  7.       base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
  8.     # 流式相应模型  
  9.     streaming-chat-model:
  10.       api-key: ${LLM_API_KEY}
  11.       model-name: qwen-plus
  12.       base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
  13.     # 向量模型  
  14.     embedding-model:
  15.       api-key: ${LLM_API_KEY}
  16.       model-name: text-embedding-v3
  17.       base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
复制代码
4.2 配置类

主要声明了

  • 聊天记忆提供类, 关联了记忆存储对象
  • 向量存储对象,这里使用的是pgvector
  • 内容检索器(RAG-检索实现)
  1. package com.ldx.langchaintest.config;
  3. import com.ldx.langchaintest.service.PersistentChatMemoryStore;
  4. import dev.langchain4j.data.segment.TextSegment;
  5. import dev.langchain4j.memory.chat.ChatMemoryProvider;
  6. import dev.langchain4j.memory.chat.MessageWindowChatMemory;
  7. import dev.langchain4j.model.embedding.EmbeddingModel;
  8. import dev.langchain4j.rag.content.retriever.ContentRetriever;
  9. import dev.langchain4j.rag.content.retriever.EmbeddingStoreContentRetriever;
  10. import dev.langchain4j.store.embedding.EmbeddingStore;
  11. import dev.langchain4j.store.embedding.pgvector.DefaultMetadataStorageConfig;
  12. import dev.langchain4j.store.embedding.pgvector.PgVectorEmbeddingStore;
  13. import dev.langchain4j.store.memory.chat.InMemoryChatMemoryStore;
  14. import org.springframework.context.annotation.Bean;
  15. import org.springframework.context.annotation.Configuration;
  17. /**
  18. * config
  19. *
  20. * @author ludangxin
  21. * @date 2025/5/15
  22. */
  23. @Configuration
  24. public class AiConfiguration {
  26.     /**
  27.      * 聊天记忆 提供者
  28.      *
  29.      * @param persistentChatMemoryStore 对话内容持久化对象
  30.      * @return 对话记忆 provider
  31.      */
  32.     @Bean
  33.     public ChatMemoryProvider jdbcChatMemoryProvider(PersistentChatMemoryStore persistentChatMemoryStore) {
  34.         return memoryId -> MessageWindowChatMemory
  35.                 .builder()
  36.                 .id(memoryId)
  37.                 // 这里使用了自定义的会话存储对象, 可以通过其实现对话过程内容的持久化
  38.                 // 本地测试的话可以使用 InMemoryChatMemoryStore对象实现内存存储
  39.                 .chatMemoryStore(persistentChatMemoryStore)
  40.                 .maxMessages(5)
  41.                 .build();
  42.     }
  43.   
  44.     /**
  45.      * 向量存储对象
  46.      *
  47.      * @param embeddingModel 向量模型
  48.      * @return 向量存储对象
  49.      */
  50.     public EmbeddingStore<TextSegment> embeddingStore(EmbeddingModel embeddingModel) {
  51.         return PgVectorEmbeddingStore
  52.                 .builder()
  53.                 .host("localhost")                           // 必需：PostgresSQL 实例的主机
  54.                 .port(5431)                                  // 必需：PostgresSQL 实例的端口
  55.                 .database("postgres")                        // 必需：数据库名称
  56.                 .user("root")                                // 必需：数据库用户
  57.                 .password("123456")                          // 必需：数据库密码
  58.                 .table("my_embeddings")                      // 必需：存储嵌入的表名
  59.                 .dimension(embeddingModel.dimension())       // 必需：嵌入的维度
  60.                 .metadataStorageConfig(DefaultMetadataStorageConfig.defaultConfig()) // 元数据存储配置
  61.                 .build();
  62.     }
  64.     /**
  65.      * 内容检索器
  66.      *
  67.      * @param embeddingModel 向量模型
  68.      * @return 内容检索器
  69.      */
  70.     @Bean
  71.     public ContentRetriever contentRetriever(EmbeddingModel embeddingModel) {
  72.         return EmbeddingStoreContentRetriever
  73.                 .builder()
  74.                 .embeddingStore(this.embeddingStore(embeddingModel))
  75.                 .embeddingModel(embeddingModel)
  76.                 .maxResults(10)
  77.                 .minScore(0.65)
  78.                 .build();
  79.     }
  80. }
复制代码
4.3 聊天记忆持久化

实现了ChatMemoryStore接口, 这里测试使用的是map存储的, 生产环境中可以持久化到数据库中
chat过程中消息会通过ChatMemory调用ChatMemoryStore对聊天内容进行持久化/获取
  1. package com.ldx.langchaintest.service;
  3. import com.google.common.collect.ArrayListMultimap;
  4. import dev.langchain4j.data.message.ChatMessage;
  5. import dev.langchain4j.store.memory.chat.ChatMemoryStore;
  6. import org.springframework.stereotype.Service;
  8. import java.util.List;
  10. @Service
  11. public class PersistentChatMemoryStore implements ChatMemoryStore {
  12.     final ArrayListMultimap<Object, ChatMessage> messagesStore = ArrayListMultimap.create();
  14.     @Override
  15.     public List<ChatMessage> getMessages(Object memoryId) {
  16.         return messagesStore.get(memoryId);
  17.     }
  19.     @Override
  20.     public void updateMessages(Object memoryId, List<ChatMessage> messages) {
  21.         messagesStore.put(memoryId, messages.getLast());
  22.     }
  24.     @Override
  25.     public void deleteMessages(Object memoryId) {
  26.         messagesStore.removeAll(memoryId);
  27.     }
  28. }
复制代码
4.4 tools
  1. package com.ldx.langchaintest.tools;
  3. import dev.langchain4j.agent.tool.P;
  4. import dev.langchain4j.agent.tool.Tool;
  5. import lombok.extern.slf4j.Slf4j;
  6. import org.springframework.stereotype.Component;
  8. /**
  9. * tools
  10. *
  11. * @author ludangxin
  12. * @date 2025/5/15
  13. */
  14. @Slf4j
  15. @Component
  16. public class SysTools {
  17.     @Tool("根据用户的名称获取对应的code")
  18.     public String getUserCodeByUsername(@P("用户名称") String username) {
  19.         log.info("get user code by username:{}", username);
  20.         if ("张铁牛".equals(username)) {
  21.             return "003";
  22.         }
  24.         return "000";
  25.     }
  26. }
复制代码
5. 核心源码

5.1 Ai Services

@AiService 将实现AiService的自动注入
​    wiringMode = EXPLICIT: 用户自己指定相关的bean
​    缺省:wiringMode = AUTOMATIC: 项目启动时自动在环境中找对应的对象实现注入,如果有多个(比如:chatModel),启动报错
这里举了几种典型的场景 如

  • 普通聊天 chat()
  • 聊天记忆&流式输出 chatWithStream()
  • 提取指定内容并将结果结构化 extractPerson()
  • 提示词占位替换 mockUsername()
  • rag text-sql chatWithSql()
[code]package com.ldx.langchaintest.service;import com.ldx.langchaintest.domain.Person;import dev.langchain4j.service.MemoryId;import dev.langchain4j.service.SystemMessage;import dev.langchain4j.service.UserMessage;import dev.langchain4j.service.V;import dev.langchain4j.service.spring.AiService;import reactor.core.publisher.Flux;import java.util.List;import static dev.langchain4j.service.spring.AiServiceWiringMode.EXPLICIT;/** * ai svc * * @author ludangxin * @date 2025/5/16 */@AiService(wiringMode = EXPLICIT,        chatModel = "openAiChatModel",        streamingChatModel = "openAiStreamingChatModel",        chatMemoryProvider = "chatMemoryProvider",        contentRetriever = "contentRetriever",        tools = {"sysTools"})public interface AiSqlAssistantService {    String chat(String message);    @SystemMessage("
来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

使用道具 举报
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
发帖
铜坠匍
2025-6-20 07:47:47

0

粉丝关注

17

主题发布

板块介绍填写区域，请于后台编辑
微信扫一扫