SpringAI接入DeepSeek大模型实现流式对话

一、 环境配置

Spring AI 支持 Spring Boot 3.4.x，JDK支持需要17以上
添加快照存储库

1. <repositories>
2.   <repository>
3.     <id>spring-snapshots</id>
4.     <name>Spring Snapshots</name>
5.     <url>https://repo.spring.io/snapshot</url>
6.     <releases>
7.       <enabled>false</enabled>
8.     </releases>
9.   </repository>
10.   <repository>
11.     <name>Central Portal Snapshots</name>
12.     <id>central-portal-snapshots</id>
13.     <url>https://central.sonatype.com/repository/maven-snapshots/</url>
14.     <releases>
15.       <enabled>false</enabled>
16.     </releases>
17.     <snapshots>
18.       <enabled>true</enabled>
19.     </snapshots>
20.   </repository>
21. </repositories>

复制代码

注意：
将 Maven 与 Spring AI 快照结合使用时，请注意 Maven 镜像配置。如果您已在项目中配置了镜像，settings.xml如下所示：

1. <mirror>
2.     <id>my-mirror</id>
3.     <mirrorOf>*</mirrorOf>
4.     <url>https://my-company-repository.com/maven</url>
5. </mirror>

复制代码

通配符*会将所有仓库请求重定向到你的镜像，从而阻止访问 Spring 快照仓库。要解决此问题，请修改mirrorOf配置以排除 Spring 仓库：
此配置允许 Maven 直接访问 Spring 快照存储库，同时仍使用镜像来获取其他依赖项。

1. <mirror>
2.     <id>my-mirror</id>
3.     <mirrorOf>*,!spring-snapshots,!central-portal-snapshots</mirrorOf>
4.     <url>https://my-company-repository.com/maven</url>
5. </mirror>

复制代码

依赖管理

1. <dependencyManagement>
2.     <dependencies>
3.         <dependency>
4.             <groupId>org.springframework.ai</groupId>
5.             spring-ai-bom</artifactId>
6.             <version>1.0.0-SNAPSHOT</version>
7.             <type>pom</type>
8.             <scope>import</scope>
9.         </dependency>
10.     </dependencies>
11. </dependencyManagement>

复制代码

二、接入DeepSeek大模型

Spring AI 支持 DeepSeek 的各种 AI 语言模型。可以与 DeepSeek 语言模型进行交互，并基于 DeepSeek 模型创建多语言对话助手
先决条件

您需要使用 DeepSeek 创建 API 密钥才能访问 DeepSeek 语言模型。
在DeepSeek 注册页面创建一个帐户，并在API Keys 页面生成一个令牌。
Spring AI 项目定义了一个名为的配置属性，您应该将其设置为从 API Keys 页面获取spring.ai.deepseek.api-key的值。

1. server:
2.   port: 8080
4. # In application.yml
5. spring:
6.   ai:
7.     deepseek:
8.       api-key: your-api-key
9.       base-url: https://api.deepseek.com # DeepSeek 的请求 URL, 可不填，默认值为 api.deepseek.com
10.       chat:
11.         options:
12.           model: deepseek-chat # 使用哪个模型
13.           temperature: 0.8 # 温度值

复制代码

spring.ai.deepseek.chat.options.temperature: 使用的采样温度，介于 0 到 2 之间。较高的值（例如 0.8）会使输出更加随机，而较低的值（例如 0.2）会使输出更加集中且确定。我们通常建议更改此值或
top_p，但不要同时更改两者。
spring.ai.deepseek.chat.options.model: 目前deepseek模型有两种，deepseek-chat对话模型，deepseek-reasoner推理模型

自动配置

Spring AI 为 DeepSeek 聊天模型提供了 Spring Boot 自动配置功能。要启用此功能，请将以下依赖项添加到项目的 Mavenpom.xml文件中：

1. <dependency>
2.     <groupId>org.springframework.ai</groupId>
3.     spring-ai-starter-model-deepseek</artifactId>
4. </dependency>

复制代码

此时的完整POM配置

1. <?xml version="1.0" encoding="UTF-8"?>
2. <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
3.          xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
4.     <modelVersion>4.0.0</modelVersion>
5.     <parent>
6.         <groupId>org.springframework.boot</groupId>
7.         spring-boot-starter-parent</artifactId>
8.         <version>3.4.1</version>
9.         <relativePath/>
10.     </parent>
12.     <groupId>com.mrsunn</groupId>
13.     ai-robot</artifactId>
14.     <version>0.0.1-SNAPSHOT</version>
15.     <description>AI机器人</description>
17.     <properties>
18.         <java.version>17</java.version>
19.         
20.         <spring-ai.version>1.0.2</spring-ai.version>
21.     </properties>
23.     <dependencyManagement>
24.         <dependencies>
25.             <dependency>
26.                 <groupId>org.springframework.ai</groupId>
27.                 spring-ai-bom</artifactId>
28.                 <version>${spring-ai.version}</version>
29.                 <type>pom</type>
30.                 <scope>import</scope>
31.             </dependency>
32.         </dependencies>
33.     </dependencyManagement>
35.     <dependencies>
36.         <dependency>
37.             <groupId>org.springframework.boot</groupId>
38.             spring-boot-starter-web</artifactId>
39.         </dependency>
41.         <dependency>
42.             <groupId>org.springframework.boot</groupId>
43.             spring-boot-starter-test</artifactId>
44.             <scope>test</scope>
45.         </dependency>
47.         <dependency>
48.             <groupId>org.springframework.ai</groupId>
49.             spring-ai-starter-model-deepseek</artifactId>
50.         </dependency>
52.         <dependency>
53.             <groupId>org.apache.commons</groupId>
54.             commons-lang3</artifactId>
55.         </dependency>
57.     </dependencies>
59.     <build>
60.         <plugins>
61.             <plugin>
62.                 <groupId>org.springframework.boot</groupId>
63.                 spring-boot-maven-plugin</artifactId>
64.             </plugin>
65.         </plugins>
66.     </build>
68.     <repositories>
69.         <repository>
70.             <id>spring-snapshots</id>
71.             <name>Spring Snapshots</name>
72.             <url>https://repo.spring.io/snapshot</url>
73.             <releases>
74.                 <enabled>false</enabled>
75.             </releases>
76.         </repository>
77.         <repository>
78.             <name>Central Portal Snapshots</name>
79.             <id>central-portal-snapshots</id>
80.             <url>https://central.sonatype.com/repository/maven-snapshots/</url>
81.             <releases>
82.                 <enabled>false</enabled>
83.             </releases>
84.             <snapshots>
85.                 <enabled>true</enabled>
86.             </snapshots>
87.         </repository>
89.         
90.         <repository>
91.             <id>huaweicloud</id>
92.             <name>huawei</name>
93.             <url>https://mirrors.huaweicloud.com/repository/maven/</url>
94.         </repository>
95.         <repository>
96.             <id>aliyunmaven</id>
97.             <name>aliyun</name>
98.             <url>https://maven.aliyun.com/repository/public</url>
99.         </repository>
100.     </repositories>
102. </project>

复制代码

实现对话效果(deepseek-chat)

1. @RestController
2. @RequestMapping("/ai")
3. public class ChatController {
5.     @Resource
6.     private DeepSeekChatModel chatModel;
8.     @GetMapping("/generate")
9.     public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
10.         return Map.of("generation", chatModel.call(message));
11.     }
13.     /**
14.      * 流式对话
15.      * @param message
16.      * @return
17.      */
18.     @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
19.     public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
20.         // 构建提示词
21.         Prompt prompt = new Prompt(new UserMessage(message));
22.         // 流式输出
23.         return chatModel.stream(prompt)
24.                 .mapNotNull(chatResponse -> chatResponse.getResult().getOutput().getText());
25.     }
27. }

复制代码

produces = "text/html;charset=utf-8",把返回的对象设置成html格式，并且设置编码，不然会乱码返回
如果你只是直接在浏览器地址栏输入接口地址（如
http://localhost:8080/generateStream?message=你好），那么无论你的后端返回的是
Flux 还是什么流，浏览器都只会一次性接收最终的响应内容，或者根本无法逐步显示，无法实现“打字机效果”。​

推理模型（deepseek-reasoner）

这deepseek-reasoner是 DeepSeek 开发的推理模型。在得出最终答案之前，该模型会首先生成思维链 (CoT)，以提高其响应的准确性。我们的 API 允许用户访问 生成的 CoT 内容deepseek-reasoner
，以便他们查看、显示和提取这些内容。
修改DeepSeek模型

1. spring:
2.   ai:
3.     deepseek:
4.       api-key: your-api-key
5.       base-url: https://api.deepseek.com # DeepSeek 的请求 URL, 可不填，默认值为 api.deepseek.com
6.       chat:
7.         options:
8.           model: deepseek-reasoner # 使用深度思考模型
9.           temperature: 0.8 # 温度值

复制代码

1. @Resource
2. private DeepSeekChatModel chatModel;
4. @GetMapping(value = "/generateStream", produces = "text/html;charset=utf-8")
5. public Flux<String> generateStream(@RequestParam(value = "message", defaultValue = "你是谁？") String message) {
6.     Prompt prompt = new Prompt(new UserMessage(message));
7.     AtomicBoolean hasSentSeparator = new AtomicBoolean(false);
9.     return chatModel.stream(prompt)
10.             .mapNotNull(chatResponse -> {
11.                 DeepSeekAssistantMessage assistantMessage = (DeepSeekAssistantMessage) chatResponse.getResult().getOutput();
13.                 String content = null;
14.                 boolean isFinalAnswer = false;
16.                 // 优先处理思考内容
17.                 if (assistantMessage.getReasoningContent() != null) {
18.                     content = assistantMessage.getReasoningContent();
19.                 }
20.                 // 处理正式回答
21.                 else if (assistantMessage.getText() != null) {
22.                     content = assistantMessage.getText();
23.                     isFinalAnswer = true;
24.                 }
26.                 if (StringUtils.isBlank(content)) {
27.                     return null;
28.                 }
30.                 // 添加分隔符（思考到回答的过渡）
31.                 if (isFinalAnswer && !hasSentSeparator.get()) {
32.                     hasSentSeparator.set(true);
33.                     return "<br>--- 思考过程结束 ---<br>" + content;
34.                 }
36.                 return content;
37.             });
38. }

复制代码

您可以使用DeepSeekAssistantMessage来获取由 生成的 CoT 内容deepseek-reasoner。
assistantMessage.getReasoningContent() 思考内容
assistantMessage.getText() 正式回答

使用ChatClient实现对话

ChatClient和ChatModel的区别
维度ChatModelChatClient交互方式直接调用模型，需手动处理请求/响应链式调用，自动封装提示词和解析响应功能扩展弱强，内置 Advisor 机制（如对话历史管理、RAG）结构化输出需手动解析响应文本支持自动映射为 Java 对象（如 entity(Recipe.class)）适用场景实现简单功能和场景快速开发复杂功能的场景，如企业级智能客服、连接外部工具等

• ChatClient：若追求开发效率、需要内置高级功能（如记忆、RAG）或标准化交互使用 ChatClient。
  
• ChatModel：若实现简单的大模型对接场景使用 ChatModel。
  

ChatClient使用对象创建。ChatClient.Builder您可以获取ChatClient.Builder任何ChatModelSpring Boot 自动配置的自动配置实例，也可以通过编程方式创建一个。

1. @Configuration
2. public class ChatClientConfig {
3.    
4.     @Bean
5.     public ChatClient deepSeekChatClient(DeepSeekChatModel chatModel) {
6.         return ChatClient.create(chatModel);
7.     }
8.    
9. }

复制代码

1. @Autowired
2. private ChatClient deepSeekChatClient;
4. @GetMapping(value = "/generate", produces = "text/html;charset=utf-8")
5. public String generation(@RequestParam(value = "message", defaultValue = "你是谁？") String message) {
6.     return this.deepSeekChatClient.prompt()
7.             .user(message)
8.             .call()
9.             .content();
10. }

复制代码

具有单一模型类型的多个 ChatClients

本节介绍一个常见的用例，您需要创建多个 ChatClient 实例，它们都使用相同的底层模型类型但具有不同的配置。

1. @Autowired
2. private DeepSeekChatModel deepSeekChatModel;
4. ChatClient chatClient = ChatClient.create(deepSeekChatModel);
5. chatClient.mutate().defaultOptions(ChatOptions.builder().build());
7. ChatClient.Builder builder = ChatClient.builder(deepSeekChatModel);
8. ChatClient customChatClient = builder
9.         .defaultOptions(ChatOptions.builder().build())
10.         .defaultSystem("You are a helpful assistant.")
11.         .build();

复制代码

使用同一个deepSeekChatModel模型，可以配置不同参数的ChatClient

​延伸阅读​：如需更深入的技术解析或学习资源，欢迎访问 Mr.Sun的博客（专注Java领域干货分享，持续更新中～）

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！