Solon AI 开发学习16 - generate - 生成模型（图、音、视）

生成模型（GenerateModel） 与 聊天模型（ChatModel）用途区别很大。GenerateModel 只能一次性生成内容，不能对话。比如：

• 通过文本，生成图片、声音、视频
  
• 通过图片，生成视频
  
• 等（只要是一次性生成）
  

补充：GenerateModel 是替代之前的 ImageModel 而新设计的接口，完全兼容 ImageModel 且概念范围更广（旧接口仍可用）。
1、构建生成模型

添加配置

1. solon.ai.generate:
2.   demo:
3.     apiUrl: "https://ai.gitee.com/v1/images/generations" # 使用完整地址（而不是 api_base）
4.     model: "stable-diffusion-3.5-large-turbo"

复制代码

构建并测试

1. import org.noear.solon.ai.generate.GenerateConfig;
2. import org.noear.solon.ai.generate.GenerateModel;
3. import org.noear.solon.ai.generate.GenerateResponse;
4. import org.noear.solon.annotation.Bean;
5. import org.noear.solon.annotation.Configuration;
6. import org.noear.solon.annotation.Inject;
8. import java.io.IOException;
10. @Configuration
11. public class DemoConfig {
12.     @Bean
13.     public GenerateModel build(@Inject("${solon.ai.generate}") GenerateConfig config) {
14.         return GenerateModel.of(config).build();
15.     }
17.     @Bean
18.     public void test(GenerateModel generateModel) throws IOException {
19.         //一次性返回
20.         GenerateResponse resp = generateModel.prompt("一只白色的小花猫").call();
22.         //打印消息
23.         System.out.println(resp.getContent().getUrl());
24.     }
25. }

复制代码

2、使用选项

1. generateModel.prompt("一只白色的小花猫")
2.     .options(o -> o.size("1024x1024"))
3.     .call();
4.    
5. generateModel.prompt("一只白色的小花猫")
6.     .options(o -> {
7.         o.optionAdd("negative_prompt", "");
8.         o.optionAdd("sampler_name", "Euler");
9.         o.optionAdd("scheduler", "Simple");
10.         o.optionAdd("steps", 25);
11.         o.optionAdd("width", 512);
12.         o.optionAdd("height", 768);
13.         o.optionAdd("batch_size", 1);
14.         o.optionAdd("cfg_scale", 1);
15.         o.optionAdd("distilled_cfg_scale", 3.5);
16.         o.optionAdd("seed", -1);
17.         o.optionAdd("n_iter", 1);
18.     })
19.     .call();   

复制代码

3、方言适配

生成模型（GenerateModel）同样支持方言适配。框架已内置 OllamaGenerateDialect、DashscopeGenerateDialect、OpenaiGenerateDialect（默认） 三种方言（基本够用），自动支持 Ollama 提供的模型接口、Dashscope 提供的模型接口及 Openai 规范的模型接口。
也可以通过定制，实现更多的模型兼容。方言接口：

1. public interface GenerateDialect extends AiModelDialect {
2.     /**
3.      * 是否为默认
4.      */
5.     default boolean isDefault() {
6.         return false;
7.     }
9.     /**
10.      * 匹配检测
11.      *
12.      * @param config 聊天配置
13.      */
14.     boolean matched(GenerateConfig config);
16.     /**
17.      * 构建请求数据
18.      *
19.      * @param config    聊天配置
20.      * @param options   聊天选项
21.      * @param promptStr 提示语文本形态
22.      * @param promptMap 提示语字典形态
23.      */
24.     String buildRequestJson(GenerateConfig config, GenerateOptions options, String promptStr, Map promptMap);
26.     /**
27.      * 分析响应数据
28.      *
29.      * @param config   聊天配置
30.      * @param respJson 响应数据
31.      */
32.     GenerateResponse parseResponseJson(GenerateConfig config, String respJson);
33. }

复制代码

OllamaGenerateDialect 适配参考：

1. public class OllamaGenerateDialect extends AbstractGenerateDialect {
2.     private static OllamaGenerateDialect instance = new OllamaGenerateDialect();
4.     public static OllamaGenerateDialect getInstance() {
5.         return instance;
6.     }
8.     @Override
9.     public boolean matched(GenerateConfig config) {
10.         return "ollama".equals(config.getProvider());
11.     }
13.     @Override
14.     public GenerateResponse parseResponseJson(GenerateConfig config, String respJson) {
15.         ONode oResp = ONode.load(respJson);
17.         String model = oResp.get("model").getString();
19.         if (oResp.contains("error")) {
20.             return new GenerateResponse(model, new GenerateException(oResp.get("error").getString()), null, null);
21.         } else {
22.             List<GenerateContent> data = null;
23.             if (oResp.contains("response")) {
24.                 //文本模型生成
25.                 String text = oResp.get("response").getString();
26.                 data = Arrays.asList(GenerateContent.builder().text(text).build());
27.             } else if (oResp.contains("data")) {
28.                 //图像模型生成
29.                 data = oResp.get("data").toObjectList(GenerateContent.class);
30.             }
32.             AiUsage usage = null;
33.             if (oResp.contains("prompt_eval_count")) {
34.                 int prompt_eval_count = oResp.get("prompt_eval_count").getInt();
35.                 usage = new AiUsage(
36.                         prompt_eval_count,
37.                         0,
38.                         prompt_eval_count
39.                 );
40.             }
42.             return new GenerateResponse(model, null, data, usage);
43.         }
44.     }
45. }

复制代码

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！