泥地锚 发表于 2025-6-2 23:55:22

Solon Ai Flow 编排开发框架发布预告(效果预览)

Solon Ai 在推出 Solon Ai Mcp 后,又将推出 Solon Ai Flow。
1、Solon Ai Flow 是个啥?

Solon Ai Flow 是一个智能体编排开发框架(基于 solon-flow 构建)。它是框架!不是工具,不是产品(这与市面上流行的工具和产品,有较大差别)。
使用 yaml 格式编排,很像 docker-compose 的观感。
2、发布预告

预计下周(2025年农历小满)发布首个版本。
3、效果预览


[*]简单的聊天智能体
id: chat_case1
layout:
- type: "start"
- task: "@TextInput"
    meta:
      text: "你好"
- task: "@ChatModel"
    meta:
      systemPrompt: "你是个聊天助手"
      stream: false
      chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
      provider: "ollama"
      model: "qwen2.5:1.5b"
      apiUrl: "http://127.0.0.1:11434/api/chat"
- task: "@TextOutput"

[*]RAG 知识库智能体
id: rag_case1
layout:
- type: "start"
- task: "@TextInput"
    meta:
      text: "Solon 是谁开发的?"
- task: "@EmbeddingModel"
    meta:
      embeddingConfig: # "@type": "org.noear.solon.ai.embedding.EmbeddingConfig"
      provider: "ollama"
      model: "bge-m3"
      apiUrl: "http://127.0.0.1:11434/api/embed"
- task: "@InMemoryRepository"
    meta:
      documentSources:
      - "https://solon.noear.org/article/about?format=md"
      splitPipeline:
      - "org.noear.solon.ai.rag.splitter.RegexTextSplitter"
      - "org.noear.solon.ai.rag.splitter.TokenSizeTextSplitter"
- task: "@ChatModel"
    meta:
      systemPrompt: "你是个知识库"
      stream: false
      chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
      provider: "ollama"
      model: "qwen2.5:1.5b"
      apiUrl: "http://127.0.0.1:11434/api/chat"
- task: "@TextOutput"

[*]两个智能体表演相声式吵架(llm 与 llm 讲相声)
id: pk_case1
layout:
- type: "start"
- task: "@TextInput"
    meta:
      text: "你好"
- task: "@ChatModel"
    id: model_a
    meta:
      systemPrompt: "你是一个智能体名字叫“阿飞”。将跟另一个叫“阿紫”的智能体,表演相声式吵架。"
      stream: false
      chatSession: "A"
      chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
      provider: "ollama"
      model: "qwen2.5:1.5b"
      apiUrl: "http://127.0.0.1:11434/api/chat"
- task: "@TextOutput"
    meta:
      prefix: "阿飞: "
- task: "@ChatModel"
    id: model_b
    meta:
      systemPrompt: "你是一个智能体名字叫“阿紫”。将跟另一个叫“阿飞”的智能体,表演相声式吵架。"
      stream: false
      chatSession: "B"
      chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
      provider: "ollama"
      model: "qwen2.5:1.5b"
      apiUrl: "http://127.0.0.1:11434/api/chat"
- task: "@TextOutput"
    meta:
      prefix: "阿紫: "
- type: "exclusive"
    link:
      - nextId: model_a
      condition: 'context.counter().incr("demo") < 10'
      - nextId: end
- type: "end"
    id: "end"4、如何运行?

case2, csae3, case4 是用 TextInput,TextOutput 作输出输入。通过流引擎和引上下文,即可运行。
@SolonTest
public class ChatTest {
    @Inject
    FlowEngine flowEngine;
   
    @Test
    public void case2() {
      flowEngine.eval("case2");
    }
   
    @Test
    public void case3() {
      flowEngine.eval("case3");
    }
   
    @Test
    public void case4() {
      flowEngine.eval("case4");
    }
}csae1 则是用 ChatInput 和 ChatOutput 作输入输出(基于 Context.current() 输入和输出),需要正常的 web 聊天场景
@Controller
public class DemoController {
    @Inject
    FlowEngine flowEngine;

    ChatSession chatSession = new ChatSessionDefault();

    @Mapping("case1")
    public void case1() throws Exception {
      FlowContext flowContext = new FlowContext();
      flowContext.put(Attrs.CTX_CHAT_SESSION, chatSession); //传递聊天会话

      flowEngine.eval("case1", flowContext);
    }
}
来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
页: [1]
查看完整版本: Solon Ai Flow 编排开发框架发布预告(效果预览)