Java AI(智能体)编排开发就用 Solon Flow
本例参考 dify 的 chatFlow 的效果,模拟实现视频内容:
Solon Flow 是一个通用流编排引擎。可用于计算(或任务)的编排场景; 可用于业务规则和决策处理型的编排场景; 可用于办公审批型(有状态、可中断,人员参与)的编排场景; 可用于长时间流程(结合自动前进,等待介入)的编排场景。同时支持:java8,java11,java17,java21,java24。
<dependency>
<groupId>org.noear</groupId>
<artifactId>solon-flow</artifactId>
<version>最新版本</version>
</dependency>
主要特点有:
- 使用 yaml 格式做编排
- 表达式与脚本自由
- 元信息配置,为扩展提供了无限空间(每个流程,相当于自带了元数据库)
- 事件广播与回调支持
- 支持“无状态”、“有状态”两种需求分类
- 驱动定制(是像 JDBC 有 MySql, PostgreSQL,还可能有 Elasticsearch)
下面提供两种处编排风格以可供参考
1、使用 “元信息” + 任务组件“ 风格 (更利于可视界面配置)
id: demo1
layout:
- title: "开始"
type: start
- title: "文件提取"
meta.input: "file" # 可视界面的配置(通过元信息表示)
meta.output: "fileTxt"
task: @FileLoaderCom
- title: "LLM"
meta.model: "Qwen/Qwen2.5-72B-Instruct" # 可视界面的配置(通过元信息表示)
meta.input: "fileTxt"
meta.messages:
- role: system
content: "#角色\n你是一个数据专家,删除数据的格式整理和转换\n\n#上下文\n${fileTxt}\n\n#任务\n提取csv格式的字符串"
task: @ChatModelCom
- title: "参数提取器"
meta.model: "Qwen/Qwen2.5-72B-Instruct" # 可视界面的配置(通过元信息表示)
meta.output: "csvData"
task: @ParamExtractionCom
- title: "执行代码"
meta.input: "csvData"
task: |
import com.demo.DataUtils;
String json = DataUtils.csvToJson(node.meta().get("meta.input")); //转为 json 数据
String echatCode = DataUtils.jsonAsEchatCode(json); //转为 echat 图表代码
context.result = echatCode; //做为结果返回
- title: "结束"
type: end
这种风格,更适合可视界面的编译。设计是,可以预选设计好很多组件,经过管理配置后,可提供界面选择。
@Component("FileLoaderCom")
public class FileLoaderCom implements TaskComponent {
@Override
public void run(FlowContext context, Node node) throws Throwable {
...
}
}
@Component("ChatModelCom")
public class ChatModelCom implements TaskComponent {
@Override
public void run(FlowContext context, Node node) throws Throwable {
...
}
}
@Component("ParamExtractionCom")
public class ParamExtractionCom implements TaskComponent {
@Override
public void run(FlowContext context, Node node) throws Throwable {
...
}
}
@Controller
public class DemoController {
@Mapping("demo")
public Object input(UploadedFile attachment, String message) throws Throwable {
FlowEngine flowEngine = FlowEngine.newInstance();
flowEngine.load("classpath:flow/demo1.chain.yml");
FlowContext ctx = new FlowContext();
ctx.put("file", attachment);
flowEngine.eval("demo1");
return context.result;
}
}
2、比较原始的风格(能表达内在的大概过程):
id: demo1
layout:
- title: "开始"
type: start
- title: "文件提取"
meta.input: "file" # 可视界面的配置(通过元信息表示)
meta.output: "fileTxt"
task: |
import org.noear.solon.ai.loader.*;
var loader = FileLoader.of(file);
var fileTxt = loader.load();
context.put(node.meta().get("meta.output"), fileTxt); //推入上下文(后续节点可用)
- title: "LLM"
meta.model: "Qwen/Qwen2.5-72B-Instruct" # 可视界面的配置(通过元信息表示)
meta.input: "fileTxt"
meta.messages:
- role: system
content: "#角色\n你是一个数据专家,删除数据的格式整理和转换\n\n#上下文\n${fileTxt}\n\n#任务\n提取csv格式的字符串"
task: |
import com.demo.ModelUtils; //根据业务封装,可快速获取配置的模型
import com.demo.MessageUtils; //根据业务封装,可快速构建消息
var chatModel = ModelUtils.get(node.meta().get("model"));
var chatMessages = MessageUtils.get(node.meta().get("messages"), context);
var resp = chatModel.prompt(chatMessages).call();
context.put("resp", resp);
- title: "参数提取器"
meta.model: "Qwen/Qwen2.5-72B-Instruct" # 可视界面的配置(通过元信息表示)
meta.output: "csvData"
task: |
context.put(node.meta().get("meta.output"), resp.getMessage().getContent());
- title: "执行代码"
meta.input: "csvData"
task: |
import com.demo.DataUtils;
String json = DataUtils.csvToJson(node.meta().get("meta.input")); //转为 json 数据
String echatCode = DataUtils.jsonAsEchatCode(json); //转为 echat 图表代码
context.result = echatCode; //做为结果返回
- title: "结束"
type: end
这个风格比较原始,不过不需要 java 组件参与。可以像低代码一样(或可执行程序一样),直接运行配置文件。
@Controller
public class DemoController {
@Mapping("demo")
public Object input(UploadedFile attachment, String message) throws Throwable {
FlowEngine flowEngine = FlowEngine.newInstance();
flowEngine.load("classpath:flow/demo1.chain.yml");
FlowContext ctx = new FlowContext();
ctx.put("file", attachment);
flowEngine.eval("demo1");
return context.result;
}
}
Java AI(智能体)编排开发就用 Solon Flow的更多相关文章
- 伯克利推出「看视频学动作」的AI智能体
伯克利曾经提出 DeepMimic框架,让智能体模仿参考动作片段来学习高难度技能.但这些参考片段都是经过动作捕捉合成的高度结构化数据,数据本身的获取需要很高的成本.而近日,他们又更进一步,提出了可以直 ...
- AI智能外呼机器人网络拓扑结构笔记
最近开发了一套AI智能外呼机器人系统,系统主要有3部分组成:web管理平台:呼叫机器人:SIP软交换.具体网络拓扑结构如下图: 三部分主要功能如下: 1.web管理平台:话术管理.任务管理.线路管理. ...
- 华为云DevCloud为开发者提供高效智能的可信开发环境
在HUAWEI CONNECT 2019期间,在华为云云服务开发者分论坛上,华为云布道师做了<CloudIDE:开发者的高效.智能的可信开发环境>专题演讲,主要介绍了华为云DevCloud ...
- 智能电视TV开发---直播视频客户端结构设计和实现
在智能电视TV开发---客户端和服务器通信里面我们实现了客户端和服务端的简单通信,接下来我们做一个简单的客户端界面,来实现手机端来操控智能电视的TV端. 一.存储视频的结构设计 我们在做客户端的时候, ...
- Java与Kotlin, 哪个是开发安卓应用的首选语言?
Java是很多开发者创建安卓应用的首选语言.但它在 Android 界的领导地位正受到各种新语言的挑战,Kotlin就是其一.虽然Kotlin最近才开始受到热捧,但有为数不少的人相信 Kotlin 在 ...
- TensorFlow利用A3C算法训练智能体玩CartPole游戏
本教程讲解如何使用深度强化学习训练一个可以在 CartPole 游戏中获胜的模型.研究人员使用 tf.keras.OpenAI 训练了一个使用「异步优势动作评价」(Asynchronous Advan ...
- DRL 教程 | 如何保持运动小车上的旗杆屹立不倒?TensorFlow利用A3C算法训练智能体玩CartPole游戏
本教程讲解如何使用深度强化学习训练一个可以在 CartPole 游戏中获胜的模型.研究人员使用 tf.keras.OpenAI 训练了一个使用「异步优势动作评价」(Asynchronous Advan ...
- Java or Python?测试开发工程师如何选择合适的编程语言?
很多测试开发工程师尤其是刚入行的同学对编程语言和技术栈选择问题特别关注,毕竟掌握一门编程语言要花不少时间成本,也直接关系到未来的面试和就业(不同企业/项目对技术栈要求也不一样),根据自身情况做一个相对 ...
- STM32W108无线传感器网络节点自组织与移动智能体导航技术
使用STM32W108无线开发板及节点完毕大规模网络的自组建,网络模型选择树型,网络组建完毕之后,使用基于接收信号强度指示RSSI(ReceivedSignal Strength Indication ...
- AI如何驱动软件开发?华为云DevCloud 权威专家邀你探讨
近期,国际著名咨询公司Gartner 在一份研究报告中将 "AI-Driven Development" 列为 2019 年的 Top 10 Strategic Technolog ...
随机推荐
- Qwik-能帮你移出项目中99%的JS代码
本文分享自天翼云开发者社区<Qwik-能帮你移出项目中99%的JS代码>,作者:尹****勇 什么是 Qwik Qwik 是一款全栈SSR框架,它号称 -能帮你移出项目中99%的JS代码- ...
- 一键实现风险识别+处理,天翼云AOne助手尽在“掌”握!
随着企业数字化建设的不断加速,优化站点性能与响应速度成为当今时代的一个重要课题.对于政务.金融类机构来说,其门户网站.信用卡中心等代表着对外形象,如果出现访问不通或者时延严重的现象将影响业务办理效率以 ...
- 从cos下载文件
新建test.sh脚本 #!/bin/bash set -e cospath=https://11111.cos.ap-beijing.myqcloud.com/emr/hive/script/202 ...
- Anoii网络库之Timer实现
Timer的实现挺值得拿出来聊一聊的 Anoii网络库的事件循环: Timer是使用poll的timeout参数实现的,所以定时的精度是毫秒,对于一个网络库而言这足够了.如果不够的话,还可以使用tim ...
- hibernate的锁机制
概述 hibernate 可以通过加锁解决并发问题. hibernate 的锁分为两种:乐观锁和悲观锁. 乐观锁(Optimistic lock):每次访问数据时,都会乐观的认为其它事务此时肯定不会同 ...
- 支付宝 v3 自签名如何实现
今天在看文档的时候,发现支付宝新出了一个 v3 版本的接口调用方式,感觉有点意思,花了点时间研究了下这个版本要怎么实现自签名,大家有兴趣可以看看. 什么是支付宝 API v3 版本? 官网上给的解释是 ...
- STM32的SYSTICK 定时器(系统滴答定时器)
什么是SysTick? 这是一个24位的系统节拍定时器system tick timer,SysTick,具有自动重载和溢出中断功能,所有基于Cortex_M3处理器的微控制器都可以由这个定时器获得一 ...
- 【Unity】光照解决方案笔记
[Unity]光照解决方案笔记 https://docs.unity.cn/cn/2022.3/Manual/BestPracticeLightingPipelines.html 确定对象显示效果的三 ...
- QT5笔记:5. QtCreator 的快捷键
常用的快捷键: F4 同名头文件和源文件之间切换 F2 声明和定义切换 Ctrl + / 注释 F10\F11 单步调试
- 纯离线部署本地知识库LLM大模型
纯离线部署本地知识库LLM大模型 一.下载离线大模型 下载的网址:https://hf-mirror.com/ deepseek qwen 相关的模型,只建议使用1.5B的,GGUF后缀的模型 推荐下 ...