PGET,一个简单、易用的并行获取数据框架
使用场景
当我们的服务收到一个请求后,需要大量调用下游服务获取业务数据,然后对数据进行转换、计算后,响应给请求方。
如果我们采用串行获取下游数据,势必会增加响应时长,降低接口的qps。如果是并行获取下游数据,则是不错的。
最直接想到的并行获取方法,无非是将一个个获取数据的方法封装成一个个task,然后放到线程池里执行。但这种没经过设计的使用方式,易用性很低,可复用性也很低。
经本人在实际的业务系统中,多次思考与设计。终于设计出当前这个框架。
特点:绝对的简单、绝对的易用。
相关概念
- BizData
业务数据对象。用于将下游获取到的数据封装到此对象中。
开发者需自定义给对象,并实现IBizData接口
- BizDataProvider
业务数据对象提供者。此对象类似于分成结构中的Service层,其调用下游数据源(可以是rpc调用等)将得到的数据封装到BizData对象中。
此类需要添加@BizDataProvider注解。其方法返回值一定要是BizData对象
使用
在spring的xml中配置:
<!-- 初始化框架,并设置用于并行获取业务数据的线程池配置 -->
<bean class="com.dyz.pget.core.BizDataManager" init-method="init" destroy-method="destroy">
<property name="corePoolSize" value="12"/>
<property name="maximumPoolSize" value="200"/>
<property name="keepAliveTime" value="0"/>
<property name="queueSize" value="1000"/>
</bean>
第一步:自定义BizData对象
public class UserInfoBizData implements IBizData{
private Long userId;
private String name;
private Integer age;
/**
* 必须提供默认构造参数
*/
public UserInfoBizData() {
}
public UserInfoBizData(Long userId, String name, Integer age) {
this.userId = userId;
this.name = name;
this.age = age;
}
/**
* 如果此数据对象获取失败时的默认兜底值。如果不支持兜底,则返回null即可。
* @return
*/
@Override
public IBizData defaultBizData() {
return null;
}
@Override
public String format2String() {
return new StringBuilder()
.append("ID:").append(userId)
.append(",名字:").append(name)
.append(",年龄:").append(age)
.toString();
}
}
//篇幅问题,此处只贴了一个BizData的代码
第二步:编写对应的BizDataProvider
@BizDataProvider
public class TestBizDataProvider { /**
* 异常要抛出,框架会捕获
* @param userId
* @return
* @throws Exception
*/
public UserInfoBizData getUserInfoBizData(long userId)throws Exception{
//调用远程rpc或者其他数据源得到数据,并封装到Test1BizData对象中
return new UserInfoBizData(userId,"张三",20);
} public ProductInfoBizData getProductInfoBizData(long shopId,long productId)throws Exception{
//调用远程rpc或者其他数据源得到数据,并封装到ProductInfoBizData对象中
return new ProductInfoBizData(productId,shopId,"啤酒");
}
}
第三步:获取数据
①Getter模式:
使用案例代码:
@Test
public void testGetter() throws BizDataFetchException {
long userId = 1345L;
long shopId = 11L;
long productId = 11011L;
//并行获取用户信息、商品信息、门店信息三个数据。超时时间是100毫秒
List<IBizData> bizDataList = BizDataGetter.build()
.get(UserInfoBizData.class,userId)
.get(ProductInfoBizData.class,shopId,productId)
.get(ShopInfoBizData.class,shopId)
.doGet(100L); UserInfoBizData userInfoBizData = (UserInfoBizData)bizDataList.get(0);
ProductInfoBizData productInfoBizData = (ProductInfoBizData)bizDataList.get(1);
ShopInfoBizData shopInfoBizData = (ShopInfoBizData)bizDataList.get(2); System.out.println(userInfoBizData.format2String());
System.out.println(productInfoBizData.format2String());
System.out.println(shopInfoBizData.format2String());
}
②Injector模式:
定义一个数据包裹对象,存放所需要的数据对象
public class BizDataWrapper {
private UserInfoBizData userInfoBizData;
private ShopInfoBizData shopInfoBizData;
private ProductInfoBizData productInfoBizData;
public UserInfoBizData getUserInfoBizData() {
return userInfoBizData;
}
public ShopInfoBizData getShopInfoBizData() {
return shopInfoBizData;
}
public ProductInfoBizData getProductInfoBizData() {
return productInfoBizData;
}
}
使用案例代码:
@Test
public void testGetter() throws BizDataFetchException {
long userId = 1345L;
long shopId = 11L;
long productId = 11011L;
BizDataWrapper bizDataWrapper = new BizDataWrapper();
//并行获取用户信息、商品信息、门店信息三个数据。并注入到bizDataWrapper中,以方便使用。超时时间是100毫秒
BizDataInjector.build(bizDataWrapper)
.inject(UserInfoBizData.class,userId)
.inject(ProductInfoBizData.class,shopId,productId)
.inject(ShopInfoBizData.class,shopId)
.doInject(100L); System.out.println(bizDataWrapper.getUserInfoBizData().format2String());
System.out.println(bizDataWrapper.getProductInfoBizData().format2String());
System.out.println(bizDataWrapper.getShopInfoBizData().format2String());
}
结尾
相信你使用后,一定会觉着简单易用。
不多说了,贴上github地址:https://github.com/yongzhidai/pget
注:使用时,没必要把源代码粘到业务系统中,自己打个jar包,让业务系统依赖下就OK了。
PGET,一个简单、易用的并行获取数据框架的更多相关文章
- C# 编写一个简单易用的 Windows 截屏增强工具
半年前我开源了 DreamScene2 一个小而快并且功能强大的 Windows 动态桌面软件.有很多的人喜欢,这使我有了继续做开源的信心.这是我的第二个开源作品 ScreenshotEx 一个简单易 ...
- 分享一个简单易用的RPC开源项目—Tatala
http://zijan.iteye.com/blog/2041894 这个项目最早(2008年)是用于一个网络游戏的Cache Server,以及一个电子商务的Web Session服务.后来不断增 ...
- 一个简单易用的容器管理平台-Humpback
什么是Humpback? 在回答这个问题前,我们得先了解下什么的 Docker(哦,现在叫 Moby,文中还是继续称 Docker). 在 Docker-百度百科 中,对 Docker 已经解释得很清 ...
- 分享一个简单易用的软件定时器模块(MultiTimer)——基于keil+stm32f103zet+hal库(裸机实现)
公众号上看到一个比较好的一个github项目:https://github.com/0x1abin/MultiTimer 今天看了看,简单的,就移植了- 且看文档的说明, ============== ...
- 写一个简单易用可扩展vue表单验证插件(vue-validate-easy)
写一个vue表单验证插件(vue-validate-easy) 需求 目标:简单易用可扩展 如何简单 开发者要做的 写了一个表单,指定一个name,指定其验证规则. 调用提交表单方法,可以获取验证成功 ...
- 微软新神器-Power BI横空出世,一个简单易用,还用得起的BI产品,你还在等什么???
在当前互联网,由于大数据研究热潮,以及数据挖掘,机器学习等技术的改进,各种数据可视化图表层出不穷,如何让大数据生动呈现,也成了一个具有挑战性的可能,随之也出现了大量的商业化软件.今天就给大家介绍一款逆 ...
- FineBI:一个简单易用的自助BI工具
过去,有关企业数据分析的重担都压在IT部门,传统BI分析更多面向的是具有IT背景的人员.但随着业务分析需求的增加,很多公司都希望为业务用户提供自助分析服务,将分析工作落实到业务人员手中.但同时,分析工 ...
- 一个简单的NetCore项目:1 - 搭建框架,生成数据库
1- 启动项目 安装.NETCORE SDK,教程在网上可以搜索的到,这里就不讲述了.简单粗暴的方式就是安装最新的VS2015. 2-搭建框架 2.1 打开VS新建一个项目,在弹出的新建项目对话框中, ...
- 头像截图上传三种方式之一(一个简单易用的flash插件)(asp.net版本)
flash中有版权声明,不适合商业开发.这是官网地址:http://www.hdfu.net/ 本文参考了http://blog.csdn.net/yafei450225664/article/det ...
随机推荐
- this关键字和static关键字
this关键字 普通方法中,this总是指向调用该方法的对象. 构造方法中,this总是指向正要初始化的对象. this区分成员变量和全局变量的作用,在当前类中可以省略. this的常用方法: 让类中 ...
- 并发编程之线程池ThreadPoolExecutor
前言 在我们平时自己写线程的测试demo时,一般都是用new Thread的方式来创建线程.但是,我们知道创建线程对象,就会在内存中开辟空间,而线程中的任务执行完毕之后,就会销毁. 单个线程的话还好, ...
- matlab---设置背景颜色为白色
(1)每次设置figure('color','w');或者figure('color',[1 1 1])或者set(gcf,'color','w'); (2)一次性:在命令行内输入 set(0,'de ...
- PMP--2.1 商业论证(经济可行性研究报告)
####################################################### PS:半个月没有更新文档,因为是有点单线程,在整理启动过程组和规划过程组的内容,在规划规 ...
- (1) Q#学习笔记 - 第一章 QDK安装
2020/2/22,开始学习Q#. 第1章 QDK的安装 第1节 简介 QDK是Microsoft Quantum 开发工具包,可以进行量子编程,主要包含: Q# 编程语言 在 Q# 中对复杂功能进行 ...
- 开源工作流管理系统节点接收人设置“指定节点处理人”系列讲解
关键字: 驰骋工作流程快速开发平台 工作流程管理系统 工作流引擎 asp.net工作流引擎 java工作流引擎. 开发者表单 拖拽式表单 工作流系统CCBPM节点访问规则接收人规则 适配数据库: o ...
- Cesium案例解析(三)——Camera相机
目录 1. 概述 2. 实例 2.1. Camera.html 2.2. Camera.js 2.2.1. 飞行至某一点 2.2.2. 飞行至某区域 2.2.3. 两地之间飞行 2.2.4. 设置视图 ...
- kubernetes 资源管理
前言 在kubernetes环境下,无论集群再大,对应的集群资源(cpu.memory.storage)总是有上限的.而默认情况下,我们启动的pod.以及pod中运行的容器,对应的资源是不加限制的.理 ...
- 选择排序 C++实现
实现思想: 1.寻找[i, n)区间里的最小值min ( i>= 0 ) 2.交换min和第i的数 ( i>= 0 ) #include <iostream> #include ...
- Jean-Pierre Serre访问录
问:是什么使您以数学为职业的? 答:我记得大概是从七.八岁时起喜欢数学的.在中学里, 我常做一些高年级的题目.那时,我寄宿于Nimes,与比我大的孩子住在一起,他们常常欺侮我,为了平抚他们,我就经常帮 ...