PGET,一个简单、易用的并行获取数据框架
使用场景
当我们的服务收到一个请求后,需要大量调用下游服务获取业务数据,然后对数据进行转换、计算后,响应给请求方。
如果我们采用串行获取下游数据,势必会增加响应时长,降低接口的qps。如果是并行获取下游数据,则是不错的。
最直接想到的并行获取方法,无非是将一个个获取数据的方法封装成一个个task,然后放到线程池里执行。但这种没经过设计的使用方式,易用性很低,可复用性也很低。
经本人在实际的业务系统中,多次思考与设计。终于设计出当前这个框架。
特点:绝对的简单、绝对的易用。
相关概念
- BizData
业务数据对象。用于将下游获取到的数据封装到此对象中。
开发者需自定义给对象,并实现IBizData接口
- BizDataProvider
业务数据对象提供者。此对象类似于分成结构中的Service层,其调用下游数据源(可以是rpc调用等)将得到的数据封装到BizData对象中。
此类需要添加@BizDataProvider注解。其方法返回值一定要是BizData对象
使用
在spring的xml中配置:
- <!-- 初始化框架,并设置用于并行获取业务数据的线程池配置 -->
- <bean class="com.dyz.pget.core.BizDataManager" init-method="init" destroy-method="destroy">
- <property name="corePoolSize" value="12"/>
- <property name="maximumPoolSize" value="200"/>
- <property name="keepAliveTime" value="0"/>
- <property name="queueSize" value="1000"/>
- </bean>
第一步:自定义BizData对象
- public class UserInfoBizData implements IBizData{
- private Long userId;
- private String name;
- private Integer age;
- /**
- * 必须提供默认构造参数
- */
- public UserInfoBizData() {
- }
- public UserInfoBizData(Long userId, String name, Integer age) {
- this.userId = userId;
- this.name = name;
- this.age = age;
- }
- /**
- * 如果此数据对象获取失败时的默认兜底值。如果不支持兜底,则返回null即可。
- * @return
- */
- @Override
- public IBizData defaultBizData() {
- return null;
- }
- @Override
- public String format2String() {
- return new StringBuilder()
- .append("ID:").append(userId)
- .append(",名字:").append(name)
- .append(",年龄:").append(age)
- .toString();
- }
- }
- //篇幅问题,此处只贴了一个BizData的代码
第二步:编写对应的BizDataProvider
- @BizDataProvider
- public class TestBizDataProvider {
- /**
- * 异常要抛出,框架会捕获
- * @param userId
- * @return
- * @throws Exception
- */
- public UserInfoBizData getUserInfoBizData(long userId)throws Exception{
- //调用远程rpc或者其他数据源得到数据,并封装到Test1BizData对象中
- return new UserInfoBizData(userId,"张三",20);
- }
- public ProductInfoBizData getProductInfoBizData(long shopId,long productId)throws Exception{
- //调用远程rpc或者其他数据源得到数据,并封装到ProductInfoBizData对象中
- return new ProductInfoBizData(productId,shopId,"啤酒");
- }
- }
第三步:获取数据
①Getter模式:
使用案例代码:
- @Test
- public void testGetter() throws BizDataFetchException {
- long userId = 1345L;
- long shopId = 11L;
- long productId = 11011L;
- //并行获取用户信息、商品信息、门店信息三个数据。超时时间是100毫秒
- List<IBizData> bizDataList = BizDataGetter.build()
- .get(UserInfoBizData.class,userId)
- .get(ProductInfoBizData.class,shopId,productId)
- .get(ShopInfoBizData.class,shopId)
- .doGet(100L);
- UserInfoBizData userInfoBizData = (UserInfoBizData)bizDataList.get(0);
- ProductInfoBizData productInfoBizData = (ProductInfoBizData)bizDataList.get(1);
- ShopInfoBizData shopInfoBizData = (ShopInfoBizData)bizDataList.get(2);
- System.out.println(userInfoBizData.format2String());
- System.out.println(productInfoBizData.format2String());
- System.out.println(shopInfoBizData.format2String());
- }
②Injector模式:
定义一个数据包裹对象,存放所需要的数据对象
- public class BizDataWrapper {
- private UserInfoBizData userInfoBizData;
- private ShopInfoBizData shopInfoBizData;
- private ProductInfoBizData productInfoBizData;
- public UserInfoBizData getUserInfoBizData() {
- return userInfoBizData;
- }
- public ShopInfoBizData getShopInfoBizData() {
- return shopInfoBizData;
- }
- public ProductInfoBizData getProductInfoBizData() {
- return productInfoBizData;
- }
- }
使用案例代码:
- @Test
- public void testGetter() throws BizDataFetchException {
- long userId = 1345L;
- long shopId = 11L;
- long productId = 11011L;
- BizDataWrapper bizDataWrapper = new BizDataWrapper();
- //并行获取用户信息、商品信息、门店信息三个数据。并注入到bizDataWrapper中,以方便使用。超时时间是100毫秒
- BizDataInjector.build(bizDataWrapper)
- .inject(UserInfoBizData.class,userId)
- .inject(ProductInfoBizData.class,shopId,productId)
- .inject(ShopInfoBizData.class,shopId)
- .doInject(100L);
- System.out.println(bizDataWrapper.getUserInfoBizData().format2String());
- System.out.println(bizDataWrapper.getProductInfoBizData().format2String());
- System.out.println(bizDataWrapper.getShopInfoBizData().format2String());
- }
结尾
相信你使用后,一定会觉着简单易用。
不多说了,贴上github地址:https://github.com/yongzhidai/pget
注:使用时,没必要把源代码粘到业务系统中,自己打个jar包,让业务系统依赖下就OK了。
PGET,一个简单、易用的并行获取数据框架的更多相关文章
- C# 编写一个简单易用的 Windows 截屏增强工具
半年前我开源了 DreamScene2 一个小而快并且功能强大的 Windows 动态桌面软件.有很多的人喜欢,这使我有了继续做开源的信心.这是我的第二个开源作品 ScreenshotEx 一个简单易 ...
- 分享一个简单易用的RPC开源项目—Tatala
http://zijan.iteye.com/blog/2041894 这个项目最早(2008年)是用于一个网络游戏的Cache Server,以及一个电子商务的Web Session服务.后来不断增 ...
- 一个简单易用的容器管理平台-Humpback
什么是Humpback? 在回答这个问题前,我们得先了解下什么的 Docker(哦,现在叫 Moby,文中还是继续称 Docker). 在 Docker-百度百科 中,对 Docker 已经解释得很清 ...
- 分享一个简单易用的软件定时器模块(MultiTimer)——基于keil+stm32f103zet+hal库(裸机实现)
公众号上看到一个比较好的一个github项目:https://github.com/0x1abin/MultiTimer 今天看了看,简单的,就移植了- 且看文档的说明, ============== ...
- 写一个简单易用可扩展vue表单验证插件(vue-validate-easy)
写一个vue表单验证插件(vue-validate-easy) 需求 目标:简单易用可扩展 如何简单 开发者要做的 写了一个表单,指定一个name,指定其验证规则. 调用提交表单方法,可以获取验证成功 ...
- 微软新神器-Power BI横空出世,一个简单易用,还用得起的BI产品,你还在等什么???
在当前互联网,由于大数据研究热潮,以及数据挖掘,机器学习等技术的改进,各种数据可视化图表层出不穷,如何让大数据生动呈现,也成了一个具有挑战性的可能,随之也出现了大量的商业化软件.今天就给大家介绍一款逆 ...
- FineBI:一个简单易用的自助BI工具
过去,有关企业数据分析的重担都压在IT部门,传统BI分析更多面向的是具有IT背景的人员.但随着业务分析需求的增加,很多公司都希望为业务用户提供自助分析服务,将分析工作落实到业务人员手中.但同时,分析工 ...
- 一个简单的NetCore项目:1 - 搭建框架,生成数据库
1- 启动项目 安装.NETCORE SDK,教程在网上可以搜索的到,这里就不讲述了.简单粗暴的方式就是安装最新的VS2015. 2-搭建框架 2.1 打开VS新建一个项目,在弹出的新建项目对话框中, ...
- 头像截图上传三种方式之一(一个简单易用的flash插件)(asp.net版本)
flash中有版权声明,不适合商业开发.这是官网地址:http://www.hdfu.net/ 本文参考了http://blog.csdn.net/yafei450225664/article/det ...
随机推荐
- 使用requests、re、BeautifulSoup、线程池爬取携程酒店信息并保存到Excel中
import requests import json import re import csv import threadpool import time, random from bs4 impo ...
- 量化投资学习笔记27——《Python机器学习应用》课程笔记01
北京理工大学在线课程: http://www.icourse163.org/course/BIT-1001872001 机器学习分类 监督学习 无监督学习 半监督学习 强化学习 深度学习 Scikit ...
- 【二】、UML基础知识——图图解乾坤
[二].UML基础知识 UML概述 UML是一个通用的可视化建模语言,不同于编程语言,它通过一些标准的图形符号和文字来对系统进行建模.用于对软件进行描述.可视化处理.构建软件系统的文档.是一套总结了以 ...
- Java基础之六、Java编程思想(8-10)
八.多态 多态(也称作动态绑定.后期绑定或运行时绑定) 域(成员变量)是不具有多态性的,只有普通的方法调用是多态的,任何域访问操作都将由编译器解析,因此不是多态的 静态方法也是不具有多态性的 publ ...
- centos5,6 系统启动流程
linux内核特点: 支持模块化:模块文件的名字以.ko(kernel object)结尾 支持内核运行时,动态加载和卸载模块文件. linux内核组成部分: 核心文件:/boot/vmlinuz-V ...
- 外部SRAM的种类
外部SRAM注意事项 为使外部SRAM器件达到出最佳性能,建议遵循以下原则: 使用与连接的主系统控制器的接口数据带宽相同的SRAM. 如果管脚使用或板上空间的限制高于系统性能要求,可以使用较连接的控制 ...
- JS笔记之第二天
一元运算符:++ -- 分为前++和后++ and 前--和后-- 如果++在后面,如:num++ +10参与运算,先参与运算,自身再加1 如果++在前面,如:++num+10参与运算,先自身加1, ...
- vue中this在回调函数中的使用
this在各类回调中使用: 如果是普通函数是没法使用的 所以需要先将this.变量赋值给新的变量,然后才能在回调函数中使用 例如: refund: function (id) { if (!this. ...
- 【DTOJ】1001:长方形周长和面积
DTOJ 1001:长方形周长和面积 解题报告 2017.11.05 第一版 ——由翱翔的逗比w原创 题目信息: 题目描述 已知长方形的长和宽,求长方形的周长和面积? 输入 一行:空格隔开的两个整 ...
- linux - top与ps间的区别
背景 在linux系统中提供了2个查询系统负荷值的命令,一个是 ps -o THREAD 一个是 top ,这两个命令都能够查询当前进程的CPU使用率情况,但是所代表的含义确实不一样的,ps -o T ...