Worker+MQ解惑
用Worker来保证数据的一致性,再加上MQ来便于水平扩展,也提升了Worker的效率。这就是传说中的Worker+MQ,又叫做可靠消息方式。另外,将任务的查询和执行分工,形成父子任务,达到真正的分布式任务,也能提升Worker效率。
- package com.itlong.bjxizhan.support.web.job.base;
- import com.itlong.bjxizhan.common.DbContext;
- import com.itlong.bjxizhan.domain.pojo.Task;
- import com.itlong.bjxizhan.support.web.service.StandardTaskService;
- import org.slf4j.Logger;
- import org.slf4j.LoggerFactory;
- import java.util.List;
- /**
- * Created by shenhongxi on 2016/7/12.
- */
- public class JobRunnable implements Runnable {
- private static final Logger log = LoggerFactory.getLogger(JobRunnable.class);
- private StandardTaskService standardTaskService;
- private List<Task> tasks;
- private String dbKey;
- private String tableIndex;
- @Override
- public void run() {
- if (tasks != null) {
- try {
- DbContext.setDbKey(dbKey);
- DbContext.setTableIndex(tableIndex);
- for (Task task : tasks) {
- task.setTableIndex(tableIndex);
- // 1. 一个job的多个实例,谁先成功锁定任务,谁先处理任务,若处理失败则解锁任务
- // 2. 对于1中解锁失败的,要利用另外的job来专门进行解锁
- // 3. 将任务分成几批,并行处理
- // 4. 这些任务的子任务分批串行处理,同样有锁定-处理-失败解锁
- // 5. 对于4中解锁失败的,同样要利用另外的job来专门进行解锁
- boolean locked = standardTaskService.lock(task);
- if (!locked) continue;
- boolean result = standardTaskService.process(task);
- standardTaskService.finished(result, task);
- }
- } catch (Exception e) {
- log.error("Do task error", e);
- throw new RuntimeException("Do task error");
- }
- }
- }
- public List<Task> getTasks() {
- return tasks;
- }
- public void setTasks(List<Task> tasks) {
- this.tasks = tasks;
- }
- public StandardTaskService getStandardTaskService() {
- return standardTaskService;
- }
- public void setStandardTaskService(StandardTaskService standardTaskService) {
- this.standardTaskService = standardTaskService;
- }
- public String getTableIndex() {
- return tableIndex;
- }
- public void setTableIndex(String tableIndex) {
- this.tableIndex = tableIndex;
- }
- public String getDbKey() {
- return dbKey;
- }
- public void setDbKey(String dbKey) {
- this.dbKey = dbKey;
- }
- }
***:org.quartz.Scheduler提供了start, bystand等方法可以对Scheduler进行管控
Worker+MQ解惑的更多相关文章
- 基于queue的python多进程日志管理
在我们的异常检测应用中,需要对每组IoT设备分别训练一个模型,每个模型对一组设备的指标数据进行实时异常检测.方案采用master-worker+消息队列的方式实现模型对外服务,但是每个worker的日 ...
- Spark技术内幕:Client,Master和Worker 通信源码解析
http://blog.csdn.net/anzhsoft/article/details/30802603 Spark的Cluster Manager可以有几种部署模式: Standlone Mes ...
- celery rabbit mq 详解
Celery介绍和基本使用 Celery 是一个 基于python开发的分布式异步消息任务队列,通过它可以轻松的实现任务的异步处理, 如果你的业务场景中需要用到异步任务,就可以考虑使用celery, ...
- Java异常处理机制难点解惑-用代码说话
是否需要看这篇文章? 下面的例子中,如果正常执行返回值多少? 如果出现了ArithmeticException返回值多少? 如果出现非ArithmeticException(如NullPointerE ...
- 关于MQ,你必须知道的
我走过最长的路是你的套路 女:二号男嘉宾,假如我们牵手成功后,你会买名牌包包给我吗? 男:那你会听话吗? 女:会 听话. 男:听话 咱不买! OK那么消息队列MQ有什么套路呢?(这个话题转换生硬度连我 ...
- Rabbit MQ 消息确认和持久化机制
一:确认种类 RabbitMQ的消息确认有两种.一种是消息发送确认,用来确认生产者将消息发送给交换器,交换器传递给队列的过程中消息是否成功投递.发送确认分为两步,一是确认是否到达交换器,二是确认是否到 ...
- celery+Rabbit MQ实战记录
基于以前的一篇文章,celery+Rabbit MQ的安装和使用, 本文更加详细的介绍如何安装和使用celey, Rabbit MQ. 并记录在使用celery时遇到的一些问题. 1.安装 Rabbi ...
- RabbitMQ学习笔记(3)----RabbitMQ Worker的使用
1. Woker队列结构图 这里表示一个生产者生产了消息发送到队列中,但是确有两个消费者在消费同一个队列中的消息. 2. 创建一个生产者 Producer如下: package com.wangx.r ...
- Spark技术内幕:Client,Master和Worker 通信源代码解析
Spark的Cluster Manager能够有几种部署模式: Standlone Mesos YARN EC2 Local 在向集群提交计算任务后,系统的运算模型就是Driver Program定义 ...
随机推荐
- 单身福利来了:VR恋人为你量身定制一个女朋友
相对于传统视频体验,VR视频给人带来了更加真实的体验.特别是对于单身狗来说,能在VR中拥有一个虚拟的恋人可谓是莫大的心灵安慰.近日,上海微雁文化传媒有限公司正式发布了首款养成类手机应用VR恋人. VR ...
- sql 查询表共多少列
1.oracle: select count(*) from user_tab_cols where table_name='表名';--表名含英文的话应为英文大写字母 2.mysql: select ...
- python字符串和列表
import sys#sys.argv[0] 被设定为指定模块的全名#脚本名和附加参数传入一个名为 sys.argv 的字符串列表.你能够获取这个列表通过执行 import sys,列表的长度大于等于 ...
- FZU 2240 Daxia & Suneast's problem
博弈,$SG$函数,规律,线段树. 这个问题套路很明显,先找求出$SG$函数值是多少,然后异或起来,如果是$0$就后手赢,否则先手赢.修改操作和区间查询的话可以用线段树维护一下区间异或和. 数据那么大 ...
- THML结构语义化之table/form
以table/form标签语义化,做为博客首贴 应用场景1-table表格 <table> <caption> <thead> <th colspan=&qu ...
- 总结的OSM 地图相关的分析
How OSM works: Tile Format: png, z: levels [0- 18], x: Latitude [0- ], y: Longitude [0- ]; ...
- Servlet之保存用户偏好设置简单功能的实现
写在前面: 先来陈述一下为什么会有这样一个需求和这篇博文. 这是公司的一个项目,我们负责前端,后台服务由其他公司负责.该系统有一个系统偏好设置模块,用户可以设置系统的背景图片等系统样式,因为这是一个比 ...
- maven GroupId 和ArtifactId的含义
GroupID是项目组织唯一的标识符,实际对应Java的包的结构,是main目录里java的目录结构. ArtifactID就是项目的唯一的标识符,实际对应项目的名称,就是项目根目录的名称.
- SuperSocket源码解析之开篇 (转)
一 简介 官方介绍:SuperSocket 是一个轻量级, 跨平台而且可扩展的 .Net/Mono Socket 服务器程序框架.你无须了解如何使用 Socket, 如何维护 Socket 连接和 S ...
- jquery实现图片漂浮效果
$(window).load(function(){ function moveRocket(){ $("#float").animate({'left':'+=100'} ...