用Worker来保证数据的一致性,再加上MQ来便于水平扩展,也提升了Worker的效率。这就是传说中的Worker+MQ,又叫做可靠消息方式。另外,将任务的查询和执行分工,形成父子任务,达到真正的分布式任务,也能提升Worker效率。

  1. package com.itlong.bjxizhan.support.web.job.base;
  2. import com.itlong.bjxizhan.common.DbContext;
  3. import com.itlong.bjxizhan.domain.pojo.Task;
  4. import com.itlong.bjxizhan.support.web.service.StandardTaskService;
  5. import org.slf4j.Logger;
  6. import org.slf4j.LoggerFactory;
  7. import java.util.List;
  8. /**
  9. * Created by shenhongxi on 2016/7/12.
  10. */
  11. public class JobRunnable implements Runnable {
  12. private static final Logger log = LoggerFactory.getLogger(JobRunnable.class);
  13. private StandardTaskService standardTaskService;
  14. private List<Task> tasks;
  15. private String dbKey;
  16. private String tableIndex;
  17. @Override
  18. public void run() {
  19. if (tasks != null) {
  20. try {
  21. DbContext.setDbKey(dbKey);
  22. DbContext.setTableIndex(tableIndex);
  23. for (Task task : tasks) {
  24. task.setTableIndex(tableIndex);
  25. // 1. 一个job的多个实例,谁先成功锁定任务,谁先处理任务,若处理失败则解锁任务
  26. // 2. 对于1中解锁失败的,要利用另外的job来专门进行解锁
  27. // 3. 将任务分成几批,并行处理
  28. // 4. 这些任务的子任务分批串行处理,同样有锁定-处理-失败解锁
  29. // 5. 对于4中解锁失败的,同样要利用另外的job来专门进行解锁
  30. boolean locked = standardTaskService.lock(task);
  31. if (!locked) continue;
  32. boolean result = standardTaskService.process(task);
  33. standardTaskService.finished(result, task);
  34. }
  35. } catch (Exception e) {
  36. log.error("Do task error", e);
  37. throw new RuntimeException("Do task error");
  38. }
  39. }
  40. }
  41. public List<Task> getTasks() {
  42. return tasks;
  43. }
  44. public void setTasks(List<Task> tasks) {
  45. this.tasks = tasks;
  46. }
  47. public StandardTaskService getStandardTaskService() {
  48. return standardTaskService;
  49. }
  50. public void setStandardTaskService(StandardTaskService standardTaskService) {
  51. this.standardTaskService = standardTaskService;
  52. }
  53. public String getTableIndex() {
  54. return tableIndex;
  55. }
  56. public void setTableIndex(String tableIndex) {
  57. this.tableIndex = tableIndex;
  58. }
  59. public String getDbKey() {
  60. return dbKey;
  61. }
  62. public void setDbKey(String dbKey) {
  63. this.dbKey = dbKey;
  64. }
  65. }

***:org.quartz.Scheduler提供了start, bystand等方法可以对Scheduler进行管控

Worker+MQ解惑的更多相关文章

  1. 基于queue的python多进程日志管理

    在我们的异常检测应用中,需要对每组IoT设备分别训练一个模型,每个模型对一组设备的指标数据进行实时异常检测.方案采用master-worker+消息队列的方式实现模型对外服务,但是每个worker的日 ...

  2. Spark技术内幕:Client,Master和Worker 通信源码解析

    http://blog.csdn.net/anzhsoft/article/details/30802603 Spark的Cluster Manager可以有几种部署模式: Standlone Mes ...

  3. celery rabbit mq 详解

    Celery介绍和基本使用 Celery 是一个 基于python开发的分布式异步消息任务队列,通过它可以轻松的实现任务的异步处理, 如果你的业务场景中需要用到异步任务,就可以考虑使用celery, ...

  4. Java异常处理机制难点解惑-用代码说话

    是否需要看这篇文章? 下面的例子中,如果正常执行返回值多少? 如果出现了ArithmeticException返回值多少? 如果出现非ArithmeticException(如NullPointerE ...

  5. 关于MQ,你必须知道的

    我走过最长的路是你的套路 女:二号男嘉宾,假如我们牵手成功后,你会买名牌包包给我吗? 男:那你会听话吗? 女:会 听话. 男:听话 咱不买! OK那么消息队列MQ有什么套路呢?(这个话题转换生硬度连我 ...

  6. Rabbit MQ 消息确认和持久化机制

    一:确认种类 RabbitMQ的消息确认有两种.一种是消息发送确认,用来确认生产者将消息发送给交换器,交换器传递给队列的过程中消息是否成功投递.发送确认分为两步,一是确认是否到达交换器,二是确认是否到 ...

  7. celery+Rabbit MQ实战记录

    基于以前的一篇文章,celery+Rabbit MQ的安装和使用, 本文更加详细的介绍如何安装和使用celey, Rabbit MQ. 并记录在使用celery时遇到的一些问题. 1.安装 Rabbi ...

  8. RabbitMQ学习笔记(3)----RabbitMQ Worker的使用

    1. Woker队列结构图 这里表示一个生产者生产了消息发送到队列中,但是确有两个消费者在消费同一个队列中的消息. 2. 创建一个生产者 Producer如下: package com.wangx.r ...

  9. Spark技术内幕:Client,Master和Worker 通信源代码解析

    Spark的Cluster Manager能够有几种部署模式: Standlone Mesos YARN EC2 Local 在向集群提交计算任务后,系统的运算模型就是Driver Program定义 ...

随机推荐

  1. web前端入门

    看到很多同学在咨询:学习前端该怎么入门啊.推荐一下前端入门书籍啊什么的,作为一个过来人,我想告诉你一些小小技巧,避免走弯路: 1.先敲再学.如果你是零基础,就不要去每个标签,每个属性地去抠,因为里面有 ...

  2. phonegap 随笔

    开发者论坛 http://bbs.phonegapcn.com/forum.php phone调用android本地方法 http://blog.csdn.net/crazyman2010/artic ...

  3. 敏捷开发(十一)- Scrum Sprint评审会议

    本文主要是为了检测你对SCRUM 评审会议的了解和使用程度, 通过本文你可以检测一下     1.你们的SCRUM 评审会议的过程和步骤    2.SCRUM 评审会议的输出结果一.会议目的     ...

  4. WinForm笔记一:文本框只允许输入数字

    在WinForm的文本框中,有时候只允许数字,而不能输入除数字以外的其他字符,要调用TextBox的KeyPress事件,代码如下: //只允许输入数字 if (e.KeyChar<'0'||e ...

  5. 怎么 得到 DBGrid选中行的数据

    转自:https://zhidao.baidu.com/question/1694035814426308148.html 一般是你鼠标点到哪一行,其DataSet的指针就指到了什么位置你可以直接通过 ...

  6. sql优化--in和exists效率

    系统要求进行SQL优化,对效率比较低的SQL进行优化,使其运行效率更高,其中要求对SQL中的部分in/not in修改为exists/not exists 修改方法如下: in的SQL语句 SELEC ...

  7. (repost)在ARM Linux内核中增加一个新的系统调用

    实验平台内核版本为4.0-rc1,增加一仅仅打印Hello World的syscall,最后我们在用户空间swi验证 实验平台内核版本为4.0-rc1,增加的系统调用仅仅是简单打印一个Hello Wo ...

  8. mac关机快捷键

    1.Ctrl + 关机:弹出关机提示 2.Ctrl + Option + 关机 : 正常关机快捷键 3.Command + Option + 关机 :进入休眠状态 4.Ctrl + Command + ...

  9. Restful随笔

    Rest,即Resources Representational State Transfer(资源表现层状态转化). ·资源(Resources),网络上的一个实体,每种资源对应一个特定的URI(统 ...

  10. html5+css3 文章的展示demo

    index.html   页面的样式 <!DOCTYPE html><html lang="en"> <head> <title>l ...