Java多机部署下的定时任务处理方案(mysql)
因为自己有csdn和博客园两个博客, 所以两边都会发一下。 csdn地址: http://blog.csdn.net/u012881584/article/details/70194237
今天来说一个Java多机部署下定时任务的处理方案。
需求: 有两台服务器同时部署了同一套代码, 代码中写有spring自带的定时任务,但是每次执行定时任务时只需要一台机器去执行。
当拿到这个需求时我脑子中立马出现了两个简单的解决方案:
- 利用ip进行判断, 两台机器ip肯定不一样, 指定某一台机器的ip运行。
- 只在一台机器上部署定时任务的代码。
最后两个方案又都被自己否决了。 第一条,如果指定ip的机器出现了问题怎么办? 例如说宕机了, 那么该制定ip的机器上的定时任务是不是就无法运行了?如果以后该服务器迁移导致ip变化怎么办?
第二条, 同上, 还有就是要维护两套代码很不方便。
因为上面两个假设都不成立, 只能另找他法。 于是便想到利用mysql去解决, 之前了解过一点mysql的锁机制, 知道如果有同时的两个任务去写数据库中同一条记录, 只有一条会成功, 这是利用了mysql的排他锁。(详细内容可以看下我的这篇文章:MySQL中的共享锁与排他锁)
下面就开始代码演示, 这里主要想给大家的是一个思路的提示, 代码还是很简单的。
- 首先需要单独创建一张表
CREATE TABLE `t_schedule_cluster` (
`id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '@cname:主键',
`execute` int(1) NOT NULL COMMENT '@cname:执行状态',
`version` int(11) NOT NULL COMMENT '@cname:版本号\r\n ',
`task_name` varchar(128) NOT NULL COMMENT '@cname:任务名称\r\n ',
`execute_ip` varchar(32) DEFAULT NULL COMMENT '@cname:执行ip\r\n ',
`update_time` datetime DEFAULT NULL COMMENT '@cname:修改时间\r\n ',
PRIMARY KEY (`id`),
KEY `Index_series_id` (`execute`)
) ENGINE=InnoDB AUTO_INCREMENT=8 DEFAULT CHARSET=utf8 COMMENT='@cname:多机定时任务调度';
看一下建成后的表结构, 注释写的已经很清楚了, 初始化时需要添加一些定时任务的名称(task_name), 这个要和你代码中保持一致, 后面会提到:
- 代码
首先看下我代码中用到的spring定时任务:
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xmlns:task="http://www.springframework.org/schema/task"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.2.xsd
http://www.springframework.org/schema/task http://www.springframework.org/schema/task/spring-task-3.2.xsd"
default-lazy-init="true">
<description>使用Spring的 Scheduled的定时任务配置</description>
<!--支持annotation的方式-->
<task:annotation-driven />
<task:scheduler id="springScheduler" pool-size="10"/>
<task:scheduled-tasks scheduler="springScheduler">
<!-- 测试使用, 项目启动后每隔一分钟执行一次 -->
<task:scheduled ref="listCarAction" method="listCar" cron="0 0/1 0 * * ?"/>
<task:scheduled ref="listCarAction" method="listCar" cron="0 0/1 0 * * ?"/>
</task:scheduled-tasks>
</beans>
相信大家都是用过这种定时任务的设置方法, 因为它是spring自带的, 所以使用起来很方便, 这里我指定了两个定时任务来模拟两台机器的情况, 两个定时任务都是项目启动后每隔一分钟执行一次。
然后看看这个listCar中的代码:
//定时任务的名称, 这个和数据库中的task_name是保持一致的, 保证要执行该定时任务。
public static final String LIST_CAR_TASK = "listCarTask";
private ScheduleClusterTask scheduleClusterTask;
//这个时间是根据spring-scheduler.xml中配置的定时刷新时间, 比如说我们以后要设置这个定时任务时4小时刷新一次
public static final long maxExpireTime = 4 * 3600;
public void listCar() {
if (scheduleClusterTask.isValidMachine(maxExpireTime, CommonConstants.ScheduleTaskName.LIST_CAR_TASK)) {
//执行具体的task方法,
doTask();
//将execute状态更新为0
scheduleClusterTask.end(LIST_CAR_TASK);
}
}
最后看下最核心的代码:ScheduleClusterTask.java
/**
* 多机定时任务工具类
* Created by WangMeng on 2017/4/12.
*/
@Service
public class ScheduleClusterTask {
private ScheduleClusterEntityService scheduleClusterEntityService;
/**
* 这里因为两台机器都有同样的定时任务, 会同时执行这个方法,只有一台机器可以执行成功,返回true。
* @param maxExpireTime 最大的检查时间。
* @param taskName 任务名称。
* @return
*/
public boolean isValidMachine(long maxExpireTime, String taskName) {
boolean isValid = false;
try {
//通过taskName去数据库中查找到该条记录, 如果大家使用的是mybatis这里需要改一下, 就是一个简单的查询操作
ScheduleClusterEntity carIndexEntity = scheduleClusterEntityService.findOne(ScheduleClusterEntity.Fields.taskName.eq(taskName));
int execute = carIndexEntity.getExecute();
String ip = InetAddress.getLocalHost().getHostAddress();
long currentTimeMillis = System.currentTimeMillis();
long time = carIndexEntity.getUpdateTime().getTime();
if (execute == 0 && time + maxExpireTime - 1000 < currentTimeMillis) {
isValid = checkMachine(taskName, carIndexEntity, ip);
} else if (time + maxExpireTime - 1000 < currentTimeMillis){
//这里要判断下, 如果上一次执行出现异常导致execute没有更新为0, 那么这里要判断上一次更新时间的间隔。
isValid = checkMachine(taskName, carIndexEntity, ip);
}
} catch (UnknownHostException e) {
e.printStackTrace();
}
return isValid;
}
/**
* end方法主要是将excute(是否正在执行的标志位,0:没有执行, 1:正在执行)更新为0
* @param taskName
* @return
*/
public boolean end (String taskName) {
ScheduleClusterEntity carIndexEntity = scheduleClusterEntityService.findOne(ScheduleClusterEntity.Fields.taskName.eq(taskName));
//将execute状态更新为0
return scheduleClusterEntityService.end(carIndexEntity);
}
private boolean checkMachine(String taskName, ScheduleClusterEntity carIndexRefresh, String ip) {
return scheduleClusterEntityService.start(taskName, carIndexRefresh.getVersion(), ip);
}
@Autowired
public void setScheduleClusterEntityService(ScheduleClusterEntityService scheduleClusterEntityService) {
this.scheduleClusterEntityService = scheduleClusterEntityService;
}
}
这里还有start方法, 看看怎样的操作:
@Repository
public class DefaultScheduleClusterEntityDao extends AbstractDao<ScheduleClusterEntity> implements ScheduleClusterEntityDao {
@Override
public boolean start(String taskName, int version, String ip) {
String sql = "update t_schedule_cluster set execute = 1, " +
"version = ?, execute_ip = ?, update_time = ?" +
" where task_name = ? and version = ?";
Sql s = new Sql(sql);
s.addParam(version + 1);
s.addParam(ip);
s.addParam(SqlTimeUtils.nowTimestamp());
s.addParam(taskName);
s.addParam(version);
return 1 == executeUpdate(s);
}
}
核心的代码到了这里就没有了, 代码确实是非常非常的简单, 有兴趣的话大家可以在本地测试一下就可以。
当然还有更多很好地解决方案, 我这里秉承的是最简单的处理方式, 如果大家对我这个方案有疑问或者做的不好的地方都希望大家能够提出来, 谢谢了, 最后贴上两个其他的解决方案:
Java通过redis管理你的集群定时任务:http://www.jianshu.com/p/48c5b11b80cd
Quartz在Spring中集群: http://sundoctor.iteye.com/blog/486055
Java多机部署下的定时任务处理方案(mysql)的更多相关文章
- Java应用集群下的定时任务处理方案(mysql)
Java应用集群下的定时任务处理方案(mysql) 因为自己有csdn和博客园两个博客, 所以两边都会发一下. csdn地址: http://blog.csdn.net/u012881584/ar ...
- 使用ZooKeeper协调多台Web Server的定时任务处理(方案1)
背景说明: 有一套Web服务程序, 为了保证HA, 需要在多台服务器上部署, 该服务程序有一些定时任务要执行, 现在要保证的是, 同一定时任务不会在多台机器上被同时执行. 方案1 --- 任务级的主备 ...
- 使用ZooKeeper协调多台Web Server的定时任务处理(方案2)
承接上个博文, 这次是方案2的实现, 本方案的特点:1. 该方案能很好地从几台服务器中选出一个Master机器, 不仅仅可以用于定时任务场景, 还可以用在其他场景下. 2. 该方案能实现Master节 ...
- 【Tech】CAS多机部署Server和Java Client端
昨天尝试把cas的java client端部署到另外一台机器,结果就有问题了.(localhost部署cas server和java client端参见:http://www.cnblogs.com/ ...
- 学习用Node.js和Elasticsearch构建搜索引擎(5):mac本机部署canal
1.背景介绍 最近做的一个项目需要快速检索数据,经过商讨后采用了ElasticSearch作为快速检索数据引擎,但是数据如何同步到ES中是个问题,我们最开始计划了定时任务.mysql trigger等 ...
- 【Data Cluster】真机环境下MySQL数据库集群搭建
真机环境下MySQL-Cluster搭建文档 摘要:本年伊始阶段,由于实验室对不同数据库性能测试需求,才出现MySQL集群搭建.购置主机,交换机,双绞线等一系列准备工作就绪,也就开始集群搭建.起初笔 ...
- 使用cwRsync实现windows下文件定时同步【转】
1.参考文献: 使用cwRsync实现windows下文件定时同步(备份) 文件同步工具CwRsync的使用方法及常用命令详解 2.背景: 当前的SCADA架构中,有1台Server,5台FE,还有1 ...
- 一个Web Project引用多个Java Project在Eclipse下的配置--转载
项目结构: 项目由一个Web Project和多个Java Project构成,Web Project需要引用其它Java Project的类和Jar包.开发时用Eclipse3.5和Tomcat调试 ...
- Fabric 1.0的多机部署
Fabric1.0已经正式发布一段时间了,官方给出的单机部署的脚本也很完备,基本上傻瓜式的一键部署,直接运行官方的network_setup.sh up即可.但是在实际生产环境,我们不可能把所有的节点 ...
随机推荐
- C# Redis之ServiceStack
前面几篇博客基本把redis基本操作学习了下,但一些高级应用并没有写进博客,例如持久化.虚拟内存等,像这些主要是通过配置文件来解决的,运维方向可能更侧重一些,对于开发者来说,可能就想知道怎么用C#来和 ...
- 简单却又复杂的FizzBuzz面试编程问题
写这篇文章主要是因为偶然看到一篇关于stackoverflow公司的面经中提到了一个有趣的面试编程问题,如题所述:FizzBuzz问题.原文引用如下: “在一些公平的考验之后,我发现那些因为代码而抓狂 ...
- 关于Java空指针的控制(转)
1)在已经的String(字符串)调用 equal()和 equalsingnoreCase()而不是未知的对象 通常在已经的非空字符串在调用equals().因为equal()方法是对称的,调用a. ...
- 安全体系(三)——SHA1算法详解
本文主要讲述使用SHA1算法计算信息摘要的过程. 安全体系(零)—— 加解密算法.消息摘要.消息认证技术.数字签名与公钥证书 安全体系(一)—— DES算法详解 安全体系(二)——RSA算法详解 为保 ...
- React 进修之路(2)
生命周期 React中的组件被看成是一个有生命的个体,因此赋予了声明周期的概念,就是为了定义组件所处的状态 React中组件共分三大周期,11个阶段 创建期(少年,成长)组件创建时候进入的时期 get ...
- linux apache添加多站点配置(Ubuntn和Centos)
Linux Apache 多站点配置 Centos 配置方式: 找到 /etc/httpd/conf/http.conf 添加监听端口,eg: Listen 89 虚拟机配置,一个端口对应一个 &l ...
- 计算两个YUV420P像素数据的PSNR---高等算法
PSNR是最基本的视频质量评价方法.本程序中的函数可以对比两张YUV图片中亮度分量Y的PSNR.函数的代码如下所示. /** * Calculate PSNR between 2 YUV420P fi ...
- IIS 部署ASP.Net, WebAPI, Restful API, PUT/DELETE 报405错解决办法, webapi method not allowed 405
WebDAV 是超文本传输协议 (HTTP) 的一组扩展,为 Internet 上计算机之间的编辑和文件管理提供了标准.利用这个协议用户可以通过Web进行远程的基本文件操作,如拷贝.移动.删除等.在I ...
- Java中static的特点
前两天面试时被问到静态的特点,当时回答地不是很好,现在来总结一下 在了解某样东西的时候我们通常会从它是什么,为什么,和怎么样在三方面来衡量,对于java中的static,我们也这样讨论下,要明确以下几 ...
- wamp虚拟服务器
1.安装好wampServer 2.修改配置文件包含 vhosts 文件,操作: 打开apache的配置文件httpd.conf,并去掉#Include conf/extra/httpd-vhosts ...