Java应用集群下的定时任务处理方案(mysql)

 

因为自己有csdn和博客园两个博客, 所以两边都会发一下。 csdn地址: http://blog.csdn.net/u012881584/article/details/70194237

今天来说一个Java多机部署下定时任务的处理方案。

需求: 有两台服务器同时部署了同一套代码, 代码中写有spring自带的定时任务,但是每次执行定时任务时只需要一台机器去执行。

当拿到这个需求时我脑子中立马出现了两个简单的解决方案:

  • 利用ip进行判断, 两台机器ip肯定不一样, 指定某一台机器的ip运行。
  • 只在一台机器上部署定时任务的代码。

最后两个方案又都被自己否决了。 第一条,如果指定ip的机器出现了问题怎么办? 例如说宕机了, 那么该制定ip的机器上的定时任务是不是就无法运行了?如果以后该服务器迁移导致ip变化怎么办?
第二条, 同上, 还有就是要维护两套代码很不方便。

因为上面两个假设都不成立, 只能另找他法。 于是便想到利用mysql去解决, 之前了解过一点mysql的锁机制, 知道如果有同时的两个任务去写数据库中同一条记录, 只有一条会成功, 这是利用了mysql的排他锁。(详细内容可以看下我的这篇文章:MySQL中的共享锁与排他锁)

下面就开始代码演示, 这里主要想给大家的是一个思路的提示, 代码还是很简单的。

  • 首先需要单独创建一张表

    CREATE TABLE `t_schedule_cluster` (
    `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '@cname:主键',
    `execute` int(1) NOT NULL COMMENT '@cname:执行状态',
    `version` int(11) NOT NULL COMMENT '@cname:版本号\r\n ',
    `task_name` varchar(128) NOT NULL COMMENT '@cname:任务名称\r\n ',
    `execute_ip` varchar(32) DEFAULT NULL COMMENT '@cname:执行ip\r\n ',
    `update_time` datetime DEFAULT NULL COMMENT '@cname:修改时间\r\n ',
    PRIMARY KEY (`id`),
    KEY `Index_series_id` (`execute`)
    ) ENGINE=InnoDB AUTO_INCREMENT=8 DEFAULT CHARSET=utf8 COMMENT='@cname:多机定时任务调度';

看一下建成后的表结构, 注释写的已经很清楚了, 初始化时需要添加一些定时任务的名称(task_name), 这个要和你代码中保持一致, 后面会提到:

  • 代码
    首先看下我代码中用到的spring定时任务:

    <?xml version="1.0" encoding="UTF-8"?>
    <beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
    xmlns:task="http://www.springframework.org/schema/task"
    xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.2.xsd
    http://www.springframework.org/schema/task http://www.springframework.org/schema/task/spring-task-3.2.xsd"
    default-lazy-init="true">
    <description>使用Spring的 Scheduled的定时任务配置</description>
    <!--支持annotation的方式-->
    <task:annotation-driven />
    <task:scheduler id="springScheduler" pool-size="10"/>
    <task:scheduled-tasks scheduler="springScheduler">
    <!-- 测试使用, 项目启动后每隔一分钟执行一次 -->
    <task:scheduled ref="listCarAction" method="listCar" cron="0 0/1 0 * * ?"/>
    <task:scheduled ref="listCarAction" method="listCar" cron="0 0/1 0 * * ?"/>
    </task:scheduled-tasks>
    </beans>

    相信大家都是用过这种定时任务的设置方法, 因为它是spring自带的, 所以使用起来很方便, 这里我指定了两个定时任务来模拟两台机器的情况, 两个定时任务都是项目启动后每隔一分钟执行一次。

然后看看这个listCar中的代码:

//定时任务的名称, 这个和数据库中的task_name是保持一致的, 保证要执行该定时任务。
public static final String LIST_CAR_TASK = "listCarTask";
private ScheduleClusterTask scheduleClusterTask;
//这个时间是根据spring-scheduler.xml中配置的定时刷新时间, 比如说我们以后要设置这个定时任务时4小时刷新一次
public static final long maxExpireTime = 4 * 3600; public void listCar() {
if (scheduleClusterTask.isValidMachine(maxExpireTime, CommonConstants.ScheduleTaskName.LIST_CAR_TASK)) {
//执行具体的task方法,
doTask();
//将execute状态更新为0
scheduleClusterTask.end(LIST_CAR_TASK);
}
}

最后看下最核心的代码:ScheduleClusterTask.java

/**
* 多机定时任务工具类
* Created by WangMeng on 2017/4/12.
*/
@Service
public class ScheduleClusterTask { private ScheduleClusterEntityService scheduleClusterEntityService; /**
* 这里因为两台机器都有同样的定时任务, 会同时执行这个方法,只有一台机器可以执行成功,返回true。
* @param maxExpireTime 最大的检查时间。
* @param taskName 任务名称。
* @return
*/
public boolean isValidMachine(long maxExpireTime, String taskName) {
boolean isValid = false;
try {
//通过taskName去数据库中查找到该条记录, 如果大家使用的是mybatis这里需要改一下, 就是一个简单的查询操作
ScheduleClusterEntity carIndexEntity = scheduleClusterEntityService.findOne(ScheduleClusterEntity.Fields.taskName.eq(taskName));
int execute = carIndexEntity.getExecute();
String ip = InetAddress.getLocalHost().getHostAddress();
long currentTimeMillis = System.currentTimeMillis();
long time = carIndexEntity.getUpdateTime().getTime();
if (execute == 0 && time + maxExpireTime - 1000 < currentTimeMillis) {
isValid = checkMachine(taskName, carIndexEntity, ip);
} else if (time + maxExpireTime - 1000 < currentTimeMillis){
//这里要判断下, 如果上一次执行出现异常导致execute没有更新为0, 那么这里要判断上一次更新时间的间隔。
isValid = checkMachine(taskName, carIndexEntity, ip);
}
} catch (UnknownHostException e) {
e.printStackTrace();
}
return isValid;
} /**
* end方法主要是将excute(是否正在执行的标志位,0:没有执行, 1:正在执行)更新为0
* @param taskName
* @return
*/
public boolean end (String taskName) {
ScheduleClusterEntity carIndexEntity = scheduleClusterEntityService.findOne(ScheduleClusterEntity.Fields.taskName.eq(taskName));
//将execute状态更新为0
return scheduleClusterEntityService.end(carIndexEntity);
} private boolean checkMachine(String taskName, ScheduleClusterEntity carIndexRefresh, String ip) {
return scheduleClusterEntityService.start(taskName, carIndexRefresh.getVersion(), ip);
} @Autowired
public void setScheduleClusterEntityService(ScheduleClusterEntityService scheduleClusterEntityService) {
this.scheduleClusterEntityService = scheduleClusterEntityService;
}
}

这里还有start方法, 看看怎样的操作:

@Repository
public class DefaultScheduleClusterEntityDao extends AbstractDao<ScheduleClusterEntity> implements ScheduleClusterEntityDao {
@Override
public boolean start(String taskName, int version, String ip) {
String sql = "update t_schedule_cluster set execute = 1, " +
"version = ?, execute_ip = ?, update_time = ?" +
" where task_name = ? and version = ?";
Sql s = new Sql(sql);
s.addParam(version + 1);
s.addParam(ip);
s.addParam(SqlTimeUtils.nowTimestamp());
s.addParam(taskName);
s.addParam(version);
return 1 == executeUpdate(s);
}
}

核心的代码到了这里就没有了, 代码确实是非常非常的简单, 有兴趣的话大家可以在本地测试一下就可以。
当然还有更多很好地解决方案, 我这里秉承的是最简单的处理方式, 如果大家对我这个方案有疑问或者做的不好的地方都希望大家能够提出来, 谢谢了, 最后贴上两个其他的解决方案:
Java通过redis管理你的集群定时任务:http://www.jianshu.com/p/48c5b11b80cd
Quartz在Spring中集群: http://sundoctor.iteye.com/blog/486055

Java应用集群下的定时任务处理方案(mysql)的更多相关文章

  1. Java多机部署下的定时任务处理方案(mysql)

    因为自己有csdn和博客园两个博客, 所以两边都会发一下. csdn地址: http://blog.csdn.net/u012881584/article/details/70194237 今天来说一 ...

  2. 如何解决quartz在集群下出现的资源抢夺现象

    Quartz是一个开源的作业调度框架,它完全由Java写成,并设计用于J2SE和J2EE应用中.它提供了巨大的灵活性而不牺牲简单性.你能够用它来为执行一个作业而创建简单的或复杂的调度,简单的说就是可以 ...

  3. Docker Swarm java 服务集群

    Docker Swarm java 服务集群 环境1: 系统:Linux Centos 7.4 x64 内核:Linux docker 3.10.0-693.2.2.el7.x86_64 Docker ...

  4. 集群下使用redis统一session处理

    pom依赖(快照版): <dependency> <groupId>org.springframework.session</groupId> <artifa ...

  5. Redis集群下过期key监听

    1. 前言 在使用redis集群时,发现过期key始终监听不到.网上也没有现成的解决方案.于是想,既然不能监听集群,那我可以建立多个redis连接,分别对每个redis的key过期进行监听.以上做法可 ...

  6. 用redis实现TOMCAT集群下的session共享

    上篇实现了 LINUX中NGINX反向代理下的TOMCAT集群(http://www.cnblogs.com/yuanjava/p/6850764.html) 这次我们在上篇的基础上实现session ...

  7. redis入门(14)redis集群下的数据分区存储

    redis入门(10)redis集群下的数据分区存储

  8. Spark Storage(一) 集群下的区块管理

    Storage模块 在Spark中提及最多的是RDD,而RDD所交互的数据是通过Storage来实现和管理 Storage模块整体架构 1. 存储层 在Spark里,单节点的Storage的管理是通过 ...

  9. was集群下基于接口分布式架构和开发经验谈

    版权声明:本文为博主原创文章,未经博主同意不得转载. https://blog.csdn.net/luozhonghua2014/article/details/34084935    某b项目是我首 ...

随机推荐

  1. ireport表单制作

    关于ireport的表单制作,可参考http://blog.csdn.net/wlwlwlwl015/article/details/51312853 这里主要讲解下如何在表单中加入table,如何让 ...

  2. Oracle DB 使用子查询来解决查询

    • 定义子查询 • 描述子查询可以解决的问题类型 • 列出子查询的类型 • 编写单行和多行子查询   • 子查询:类型.语法和准则 • 单行子查询: – 子查询中的组函数 – 带有子查询的HAVING ...

  3. 【LeetCode】跳跃游戏

    给定一组非负整数,初始时处于数组的第一位下标 0 的位置,数组的每个元素代表那个位置可以跳跃的最大长度.判断你是否能够到达数组的最后一位下标. e.g. A = [2, 3, 1, 1, 4],返回 ...

  4. FJUT16级第一周寒假作业题解G题

    题目链接:http://210.34.193.66:8080/vj/Contest.jsp?cid=160#P6 涨姿势题1 TimeLimit:1000MS  MemoryLimit:128000K ...

  5. Python面向对象之继承

    前言: 继承是面向对象的3大特性之一,对于继承一点要注意一下4点. 一.基本查找 如果子类继承了父类,子类的实例化对象,没有的方法和属性会去父类找 class Parent(object): #父类 ...

  6. nc(netcat)扫描开放端口

    探测单个端口是否开放可以用telnet,专业探测端口可以用Nmap,而对于非渗透用途的Linux可以直接用netcat. 1.使用netcat探测端口是否开放 nc -z -v - #z代表不交互要不 ...

  7. windows工具打开命令

    程序 命令 位置 记事本 notepad C:\Windows\system32 ping ping C:\Windows\System32 服务管理器 services.msc C:\Windows ...

  8. 剑指 offer 面试题31 连续子数组的最大和(动态规划)

    求连续子数组的最大和 题目描述 给定一个整形数组,有正数也有负数,数组中连续一个或多个组成一个子数组,求所有子数组的和的最大值,要求时间复杂度为O(n); 测试用例 给定数组 {1,-2,3,10,- ...

  9. globals() 和 locals() 函数

    globals() 和 locals() 函数 根据调用地方的不同,globals() 和 locals() 函数可被用来返回全局和局部命名空间里的名字. 如果在函数内部调用 locals(),返回的 ...

  10. zabbix_server.conf、zabbix_agentd.conf配置文件详解

    zabbix_server.conf配置文件详解 AlertScriptsPath 默认值:/usr/local/share/zabbix/alertscripts 说明:告警脚本目录 AllowRo ...