在elastic-job详解(三):Job的手动触发功能一文中讲到了如何手动触发一个Job,但是我们手动触发的时候常常需要输入一些参数.举个栗子:我们有个日统计报表,每天凌晨统计一次,统计上一天的数据.但我们发现几天前的某一天的数据有问题,需要重跑统计.这就需要统计程序能执行指定某一天的数据.这个功能就可以使用自定义任务参数来轻松实现.自定义参数,可通过传递该参数为作业调度的业务方法传参,用于实现带参数的作业.例:每次获取的数据量.作业实例从数据库读取的主键.执行某一天的任务等. 1. 支持自定

作者简介: 张亮,当当网架构师.当当技术委员会成员.消息中间件组负责人.对架构设计.分布式.优雅代码等领域兴趣浓厚.目前主导当当应用框架ddframe研发,并负责推广及撰写技术白皮书.   一.为什么需要作业(定时任务)? 作业即定时任务.一般来说,系统可使用消息传递代替部分使用作业的场景.两者确有相似之处.可互相替换的场景,如队列表.将待处理的数据放入队列表,然后使用频率极短的定时任务拉取队列表的数据并处理.这种情况使用消息中间件的推送模式可更好的处理实时性数据.而且基于数据库的消息存储吞吐量

摘要: Elastic-Job是ddframe中dd-job的作业模块中分离出来的分布式弹性作业框架.去掉了和dd-job中的监控和ddframe接入规范部分.该项目基于成熟的开源产品Quartz和Zookeeper及其客户端Curator进行二次开发. ddframe其他模块也有可独立开源的部分,之前当当曾开源过dd-soa的基石模块DubboX. 项目开源地址:https://github.com/dangdangdotcom/elastic-job Elastic-Job是ddframe中

上文我们讲到Springboot整合Elastic-Job整合的demo,只是简单的实现了主要功能.本文在上文基础上,进行新的调整. 事件追踪 Elastic-Job提供了事件追踪功能,可通过事件订阅的方式处理调度过程的重要事件,用于查询.统计和监控.Elastic-Job目前提供了基于关系型数据库两种事件订阅方式记录事件.我们只需要将添加如下配置即可 /** * 将作业运行的痕迹进行持久化到DB */ @Bean public JobEventConfiguration jobEventCon

Elastic-Job是当当网的任务调度开源框架,有以下功能 分布式调度协调 弹性扩容缩容 失效转移 错过执行作业重触发 作业分片一致性,保证同一分片在分布式环境中仅一个执行实例 自诊断并修复分布式不稳定造成的问题 支持并行调度 支持作业生命周期操作 丰富的作业类型 Spring整合以及命名空间提供 运维平台 具体信息可以查看 官网,Elastic-Job的文档很详细,同时也有相应的demo.但是,美中不足的是他的springboot版本的demo用的是xml结构的.网上的例子都有点乱,花了点时

本文介绍SpringBoot整合Elastic-Job分布式调度任务(简单任务). 1.有关Elastic-Job Elastic-Job是当当网开源的分布式任务调度解决方案,是业内使用较多的分布式调度解决方案. 这里主要介绍Elastic-Job-Lite,Elastic-Job-Lite定位为轻量级无中心化解决方案,使用jar包的形式提供最轻量级的分布式任务的协调服务,外部依赖仅Zookeeper. 架构图如下: Elastic-Job官网地址:http://elasticjob.io/in

先说这个Sharding item parameters '1' format error, should be int=xx,int=xx异常吧,这是在做动态添加调度任务的时候出现的,网上找了一会没有搜到任何信息,最后发现,是添加任务这个方法里有一个漏洞. 这个源码出自: private ShardingItem parse(final String shardingItemParameter, final String originalShardingItemParameters) { St

作业配置 与Spring容器配合使用作业,可以将作业Bean配置为Spring Bean,可在作业中通过依赖注入使用Spring容器管理的数据源等对象.可用placeholder占位符从属性文件中取值. Spring命名空间配置 <?xml version="1.0" encoding="UTF-8"?> <!-- - Copyright - Alibaba Group. - - Licensed under the Apache License,

elastic-job中最关键的特性之一就是失效转移.配置了失效转移之后,如果在任务执行过程中有一个执行实例挂了,那么之前被分配到这个实例的任务(或者分片)会在下次任务执行之前被重新分配到其他正常节点实例上执行. 简单的HA 当某一个任务实例节点宕机(离开与zookeeper的连接),会触发elastic-job主节点的重新分片逻辑.elastic-job启动任务节点以后生成的zookeeper中的instance节点是一个临时节点EPHEMERAL.为什么要用EPHEMERAL节点,就是为了能

JobScheduler是elastic-job作业调度的关键类,也是起始类,在包com.dangdang.ddframe.job.lite.api下.调度任务的执行需要包含两大步骤:任务的配置和任务的注册.JobScheduler的构造函数除了任务配置和注册相关信息之外还有事件和监听.后两者是elastic-job的扩展功能,我们后续再介绍. 任务的配置 由于内部使用quartz作为任务调度框架,任务的配置的相关的基础信息也是和quartz一致的.elastic-job的任务配置类在quart

数据分片的目的在于把一个任务分散到不同的机器上运行,既可以解决单机计算能力上限的问题,也能降低部分任务失败对整体系统的影响.elastic-job并不直接提供数据处理的功能,框架只会将分片项分配至各个运行中的作业服务器(其实是Job实例,部署在一台机器上的多个Job实例也能分片),开发者需要自行处理分片项与真实数据的对应关系.框架也预置了一些分片策略:平均分配算法策略,作业名哈希值奇偶数算法策略,轮转分片策略.同时也提供了自定义分片策略的接口. 分片原理 elastic-job的分片是通过zoo

Elastic-Job是ddframe中dd-job的作业模块中分离出来的分布式弹性作业框架.去掉了和dd-job中的监控和ddframe接入规范部分.该项目基于成熟的开源产品Quartz和Zookeeper及其客户端Curator进行二次开发. 项目开源地址:https://github.com/dangdangdotcom/elastic-job ddframe其他模块也有可独立开源的部分,之前当当曾开源过dd-soa的基石模块DubboX. elastic-job和ddframe关系见下图

Elastic-Job支持 JAVA API 和 Spring 配置两种方式配置任务,这里我们使用 JAVA API 的形式来创建一个简单的任务入门,现在都是 Spring Boot 时代了,所以不建议使用 Spring 配置文件的形式. Elastic-Job 需要依赖 Zookeeper 中间件,用于注册和协调作业分布式行为的组件,目前仅支持 Zookeeper.我们已经创建了 Zookeeper 集群! 环境要求 1.Java 请使用 JDK 1.7 及其以上版本. 2.Zookeeper

大多数情况下,定时任务我们一般使用quartz开源框架就能满足应用场景.但如果考虑到健壮性等其它一些因素,就需要自己下点工夫,比如:要避免单点故障,至少得部署2个节点吧,但是部署多个节点,又有其它问题,有些数据在某一个时刻只能处理一次,比如 i = i+1 这些无法保证幂等的操作,run多次跟run一次,完全是不同的效果.   对于上面的问题,我曾经自行设计过一个基于zk分布式锁的解决方案: 1.每类定时job,可以分配一个独立的标识(比如:xxx_job) 2.这类job的实例,部署在多个节点

当当的Elastic-Job开源出了两种分布式Job的解决方案:1. elastic-job-lite,这是一个无中心节点的调度: Elastic-Job-Lite定位为轻量级无中心化解决方案,使用jar包的形式提供分布式任务的协调服务. 2. elastic-job-cloud是一个有中心节点的分布式调度开源工具 Elastic-Job-Cloud使用Mesos + Docker(TBD)的解决方案,额外提供资源治理.应用分发以及进程隔离等服务.Elastic-Job-Lite和Elastic

任务调度 定时任务调度:基于给定的时间点.给定的时间间隔.给定的执行次数自动执行的任务. Timer 介绍 Timer,简单无门槛,一般也没人用. Timer位于java.util包下,其内部包含且仅包含一个后台线程(TimeThread)对多个业务任务(TimeTask)进行定时定频率的调度. 参数说明: task:所要执行的任务,需要extends TimeTask override run() time/firstTime:首次执行任务的时间 period:周期性执行Task的时间间隔,单

开发指南 代码开发 作业类型 目前提供3种作业类型,分别是Simple,DataFlow和Script. DataFlow类型用于处理数据流,它又提供2种作业类型,分别是ThroughputDataFlow和SequenceDataFlow.需要继承相应的抽象类. Script类型用于处理脚本,可直接使用,无需编码. 方法参数shardingContext包含作业配置,分片和运行时信息.可通过getShardingTotalCount(),getShardingItems()等方法分别获取分片总

Elastic-Job - 分布式定时任务框架 摘要 Elastic-Job是ddframe中dd-job的作业模块中分离出来的分布式弹性作业框架.去掉了和dd-job中的监控和ddframe接入规范部分.该项目基于成熟的开源产品Quartz和Zookeeper及其客户端Curator进行二次开发. ddframe其他模块也有可独立开源的部分,之前当当曾开源过dd-soa的基石模块DubboX. 项目开源地址:https://github.com/dangdangdotcom/elastic-j

前段时间项目开发中用到了当当开源的elastic-job,使用过程遇到一些问题,虽然不见得会影响写代码,但作为一个致力于搬好每一块砖的码农,当碰到问题时,我们不应该逃避,应该本着有困难也要上,没有困难创造困难也要上的精神冲上去搞定它,这样才能更容易了解事情的本质,才能有利于以后搬好每一块砖,佝偻者承蜩如是,我等搬砖亦复如是. --------------------------------------------------------------------------------------

JobScheduler这个类是EJ中比较核心的一个类,我们现在开始解析这个类. 一.构造器 首先我们看一下JobScheduler的几个构造器. private JobScheduler(final CoordinatorRegistryCenter regCenter, final LiteJobConfiguration liteJobConfig, final JobEventBus jobEventBus, final ElasticJobListener... elasticJobL