一、介绍:

1.调度平台能够定时 自动调用我们的脚本或程序,如每周、每天、每隔几小时等;

2.jenkins也可以算一种调度平台 但不是特别好,为了统一化管理、调度还是用专门的任务调度平台比较好

为什么需要调度平台:

1,每个服务器各个服务下的任务管理混乱,生命周期无法统一协调管理

2,定时任务运行异常告警难以统一对接

3.随着时间增长,当定时任务达到几百上千的时候,定时任务就非常难以管理,线上跑了多个定时任务,每个定时任务什么时候运行,属于哪个应用和哪个开发负责等等问题变得很难解决。

4.某一部分需要手动执行,只需选择对应任务执行即可

常用的Cron表达式:

0 * * * * ? 每1分钟触发一次

*/5 * * * *  每5分钟触发一次

*/15 * * * *  每15分钟触发一次

0 0 * * * ? 每天每1小时触发一次
0 0 10 * * ? 每天10点触发一次
0 * 14 * * ? 在每天下午2点到下午2:59期间的每1分钟触发
0 30 9 1 * ? 每月1号上午9点半
0 15 10 15 * ? 每月15日上午10:15触发
*/5 * * * * ? 每隔5秒执行一次
0 */1 * * * ? 每隔1分钟执行一次
0 0 5-15 * * ? 每天5-15点整点触发
0 0/3 * * * ? 每三分钟触发一次
0 0 0 1 * ? 每月1号凌晨执行一次

备注:

下面主要来介绍5k star调度平台

二、搭建5k star调度平台:

功能:

•支持多种脚本语言(python3、javaScript、shell、typescript)•支持在线管理脚本、环境变量、配置文件•支持在线查看任务日志•支持秒级任务设置•支持系统级通知•支持暗黑模式•支持手机端操作

安装方式1:

推荐大家使用docker进行安装,没有安装docker的朋友,先去安装docker环境

安装好了docker之后,拉取镜像:

docker pull whyour/qinglong:latest

把镜像拉下来后,运行镜像:

docker run -dit \
-v $PWD/ql/config:/ql/config \
-v $PWD/ql/log:/ql/log \
-v $PWD/ql/db:/ql/db \
-v $PWD/ql/repo:/ql/repo \
-v $PWD/ql/raw:/ql/raw \
-v $PWD/ql/data/scripts:/ql/data/scripts \
-v $PWD/ql/scripts:/ql/scripts \
-p 5700:5700 \
--name qinglong \
--hostname qinglong \
--restart unless-stopped \
whyour/qinglong:latest

解释:-dit后台交互终端运行,-v挂载目录到宿主机($PWD表示当前路径),-p表示映射端口,--name表示镜像名称

安装方式二:docker-compose 部署

sudo curl -L https://github.com/docker/compose/releases/download/1.16.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
mkdir qinglong
wget https://raw.githubusercontent.com/whyour/qinglong/master/docker-compose.yml # 启动
docker-compose up -d
# 停止
docker-compose down

安装成功后,我们可以打开http://localhost:5700 (注意这里的端口以你系统提示为准)

打开后是一个初始化系统的页面

 我们还可以配置相关的消息提醒,支持钉钉、企业微信、邮件等形式的提醒。

 成功设置之后,这就是我们的一个页面。

三、如何使用:

1.在平台编写脚本(脚本管理-》添加脚本-》编写脚本-》去定时任务执行脚本)

2.执行linux下的脚本

  运行容器的时候需要挂载对应目录  -v $PWD/ql/data/scripts:/ql/data/scripts \

把脚本xxx.shell放在宿主机的ql/data/scripts,执行sh ./xxx.shell

把脚本xxx.shell放在宿主机的ql/data/scripts/chenwei1,执行sh chenwei1/xxx.shell

 3.查看执行日志

相关连接:

https://www.csdn.net/tags/OtTagg5sMjU1NDktYmxvZwO0O0OO0O0O.html ..................Cron表达式

https://blog.csdn.net/niehida/article/details/88369954 ..................................................分布式任务调度平台,,小牛定时任务管理,, 调度平台2,,调度平台3

https://www.oschina.net/p/opencron ......................................................................opencron调度 ,,5k star调度 ,,开源定时任务管理系统gocron

https://blog.csdn.net/weixin_41341221/article/details/119349331 .......................python的flask-apscheduler定时任务

https://blog.csdn.net/lly1122334/article/details/115739576  .........................................Python轻量级定时任务库Schedule

https://www.cnblogs.com/xiao987334176/p/10298528.html ....................docker搭建调度平台(

docker pull xuxueli/xxl-job-admin:2.0.1下载失败可以常用2.2.0,,启动xxl-job-admin镜像需要修改版本和数据库名称(2.2.0和2.0.1不一样)
启动xxl-job-admin镜像命令:
docker run -e PARAMS="--spring.datasource.url=jdbc:mysql://宿主机ip:3306/xxl_job?Unicode=true&characterEncoding=UTF-8 --spring.datasource.username=root --spring.datasource.password=123456" -p 8080:8080 -v /tmp:/data/applogs --name xxl-job-admin xuxueli/xxl-job-admin:2.2.0

调度平台&定时任务的更多相关文章

  1. 淘宝TAE平台定时任务包的部署步骤

    淘宝TAE平台定时任务包的部署: 第一步:首先把自己的任务打包成一个jar包.使用maven打包的命令为:mvn clean install 第二步:把任务jar包依赖的jar包全部导出来.使用mav ...

  2. 利用Jenkins自动部署工具间接构建kettle的调度平台

    关于Jenkins的介绍我就不说了,自己百度,因为这个工具调用脚本只是他的功能的冰山一角,其他功能我也不能理解,因为不是那个领域.        下面我就介绍一下为什么我们需要一个调度平台,以及学习完 ...

  3. 联童科技基于incubator-dolphinscheduler从0到1构建大数据调度平台之路

    联童科技是一家智能化母婴童产业平台,从事母婴童行业以及互联网技术多年,拥有丰富的母婴门店运营和系统开发经验,在会员经营和商品经营方面,能够围绕会员需求,深入场景,更贴近合作伙伴和消费者,提供最优服务产 ...

  4. XLearning - 深度学习调度平台

    XLearning - 深度学习调度平台 软件简介 XLearning **** 是奇虎 360 开源的一款支持多种机器学习.深度学习框架调度系统.基于 Hadoop Yarn 完成了对TensorF ...

  5. Yarn和Mesos:资源管理调度平台

    目前得分布式系统中,对于资源管理都采用动态资源划分来取代静态资源划分.它有如下好处: 集群资源利用率高 增加数据共享能力,可以多种计算框架公用一份分布式存储数据. 资源管理抽象模型 概念模型 常见得资 ...

  6. Elastic-Job 分布式调度平台

    概述 referred:http://elasticjob.io/docs/elastic-job-lite/00-overview Elastic-Job是一个分布式调度解决方案,由两个相互独立的子 ...

  7. teprunner测试平台定时任务这次终于稳了

    teprunner测试平台已经有一个多月没有更新了,主要原因是定时任务不够稳定,经过反复试错,找到了解决办法,这次终于稳定了. 本文开发内容 作为测试平台而言,定时任务算是必备要素了,只有跑起来的自动 ...

  8. 分布式调度平台XXL-JOB源码分析-执行器端

    上一篇文章已经说到调度中心端如何进行任务管理及调度,本文将分析执行器端是如何接收到任务调度请求,然后执行业务代码的. XxlJobExecutorApplication为我们执行器的启动项,其中有个X ...

  9. 分布式调度平台XXL-JOB源码分析-调度中心

    架构图 上图是我们要进行源码分析的2.1版本的整体架构图.其分为两大块,调度中心和执行器,本文先分析调度中心,也就是xxl-job-admin这个包的代码. 关键bean 在application.p ...

  10. 分布式调度平台XXL-JOB源码分析-时序图

    整体流程 初始化 任务调度 任务执行 任务回调 注册心跳

随机推荐

  1. 【JS入门小游戏】01-骰子游戏

    01-骰子游戏 游戏出自Udemy的JS课程中提到的一个游戏,课程主要是对JS部分进行详细的从0开始的讲解,本篇文章是对整个游戏的分析,包括HTMK,CSS和JS,也主要对JS进行刨析. 游戏链接:h ...

  2. Centos7基础知识--------创建文件夹、彻底删除文件夹、文件命令

    转载博客园: https://www.cnblogs.com/guns/p/13807285.html

  3. Vulhub 漏洞学习之:Apache HTTPD

    Vulhub 漏洞学习之:Apache HTTPD 目录 Vulhub 漏洞学习之:Apache HTTPD 1 Apache HTTPD 换行解析漏洞(CVE-2017-15715) 1.1 漏洞利 ...

  4. sql 查找连续的时间区间以及连续天数

    create table tmptable(rq datetime) go insert tmptable values('2010.1.1') insert tmptable values('201 ...

  5. webserver 简单demo

    以调用天气服务为例: 1.添加服务引用 2.点窗口做下角(高级->添加web引用->URL输入框输入天气服务地址(http://www.webxml.com.cn/WebServices/ ...

  6. redis(12)持久化操作-RDB

    前言 Redis 提供了 2 个不同形式的持久化方式: RDB(Redis DataBase) AOF(Append Of File) RDB 在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是 ...

  7. Kafka主题,分区,副本介绍

    介绍 今天分享一下kafka的主题(topic),分区(partition)和副本(replication),主题是Kafka中很重要的部分,消息的生产和消费都要以主题为基础,一个主题可以对应多个分区 ...

  8. 深入理解计算机系统(CSAPP)bomblab实验进阶之nuclearlab——详细题解

    前言 本实验是难度高于bomblab的一个补充实验,该实验部分题目难度已经达到CTF入门水平,且这个实验据说是上一届的某个学长原创,因此互联网上几乎找不到类似的题目.在间断地思考了几周后我最终完成了所 ...

  9. python 在一个文件夹的所有文件中查找关键字

    python 在一个文件夹的所有文件中查找关键字 import os,shutil import re key='Hello' re_parttern=re.compile(r''+key,re.DO ...

  10. Anndroid GC 那些事

    内存回收机制对于app性能优化中比较重要部分,我们要做好优化工作,Android GC工作情况我们需要熟知, 因此整理了一下关于GC知识点,主要分为Dalvik与ART两部分 Dalvik堆内存结构: ...