crontab定时执行datax
记录下使用crontab,datax定时同步数据遇到的问题。
1.开始使用如下配置,死活不执行。网上说crontab环境便利的问题,设置了也没反应。
[root@hxjk_test_mysql_redis_file test]# crontab -l
SHELL=/bin/bash
* 1 * * * sh /test/test.sh
*/3 * * * * python /data/datax/bin/datax.py /data/datax/job/job.json
crontab中的环境变量默认不会将我们自行定义的环境变量载入进来,所以执行脚本的时候,需要执行source命令
修改如下执行成功:
[root@hxjk_test_mysql_redis_file test]# crontab -l
SHELL=/bin/bash
* * * * sh /test/test.sh
*/ * * * * sh /data/crontab/mysqltomysql1.sh
[root@hxjk_test_mysql_redis_file crontab]# more mysqltomysql1.sh
#!/bin/sh
source /etc/profile
python /data/datax/bin/datax.py /data/datax/job/job.json
定时执行成功。
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.509 [job-] INFO JobContainer - PerfTrace not enable!)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.509 [job-] INFO StandAloneJobContainerCommunicator - Total records, b
ytes | Speed 439B/s, records/s | Error records, bytes | All Task WaitWriterTime .000s | All Task WaitReaderTime .030s | Percentage 100.00%)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.510 [job-] INFO JobContainer - )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务启动时刻 : -- ::)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务结束时刻 : -- ::)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务总计耗时 : 10s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务平均流量 : 439B/s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (记录写入速度 : 5rec/s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (读出记录总数 : )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (读写失败总数 : )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT ()
[root@hxjk_test_mysql_redis_file crontab]#
crontab定时执行datax的更多相关文章
- linux crontab定时执行
#利用crontab定时执行url研究了两种简单方式#一利用lynx访问url yum install lynxservice crond startcrontab -einsert键* * * * ...
- crontab定时执行任务
第一部分 crontab介绍 每个操作系统都有它的自动定时启动程序的功能,Windows有它的任务计划,而Linux对应的功能是crontab. crontab简介 crontab命令常见于Unix和 ...
- linux下使用crontab定时执行脚本
使用crontab定时执行脚本 cron服务是一个定时执行的服务,可以通过crontab 命令添加或者编辑需要定时执行的任务: crontab –e : 修改 crontab 文件,如果文件不存在会自 ...
- crontab定时执行shell脚本失败的原因
有一段时间不用crontab定时执行任务了,这次趁着项目实施的机会来进一步分析一下crontab定时任务设置时遇到的一些棘手的问题. crontab -l 查看目前已经设置的crontab信息 cro ...
- Crontab定时执行Oracle存储过程
Crontab定时执行Oracle存储过程 需求描述 我们有一个Oracle的存储过程,里面是每个月需要执行一下,生成报表,然后发送给业务部门,这一个功能我们有实现在系统的前台界面(如图1-1),但是 ...
- 小记---------手动执行脚本正常执行,使用crontab定时执行时 不执行
可能出现的原因就是因为crontab不会从用户的/etc/profile文件中读取环境变量,所以就出现 使用定时crontab执行时 无法执行 抛错 所以在使用crontab 定时执行脚本时 在脚本 ...
- Linux命令之Crontab定时任务,利用Crontab定时执行spark任务
Linux命令之Crontab定时任务,利用Crontab定时执行spark任务 一.Linux命令之Crontab定时任务 1.1 常见Crontab任务 1.1.1 安装crontab 1.1.2 ...
- 如何使用Linux的Crontab定时执行PHP脚本的方法
我们的PHP程序有时候需要定时执行,我们可以使用ignore_user_abort函数或是在页面放置js让用户帮我们实现.但这两种方法都不太可靠,不稳定.我们可以借助Linux的Crontab工具来稳 ...
- Linux下的crontab定时执行任务命令详解
在LINUX中,周期执行的任务一般由cron这个守护进程来处理[ps -ef|grep cron].cron读取一个或多个配置文件,这些配置文件中包含了命令行及其调用时间.cron的配置文件称为“cr ...
随机推荐
- 实验四 《Android程序设计》
实验四 <Android程序设计实验报告>-20175131王泽龙 实验四 Android程序设计-1 ①实验要求: Android Stuidio的安装测试:参考<Java和And ...
- 基础复习之HTML (meta标签、块级元素与行内元素)
一.meta标签 SEO 如何在不使用JS的情况下刷新页面(http-equiv="refresh" , content="time") 设置页面缓存 移动端设 ...
- VB - 错误处理
1.最常见的错误是运行时错误,也就是说错误在脚本正在运行的时候发生,是脚本试图进行非法操作的结果.例如零被作为除数.在vbs中,任何运行时错误都是致命的,此时,脚本将停止运行,并在屏幕上显示一个错误消 ...
- subprocess 模块 与 re 模块
sub :子 process:进程 用法: import subprocess while True: cmd_str = inport('请输入终端命令:') obj = subprocrss.Po ...
- MYSQL中常用的工具
1.mysql(客户端链接工具): -u :指定用户名 -p:指定密码 -h:指定服务器ip或者域名 -P(大写):指定端口 例子:mysql -u root -h 202.194. ...
- 容器下载的是centos8的镜像,scp出现packet_write_wait: Connection to **** port 22: Broken pipe 问题解决
解决方案:在~/.ssh目录新建文件config vi ~/.ssh/config #Added lines to fix. Host * IPQoS lowdelay t ...
- 【知识强化】第五章 传输层 5.3 TCP协议
这节课我们来学习一下TCP协议的特点以及TCP报文段的格式. 首先呢我们来看一下TCP有哪些特点呢.之前我们说过TCP它是一个比较可靠的面向连接的协议,所以最主要的特点它是可以面向连接的一种传输层协议 ...
- 转载:Spring中各个JAR包的作用
(1) spring-core.jar 这个jar文件包含Spring框架基本的核心工具类,Spring其它组件要都要使用到这个包里的类,是其它组件的基本核心,当然你也可以在自己的应用系统中使用这些工 ...
- 转:KVM 虚拟机的克隆
KVM 虚拟机的克隆 首先把需要克隆的源虚拟机先关闭,然后使用以下命令来进行克隆,注意我这里使用的是相对路径. virsh shutdown VM02 virt-clone -o VM02 -n ...
- A new session could not be created. (Original error: Could not find a connected Android device.)
1 终端执行adb devices 查看知否看到设备 1 查看手机 的开发者 usb调试功能是否打卡 2 重启电脑,cmd 执行 adb devices 重新打开