记录下使用crontab,datax定时同步数据遇到的问题。

1.开始使用如下配置,死活不执行。网上说crontab环境便利的问题,设置了也没反应。

[root@hxjk_test_mysql_redis_file test]# crontab -l
SHELL=/bin/bash
* 1 * * * sh /test/test.sh
*/3 * * * * python /data/datax/bin/datax.py /data/datax/job/job.json

 crontab中的环境变量默认不会将我们自行定义的环境变量载入进来,所以执行脚本的时候,需要执行source命令

修改如下执行成功:

[root@hxjk_test_mysql_redis_file test]# crontab -l
SHELL=/bin/bash
* * * * sh /test/test.sh
*/ * * * * sh /data/crontab/mysqltomysql1.sh
[root@hxjk_test_mysql_redis_file crontab]# more mysqltomysql1.sh
#!/bin/sh
source /etc/profile
python /data/datax/bin/datax.py /data/datax/job/job.json

定时执行成功。

Sep   :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.509 [job-] INFO  JobContainer - PerfTrace not enable!)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.509 [job-] INFO StandAloneJobContainerCommunicator - Total records, b
ytes | Speed 439B/s, records/s | Error records, bytes | All Task WaitWriterTime .000s | All Task WaitReaderTime .030s | Percentage 100.00%)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (-- ::13.510 [job-] INFO JobContainer - )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务启动时刻 : -- ::)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务结束时刻 : -- ::)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务总计耗时 : 10s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (任务平均流量 : 439B/s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (记录写入速度 : 5rec/s)
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (读出记录总数 : )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT (读写失败总数 : )
Sep :: hxjk_test_mysql_redis_file CROND[]: (root) CMDOUT ()
[root@hxjk_test_mysql_redis_file crontab]#

crontab定时执行datax的更多相关文章

  1. linux crontab定时执行

    #利用crontab定时执行url研究了两种简单方式#一利用lynx访问url yum install lynxservice crond startcrontab -einsert键* * * * ...

  2. crontab定时执行任务

    第一部分 crontab介绍 每个操作系统都有它的自动定时启动程序的功能,Windows有它的任务计划,而Linux对应的功能是crontab. crontab简介 crontab命令常见于Unix和 ...

  3. linux下使用crontab定时执行脚本

    使用crontab定时执行脚本 cron服务是一个定时执行的服务,可以通过crontab 命令添加或者编辑需要定时执行的任务: crontab –e : 修改 crontab 文件,如果文件不存在会自 ...

  4. crontab定时执行shell脚本失败的原因

    有一段时间不用crontab定时执行任务了,这次趁着项目实施的机会来进一步分析一下crontab定时任务设置时遇到的一些棘手的问题. crontab -l 查看目前已经设置的crontab信息 cro ...

  5. Crontab定时执行Oracle存储过程

    Crontab定时执行Oracle存储过程 需求描述 我们有一个Oracle的存储过程,里面是每个月需要执行一下,生成报表,然后发送给业务部门,这一个功能我们有实现在系统的前台界面(如图1-1),但是 ...

  6. 小记---------手动执行脚本正常执行,使用crontab定时执行时 不执行

    可能出现的原因就是因为crontab不会从用户的/etc/profile文件中读取环境变量,所以就出现 使用定时crontab执行时 无法执行 抛错 所以在使用crontab 定时执行脚本时  在脚本 ...

  7. Linux命令之Crontab定时任务,利用Crontab定时执行spark任务

    Linux命令之Crontab定时任务,利用Crontab定时执行spark任务 一.Linux命令之Crontab定时任务 1.1 常见Crontab任务 1.1.1 安装crontab 1.1.2 ...

  8. 如何使用Linux的Crontab定时执行PHP脚本的方法

    我们的PHP程序有时候需要定时执行,我们可以使用ignore_user_abort函数或是在页面放置js让用户帮我们实现.但这两种方法都不太可靠,不稳定.我们可以借助Linux的Crontab工具来稳 ...

  9. Linux下的crontab定时执行任务命令详解

    在LINUX中,周期执行的任务一般由cron这个守护进程来处理[ps -ef|grep cron].cron读取一个或多个配置文件,这些配置文件中包含了命令行及其调用时间.cron的配置文件称为“cr ...

随机推荐

  1. python练习题之计算字符串中所有字符得和

    第二题:计算字符串中所有数字的和1.字符串中只有小写字母和数字2.数字可能连续,也可能不连续3.连续数字要当做一个数处s='1234adg3g11's1 = "" for i in ...

  2. CSS定位,转载的

    转自:http://www.cnblogs.com/jiqing9006/archive/2012/07/26/2610586.html 层级关系为:<div ——————————— posit ...

  3. PyQuery爬取历史天气信息

    1.准备工作: 网址:https://lishi.tianqi.com/xian/index.html 爬虫类库:PyQuery,requests 2.网页分析: 红线部分可更改为需要爬取的城市名,如 ...

  4. 用Python实现一个大数据搜索引擎

    用Python实现一个大数据搜索引擎 搜索是大数据领域里常见的需求.Splunk和ELK分别是该领域在非开源和开源领域里的领导者.本文利用很少的Python代码实现了一个基本的数据搜索功能,试图让大家 ...

  5. ajax请求controller出现中文乱码

    ajax请求controller出现中文乱码 解决方法:在 @RequestMapping 中加上  produces = {"application/json;charset=UTF-8& ...

  6. hbase之RPC详解

    Hbase的RPC主要由HBaseRPC.RpcEngine.HBaseClient.HBaseServer.VersionedProtocol 5个概念组成. 1.HBaseRPC是hbase RP ...

  7. Springboot02-配置文件

    配置文件读取 springboot中的配置文件都放在application.properties中,其中而k-v属性可以通过@Value("${属性名}")直接获取 @Compon ...

  8. 搜狗拼音、QQ拼音输入法、2345拼音输入法、百度输入法 、手心输入法对比。(个人体会)

    搜狗拼音.QQ拼音输入法.2345拼音输入法.百度输入法 .手心输入法对比. 这几个输入法对比的感觉,做个记录.自己记录一下,如果恰巧有朋友也遇到类似的情况,仅供参考. 词库量 搜狗 > 百度 ...

  9. 初识Flink-从WorldCount开始

    Apache Flink是一个用于分布式流和批处理数据处理的开源平台.Flink的核心是流数据流引擎,为数据流上的分布式计算提供数据分发,通信和容错.Flink在流引擎之上构建批处理,覆盖本机迭代支持 ...

  10. box2d——1.tiles瓦片积木

    [调试渲染]   将TestCpp里Box2DTestBed的GLES-Render.h/cpp加入到项目中.声明绘制变量:GLESDebugDrawmDebugDraw. [创建世界]   // 依 ...