ETL Automation完整安装方法_(元数据存放在mysql数据库)
安装前介质准备:
DBI-1.636.tar.gz
DBD-mysql-4.037.tar.gz
ETL.tar
mysql-5.6.12-linux-glibc2.5-x86_64.tar.gz
Perl下载地址:http://www.cpan.org/modules/by-module/
第一部分 Mysql数据库安装
链接如:http://jingyan.baidu.com/article/a378c9609eb652b3282830fd.html
第二部分 Perl模块安装
1) 检查当前perl版本命令:perl -v
查看已安装perl模块命令:perldoc perllocal
2) DBI模块为DBI-1.636.tar.gz
方法与DBD模块一样
3) DBD模块为 DBD-mysql-4.037.tar.gz
tar xvzf DBD-mysql-4.037.tar.gz
cd DBD-mysql-4.037
perl Makefile.PL
make
make test
make install
5) 其它模块 …
6) 在/etc/profile 增加如下变量
export PATH=/usr/local/mysql/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/lib/mysql
7) Perl模块安装完后,需要写个mysql_test.perl脚本,测试连接mysql数据库是否成功
第三部分 Automation安装
1) 在linux系统下,创建etl用户
groupadd etl
useradd -g etl -m -d /home/etl -s /bin/bash etl
2) 切换到etl用户,在/home/etl添加环境变量 vi .bashrc,然后使之生效 source .bashrc
AUTO_HOME=/opt/ETL; export AUTO_HOME;
AUTO_DSN=tdvm; export AUTO_DSN;
AUTO_DB=etlauto; export AUTO_DB;
AUTO_SERVER=ETL1; export AUTO_SERVER;
AUTO_SERVER_IP=192.168.152.100; export AUTO_SERVER_IP;
AUTO_AGENT_PORT=6346; export AUTO_AGENT_PORT;
AUTO_WDOG_PORT=6346; export AUTO_WDOG_PORT;
AUTO_PRIMARY_SERVER=0; export AUTO_PRIMARY_SERVER;
ODBCINI=$HOME/.odbc.ini;export ODBCINI
LD_LIBRARY_PATH=$LD_LIBRARY_PATH :/opt/teradata/client/14.00/odbc_64/lib:/usr/local/lib; export LD_LIBRARY_PATH
3) 上传ETL.tar到/opt/目录,并解压
tar xvf ETL.tar
5) 修改etl_unix.pm和tools.pm两个文件的数据库连接信息
my $dbh = DBI->connect("DBI:mysql:database=etlauto;host=10.161.166.51", "root", "123456",
6) 切换到root用户,授予etl用户/opt/ETL权限
chown -R etl:etl /opt/ETL
7) 上传yhddw.pm到该目录下 /usr/lib64/perl5/vendor_perl/
8) 切换到etl用户,清空 /opt/ETL/lock 下的文件 rm –rf etl*
然后在/opt/ETL/bin目录下执行sh start.sh
9) 查看Automation 5个进程是否启动:
方法一:ps –ef | grep pl
方法二:/opt/ETL/LOG
主要查看etlmaster.out
第四部分 配置ETLAdmin
4.1 导入项目
1) 将ETLAdmin261复制到workspace文件夹下
2) 打开eclipse.ext,作如下操作:
File → Import → General → Existing Projects into Workspace,点击next到下一步;
在出现的对话框中选中Select root directory,点击 Browse后可选择第一步“ETLAdmin261”的文件位置,
然后在options中,勾选copy projects into workspace,点击 Finish
4.2 导入jar包
1) 打开ETLAdmin261 project → lib,选中需要删除的jia包,点击Delete
2) 选择Build Path → Configure Build Path → Java Buidl Path → Libraries,选中需要删除的jia包,点击Remove
3) 将mysql-connector-java-5.1.0-bin(1).jar 和 jintellitype-1.3.9-SNAPSHOT.jar 复制到当前项目lib文件夹下,
回到Build Path → Configure Build Path → Java Buidl Path → Libraries,点击 Add JARs,添加这两个.jia包.
4.3 修改数据库配置信息
ETL Automation完整安装方法_(元数据存放在mysql数据库)的更多相关文章
- Hive学习之路 (三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Hive(三)Hive元数据信息对应MySQL数据库表
概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理.上一篇hive的安装也是将元数据信息存放在MySQL数据库中. Hive的元数据信息在MySQL数据中有57 ...
- Apache Hive (三)Hive元数据信息对应MySQL数据库表
转自:https://www.cnblogs.com/qingyunzong/p/8710356.html 概述 Hive 的元数据信息通常存储在关系型数据库中,常用MySQL数据库作为元数据库管理. ...
- hive的本地安装部署,元数据存储到mysql中
要想使用Hive先要有hadoop集群的支持,使用本地把元数据存储在mysql中. mysql要可以远程连接: 可以设置user表,把localhost改为%,所有可连接.记住删除root其他用户,不 ...
- 在windows上安装不同(两个)版本的Mysql数据库
1.起因: 需要导入一个sql文件,发现死活导不进去.当执行到这一句时,就有问题.经过一番搜索,原来是我的数据库版本(原先Mysql版本5.5)低了,而支持该语句的版本应该是至少要5.7.那我索性就去 ...
- mysql安装和简要操作命令+python基本操作mysql数据库
mysql数据库是一种关系型数据库管理系统. 一. windows平台安装Mysql数据库. Mysql数据库官网 :https://dev.mysql.com/downloads/windows/ ...
- Can’t connect to local MySQL server through socket ‘/var/lib/mysql/mysql.sock’解决方法 + Linux启动/停止/重启Mysql数据库的方法
启动mysql 报错: ERROR 2002 (HY000): Can’t connect to local MySQL server through socket ‘/var/lib/mysql/m ...
- linux系统下安装配置解压版的MySQL数据库
一.解压文件到当前目录 命令:tar -zxvf mysql....tar.gz 二.移动解压完成的文件夹到目标目录并更名mysql 命令:mv mysql-版本号 /usr/local/mysql ...
- 如何将emoji表情存放到mysql数据库中
昨晚在爬取猫眼电影评论时在将评论信息插入到数据库中时出现问题,总是在插入一条数据时就会报错: 看着应该时字符编码的问题,比如新建的数据库新建的表,默认字符编码是:Latin1, 这种编码是无法插入中文 ...
随机推荐
- 学习 WebService 第三步:一个简单的实例(SoapUI测试REST项目)
原文地址:SOAPUI测试REST项目(六)——REST服务和WADL ↑↑↑ 原文用的SoapUI,2018-3-19时,这个软件已经更名为ReadyAPI(集成了SoapUI),因此下文中我重新截 ...
- luogu 1327 数列排序 & 2017 ACM-ICPC 亚洲区(南宁赛区)网络赛 J题 循环节
luogu 1327 数列排序 题意 给定一个数列\(\{an\}\),这个数列满足\(ai≠aj(i≠j)\),现在要求你把这个数列从小到大排序,每次允许你交换其中任意一对数,请问最少需要几次交换? ...
- 卸载重安firefox
把firefox完全卸载掉重装: 查看安装的firefox版本: dpkg --get-selections |grep firefox 根据命令结果卸载重装 比如: $ dpkg --get-sel ...
- C# 生成二维码(带Logo)
C# 生成二维码(带Logo) 第一种方式 我们需要引用 ThoughtWorks.QRCode.dll 生成带logo二维码(framework4.0以上) 下载地址:https://pan.ba ...
- 自签名证书安全性问题研究https(ssl)
先看下https(ssl)的好处,以及为什么要用: http://imweb.io/topic/565c71673ad940357eb99879 https://zh.wikipedia.org/wi ...
- python2.7升python3.2
1. 安装python3.2 sudo apt-get install python3.2 2. 删除usr/bin/目录下的默认python link文件. cd /usr/bin sudo ...
- 远程的jmeter自动执行完,如何回调通知被调用者“结束”状态
场景:python应用通过paramiko在远程服务器上启动jmeter执行性能压测,压测完,jmeter通过回调函数告诉应用‘执行状态’ 方案:python应用写一个restful api,接收jm ...
- gulp安装+一个超简单入门小demo
gulp安装參考.gulp安装參考2. 一.NPM npm是node.js的包管理工具.主要功能是管理.更新.搜索.公布node的包. Gulp是通过npm安装的. 所以首先,须要安装node.js. ...
- cocos2d-x3.0 PageView
.h加入例如以下代码: void pageViewEvent(Ref *pSender, PageViewEventType type); .m layout = Layout::create(); ...
- 浅析 rand7生成rand10 方法 之 思想篇(一)
[问题描写叙述] rand7是一个能生成1-7的随机数.要求利用rand7生成1-10的随机数. [算法思想] 1.组合数学方法 第1次 1 2 3 4 5 6 7 之中用rand7取一个数 第2次从 ...