CM (Cloudera Manager) 的安装,便于CDH的离线部署
一、准备工作
主机个数:n台
操作系统:CentOS 6.5
安装所需软件包:
CM: cloudera-manager-el6-cm5.4.3_x86_64.tar.gz
CDH parcel: CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel
CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha #将下载的 CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha1重命名为CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha
manifest.json
JDK: jdk-7u67-linux-x64.rpm
MySql driver: mysql-connector-java-5.1.26-bin.jar
软件下载地址:
CDH下载地址: http://archive.cloudera.com/cdh5/
其中parcels地址:http://archive.cloudera.com/cdh5/parcels/5.4.0
CM下载地址:http://www.cloudera.com/downloads/manager/5-4-3.html
CM安装官方文档说明:
http://www.cloudera.com/documentation/enterprise/5-4-x/topics/installation_installation.html
二、系统环境配置
1、配置网络环境
- 将主机修改为静态IP
- 修改主机名及对应的IP
2、SHH设置免密码登录
ssh-keygen -t rsa #生成密钥文件
ssh-copy-id 主机名 #将生成的公钥文件copy到指定主机
3、关闭防火墙
service iptables stop #关闭防火墙
chkconfig iptables off #关闭开机启动
4、关闭SELinux
setenforce 0 #临时关闭
vi /etc/selinux/config 修改SELINUX=disabled #永久生效
5、配置时间同步
yun install ntp
chkconfig ntp on
ntpdate -u ntp.sjtu.edu.cn #如果此时间服务器无效,可网上找寻其他时间服务器
6、安装JDK
Jdk版本官网要求:1.7.0_67 1.7.0_75 1.8.0_60
安装准备好的rpm包:rpm –ivh jdk-7u67-linux-x64.rpm
配置环境变量
vi ~/.bash_profile
#JAVA export JAVA_HOME=/usr/java/jdk1..0_67 export PATH=$PATH:$JAVA_HOME/bin
source ~/.bash_profile
7、安装mysql
官网推荐 5.1、5.5、5.6版本
安装:yum install mysql-server
修改权限:
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'root' WITH GRANT OPTION;
flush privileges;
8、下载第三方依赖包
yum install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain cyrus-sasl-gssapi fuse fuse-libs redhat-lsb –y
三、安装CM
1、安装CM Agent和Server
在agent和server主机上创建目录
mkdir /opt/cloudera-manager
将安装包解压到指定目录
tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager
2、创建用户 cloudera-scm
在所有节点上执行
useradd --system --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
3、配置CM Agent
修改配置文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中的server_host和server_port。server_port默认为7182。
4、配置CM Server数据库
拷贝mysql驱动
cp mysql-connector-java-5.1.26-bin.jar /usr/share/java/mysql-connector-java.jar
执行mysql命令
grant all on *.* to 'temp'@'%' identified by 'temp' with grant option;
配置库
cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm
其中node1为server主机名
5、创建parcel目录
Server节点
mkdir -p /opt/cloudera/parcel-repo
chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
Agent节点
mkdir -p /opt/cloudera/parcels
chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
6、上传CDH本地源
上传CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel
CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha
manifest.json
文件到/opt/cloudera/parcel-repo
7、启动CM Server和Agent
cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/
./cloudera-scm-server start
运行很慢,可通过log跟踪启动过程。
./cloudera-scm-agent start
在所有agent节点上,都要启动
8、访问CM
用户名、密码:admin
接下来就可以安装想要的CDH服务了。
CM安装服务的配置文件存放位置:
/etc/
CM安装服务的运行日志位置: /var/log/
CM安装服务的包文件存放位置: /opt/cloudera/parcels/CDH-5.4.0-1.cdh5.4.0.p0.27/
CM (Cloudera Manager) 的安装,便于CDH的离线部署的更多相关文章
- CDH 2、Cloudera Manager的安装
1.Cloudera Manager • Cloudera Manager是一个管理CDH的端到端的应用. • 作用: – 管理 – 监控 – 诊断 – 集成 • 架构 • Server – 管理控制 ...
- Cloudera Manager(CentOS)安装介绍
相信通过这篇文章大家都对Cloudera Manager及CDH安装有一个整体的认识 目 录 1 准备工 作.................................... ...
- Cloudera Manager 5.9 和 CDH 5.9 离线安装指南及个人采坑填坑记
公司的CDH早就装好了,一直想自己装一个玩玩,最近组了台电脑,笔记本就淘汰下来了,加上之前的,一共3台,就在X宝上买了CPU和内存升级了下笔记本,就自己组了个集群. 话说,好想去捡垃圾,捡台8核16线 ...
- Cloudera Manager的安装
1. cloudera manager的概念 简单来说,Cloudera Manager是一个拥有集群自动化安装.中心化管理.集群监控.报警功能的一个工具(软件),使得安装集群从几天的时间缩短在几个 ...
- CDH简易离线部署文档
CDH 离线简易部署文档 文档说明 本文为开发部署文档,生产环境需做相应调整. 以下操作尽量在root用户下操作,避免权限问题. 目录 文档说明 2 文档修改历史记录 2 目录 3 ...
- 安装Cloudera Manager集群时首次运行命令部署客户端设置失败的解决办法(图文详解)
不多说,直接上干货! 问题详情 解决办法 (1) 时间同步检查下(尤其是这个) (2) 防火墙是否关闭 (3) cloudera-scm-server 和 cloudera-scm-agent 是否启 ...
- Cloudera Manager 5 和 CDH5 本地(离线)安装指南
http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.0.0/RPMS/x86_64/ http://archive-primary.clouder ...
- Cloudera Manager、CDH零基础入门、线路指导 http://www.aboutyun.com/thread-9219-1-1.html (出处: about云开发)
Cloudera Manager.CDH零基础入门.线路指导http://www.aboutyun.com/thread-9219-1-1.html(出处: about云开发) 问题导读:1.什么是c ...
- 1.5.6、CDH 搭建Hadoop在安装之前(定制安装解决方案---使用Cloudera Manager模板创建CDH群集)
使用Cloudera Manager模板创建CDH群集 您可以通过从Cloudera Manager管理的现有CDH群集导出群集模板来创建新的CDH群集.然后,您可以修改模板并使用它在新的主机集上创建 ...
随机推荐
- npm、cnpm、bower安装区别
简单地说,就是帮你下载好你需要的css或者js库,而且三者功能也都是一样的.那为什么要下载这3个不同的呢?据说npm容易被墙……而cnpm是淘宝的镜像,所以通常用cnpm代替npm.至于bower,是 ...
- 网络通信框架Retrofit2
网络通信框架Retrofit2 1 概要 Retrofit2的简介以及特点 Retrofit2使用配置(导包,权限等) Retrofit2中常用的注解介绍 Retrofit2实现http网络访问 GE ...
- [Android] 针对生成的图片文件在系统Gallery不显示的处理
之前遇到过一个问题,就是发现我在程序中生成一个新的 Bitmap 之后,当我打开系统的 Gallery 查看时,并没有看到新生成的图像.然而打开文件浏览器,找到保存 Bitmap 所在的文件夹下,还能 ...
- springboot 1.3.5升级1.5.9后 默认使用tomcat 8.5版本 get请求报400 异常信息为 The valid characters are defined in RFC 7230 and RFC 3986
1.springboot 1.3.5升级1.5.9后 默认使用tomcat 8.5版本而之前用的是tomcat7 get请求报400 异常信息为 The valid characters are ...
- window下安装RabbitMQ
RabbitMQ: MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法.应用程序通过读写出入队列的消息(针对应用程序的数据)来通信,而无需专用连接来链接它们.消 ...
- org.postgresql.util.PSQLException: 栏位索引超过许可范围:3,栏位数:2。
org.postgresql.util.PSQLException: 栏位索引超过许可范围:3,栏位数:2. 今天在写完SQL进行查询的时候,后台一直报错显示上面的信息.看错误完全不知道原因,就重新检 ...
- 《图解HTTP》
第一章.了解web及网络基础 1.2 http的诞生 HTTP于1990年问世,那时候HTTP并没有作为正式的标准被建立,被称为HTTP/0.9 HTTP正式作为标准被公布是在1996年5月,版本被命 ...
- EJB2.0 ejb-jar.xml配置文件详解
<ejb-jar><!--EJB发布描述器的根元素,它包含一个可选的EJB-JAR文件的描述,可选显示的名称,可选小图标的文件名,可选的大图标的文件名,必须的所有被包含的enterp ...
- Tmux 使用教程 on Fedora 28
Tmux 和 gun/screen 都是优秀的终端复用软件,它的关键的好处就是,保持ssh 登录连接session不中断,并且能支持分屏操作,具备丰富的命令行参数,可以进行动态布局和操作.可以看作为s ...
- python设计模式之门面模式
一.结构型设计模式 门面模式与单例模式,工厂模式不同,它是一种结构型模式. 结构型模式描述如何将对象和类组合成更大的结构 结构型模式是一种能够简化设计工作的模式,它能找出更简单的方法来认识或表示实体之 ...