CDH的安装
环境5台装有centos 6.9系统的服务器
1.网络配置
sudo vi /etc/sysconfig/network修改hostname:
NETWORKING=yes
HOSTNAME=ZXXS-52
通过service network restart重启网络服务生效
sudo vi /etc/hosts,将集群中主机ip 与主机名添加进去
10.30.100.52 ZXXS-52 master1
10.30.100.53 ZXXS-53 master2
10.30.100.54 ZXXS-54 slave1
10.30.100.55 ZXXS-55 slave2
10.30.100.56 ZXXS-56 slave3
集群中的每台机器都需要配置,且需要一致。
2.SSH无密码登陆
现在主节点执行命令rm -rf ~/.ssh/*删除已有的密钥,然后执行ssh-keygen -t rsa一路回车,生成三个文件
authorized_keys:授权文件,存放远程登陆的公钥
id_rsa:生成的私钥文件
id_rsa.pub:生成的公钥文件
在配置过程中对权限也有要求
- 1.
.ssh目录的权限必须是700 - 2.
.ssh/authorized_key文件的权限必须是600
将公钥添加到授权文件中:cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
并设置权限chmod 600 ~/.ssh/authorized_keys,
并将文件复制到所有的节点中:scp ~/.ssh/authorized_keys hadoop@ZXXS-52:~/.ssh/,这样就可以实现单方向的无密码登陆了。那如果向实现双向无密码登陆怎么办?有两种方法
- 1.将.ssh下面的文件全部拷贝到其他节点
- 2.在其他节点进行无密码设置,并将
id_rsa.pub追加到主节点的授权文件authorized_keys中,并将该文件分发到 各个节点。
注意在scp命令中username@hostname,username是登陆的用户,hostname是主机名,也可以是ip地址。如果远程登陆的用户和被登陆主机的用户相同可以省略username,如下
scp -P 3600 jdk-8u144-linux-x64.rpm 10.30.100.53:/home/hadoop/
3.安装Java环境
centos默认安装的是openjdk,不知是否满足cdh的需求,索性就直接卸载掉了。先使用命令rpm -qa | grep java找出所有与Java相关的安装包,卸载自己安装的Java可能需要命令是rpm -qa | grep jdk使用强制卸载命令一一卸载rpm -e --nodeps 包名,在官网下载jdk8的rpm格式。
安装rpm -ivh jdk-8u144-linux-x64.rpmrpm这种安装方式不需要配置环境变量,不过我们还是配置一下sudo vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
4.启用NTP(Network Time Protocol)
参考官网,CHD要求集群中的主机时间保持同步,所以就需要在集群中的每台机器配置NTP服务,并且要求开机自动启动。配置开机启动chkconfig ntpd on,并检查是否设置成功chkconfig --list ntpd,其中2-5为on代表成功。进入/etc/ntp.conf查看配置文件,手动校准sudo ntpdate -u 0.centos.pool.ntp.org
5.MySQL
Hive中的元数据包括表的名字,表的列和分区及其属性,表的属性(是否为外部表等),表的数据所在目录等;元数据需要不断的更新、需要将元数据存储在数据库中,录入mysql。
使用命令yum install mysql-server安装mysql服务器,使用命令chkconfig mysqld on设置开机启动,并service mysqld start启动mysql服务,设置root的初始密码mysqladmin -u root password 'admin'。密码设置好了,使用命令mysql -uroot -padmin进入mysql的命令控制台。

sql
#Activity Monitor
create database amon DEFAULT CHARACTER SET utf8;
#Reports Manager
create database rman DEFAULT CHARACTER SET utf8;
#Hive Metastore Server
create database hive DEFAULT CHARACTER SET utf8;
#Sentry Server
create database sentry DEFAULT CHARACTER SET utf8;
#Cloudera Navigator Audit Server
create database nav DEFAULT CHARACTER SET utf8;
#Cloudera Navigator Metadata Server
create database navms DEFAULT CHARACTER SET utf8;
为root用户授权访问以上所有的数据库的权限:
grant all privileges on *.* to 'root'@'ZXXS-52' identified by 'admin' with grant option;
flush privileges; --立即生效
也可以是单独创建一个用户并授权:
CREATE USER 'uname'@'%' IDENTIFIED BY 'password';
GRANT all privileges ON database.* TO 'uname'@'%' identified by 'password';
flush privileges;
查看mysql的编码:
mysql> show variables like '%char%';
修改编码:set character_set_connection utf8
5.安装
下面的安装比较的简单,因为是可视化。就不细说了可以参考这一篇,下面只说我安装时候出现的问题


我把这两个设置成一样,然后就会卡在激活状态,另外一个就是将mysql的驱动复制到hive的lib中。这些都比较简单,因为有很清楚的日志
CDH的安装的更多相关文章
- Coudera-Manager/CDH的安装和部署
由于之前部署的集群采用的是用apache hadoop的方式来实现,但是考虑到运维的成本问题,下面将apache hadoop转换成cloudera cdh.下面主要讲解一下cloudera cdh的 ...
- cdh 上安装spark on yarn
在cdh 上安装spark on yarn 还是比较简单的,不需要独立安装什么模块或者组件. 安装服务 选择on yarn 模式:上面 Spark 在spark 服务中添加 在yarn 服务中添加 g ...
- CentOS7安装CDH 第十章:CDH中安装Spark2
相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...
- CentOS7安装CDH 第九章:CDH中安装Kafka
相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...
- CentOS7安装CDH 第五章:CDH的安装和部署-CDH5.7.0
相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...
- CDH CM安装及简单群集部署测试
前吃人的故事开始了,金钱是如何吃人的呢?我在想ing,还没想通,一起吧,哈哈: 入题,别胡扯,误人子弟!!!! CM@@!!!!!!....................., 先来张monitor ...
- CDH的安装和设置
采用伪分布模式安装和设置CDH,前提是已经安装了Java和SSH. 1. 下载hadoop-2.6.0-cdh5.9.0,复制到/opt/下,再解压: 2. 进入/opt/hadoop-2.6.0-c ...
- CDH impala安装
环境 CDH版本:5.12.1 添加impala parcel 1.菜单“主机”-->Parcel-->配置-->远程 Parcel 存储库 URL,点击添加按钮,添加一个URL,h ...
- CDH离线安装
1. 安装准备 系统:Centos 6 Cloudera Manager分配如下: 安装版本:CDH-5.8.0 所需安装文件 CDH相关 CDH-5.8.0-1.cdh5.8.0.p0.42-el6 ...
随机推荐
- python/numpy/tensorflow中,对矩阵行列操作,下标是怎么回事儿?
Python中的list/tuple,numpy中的ndarrray与tensorflow中的tensor. 用python中list/tuple理解,仅仅是从内存角度理解一个序列数据,而非数学中标量 ...
- TFboy养成记 MNIST Classification (主要是如何计算accuracy)
参考:莫烦. 主要是运用的MLP.另外这里用到的是批训练: 这个代码很简单,跟上次的基本没有什么区别. 这里的lossfunction用到的是是交叉熵cross_entropy.可能网上很多形式跟这里 ...
- 浅谈IM(InstantMessaging) 即时通讯/实时传讯【理论篇】
一.IM简要概述 IM InstantMessaging(即时通讯,实时传讯)的缩写是IM,互动百科大致解释是一种可以让使用者在网络上建立某种私人聊天(chatroom)的实时通讯服务. 大部 ...
- layer,Jquery,validate实现表单验证,刷新页面,关闭子页面
1.表单验证 //获取父层 var index = parent.layer.getFrameIndex(window.name); //刷新父层 parent.location.reload(); ...
- iOS APP上架被拒重新提交审核教程
iOS APP审核比较严格,难免会出现被拒绝的情况,需要根据苹果反馈的问题修改后重新打包上传审核! 1.登录itunesconnect.https://itunesconnect.apple.com进 ...
- netty源码分析
1.Netty是由JBOSS提供的一个java开源框架.Netty提供异步的.事件驱动的网络应用程序框架和工具,用以快速开发高性能.高可靠性的网络服务器和客户端程序.也就是说,Netty 是一个基于N ...
- 【微服务】之五:轻松搞定SpringCloud微服务-调用远程组件Feign
上一篇文章讲到了负载均衡在Spring Cloud体系中的体现,其实Spring Cloud是提供了多种客户端调用的组件,各个微服务都是以HTTP接口的形式暴露自身服务的,因此在调用远程服务时就必须使 ...
- php结合redis实现高并发下的抢购、秒杀功能 (转载)
抢购.秒杀是如今很常见的一个应用场景,主要需要解决的问题有两个: 1 高并发对数据库产生的压力 2 竞争状态下如何解决库存的正确减少("超卖"问题) 对于第一个问题,已经很容易想到 ...
- eclipse修改内存大小
一般安装完eclipse之后,在安装目录下你应该可以看到有一个 eclipse.ini 文件,对了,就是在这个文件里面修改,我打开同事机器上这个文件,里面的内容是: -vmargs-Dosgi.spl ...
- java基础进阶一:String源码和String常量池
作者:NiceCui 本文谢绝转载,如需转载需征得作者本人同意,谢谢. 本文链接:http://www.cnblogs.com/NiceCui/p/8046564.html 邮箱:moyi@moyib ...