环境5台装有centos 6.9系统的服务器

1.网络配置

sudo vi /etc/sysconfig/network修改hostname:

NETWORKING=yes
HOSTNAME=ZXXS-52

通过service network restart重启网络服务生效

sudo vi /etc/hosts,将集群中主机ip 与主机名添加进去

10.30.100.52    ZXXS-52    master1
10.30.100.53 ZXXS-53 master2
10.30.100.54 ZXXS-54 slave1
10.30.100.55 ZXXS-55 slave2
10.30.100.56 ZXXS-56 slave3

集群中的每台机器都需要配置,且需要一致。

2.SSH无密码登陆

现在主节点执行命令rm -rf ~/.ssh/*删除已有的密钥,然后执行ssh-keygen -t rsa一路回车,生成三个文件

authorized_keys:授权文件,存放远程登陆的公钥

id_rsa:生成的私钥文件

id_rsa.pub:生成的公钥文件

在配置过程中对权限也有要求

  • 1..ssh目录的权限必须是700
  • 2..ssh/authorized_key文件的权限必须是600

将公钥添加到授权文件中:cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

并设置权限chmod 600 ~/.ssh/authorized_keys

并将文件复制到所有的节点中:scp ~/.ssh/authorized_keys hadoop@ZXXS-52:~/.ssh/,这样就可以实现单方向的无密码登陆了。那如果向实现双向无密码登陆怎么办?有两种方法

  • 1.将.ssh下面的文件全部拷贝到其他节点
  • 2.在其他节点进行无密码设置,并将id_rsa.pub追加到主节点的授权文件authorized_keys中,并将该文件分发到 各个节点。

注意在scp命令中username@hostname,username是登陆的用户,hostname是主机名,也可以是ip地址。如果远程登陆的用户和被登陆主机的用户相同可以省略username,如下

scp -P 3600 jdk-8u144-linux-x64.rpm 10.30.100.53:/home/hadoop/

3.安装Java环境

centos默认安装的是openjdk,不知是否满足cdh的需求,索性就直接卸载掉了。先使用命令rpm -qa | grep java找出所有与Java相关的安装包,卸载自己安装的Java可能需要命令是rpm -qa | grep jdk使用强制卸载命令一一卸载rpm -e --nodeps 包名,在官网下载jdk8的rpm格式。

安装rpm -ivh jdk-8u144-linux-x64.rpmrpm这种安装方式不需要配置环境变量,不过我们还是配置一下sudo vim /etc/profile

export JAVA_HOME=/usr/java/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

4.启用NTP(Network Time Protocol)

参考官网,CHD要求集群中的主机时间保持同步,所以就需要在集群中的每台机器配置NTP服务,并且要求开机自动启动。配置开机启动chkconfig ntpd on,并检查是否设置成功chkconfig --list ntpd,其中2-5为on代表成功。进入/etc/ntp.conf查看配置文件,手动校准sudo ntpdate -u 0.centos.pool.ntp.org

5.MySQL

Hive中的元数据包括表的名字,表的列和分区及其属性,表的属性(是否为外部表等),表的数据所在目录等;元数据需要不断的更新、需要将元数据存储在数据库中,录入mysql。

使用命令yum install mysql-server安装mysql服务器,使用命令chkconfig mysqld on设置开机启动,并service mysqld start启动mysql服务,设置root的初始密码mysqladmin -u root password 'admin'。密码设置好了,使用命令mysql -uroot -padmin进入mysql的命令控制台。

sql
#Activity Monitor
create database amon DEFAULT CHARACTER SET utf8; #Reports Manager
create database rman DEFAULT CHARACTER SET utf8; #Hive Metastore Server
create database hive DEFAULT CHARACTER SET utf8; #Sentry Server
create database sentry DEFAULT CHARACTER SET utf8; #Cloudera Navigator Audit Server
create database nav DEFAULT CHARACTER SET utf8; #Cloudera Navigator Metadata Server
create database navms DEFAULT CHARACTER SET utf8;

为root用户授权访问以上所有的数据库的权限:

grant all privileges on *.* to 'root'@'ZXXS-52' identified by 'admin' with grant option;
flush privileges; --立即生效

也可以是单独创建一个用户并授权:

CREATE USER 'uname'@'%' IDENTIFIED BY 'password';
GRANT all privileges ON database.* TO 'uname'@'%' identified by 'password';
flush privileges;

查看mysql的编码:

mysql> show variables like '%char%';

修改编码:set character_set_connection utf8

5.安装

下面的安装比较的简单,因为是可视化。就不细说了可以参考这一篇,下面只说我安装时候出现的问题



我把这两个设置成一样,然后就会卡在激活状态,另外一个就是将mysql的驱动复制到hive的lib中。这些都比较简单,因为有很清楚的日志

CDH的安装的更多相关文章

  1. Coudera-Manager/CDH的安装和部署

    由于之前部署的集群采用的是用apache hadoop的方式来实现,但是考虑到运维的成本问题,下面将apache hadoop转换成cloudera cdh.下面主要讲解一下cloudera cdh的 ...

  2. cdh 上安装spark on yarn

    在cdh 上安装spark on yarn 还是比较简单的,不需要独立安装什么模块或者组件. 安装服务 选择on yarn 模式:上面 Spark 在spark 服务中添加 在yarn 服务中添加 g ...

  3. CentOS7安装CDH 第十章:CDH中安装Spark2

    相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...

  4. CentOS7安装CDH 第九章:CDH中安装Kafka

    相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...

  5. CentOS7安装CDH 第五章:CDH的安装和部署-CDH5.7.0

    相关文章链接 CentOS7安装CDH 第一章:CentOS7系统安装 CentOS7安装CDH 第二章:CentOS7各个软件安装和启动 CentOS7安装CDH 第三章:CDH中的问题和解决方法 ...

  6. CDH CM安装及简单群集部署测试

    前吃人的故事开始了,金钱是如何吃人的呢?我在想ing,还没想通,一起吧,哈哈: 入题,别胡扯,误人子弟!!!! CM@@!!!!!!....................., 先来张monitor ...

  7. CDH的安装和设置

    采用伪分布模式安装和设置CDH,前提是已经安装了Java和SSH. 1. 下载hadoop-2.6.0-cdh5.9.0,复制到/opt/下,再解压: 2. 进入/opt/hadoop-2.6.0-c ...

  8. CDH impala安装

    环境 CDH版本:5.12.1 添加impala parcel 1.菜单“主机”-->Parcel-->配置-->远程 Parcel 存储库 URL,点击添加按钮,添加一个URL,h ...

  9. CDH离线安装

    1. 安装准备 系统:Centos 6 Cloudera Manager分配如下: 安装版本:CDH-5.8.0 所需安装文件 CDH相关 CDH-5.8.0-1.cdh5.8.0.p0.42-el6 ...

随机推荐

  1. 小程序web-view组件

    不久前微信小程序发布了web-view组件,这个消息在各个圈里引起不小的涟漪.近期正好在做小程序的项目,便研究了一下这个让大家充满期待的组件.   1,web-view这个组件是什么鬼? 官网的介绍: ...

  2. html5开发学习 html5自学需要怎么学

    记得很多大鳄都说过一句话:只要站在风口上,猪都能飞起来.而对于如今的IT技术领域来说,无疑这只幸运的"猪"非html5莫属.html5开发技术在16年迎来了一个飞跃的发展,这也让很 ...

  3. # WPF动画速率效果

    在WPF中使用动画的情况非常多,而要让动画变得生动往往要使用一些变速动画,WPF也内置了很方便的缓动函数来实现这一功能. 除此之外,WPF还有关键帧动画,利用关键帧动画能够很好的控制动画的细节,与美工 ...

  4. JAVA高并发程序设计笔记

    第二章 Java并行程序基础 1.join()的本质是让调用线程wait()在当前线程的对象上 2.Thread.yiedl()会使当前线程让出CPU 3.volatile保证可见性,无法保证原子性( ...

  5. php计算多个集合的笛卡尔积实例详解

    笛卡尔积 笛卡尔积是指在数学中,两个集合X和Y的笛卡尔积(Cartesian product),又称直积,表示为X*Y,第一个对象是X的成员而第二个对象是Y的所有可能有序对的其中一个成员. 假设集合A ...

  6. 组件嵌套时报:Component template should contain exactly one root element. If you are using v-if on multiple elements, use v-else-if to chain them instead.

    在组件嵌套的过程中,报了一个错误: 这里报错的原因是:vue的组件(模板)只能有一个根节点,即.vue文件中的<template>标签下只能有一个子元素. 因此,建议大家在写.vue组件的 ...

  7. Protocol Buffer序列化对比Java序列化.

    初识 Protocol Buff是谷歌推出的一种序列化协议. 而Java序列化协议也是一种协议. 两者的目的是, 将对象序列化成字节数组, 或者说是二进制数据, 那么他们之间有什么差异呢. proto ...

  8. linux apt-cache使用方法

    apt-cache是linux下的一个apt软件包管理工具,它可查询apt的二进制软件包缓存文件.APT包管理的大多数信息查询功能都可以由apt-cache命令实现,通过apt-cache命令配合不同 ...

  9. webStorm和Sublime使用列编辑命令

    webStorm可以像Sublime一样使用列编辑,只是区别在于webStorm只可以编辑连续列表. 按住alt键鼠标选择一列,然后输入文字就会编辑多行,这个功能很赞,比较实用(按住ALT键选中之后, ...

  10. hdu 5305 friends

    每一次比赛的时候脑子都卡顿, 这次更离谱,我居然二进制枚举边,这么大的复杂度.而且剪不了枝 后来学长说着是道爆搜.搜每一条边.恍然大悟. 仅仅须要剪掉点的度数是奇数的时候,或者他的线上朋友或线下朋友大 ...