准备工作：

hadoop3.2.0+jdk1.8+centos7+zookeeper3.4.5

以上是我搭建集群使用的基础包

一、环境准备

master1 master2 slave1 slave2 slave3
jdk、NameNode、DFSZKFailoverController(zkfc) jdk、NameNode、DFSZKFailoverController(zkfc) jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain

说明：

在hadoop集群中通常由两个namenode组成，一个处于active状态，一个处于stanbdy状态，Active NameNode对外提供服务，而Standby NameNode则不对外提供服务，仅同步active namenode的状态，以便能够在它失败时快速进行切换。

hadoop官方提供了两种HDFS HA的解决方案，一种是NFS，另一种是QJM。这里我们使用简单的QJM。在该方案中，主备NameNode之间通过一组JournalNode同步元数据信息，一条数据只要成功写入多数JournalNode即认为写入成功。通常配置奇数个JournalNode这里还配置了一个zookeeper集群，用于ZKFC（DFSZKFailoverController）故障转移，当Active NameNode挂掉了，会自动切换Standby NameNode为standby状态。

hadoop中依然存在一个问题，就是ResourceManager只有一个，存在单点故障，hadoop-3.2.0解决了这个问题，有两个ResourceManager，一个是Active，一个是Standby，状态由zookeeper进行协调。

将五个虚拟机分别关闭防火墙，更改主机名：

systemctl stop firewalld

systemctl disabled firewalld

vim /etc/hostname

在五台虚拟机依次修改，保存

master1

master2

slave1

slave2

slave3

配置hosts文件：

vim /etc/hosts

#添加内容

master1 192.168.60.10

master2 192.168.60.11

slave1 192.168.60.12

slave2 192.168.60.13

slave3 192.168.60.14

配置免密登录：

ssh-keygen -t rsa　　#在每台虚拟机执行
cd /root/.ssh/
cat id_rsa.pub >> authorized_keys
scp authorized_keys root@master2:/root/.ssh/
#一次执行上述步骤，最后分发 authorized_keys 文件到各个节点

二、安装步骤

jdk1.8安装：

1.解压文件

tar -zxvf jdk1.8.tar.gz -C /usr/local　　#自己定义目录

2.配置环境变量

vim /etc/profile

export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$JAVA_HOME/bin:$PATH

source /etc/profile　　#更新资源
java -version　　#验证

zookeeper安装：

1.解压zookeeper

tar -zxvf zookeeper-3.4.5.tar.gz -C /usr/local/soft　　#自己定义目录

2.修改配置文件

cd /usr/local/zookeeper-3.4.5/conf/

cp zoo_sample.cfg zoo.cfg

vim zoo.cfg
#修改一下内容


dataDir=/usr/local/soft/zookeeper-3.4.5/tmp
在后面添加：


server.1=slave1:2888:3888

server.2=slave2:2888:3888

server.3=slave3:2888:3888
#保存退出




3.在zookeeper目录下创建tmp文件夹




mkdir /usr/local/soft/zookeeper-3.4.5/tmp




再创建一个空文件




touch /usr/local/soft/zookeeper-3.4.5/tmp/myid




最后向该文件写入ID




echo 1 > /usr/local/soft/zookeeper-3.4.5/tmp/myid




4.将配置好的zookeeper拷贝到其他节点(首先分别在slave2、slave3根目录下创建一个soft目录：mkdir /usr/local/soft/)




scp -r /usr/local/soft/zookeeper-3.4.5/ itcast06:/usr/local/soft

scp -r /usr/local/soft/zookeeper-3.4.5/ itcast07:/usr/local/soft




5.注意要修改myid内容




slave2：

echo 2 > /usr/local/soft/zookeeper-3.4.5/tmp/myid

slave3：

echo 3 > /usr/local/soft/zookeeper-3.4.5/tmp/myid




6.启动zookeeperokeeper集群(三台机器都要启动)




cd 到zookeeper/conf下

./zdServer.sh start




hadoop集群配置：


1.解压文件




tar -zxvf hadoop-3.2.0.tar.gz -C /usr/local/soft/




2.添加环境变量




vim /etc/profile

export HADOOP_HOME=/usr/local/soft/hadoop-3.2.0

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/bin:$PATH

source /etc/profile　　#更新资源

hadoop version　　#验证




3.配置hadoop-env.sh，添加JAVA_HOME　




export JAVA_HOME=/usr/local/jdk




4.配置core-site.xml




<configuration>

<!-- 指定hdfs的nameservice为ns1 -->

<property>

<name>fs.defaultFS</name>

<value>hdfs://ns1</value>

</property>

<!-- 指定hadoop临时目录 -->

<property>

<name>hadoop.tmp.dir</name>

<value>/usr/local/soft/hadoop-3.2.0/tmp</value>

</property>

<!-- 指定zookeeper地址 -->

<property>

<name>ha.zookeeper.quorum</name>

<value>slave1:2181,slave2:2181,slave3:2181</value>

</property>

</configuration>




5.配置hdfs-site.xml




<configuration>

<!--指定hdfs的nameservice为ns1，需要和core-site.xml中的保持一致 -->

<property>

<name>dfs.nameservices</name>

<value>ns1</value>

</property>

<!-- ns1下面有两个NameNode，分别是nn1，nn2 -->

<property>

<name>dfs.ha.namenodes.ns1</name>

<value>nn1,nn2</value>

</property>

<!-- nn1的RPC通信地址 -->

<property>

<name>dfs.namenode.rpc-address.ns1.nn1</name>

<value>master1:9000</value>

</property>

<!-- nn1的http通信地址 -->

<property>

<name>dfs.namenode.http-address.ns1.nn1</name>

<value>master1:50070</value>

</property>

<!-- nn2的RPC通信地址 -->

<property>

<name>dfs.namenode.rpc-address.ns1.nn2</name>

<value>master2:9000</value>

</property>

<!-- nn2的http通信地址 -->

<property>

<name>dfs.namenode.http-address.ns1.nn2</name>

<value>master2:50070</value>

</property>

<!-- 指定NameNode的元数据在JournalNode上的存放位置 -->

<property>

<name>dfs.namenode.shared.edits.dir</name>

<value>qjournal://slave1:8485;slave2:8485;slave3:8485/ns1</value>

</property>

<!-- 指定JournalNode在本地磁盘存放数据的位置 -->

<property>

<name>dfs.journalnode.edits.dir</name>

<value>/usr/local/soft/hadoop-3.2.0/journal</value>

</property>

<!-- 开启NameNode失败自动切换 -->

<property>

<name>dfs.ha.automatic-failover.enabled</name>

<value>true</value>

</property>

<!-- 配置失败自动切换实现方式 -->

<property>

<name>dfs.client.failover.proxy.provider.ns1</name>

<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

</property>

<!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行-->

<property>

<name>dfs.ha.fencing.methods</name>

<value>

　　　　sshfence

　　　　shell(/bin/true)

</value>

</property>

<!-- 使用sshfence隔离机制时需要ssh免登陆 -->

<property>

<name>dfs.ha.fencing.ssh.private-key-files</name>

<value>/home/hadoop/.ssh/id_rsa</value>

</property>

<!-- 配置sshfence隔离机制超时时间 -->

<property>

<name>dfs.ha.fencing.ssh.connect-timeout</name>

<value>30000</value>

</property>

</configuration>




6.配置mapred-site.xml




<configuration>

<!-- 指定mr框架为yarn方式 -->

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

</configuration>




7.配置yarn-site.xml




<configuration>

<!-- 开启RM高可靠 -->

<property>

<name>yarn.resourcemanager.ha.enabled</name>

<value>true</value>

</property>

<!-- 指定RM的cluster id -->
<property>

<name>yarn.resourcemanager.cluster-id</name>

<value>yrc</value>

</property>

<!-- 指定RM的名字 -->

<property>

<name>yarn.resourcemanager.ha.rm-ids</name>

<value>rm1,rm2,rm3</value>

</property>

<!-- 分别指定RM的地址 -->

<property>

<name>yarn.resourcemanager.hostname.rm1</name>

<value>slave1</value>

</property>

<property>

<name>yarn.resourcemanager.hostname.rm2</name>

<value>slave2</value>

</property>
<property>
<name>yarn.resourcemanager.hostname.rm3</name>
<value>slave3</value>
</property>

<!-- 指定zk集群地址 -->

<property>

<name>yarn.resourcemanager.zk-address</name>

<value>slave1:2181,slave2:2181,slave3:2181</value>

</property>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>
<!-- 防止运行mapreduce出错根据hadoop classpath输出决定value -->
<property>
<name>yarn.application.classpath</name>
<value>/usr/local/soft/hadoop-3.2.0/etc/hadoop:/usr/local/soft/hadoop-3.2.0/share/hadoop/common/lib/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/common/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/hdfs:/usr/local/soft/hadoop-3.2.0/share/hadoop/hdfs/lib/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/hdfs/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/mapreduce/lib/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/mapreduce/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/yarn:/usr/local/soft/hadoop-3.2.0/share/hadoop/yarn/lib/*:/usr/local/soft/hadoop-3.2.0/share/hadoop/yarn/*</value>
</property>
</configuration>




8.配置workers




slave1

slave2

slave3




9.配置sbin/start-yarn.sh、sbin/stop-yarn.sh 和 sbin/start-dfs.sh sbin/stop-dfs.sh




dfs添加：
HDFS_NAMENODE_USER=root

HDFS_DATANODE_USER=root

HDFS_JOURNALNODE_USER=root

HDFS_ZKFC_USER=root
yarn添加：


YARN_RESOURCEMANAGER_USER=root
 HADOOP_SECURE_DN_USER=yarn
 YARN_NODEMANAGER_USER=root




10.将Hadoop3.2.0分发到各个节点




scp -r hadoop3.2.0 root@master2:/usr/local/soft/

scp -r hadoop3.2.0 root@slave1:/usr/local/soft/

scp -r hadoop3.2.0 root@slave2:/usr/local/soft/

scp -r hadoop3.2.0 root@slave3:/usr/local/soft/




三、启动集群


zookeeper集群已经启动




cd /usr/local/soft/zookeeper-3.4.5/bin/

./zkServer.sh start

#查看状态：一个leader，两个follower

./zkServer.sh status












启动journalnode（分别在在slave1、slave2、slave3上执行）




cd /usr/local/soft/hadoop-3.2.0

sbin/hadoop-daemon.sh start journalnode

#运行jps命令检验，多了JournalNode进程




格式化HDFS




#在master1上执行命令:

hdfs namenode -format

#格式化后会在根据core-site.xml中的hadoop.tmp.dir配置生成个文件，这里我配置的是/usr/local/soft/hadoop-3.2.0/tmp，然后将/usr/local/soft/hadoop-3.2.0/tmp拷贝到itcast02的/usr/local/soft/hadoop-3.2.0/tmp下。 


scp -r tmp/ root@master2:/usr/local/soft/hadoop-3.2.0　　#分发到各个节点




格式化ZK(在master1)上执行




hdfs zkfc -formatZK




启动集群(在master1)执行




sbin/start-dfs.sh

sbin/start-yarn.sh




















验证YARN：
		运行一下hadoop提供的demo中的WordCount程序：




cd到hadoop目录下：
hadoop fs -put /etc/profile /
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.2.0.jar wordcount /profile /out


												


											
hadoop3.2+Centos7+5个节点主从模式配置的更多相关文章
	

    
								
  1. CentOS7下Mysql5.7主从数据库配置
		
    本文配置主从使用的操作系统是Centos7,数据库版本是mysql5.7. 准备好两台安装有mysql的机器(mysql安装教程链接) 主数据库配置 每个从数据库会使用一个MySQL账号来连接主数据库 ...
    
		
    2. 
						
  2. redis的主从模式搭建及注意事项
		
    前言:本文先分享下如何搭建redis的主从模式配置,以及主从模式配置的注意事项.后续会继续分享如何实现一个高可用的redis服务,redis的Sentinel 哨兵模式及集群搭建. 安装: 1,yum ...
    
		
    3. 
						
  3. Redis 单例、主从模式、sentinel 以及集群的配置方式及优缺点对比（转）
		
    摘要: redis作为一种NoSql数据库,其提供了一种高效的缓存方案,本文则主要对其单例,主从模式,sentinel以及集群的配置方式进行说明,对比其优缺点,阐述redis作为一种缓存框架的高可用性 ...
    
		
    4. 
						
  4. Nginx知多少系列之(十四)Linux下.NET Core项目Nginx+Keepalived高可用（主从模式）
		
    目录 1.前言 2.安装 3.配置文件详解 4.工作原理 5.Linux下托管.NET Core项目 6.Linux下.NET Core项目负载均衡 7.负载均衡策略 8.加权轮询(round rob ...
    
		
    5. 
						
  5. Nginx+keepalived双机热备（主从模式）
		
    负载均衡技术对于一个网站尤其是大型网站的web服务器集群来说是至关重要的!做好负载均衡架构,可以实现故障转移和高可用环境,避免单点故障,保证网站健康持续运行.关于负载均衡介绍,可以参考:linux负载 ...
    
		
    6. 
						
  6. solr 主从模式和solrcloud集群模式
		
    主从模式 主节点有单点故障问题:没有主从自动切换,没有failover,主机down掉了的话,整个数据变成只读.并且需要一台机单独做索引,浪费资源,所有数据都需要在这台机器上单独存在一份,索引变化较大 ...
    
		
    7. 
						
  7. Linux keepalived+nginx实现主从模式
		
    双机高可用方法目前分为两种: 主从模式:一台主服务器和一台从服务器,当配置了虚拟vip的主服务器发送故障时,从服务器将自动接管虚拟ip,服务将不会中断.但主服务器不出现故障的时候,从服务器永远处于浪费 ...
    
		
    8. 
						
  8. nginx + keepalived 主从模式
		
    转自:https://www.cnblogs.com/kevingrace/p/6138185.html 负载均衡技术对于一个网站尤其是大型网站的web服务器集群来说是至关重要的!做好负载均衡架构,可 ...
    
		
    9. 
						
  9. Nginx+Keeplived双机热备(主从模式)
		
    Nginx+Keeplived双机热备(主从模式) 参考资料: http://www.cnblogs.com/kevingrace/p/6138185.html 双机高可用一般是通过虚拟IP(漂移IP ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. Feign 超时设置
			
    问题描述 微服务之间使用 Feign 调用,偶发超时问题,配置如下: feign: client: config: default: connectTimeout: 10000 readTimeout ...
    
			
    2. 
						
  2. Leetcode学习笔记（6）
			
    题目1 ID112 给定一个二叉树和一个目标和,判断该树中是否存在根节点到叶子节点的路径,这条路径上所有节点值相加等于目标和. 说明: 叶子节点是指没有子节点的节点. 示例: 给定如下二叉树,以及目标 ...
    
			
    3. 
						
  3. 个人项目作业-Word Count
			
    个人项目作业 1.Github地址 https://github.com/CLSgGhost/SE_work 2.项目相关需求 wc.exe 是一个常见的工具,它能统计文本文件的字符数.单词数和行数. ...
    
			
    4. 
						
  4. bootstrap table 嵌入百分比进度条
			
    
			
    5. 
						
  5. 一文看懂 Kubernetes 服务发现： Service
			
    Service 简介   K8s 中提供微服务的实体是 Pod,Pod 在创建时 docker engine 会为 pod 分配 ip,"外部"流量通过访问该 ip 获取微服务.但 ...
    
			
    6. 
						
  6. Acwing 393. 雇佣收银员
			
    算法1: 差分约束 + 枚举 O(Tn2028) 由于牵扯到 \([i - 8 + 1, i]\) 这段区间的和的约束,所以用前缀和更好表达一些. 设 \(num[i]\)表示 \(i\) 时刻有多少 ...
    
			
    7. 
						
  7. Java IO源码分析（三）——PipedOutputStream和PipedInputStream
			
    简介 PipedOutputStream和PipedInputStream主要用于线程之间的通信 .二者必须配合使用,也就是一段写入,另一端接收.本质上也是一个中间缓存区,讲数据缓存在PipedInp ...
    
			
    8. 
						
  8. MySQL技术内幕InnoDB存储引擎（三）——文件相关
			
    构成MySQL数据库和InnoDB存储引擎表的文件类型有: 参数文件:MySQL实例运行时需要的参数就是存储在这里. 日志文件:用来记录MySQL实例对某种条件做出响应时写入的文件. socket文件 ...
    
			
    9. 
						
  9. 基于gin的golang web开发：实现用户登录
			
    前文分别介绍过了Resty和gin-jwt两个包,Resty是一个HTTP和REST客户端,gin-jwt是一个实现了JWT的Gin中间件.本文将使用这两个包来实现一个简单的用户登录功能. 环境准备  ...
    
			
    10. 
						
  10. Java8新增的这些集合骚操作，你掌握了嘛？
			
    目录 Iterable的forEach Iterator的forEachRemaining Collection的removeIf Stream操作 List的replaceAll List的sort ...
    
			
    11.