备注:新添的机器为hadoop05,现有hadoop01、hadoop02、hadoop03、hadoop04

环境准备:

  1、先克隆一台和集群中一样的机器

  2、修改机器ip和主机名称

  3、删除原来的data文件和log日志的残存的文件

服役新节点的具体步骤:

  1、在namenode的安装目录中的etc/hadoop文件夹下创建dfs.hosts文件

    touch dfs.hosts

  2、在文件中添加datanode的主机名称(包括新添加的节点)

    hadoop02

    hadoop03

    hadoop04

    hadoop05

  3、在namenode的hdfs-site.xml配置文件中添加dfs.hosts属性

<property>
<name>dfs.hosts</name>
<value>/soft/apps/hadoop/hadoop/etc/hadoop/dfs.hosts<alue>
</property>

  4、刷新namenode

    hdfs dfsadmin -refreshNode

    提示:Refresh nodes successful

  5、更新resourcemanager节点

    yarn rmadmin -refreshNode

    提示:INFO client.RMProxy:connecting头resourceManager at hadoop 02/192.168.80.2:8033

  6、在namenode的slaves文件中添加新主机的名称

     注意:不需要分发文件

    hadoop02

    hadoop03

    hadoop04

    hadoop05

  7、单独命令启动新的数据节点和节点管理器

    hadoop-daemon.sh start datanode

    yarn-deamon.sh start nodemanager

    8、在web上查看是否启动

    192.168.80.1:50070

    9、如果数据不均衡的话,可以用命令实现集群的在平衡

    start-dalancer.sh

--------------------------------------------------------------------------------------------

退役数据节点

1、在namenode的安装目录的etc/hadoop目录下面创建dfs.hosts.exclude文件

  touch dfs.hosts.exclude

  vi dfs.hosts.exclude

  添加主机名(要退役的节点)

2、在namenode的hdfs-site.xml配置文件中增加dfs.hosts.exclude属性

<property>
<name>dfs.hosts.exclude</name>
<value>/soft/apps/hadoop/hadoop/etc/hadoop/dfs.hosts.exclude<alue>
</property>

3、刷新namenode、刷新resourcemanager

  hdfs dfsadmin -refreshNodes

  提示:Refresh nodes successful

  yarn rmadmin -refreshNodes

4、检查web,退役节点的状态为decommission in progress(退役中),说明数据节点正在复制块到其他节点

5、等待退役节点状态为:decommissioned (所有块已经复制成功),停止该节点及节点资源管理器。注意:如果副本数是3.服役的节点小于等于3.是不能退役成功的。需要修改副本数之后才能退役

  hadoop-daemon.sh stop datanode

  hadoop-daemon.sh stop nodemanager

6、从include文件中删除退役节点,在运行刷新节点的命令

  1、从dfs.hosts文件中删除退役的节点hadoop05

  2、刷新namenode,舒心resourcemanager

    hdfs dfsadmin -refreshNodes

    提示:Refresh nodes successful

    yarn rmadmin -refreshNodes

7、从namenode的slaves文件总删除退役节点(Hadoop05)

8、若是数据不均衡刷新

  start-balancer.sh

Hadoop集群动态服役新的数据节点&&退役数据节点的更多相关文章

  1. Hadoop概念学习系列之Hadoop集群动态增加新节点或删除已有某节点及复制策略导向 (四十三)

    不多说,直接上干货! hadoop-2.6.0动态添加新节点 https://blog.csdn.net/baidu_25820069/article/details/52225216 Hadoop集 ...

  2. Linux:实现Hadoop集群Master无密码登录(SSH)各个子节点

    以下所介绍的安装方式都是在线安装方式,如果你需要连网请参考:Linux:宿主机通过桥接方式连接的VMware内部Linux14.04虚拟机(静态IP)实现上网方案 环境: OS:Linux Ubunt ...

  3. hadoop 集群 加入一个新的存储节点和删除一个计算节点需要刷新集群状态命令

    加入一个新的存储节点和删除一个计算节点需要刷新集群状态命令 方式1:静态添加datanode,停止namenode方式 1.停止namenode 2.修改slaves文件,并更新到各个节点3.启动na ...

  4. Spring Cloud Eureka集群 动态扩展新节点

    场景描述: Eureka的集群节点有两个,互相注册形成集群,已经支持动态刷新(不知道怎么让Eureka支持动态刷新的可以参考http://www.cnblogs.com/flying607/p/845 ...

  5. 大数据测试之hadoop集群配置和测试

    大数据测试之hadoop集群配置和测试   一.准备(所有节点都需要做):系统:Ubuntu12.04java版本:JDK1.7SSH(ubuntu自带)三台在同一ip段的机器,设置为静态IP机器分配 ...

  6. adoop集群动态添加和删除节点

    hadoop集群动态添加和删除节点说明 上篇博客我已经安装了Hadoop集群(hadoop集群的安装步骤和配置),现在写这个博客我将在之前的基础上进行节点的添加的删除. 首先将启动四台机器(一主三从) ...

  7. 深入理解Hadoop集群和网络

    导读:云计算和Hadoop中网络是讨论得相对比较少的领域.本文原文由Dell企业技术专家Brad Hedlund撰写,他曾在思科工作多年,专长是数据中心.云网络等.文章素材基于作者自己的研究.实验和C ...

  8. 深入理解Hadoop集群和网络【转】

    http://os.51cto.com/art/201211/364374.htm 本文将着重于讨论Hadoop集群的体系结构和方法,及它如何与网络和服务器基础设施的关系.最开始我们先学习一下Hado ...

  9. Hadoop:搭建hadoop集群

    操作系统环境准备: 准备几台服务器(我这里是三台虚拟机): linux ubuntu 14.04 server x64(下载地址:http://releases.ubuntu.com/14.04.2/ ...

随机推荐

  1. 30_网络编程-socketserver

    一.socketserver       socketserver可以实现和多个客户端通信.它是在socket的基础上进行了一层封装,也就是说底层还是调用的socket,在py2.7里面叫做Socke ...

  2. Linux链接脚本学习--lds(转)

    Linux链接脚本学习--lds 一.概论 ld: GNU的链接器. 用来把一定量的目标文件跟档案文件链接在一起,并重新定位它们的数据,链接符号引用. 一般编译一个程序时,最后一步就是运行ld进行链接 ...

  3. D3.js(v3)+react框架 基础部分之数据绑定及其工作过程与绑定顺序

    数据绑定: 将数据绑定到Dom上,是D3最大的特色.d3.select和d3.selectAll返回的元素的选择集.选择集上是没有数据的. 数据绑定就是使被选择元素里“含有”数据. 相关函数有两个: ...

  4. docker部署consol 集群

    拉取镜像 docker pull consul 启动节点1 docker run -d -e 'CONSUL_LOCAL_CONFIG={"skip_leave_on_interrupt&q ...

  5. 【LeetCode】128. 最长连续序列

    题目 给定一个未排序的整数数组,找出最长连续序列的长度. 要求算法的时间复杂度为O(n). 示例: 输入:[100, 4, 200, 1, 3, 2] 输出:4 解释:最长连续序列是[1, 2, 3, ...

  6. DockPanel与GeckoFX、ChrominumFX、CefSharp结合使用问题

    在使用DockPanel与ChrominumFx时,当在以下条件下拖动窗体时,会发生ChromiumWebBrowser崩溃的情况,此种情况也会在DockPanel与GeckoFX或CefSharp结 ...

  7. (转)python WSGI框架详解

    原文:https://www.cnblogs.com/shijingjing07/p/6407723.html?utm_source=itdadao&utm_medium=referral h ...

  8. python _、__、__xx__之间的差别

    默认情况下,Python中的成员函数和成员变量都是公开的(public),在python中没有类public,private等关键词来修饰成员函数和成员变量.其实,Python并没有真正的私有化支持, ...

  9. 帝国CMS-后台管理工具

    后台管理工具 apache+mysql 搭建的后台管理工具 参考手册*************http://www.phome.net/doc/ecmsedu/ 1.安装----- 使用的一键安装包. ...

  10. react + react-router + less +antd 开发环境

    react + react-router + less +antd 开发环境搭建 1.基于create-reacte-app,需要先安装这个脚手架,然后初始化项目. 2.进入项目目录,首先 npm r ...