1.HDFS简单版集群搭建相关配置文件

　　1.core-site.xml文件

  <property>

     <name>fs.defaultFS</name>

     <value>hdfs://hadoop2:9000</value>

   </property>

   <property>

    <name>hadoop.tmp.dir</name>

    <value>/usr/hadoop-2.9./data</value>

   </property>

2.ZK搭建高可用HDFS集群搭建相关配置文件

　　1.zkdata1/zoo.cfg文件

 tickTime=

 initLimit=

 syncLimit=

 dataDir=/root/zkdata

 clientPort=

 server.=主机名::

 server.=主机名::

 server.=主机名::

　　2.hadoop的core-site.xml文件

 <!--hdfs主要入口不再是一个具体机器而是一个虚拟的名称 -->

 <property>

   <name>fs.defaultFS</name>

   <value>hdfs://ns</value>

 </property>

 <property>

   <name>hadoop.tmp.dir</name>

   <value>/usr/hadoop-2.9./data</value>

 </property>

 <property>

     <name>ha.zookeeper.quorum</name>

   <value>hadoop1:,hadoop1:,hadoop1:</value>

 </property>

　　3.hadoop 配置hdfs-site.xml文件

 <!--指定hdfs的nameservice为ns，需要和core-site.xml中的保持一致 -->

       <property>

           <name>dfs.nameservices</name>

           <value>ns</value>

       </property>

       <!-- ns下面有两个NameNode，分别是nn1，nn2 -->

       <property>

           <name>dfs.ha.namenodes.ns</name>

           <value>nn1,nn2</value>

       </property>

          <!-- nn1的RPC通信地址 -->

       <property>

           <name>dfs.namenode.rpc-address.ns.nn1</name>

           <value>hadoop2:</value>

       </property>

       <!-- nn1的http通信地址 -->

       <property>

           <name>dfs.namenode.http-address.ns.nn1</name>

           <value>hadoop2:</value>

       </property>

       <!-- nn2的RPC通信地址 -->

       <property>

           <name>dfs.namenode.rpc-address.ns.nn2</name>

           <value>hadoop3:</value>

       </property>

       <!-- nn2的http通信地址 -->

       <property>

           <name>dfs.namenode.http-address.ns.nn2</name>

           <value>hadoop3:</value>

       </property>

     <!-- 指定NameNode的元数据在JournalNode上的存放位置 -->

     <property>

         <name>dfs.namenode.shared.edits.dir</name>

         <value>qjournal://hadoop2:8485;hadoop3:8485;hadoop4:8485/ns</value>

     </property>

 <!-- 指定JournalNode在本地磁盘存放数据的位置 -->

     <property>

         <name>dfs.journalnode.edits.dir</name>

         <value>/root/journal</value>

     </property>

     <!-- 开启NameNode故障时自动切换 -->

     <property>

         <name>dfs.ha.automatic-failover.enabled</name>

         <value>true</value>

     </property>

     <!-- 配置失败自动切换实现方式 -->

     <property>

         <name>dfs.client.failover.proxy.provider.ns</name>

         <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

     </property>

     <!-- 配置隔离机制，如果ssh是默认22端口，value直接写sshfence即可 -->

     <property>

         <name>dfs.ha.fencing.methods</name>

         <value>sshfence</value>

     </property>

     <!-- 使用隔离机制时需要ssh免登陆 -->

     <property>

         <name>dfs.ha.fencing.ssh.private-key-files</name>

         <value>/root/.ssh/id_rsa</value>

     </property>

3.搭建yarn集群

　　1.mapred-site.xml

　　注意：默认/etc/中没有这个配置文件 需要拷贝mapred-site.xml.template 配置文件

　　　　    改名为mapred-site.xml

 <property>

     <name>mapreduce.framework.name</name>

     <value>yarn</value>

 </property>

　　2.yarn.site.xml文件

 <property>

     <name>yarn.nodemanager.aux-services</name>

     <value>mapreduce_shuffle</value>

 </property>

 <property>

     <name>yarn.resourcemanager.hostname</name>

     <value>Hadoop</value>

 </property>

4.HA的hadoop集群搭建的配置文件(最终版)

　　1.core-site.xml文件

 <!--hdfs主要入口不再是一个具体机器而是一个虚拟的名称 -->

 <property>

   <name>fs.defaultFS</name>

   <value>hdfs://ns</value>

 </property>

 <!-- hadoop临时目录位置 -->

 7 <property>

   <name>hadoop.tmp.dir</name>

   <value>/root/hadoop-2.9./data</value>

 </property>

 <!--zk集群的所有节点-->

 <property>

     <name>ha.zookeeper.quorum</name>

   <value>zk:,zk:,zk:</value>

 </property>

　　2.hdfs-site.xml文件

 <!--指定hdfs的nameservice为ns，需要和core-site.xml中的保持一致 -->

 <property>

     <name>dfs.nameservices</name>

     <value>ns</value>

 </property>

 6 <!-- ns下面有两个NameNode，分别是nn1，nn2 -->

 7 <property>

     <name>dfs.ha.namenodes.ns</name>

     <value>nn1,nn2</value>

10 </property>

11 <!-- nn1的RPC通信地址 -->

12 <property>

     <name>dfs.namenode.rpc-address.ns.nn1</name>

     <value>hadoop22:</value>

 </property>

 <!-- nn1的http通信地址 -->

 <property>

     <name>dfs.namenode.http-address.ns.nn1</name>

     <value>hadoop22:</value>

 </property>

 <!-- nn2的RPC通信地址 -->

 <property>

     <name>dfs.namenode.rpc-address.ns.nn2</name>

     <value>hadoop23:</value>

 </property>

 <!-- nn2的http通信地址 -->

 <property>

     <name>dfs.namenode.http-address.ns.nn2</name>

     <value>hadoop23:</value>

 </property>

 <!-- 指定NameNode的元数据在JournalNode上的存放位置 -->

 <property>

     <name>dfs.namenode.shared.edits.dir</name>

     <value>qjournal://hadoop26:8485;hadoop27:8485;hadoop28:8485/ns</value>

 </property>

 <!-- 指定JournalNode在本地磁盘存放数据的位置 -->

 <property>

     <name>dfs.journalnode.edits.dir</name>

     <value>/root/journal</value>

     </property>

 <!-- 开启NameNode故障时自动切换 -->

 <property>

      <name>dfs.ha.automatic-failover.enabled</name>

      <value>true</value>

 </property>

 <!-- 配置失败自动切换实现方式 -->

 <property>

       <name>dfs.client.failover.proxy.provider.ns</name>

       <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>

 </property>

 <!-- 配置隔离机制，如果ssh是默认22端口，value直接写sshfence即可 -->

 <property>

       <name>dfs.ha.fencing.methods</name>

       <value>sshfence</value>

 </property>

 <!-- 使用隔离机制时需要ssh免登陆 -->

 <property>

     <name>dfs.ha.fencing.ssh.private-key-files</name>

     <value>/root/.ssh/id_rsa</value>

 </property>

　　3.yarn-site.xml文件

 <!-- 开启RM高可用 -->

 <property>

   <name>yarn.resourcemanager.ha.enabled</name>

   <value>true</value>

 </property>

 <!-- 指定RM的cluster id -->

 <property>

   <name>yarn.resourcemanager.cluster-id</name>

   <value>yrc</value>

 </property>

 <!-- 指定RM的名字 -->

 <property>

   <name>yarn.resourcemanager.ha.rm-ids</name>

   <value>rm1,rm2</value>

 </property>

 <!-- 分别指定RM的地址 -->

 <property>

   <name>yarn.resourcemanager.hostname.rm1</name>

   <value>hadoop24</value>

 </property>

 <property>

   <name>yarn.resourcemanager.hostname.rm2</name>

   <value>hadoop25</value>

 </property>

 <property>

   <name>yarn.resourcemanager.webapp.address.rm1</name>

   <value>hadoop24:</value>

 </property>

 <property>

   <name>yarn.resourcemanager.webapp.address.rm2</name>

   <value>hadoop25:</value>

 </property>

 <!-- 指定zk集群地址 -->

 <property>

   <name>yarn.resourcemanager.zk-address</name>

   <value>zk:,zk:,zk:</value>

 </property>

 <property>

   <name>yarn.nodemanager.aux-services</name>

   <value>mapreduce_shuffle</value>

 </property>

　　4.mapred-site.xml  默认不存在需要复制

 <!-- 指定mr框架为yarn方式 -->

 <property>

 <name>mapreduce.framework.name</name>

 <value>yarn</value>

 </property>

大数据-HDFS 集群搭建的配置文件的更多相关文章

  1. 大数据 --> Kafka集群搭建

    Kafka集群搭建 下面是以三台机器搭建为例,(扩展到4台以上一样,修改下配置文件即可) 1.下载kafka http://apache.fayea.com/kafka/0.9.0.1/ ,拷贝到三台 ...

  2. 大数据 --> Hadoop集群搭建

    Hadoop集群搭建 1.修改/etc/hosts文件 在每台linux机器上,sudo vim /etc/hosts 编写hosts文件.将主机名和ip地址的映射填写进去.编辑完后,结果如下: 2. ...

  3. 大数据Hadoop-Spark集群部署知识总结（一）

    大数据Hadoop-Spark集群部署知识总结 一.启动/关闭 hadoop myhadoop.sh start/stop 分步启动: 第一步:在hadoop102主机上 sbin/start-dfs ...

  4. 大数据（2）---HDFS集群搭建

    一.准备工作 1.准备几台机器,我这里使用VMware准备了四台机器,一个name node,三个data node. VMware安装虚拟机:https://www.cnblogs.com/niju ...

  5. 一台虚拟机，基于docker搭建大数据HDP集群

    前言 好多人问我,这种基于大数据平台的xxxx的毕业设计要怎么做.这个可以参考之前写得关于我大数据毕业设计的文章.这篇文章是将对之前的毕设进行优化. 个人觉得可以分为两个部分.第一个部分就是基础的平台 ...

  6. 大数据——Hadoop集群坏境CentOS安装

    前言 前面我们主要分析了搭建Hadoop集群所需要准备的内容和一些提前规划好的项,本篇我们主要来分析如何安装CentOS操作系统,以及一些基础的设置,闲言少叙,我们进入本篇的正题. 技术准备 VMwa ...

  7. 大数据 -- Hadoop集群环境搭建

    首先我们来认识一下HDFS, HDFS(Hadoop Distributed File System )Hadoop分布式文件系统.它其实是将一个大文件分成若干块保存在不同服务器的多个节点中.通过联网 ...

  8. [转]大数据hadoop集群硬件选择

      问题导读 1.哪些情况会遇到io受限制? 2.哪些情况会遇到cpu受限制? 3.如何选择机器配置类型? 4.为数据节点/任务追踪器提供的推荐哪些规格? 随着Apache Hadoop的起步,云客户 ...

  9. 部署开启了Kerberos身份验证的大数据平台集群外客户端

    转载请注明出处 :http://www.cnblogs.com/xiaodf/ 本文档主要用于说明,如何在集群外节点上,部署大数据平台的客户端,此大数据平台已经开启了Kerberos身份验证.通过客户 ...

随机推荐

  1. jmeter循环取消今天所有的订单

    结构 1.首先,添加JDBC Connection Configuration 2.其次添加JDBC request 添加循环控制器 循环控制器下方添加计数器 ${__V(reservationID_ ...

  2. Nacos: Namespace 和 Endpoint 在生产环境下的最佳实践

    随着使用 Nacos 的企业越来越多,遇到的最频繁的两个问题就是:如何在我的生产环境正确的来使用 namespace 以及 endpoint.这篇文章主要就是针对这两个问题来聊聊使用 nacos 过程 ...

  3. 阿里云POLARDB荣膺2019中国数据库年度最佳创新产品

    在日前的DTCC 2019(第十届中国数据库技术大会)上,阿里云自研云原生数据库POLARDB获选2019中国数据库——“年度最佳创新产品”. POLARDB是阿里云在2018年正式商业化的云原生数据 ...

  4. HZOJ 走格子

    作者的正解: 对于100%的数据:行动可以分为两种: 1. 步行,花费一个单位的时间移动到4联通的相邻格子中去. 2. 使用传送门,指定一个方向的墙的前面的一个格子,步行至最近的一个墙的面前,使用传送 ...

  5. day7_python之面向对象item系列（__getitem__,__setitem__,__delitem__）

    class Foo: def __getitem__(self, item): print('=====>get') return self.__dict__[item] def __setit ...

  6. oracle 尽量多使用COMMIT

    只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少: COMMIT所释放的资源: a.       回滚段上用于恢复数据的信息. b.   ...

  7. hdu 3982 Harry Potter and J.K.Rowling （半平面交 + 圆与多边形交）

    Problem - 3982 题意就是给出一个圆心在原点半径为R的圆形蛋糕,上面有一个cherry,对蛋糕切若干刀,最后要求求出有cherry的那块的面积占整个蛋糕的多少. 做法显而易见,就是一个半平 ...

  8. ubuntu14.04 编译hadoop-2.6.0-cdh5.4.4

    1 protocol buffer sudo apt-get install libprotobuf-dev asn@hadoop1:~/Desktop$ protoc --version libpr ...

  9. Vue 语法的一些小问题

    设置 sty行内样式 :style="{width:mapWidth,height:mapHeight}" This指向   axios 使用axios 的时候 ,在生命周期函数  ...

  10. linux中添加常用应用程序的桌面图标

    在网上随处可以找到怎么样把应用程序的图标放到桌面上,我刚用ubuntu时也是按照网上的做法,一步一步的做的,现将网上的做法复制下来: 桌面配置文件简述\label{sec:desktop file} ...