一、配置说明

这是在我之前yarn框架上通过加入节点,改动相关的配置文件,使得secondarynamenode独立出来的,所以这里前期的一系列琐碎配置请參考我之前的博客:

http://blog.csdn.net/u014078192/article/details/27992567

我会在这基础上讲述怎样将secondarynamenode抽调出来。

二、配置

1)先添加一台虚拟机,配置免password。关防火墙,主机名(secondarynamenode)

确保三台机器都能ping通。

2)配置文件:

a) Master上的配置:

i. Core-site.xml

<configuration>

  <property>

        <name>fs.default.name</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii.  Hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

<property>

        <name>dfs.secondary.http.address</name>

        <value>secondarynamenode:50090</value>

  </property>

</configuration>

Iii、mapred-site.xml

<configuration>

  <property>

   <name>mapreduce.framework.name</name>

   <value>yarn</value>

<final>true</final>

</property>

  <property>

    <name>mapred.system.dir</name>

    <value>/home/hadoop/hadoop/tmp/mapred/system/</value>

  </property>

</configuration>

B) secondartnamenode的配置

I、core-site.xml

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

 <property>

        <name>fs.checkpoint.period</name>

        <value>3600</value>

  </property>

  <property>

        <name>fs.checkpoint.size</name>

        <value>67108864</value>

  </property>

</configuration>

Iii、hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

  <property>

        <name>dfs.http.address</name>

        <value>master:50070</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

C)slave1上的配置(datanode)

I)core-site.xml:

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii)hdfs-site.xml:

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

3)配置etc/profile,以下的代码,三台虚拟机是通用的。

#set java enviroment

export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

# Hadoop

export HADOOP_HOME="/home/hadoop/hadoop"

export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

export HADOOP_COMMON_HOME=${HADOOP_HOME}

export HADOOP_HDFS_HOME=${HADOOP_HOME}

export HADOOP_MAPRED_HOME=${HADOOP_HOME}

export HADOOP_YARN_HOME=${HADOOP_HOME}

三、执行

1)格式化namenode:bin/hadoop  namenode  -format

2)执行:sbin/start-all.sh

master上的结果:

secondarynamenode上的结果:

slave1上的结果:

3)总结:

进程是可以启起来,但是出现一个错误:我在度娘和Google上都搜了,但是没有找到好的解决方法。我会将它发到论坛。尽快的去解决问题。

单独配置secondarynamenode的更多相关文章

  1. php-fpm 重启 nginx单独配置 重启

    nginx单独配置 重启 [root@ssy106c14c190c69 Api]# cd /usr/local/nginx/sbin/[root@ssy106c14c190c69 sbin]# lsn ...

  2. 配置SecondaryNameNode

    一.SecondaryNameNode概念: 光从字面上来理解,很容易让一些初学者先入为主:SecondaryNameNode(snn)就是NameNode(nn)的热备进程.其实不是.ssn是HDF ...

  3. 每个项目单独配置 git 用户

    git多账号登陆问题 设置git全局设置: git config --global user.name "your_name"  git config --global user. ...

  4. 配置secondarynamenode主机名masters

    1.配置hadoop的secondarynamenode,配置内容如下 node2 本文转自 素颜猪 51CTO博客,原文链接:http://blog.51cto.com/suyanzhu/19592 ...

  5. .NET应用架构设计—面向查询服务的参数化查询设计(分解业务点,单独配置各自的数据查询契约)

    阅读目录: 1.背景介绍 2.对业务功能点进行逻辑划分(如:A.B.C分别三个业务点) 2.1.配置映射关系,对业务点配置查询契约(构造VS插件方便生成查询契约) 2.2.将配置好的映射策略文件放在调 ...

  6. oracle 客户端单独配置

    本文目的是在CentOS 5.3上安装Oracle 11.2 instant client来访问远端的Oracle 10.2数据库,笔者测试通过,应该也适用于Redhat Linux 5.x     ...

  7. linux 搭建SVN服务器,为多个项目分别建立版本库并单独配置权限

    1.安装svn服务    # yum install subversion   2.新建一个目录用于存储SVN所有文件    # mkdir /home/svn   3.在上面创建的文件夹中为项目 p ...

  8. Nginx虚拟主机 子文件单独配置

    上一篇所有的server 全都配置在nginx.conf配置文件里,其实每个server 都可以单独做一个子文件 删除nginx.conf配置文件中的server及其余内容,加上如下图 创建保存每个虚 ...

  9. tp3.2 模块单独配置数据库

    一 $User = M('test','tp_','mysql://root:123456@localhost/new_lezhu#utf8'); 1.test       -->表名 2.tp ...

随机推荐

  1. windows 依赖查看

    使用工具Download Process Explorer查看运行程序所依赖的动态库. 中文说明:适用于 Windows 的 Process Explorer 10.21 版

  2. Elasticsearch 6.x 入门测试

    首先听一下官方的话: https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html 我尝试了使用Java作为Cl ...

  3. 【LOJ】#2052. 「HNOI2016」矿区

    题解 之前尝试HNOI2016的时候弃坑的一道,然后给补回来 (为啥我一些计算几何就写得好长,不过我写啥都长orz) 我们尝试给这个平面图分域,好把这个平面图转成对偶图 怎么分呢,我今天也是第一次会 ...

  4. Python全栈开发之17、tornado和web基础知识

    一.web基础知识 学习web框架之前,先来看一下web基础知识,首先要明白其本质就是socket,用户对应一个socket客户端,但是如果从socket开始开发web应用程序那么效率太了,正确的做法 ...

  5. hdoj1233 还是畅通工程(Prime || Kruskal)

    题目链接 http://acm.hdu.edu.cn/showproblem.php?pid=1233 思路 最小生成树问题,使用Prime算法或者Kruskal算法解决. 代码 Prime算法: # ...

  6. 02:实现Singleton模式

    Java实现单例模式有很多种实现方法,其中我们应根据需要选择线程安全的与非线程安全的两种方式,根据对象实现的方式又分为饱汉与饿汉方式. 这里使用java中的volatile关键字与synchroniz ...

  7. 详谈 Spring 中的 IOC 和 AOP

    这篇文章主要讲 Spring 中的几个点,Spring 中的 IOC,AOP,下一篇说说 Spring 中的事务操作,注解和 XML 配置. Spring 简介 Spring 是一个开源的轻量级的企业 ...

  8. NetStandard类库实现Log4Net集成

    前面都是Log4Net集成到NetCore项目中,集成到NetStandard类库还是第一次,所以记录一下 小提示:NetStandard要想同时被NetCore和NetFramework调用,需要在 ...

  9. 八皇后II

    用一个数组state记录已经选择的每一行皇后所在的位置,DFS count = 0 N = 8 state = [0]*N def dfs(row): global count for col in ...

  10. Python与Django的时区问题

    在编码中牵扯到时间问题的时候,总是容易被时区问题搞混,一直以来,都是反复试验应付过去,今天终于搞清楚了个中缘由,一个心结也得以化解. Python 的时区问题 datetime.today() / d ...