一、配置说明

这是在我之前yarn框架上通过加入节点,改动相关的配置文件,使得secondarynamenode独立出来的,所以这里前期的一系列琐碎配置请參考我之前的博客:

http://blog.csdn.net/u014078192/article/details/27992567

我会在这基础上讲述怎样将secondarynamenode抽调出来。

二、配置

1)先添加一台虚拟机,配置免password。关防火墙,主机名(secondarynamenode)

确保三台机器都能ping通。

2)配置文件:

a) Master上的配置:

i. Core-site.xml

<configuration>

  <property>

        <name>fs.default.name</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii.  Hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

<property>

        <name>dfs.secondary.http.address</name>

        <value>secondarynamenode:50090</value>

  </property>

</configuration>

Iii、mapred-site.xml

<configuration>

  <property>

   <name>mapreduce.framework.name</name>

   <value>yarn</value>

<final>true</final>

</property>

  <property>

    <name>mapred.system.dir</name>

    <value>/home/hadoop/hadoop/tmp/mapred/system/</value>

  </property>

</configuration>

B) secondartnamenode的配置

I、core-site.xml

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

 <property>

        <name>fs.checkpoint.period</name>

        <value>3600</value>

  </property>

  <property>

        <name>fs.checkpoint.size</name>

        <value>67108864</value>

  </property>

</configuration>

Iii、hdfs-site.xml

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

        <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

  <property>

        <name>dfs.http.address</name>

        <value>master:50070</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

C)slave1上的配置(datanode)

I)core-site.xml:

<configuration>

  <property>

        <name>fs.defaultFS</name>

        <value>hdfs://master:9000</value>

  </property>

  <property>

        <name>hadoop.tmp.dir</name>

        <value>/home/hadoop/hadoop/tmp</value>

  </property>

</configuration>

Ii)hdfs-site.xml:

<configuration>

  <property>

        <name>dfs.replication</name>

<!-- 值须要与实际的DataNode节点数要一致本文为1 -->

        <value>1</value>

  </property>

  <property>

        <name>dfs.namenode.name.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/namenode</value>

        <final>true</final>

  </property>

  <property>

        <name>dfs.datanode.data.dir</name>

        <!-- 注意创建相关的文件夹结构 -->

       <value>file:/home/hadoop/hadoop/dfs/datanode</value>

  </property>

</configuration>

Iii、mapred-site.xml配置能够沿用master中的mapred-site.xml

3)配置etc/profile,以下的代码,三台虚拟机是通用的。

#set java enviroment

export JAVA_HOME=/usr/local/jdk

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

# Hadoop

export HADOOP_HOME="/home/hadoop/hadoop"

export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

export HADOOP_COMMON_HOME=${HADOOP_HOME}

export HADOOP_HDFS_HOME=${HADOOP_HOME}

export HADOOP_MAPRED_HOME=${HADOOP_HOME}

export HADOOP_YARN_HOME=${HADOOP_HOME}

三、执行

1)格式化namenode:bin/hadoop  namenode  -format

2)执行:sbin/start-all.sh

master上的结果:

secondarynamenode上的结果:

slave1上的结果:

3)总结:

进程是可以启起来,但是出现一个错误:我在度娘和Google上都搜了,但是没有找到好的解决方法。我会将它发到论坛。尽快的去解决问题。

单独配置secondarynamenode的更多相关文章

  1. php-fpm 重启 nginx单独配置 重启

    nginx单独配置 重启 [root@ssy106c14c190c69 Api]# cd /usr/local/nginx/sbin/[root@ssy106c14c190c69 sbin]# lsn ...

  2. 配置SecondaryNameNode

    一.SecondaryNameNode概念: 光从字面上来理解,很容易让一些初学者先入为主:SecondaryNameNode(snn)就是NameNode(nn)的热备进程.其实不是.ssn是HDF ...

  3. 每个项目单独配置 git 用户

    git多账号登陆问题 设置git全局设置: git config --global user.name "your_name"  git config --global user. ...

  4. 配置secondarynamenode主机名masters

    1.配置hadoop的secondarynamenode,配置内容如下 node2 本文转自 素颜猪 51CTO博客,原文链接:http://blog.51cto.com/suyanzhu/19592 ...

  5. .NET应用架构设计—面向查询服务的参数化查询设计(分解业务点,单独配置各自的数据查询契约)

    阅读目录: 1.背景介绍 2.对业务功能点进行逻辑划分(如:A.B.C分别三个业务点) 2.1.配置映射关系,对业务点配置查询契约(构造VS插件方便生成查询契约) 2.2.将配置好的映射策略文件放在调 ...

  6. oracle 客户端单独配置

    本文目的是在CentOS 5.3上安装Oracle 11.2 instant client来访问远端的Oracle 10.2数据库,笔者测试通过,应该也适用于Redhat Linux 5.x     ...

  7. linux 搭建SVN服务器,为多个项目分别建立版本库并单独配置权限

    1.安装svn服务    # yum install subversion   2.新建一个目录用于存储SVN所有文件    # mkdir /home/svn   3.在上面创建的文件夹中为项目 p ...

  8. Nginx虚拟主机 子文件单独配置

    上一篇所有的server 全都配置在nginx.conf配置文件里,其实每个server 都可以单独做一个子文件 删除nginx.conf配置文件中的server及其余内容,加上如下图 创建保存每个虚 ...

  9. tp3.2 模块单独配置数据库

    一 $User = M('test','tp_','mysql://root:123456@localhost/new_lezhu#utf8'); 1.test       -->表名 2.tp ...

随机推荐

  1. 2015309南皓芯实验二 Java面向对象程序设计

    一.实验内容 初步掌握单元测试和TDD 理解并掌握面向对象三要素:封装.继承.多态 初步掌握UML建模 熟悉S.O.L.I.D原则 了解设计模式 实验要求 1.没有Linux基础的同学建议先学习< ...

  2. JS实现点击图片,在浏览器中查看。

    工作中遇到要实现点击图片查看的功能,从网上找了一段js代码,可以用. <img src="/pic/${pictureCertificate}" alt="凭证&q ...

  3. 1、树莓派3B开箱+安装系统

    说白了,树莓派就是英国人为学生开发的一款微型电脑.电脑能干什么,那就多了.英国小学生有用树莓派做气象站的,有检测家长开门回家的(可以安心玩游戏了),总之脑洞有多大就可以玩多大. 了解到了之后就一直心水 ...

  4. 旁门左道通过JS与纯CSS实现显示隐藏层

    想必大家在开发前端页面时,肯定少不了显示隐藏层这一技术点.那么我简单粗暴地总结了以下两个小demo. 要实现该截图的功能:鼠标移动到我的好友这个选项卡时,灰色的隐藏层就会出现.

  5. 浅谈jvm

    1 .说起jvm,很多人感觉jvm离我们开发实际很远.但是,我们开发缺每时每刻都离不开jvm. a: java源码 编译后成.class字节码文件, b:根据classpath找到这个字节码文件, c ...

  6. 003 JTA的使用与理解

    一:认识JTA 1.介绍 事物的ACID. 事务是计算机应用中不可或缺的组件模型,它保证了用户操作的原子性 ( Atomicity ).一致性 ( Consistency ).隔离性 ( Isolat ...

  7. ESLint处理

    当有遇到下划线的问题,会提示有问题,无法通过检测 需要在代码的前面加入以下代码就可以解决,地址是:https://stackoverflow.com/questions/44126983/eslint ...

  8. xshell连接不上linux问题

    1.首先确定linux系统有网络. 使用ipconfig查看是否有ip地址,没有的话需要先配置. 2.打开sshd服务:service sshd start 3.关闭防火墙服务:service ipt ...

  9. java异常及日志注意事项

    一.异常注意事项 简单整理了下关于异常的规范: 1)      在异常处理模块中应提供精确.易读的错误原因信息. 2)      不要处理能够避免的异常. 3)      一个方法不应该抛出太多类型的 ...

  10. python opencv3 人脸识别的例子

    一个人脸识别的例子 程序中用到了公共数据集, 欢迎去我的git上下载源码,源码里带有数据集 git:https://github.com/linyi0604/Computer-Vision 脚本中一个 ...