角色

安装

hdfs配置

yarn配置

hdfs 格式化

启动yarn服务

启动hdfs服务

master

yum install hadoop-hdfs-namenode

yum install hadoop-yarn-resourcemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

hdfs>hdfs namenode -format

root>service hadoop-yarn-resourcemanager start

root>service hadoop-hdfs-namenode start

slave

yum install hadoop-hdfs-datanode

yum install hadoop-yarn-nodemanager

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-yarn-nodemanager start

root>service hadoop-hdfs-namenode start

proxy

yum install hadoop-mapreduce-historyserver

yum install hadoop-yarn-proxyserver

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

root>service hadoop-mapreduce-historyserver start

root>service hadoop-yarn-proxyserver start

client

yum install hadoop-client

core-site.xml

hdfs-site.xml

mapred-site.xml

yarn-site.xml

角色

hdfs本地存储目录

hdfs云存储目录

yarn本地存储目录

master

mkdir -p /data/dfs/nn

chown hdfs:hadoop

slave

mkdir -p /data/dfs/dn

chown hdfs:hadoop

mkdir -p /data/yarn/local

mkdir -p /data/yarn/logs

proxy

client

hdfs dfs –mkdir /tmp

hdfs dfs –mkdir /user/history

hdfs dfs –mkdir /var/log/hadoop-yarn

hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。

Hdfs服务web地址

cMaster:50070

Yarn服务web地址

cMaster:8088

JobHistory服务web地址

cProxy:19888

建立私有账户joe

[root@iClient~]#adduser joe

本地新建joe用户

[root@iClient~]#passwd joe

更改joe密码

[hdfs@iClient~]#hdfs dfs –mkdir /user/joe

在hdfs建立joe的家目录

[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe

给家目录授权

[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput

本地文件yourdata.txt上传至joeInput

[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000

执行例程的pi,4个map,做10000次。

商用hadoop集群的配置命令分布的更多相关文章

  1. 【Big Data】HADOOP集群的配置(一)

    Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  2. Hadoop集群的配置(一)

    摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...

  3. 【Big Data】HADOOP集群的配置(二)

    Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...

  4. Hadoop的学习前奏(二)——Hadoop集群的配置

    前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux:  CentOS 6.6(Final) x64   JDK:    java version "1.7 ...

  5. 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)

    http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...

  6. hadoop 集群的配置

    在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...

  7. Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS

    摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...

  8. hadoop集群单点配置

    =================== =============================== ----------------hadoop集群搭建 --------------------- ...

  9. Hadoop集群安装配置

    一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...

随机推荐

  1. Java利用Apache poi导出图表

    jar compile('org.apache.poi:poi:4.0.1') compile('org.apache.poi:poi-scratchpad:4.0.1') compile('org. ...

  2. unity_实用小技巧(相机跟随两个主角移动)

    在两人对战的游戏中,有时候我们希望能看清楚两玩家的状态,这时我们需要让相机跟随玩家,可是我们不能让相机只跟随一个玩家移动,这时我们可以取两玩家的中点作为相机的位置.方法如下: public Trans ...

  3. B-generator 1_2019牛客暑期多校训练营(第五场)

    题意 给出\(x0,x1,a,b\), \(x_i = a\cdot x_{i-1} + b\cdot x_{i-2}\),问\(x_n取模mod\) 题解 用十进制快速幂,二进制快速幂是每到下一位就 ...

  4. CF - 1107 E Vasya and Binary String DP

    题目传送门 题解: dp[ l ][ r ][ k ] 代表的是[l, r]这段区间内, 前面有k-1个连续的和s[l]相同且连续的字符传进来的最大值. solve( l, r, k) 代表的是处理 ...

  5. 题解 bzoj 2151 种树

    题意 传送门 手写堆大法好啊,题解貌似没有结构体堆的做法,思路有些像配对堆,关于配对堆请自行百度,因为本蒟蒻不会.. 以下是蒟蒻的做法:建立一个大根堆a维护最大价值里面存入它的编号以及价值.听说配对堆 ...

  6. 个推TechDay参会感悟

    上周六去参加了个推和FCC联合在梦想小镇举办的TechDay,当然是作为台下听讲选手参与的,想上去讲可惜实力他不允许啊,吹牛逼我在行,讲技术可就有点虚了,老老实实的坐在台下听大佬们的分享,当然由于买了 ...

  7. 网络流---最大流(Edmond-Karp算法)的学习

    先上个代码,等有空补充详解 #include<iostream> #include<cstdio> #include<cstring> #include<cm ...

  8. 第11讲-Java泛型和文件操作

    1.知识点 1.1.课程回顾 1.2.本章重点 1.2.1.泛型 1.2.2.文件操作 2.具体内容 2.1.Java泛型 2.1.1.为什么需要泛型 我们发现在List中,底层是Object[ ]数 ...

  9. .gitignore文件失效的解决方案

    通常在idea中,我们使用git进行项目管理的时候,一些不需要的文件如.idea,.target文件不需要上传至gitlab仓库,这时,就需要在项目中定义一个.gitignore文件,用来标识这些文件 ...

  10. 【Offer】[29] 【顺时针打印矩阵】

    题目描述 思路分析 测试用例 Java代码 代码链接 题目描述 输入一个矩阵,按照从外向里以顺时针的顺序依次打印出每一个数字. 例如,如果输入如下矩阵:  则依次打印出数字1,2,3,4,8,12, ...