商用hadoop集群的配置命令分布
|
角色 |
安装 |
hdfs配置 |
yarn配置 |
hdfs 格式化 |
启动yarn服务 |
启动hdfs服务 |
|
master |
yum install hadoop-hdfs-namenode yum install hadoop-yarn-resourcemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
hdfs>hdfs namenode -format |
root>service hadoop-yarn-resourcemanager start |
root>service hadoop-hdfs-namenode start |
|
slave |
yum install hadoop-hdfs-datanode yum install hadoop-yarn-nodemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-yarn-nodemanager start |
root>service hadoop-hdfs-namenode start |
|
|
proxy |
yum install hadoop-mapreduce-historyserver yum install hadoop-yarn-proxyserver |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-mapreduce-historyserver start root>service hadoop-yarn-proxyserver start |
||
|
client |
yum install hadoop-client |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
|
角色 |
hdfs本地存储目录 |
hdfs云存储目录 |
yarn本地存储目录 |
|
master |
mkdir -p /data/dfs/nn chown hdfs:hadoop |
||
|
slave |
mkdir -p /data/dfs/dn chown hdfs:hadoop |
mkdir -p /data/yarn/local mkdir -p /data/yarn/logs |
|
|
proxy |
|||
|
client |
hdfs dfs –mkdir /tmp hdfs dfs –mkdir /user/history hdfs dfs –mkdir /var/log/hadoop-yarn |
hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。
|
Hdfs服务web地址 |
cMaster:50070 |
|
Yarn服务web地址 |
cMaster:8088 |
|
JobHistory服务web地址 |
cProxy:19888 |
建立私有账户joe
|
[root@iClient~]#adduser joe |
本地新建joe用户 |
|
[root@iClient~]#passwd joe |
更改joe密码 |
|
[hdfs@iClient~]#hdfs dfs –mkdir /user/joe |
在hdfs建立joe的家目录 |
|
[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe |
给家目录授权 |
|
[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput |
本地文件yourdata.txt上传至joeInput |
|
[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000 |
执行例程的pi,4个map,做10000次。 |
商用hadoop集群的配置命令分布的更多相关文章
- 【Big Data】HADOOP集群的配置(一)
Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop集群的配置(一)
摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...
- 【Big Data】HADOOP集群的配置(二)
Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop的学习前奏(二)——Hadoop集群的配置
前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux: CentOS 6.6(Final) x64 JDK: java version "1.7 ...
- 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)
http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...
- hadoop 集群的配置
在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...
- Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS
摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...
- hadoop集群单点配置
=================== =============================== ----------------hadoop集群搭建 --------------------- ...
- Hadoop集群安装配置
一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...
随机推荐
- 关于原生js中函数的三种角色和jQuery源码解析
原生js中的函数有三种角色: 分两大种: 1.函数(最主要的角色)2.普通对象(辅助角色):函数也可以像对象一样设置属于本身的私有属性和方法,这些东西和实例或者私有变量没有关系两种角色直接没有必然的关 ...
- macbook 安装redis流程及问题总结
Mac安装redis流程和总结 一.redis安装流程: 1.进入redis官网-->点击download-->选择稳定版本(stable)-->点击Download即可. 2.将下 ...
- WTM重磅更新,LayuiAdmin and more
从善如登,从恶如崩.对于一个开发人员来说,那就是做一个好的系统不容易,想搞砸一个系统很简单,删库跑路会还不会么. 对于我们开源框架的作者来说,做一个好的框架就像登山(也许是登天),我们一步一步往上走, ...
- 【故障公告】再次出现数据库 CPU 居高不下的问题以及找到问题的线索
非常非常抱歉,今天上午的故障又一次给大家带来麻烦了,再次恳请大家的谅解. 在昨天升级阿里云 RDS SQL Server 实例的配置后(详见昨天的博文),万万没有想到,今天上午更高配置的阿里云 RDS ...
- HDU - 1392 Surround the Trees (凸包)
Surround the Trees:http://acm.hdu.edu.cn/showproblem.php?pid=1392 题意: 在给定点中找到凸包,计算这个凸包的周长. 思路: 这道题找出 ...
- 【Offer】[56-1] 【数组中只出现一次的两个数字】
题目描述 思路分析 测试用例 Java代码 代码链接 题目描述 一个整型数组里除两个数字之外,其他数字都出现了两次.请写程序找出这两个只出现一次的数字.要求时间复杂度是O(n),空间复杂度是0(1). ...
- 【Offer】[16] 【数值的整数次方】
题目描述 思路分析 测试用例 Java代码 代码链接 题目描述 实现函数double Power(double base, int exponent),求base的exponent次方.不得使用库函数 ...
- 初始mqtt服务
MQTT入门 概念 mqtt意为消息队列遥测传输,是IBM开发的一个即时通讯协议.由于其维护一个长连接以轻量级低消耗著称,所以常用于移动端消息推送服务开发. 协议格式 mqtt协议控制报文的格式包含三 ...
- div标签嵌套原则详解(转载)
这个也许平时人们不注意,但是非常有用,尤其是当你实在找不到原因为什么网页显示错误的时候. XHTML 的标签有许多:div.ul.li.dl.dt.dd.h1~h6.p.a.addressa.span ...
- STL中排序函数的用法(Qsort,Sort,Stable_sort,Partial_sort,List::sort)
都知道排序很重要,也学了各式各样的排序算法,冒泡.插入.归并等等,但其实在ACM比赛中,只要不是太慢的算法,都可以适用(除非某些题目卡时间卡的很死),这个时候,速度与技巧便成了关键,而在C++的标准库 ...