商用hadoop集群的配置命令分布
|
角色 |
安装 |
hdfs配置 |
yarn配置 |
hdfs 格式化 |
启动yarn服务 |
启动hdfs服务 |
|
master |
yum install hadoop-hdfs-namenode yum install hadoop-yarn-resourcemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
hdfs>hdfs namenode -format |
root>service hadoop-yarn-resourcemanager start |
root>service hadoop-hdfs-namenode start |
|
slave |
yum install hadoop-hdfs-datanode yum install hadoop-yarn-nodemanager |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-yarn-nodemanager start |
root>service hadoop-hdfs-namenode start |
|
|
proxy |
yum install hadoop-mapreduce-historyserver yum install hadoop-yarn-proxyserver |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
root>service hadoop-mapreduce-historyserver start root>service hadoop-yarn-proxyserver start |
||
|
client |
yum install hadoop-client |
core-site.xml hdfs-site.xml |
mapred-site.xml yarn-site.xml |
|
角色 |
hdfs本地存储目录 |
hdfs云存储目录 |
yarn本地存储目录 |
|
master |
mkdir -p /data/dfs/nn chown hdfs:hadoop |
||
|
slave |
mkdir -p /data/dfs/dn chown hdfs:hadoop |
mkdir -p /data/yarn/local mkdir -p /data/yarn/logs |
|
|
proxy |
|||
|
client |
hdfs dfs –mkdir /tmp hdfs dfs –mkdir /user/history hdfs dfs –mkdir /var/log/hadoop-yarn |
hdfs本地存储目录,必须授权给用户hdfs:hadoop;yarn本地存储目录,必须授权给用户yarn:hadoop;一切目录设置均与xml文件对应!root用户只有安装、启动服务期限,没有hadoop执行权限。
|
Hdfs服务web地址 |
cMaster:50070 |
|
Yarn服务web地址 |
cMaster:8088 |
|
JobHistory服务web地址 |
cProxy:19888 |
建立私有账户joe
|
[root@iClient~]#adduser joe |
本地新建joe用户 |
|
[root@iClient~]#passwd joe |
更改joe密码 |
|
[hdfs@iClient~]#hdfs dfs –mkdir /user/joe |
在hdfs建立joe的家目录 |
|
[hdfs@iClient~]#hdfs dfs –chown –R joe /user/joe |
给家目录授权 |
|
[hdfs@iClient~]#sudo –u joe hdfs dfs –put /……/yourdata.txt joeInput |
本地文件yourdata.txt上传至joeInput |
|
[hdfs@iClient~]#sudo –u joe Hadoop jar /…/hadoo-mapreduce-example.jar pi 4 10000 |
执行例程的pi,4个map,做10000次。 |
商用hadoop集群的配置命令分布的更多相关文章
- 【Big Data】HADOOP集群的配置(一)
Hadoop集群的配置(一) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop集群的配置(一)
摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问题.但是网上一些文档大多互相抄 ...
- 【Big Data】HADOOP集群的配置(二)
Hadoop集群的配置(二) 摘要: hadoop集群配置系列文档,是笔者在实验室真机环境实验后整理而得.以便随后工作所需,做以知识整理,另则与博客园朋友分享实验成果,因为笔者在学习初期,也遇到不少问 ...
- Hadoop的学习前奏(二)——Hadoop集群的配置
前言: Hadoop集群的配置即全然分布式Hadoop配置. 笔者的环境: Linux: CentOS 6.6(Final) x64 JDK: java version "1.7 ...
- 从VMware虚拟机安装到hadoop集群环境配置详细说明(第一期)
http://blog.csdn.net/whaoxysh/article/details/17755555 虚拟机安装 我安装的虚拟机版本是VMware Workstation 8.04,自己电脑上 ...
- hadoop 集群的配置
在经过几天折腾,终于将hadoop环境搭建成功,整个过程中遇到各种坑,反复了很多遍,光虚拟机就重新安装了4.5次,接下来就把搭建的过程详细叙述一下 0.相关工具: 1,系统环境说明: 我这边给出我的集 ...
- Hadoop集群安装配置教程_Hadoop2.6.0_Ubuntu/CentOS
摘自:http://www.powerxing.com/install-hadoop-cluster/ 本教程讲述如何配置 Hadoop 集群,默认读者已经掌握了 Hadoop 的单机伪分布式配置,否 ...
- hadoop集群单点配置
=================== =============================== ----------------hadoop集群搭建 --------------------- ...
- Hadoop集群安装配置
一.准备工作 1.首先准备好七台虚拟机,并确保都已经安装配置好jdk. 2.Hadoop3.2.0+jdk1.8自行到官网下载 3.修改好相称的主机名,并在hosts文件中相互添加. ######注意 ...
随机推荐
- CentOS -- RocketMQ 4.3.2 standalone Installation and Configuration
1 Download RockeMQ Package: You need to download it and put it to the OS Image. wget http://apache.c ...
- Java基础之Iterable与Iterator
Java基础之Iterable与Iterator 一.前言: Iterable :故名思议,实现了这个接口的集合对象支持迭代,是可迭代的.able结尾的表示 能...样,可以做.... Iterato ...
- 栅格数据的批量镶嵌(附Python脚本)
栅格数据的批量镶嵌(附Python脚本) 博客小序:在数据处理的过程中,会遇到需要大量镶嵌的情况,当数据较多时手动镶嵌较为麻烦,自己最近对分省的DEM数据进行镶嵌,由于利用python进行镶嵌较为方便 ...
- 红黑树以及与AVL树的区别
http://blog.csdn.net/zwan0518/article/details/12219055 http://blog.csdn.net/v_july_v/article/details ...
- 面试必备:常考Java基础知识总结(持续更新)
面试必备:常考Java基础知识总结(持续更新) 本文的Java方面基础知识是我在面试过程中的积累和总结. Java基本数据类型.所占空间大小及对应包装类 基本类型 大小 包装类 boolean - B ...
- 从零开始搭建Java开发环境第二篇:如何在windows10里安装MySQL
1 下载安装包 1.1 压缩包 https://dev.mysql.com/downloads/mysql/ [外链图片转存失败(img-oesO8K09-1566652568838)(data:im ...
- 四种为HttpClient添加默认请求报头的解决方案
HttpClient在Web调用中具有广泛的应用,而为它添加默认请求头是我们经常遇到的需求,本文介绍4种为HttpClient添加默认请求头的方式. 第一种方式 直接在创建的HttpClient对象的 ...
- C#装箱与拆箱总结
装箱和拆箱是值类型和引用类型之间相互转换是要执行的操作. 1. 装箱在值类型向引用类型转换时发生 2. 拆箱在引用类型向值类型转换时发生 光上述两句话不难理解,但是往深处了解,就需要一些篇幅来解释了 ...
- codeblocks无法调试的相关解决思路
代码无法调试!? 难受... 现在给你提供两种常见的导致codeblocks无法调试的原因以及相应的解决方案. 原因一: 在创建工程目录时,保存路径中有中文. 重要的事情说三遍: 切记,工程目录的保存 ...
- 【转 | 侵删】2D 绘图技术中的坐标系统与坐标变换
本文介绍在 2D 绘图技术中的坐标系统和坐标变换的相关知识.同时介绍 Kity 在这方面提供的 API .希望这些知识对于需要进行图形应用开发的同学会有所帮助. 锤子的故事 很久以前,有一个画家,他很 ...