Ubuntu下hadoop集群搭建
--修改IP地址(克隆镜像后可修改可不修改)
http://jingyan.baidu.com/article/e5c39bf5bbe0e739d7603396.html
-----------------------------
--修改主机名:
--修改主机名和IP的映射关系:
--检查是否ping得通主机名:
--检查ssh是否可以免密登录:
如果不可以免密登录,则:
sudo apt-get update
sudo apt-get install openssh-server
sudo ps -e |grep ssh
ssh-keygen -t rsa
ssh-copy-id -i ***主机名
可以免密登录,就不用再输入密码
--检查防火墙:
该命令仅限于Ubuntu使用
--查看java情况:
java -version
--将主节点的profile文件拷贝到另外两个从节点上(这样可以节约许多配置的时间):
scp /etc/profile/ 192.168.22.132:/etc/profile
scp /etc/profile/ 192.168.22.135:/etc/profile
--将主节点上的jdk拷贝到另外两个从节点上:
/usr/local# scp -r jdk1..0_79/ 192.168.22.132:/usr/local
/usr/local# scp -r jdk1..0_79/ 192.168.22.135:/usr/local
--在两个从节点中source一下配置文件才能生效:
source /etc/profile
--在主节点上修改/etc/hosts文件
在内容中有如下
192.168.2.xxx node1
192.168.2.xxx node2
192.168.2.xxx node3
在主节点上执行ping node2或者ping node3不报错
--在主节点上执行,将主节点的秘钥拷贝到另外两个从节点上:
ssh-copy-id -i Ubuntu-
ssh-copy-id -i Ubuntu-
在另外两个节点上也要执行,这样集群之间就能互相免密登录了
--在主节点上执行:
scp /etc/hosts Ubuntu-:/etc
scp /etc/hosts Ubuntu-:/etc
--这里需要在主节点上把单节点的伪分布安装成功,详细步骤之前的博客中有,如果在之前部署单节点的伪分布安装时,进行了格式化,则需要将tmp文件删除
root@Ubuntu-:/usr/local/hadoop-2.6.# ls
bin etc include lib libexec LICENSE.txt logs NOTICE.txt README.txt sbin share tmp
root@Ubuntu-:/usr/local/hadoop-2.6.# rm -r tmp/
root@Ubuntu-:/usr/local/hadoop-2.6.# ls
bin etc include lib libexec LICENSE.txt logs NOTICE.txt README.txt sbin share
--在主节点上执行:
root@Ubuntu-:/usr/local/hadoop-2.6./etc/hadoop# vi slaves
把文件中的所有信息都删了,在slaves文件中加入如下信息:Ubuntu-1
Ubuntu-2
Ubuntu-135
--将主节点中的Hadoop文件拷到另外两个从节点中:
root@Ubuntu-:/usr/local# scp -r hadoop-2.6. Ubuntu-:/usr/local
root@Ubuntu-:/usr/local# scp -r hadoop-2.6. Ubuntu135:/usr/local
--在node1中执行格式化命令 bin/hdfs namenode -format
--在node1中执行启动命令 sbin/start-all.sh
Ubuntu下hadoop集群搭建的更多相关文章
- Linux环境下Hadoop集群搭建
Linux环境下Hadoop集群搭建 前言: 最近来到了武汉大学,在这里开始了我的研究生生涯.昨天通过学长们的耐心培训,了解了Hadoop,Hdfs,Hive,Hbase,MangoDB等等相关的知识 ...
- Redis之Ubuntu下Redis集群搭建
安装redis 首先下载redis $ wget http://download.redis.io/releases/redis-4.0.10.tar.gz $ .tar.gz $ cd redis- ...
- Hadoop 集群搭建
Hadoop 集群搭建 2016-09-24 杜亦舒 目标 在3台服务器上搭建 Hadoop2.7.3 集群,然后测试验证,要能够向 HDFS 上传文件,并成功运行 mapreduce 示例程序 搭建 ...
- Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!)
Hadoop集群搭建安装过程(三)(图文详解---尽情点击!!!) 一.JDK的安装 安装位置都在同一位置(/usr/tools/jdk1.8.0_73) jdk的安装在克隆三台机器的时候可以提前安装 ...
- Hadoop集群搭建安装过程(二)(图文详解---尽情点击!!!)
Hadoop集群搭建安装过程(二)(配置SSH免密登录)(图文详解---尽情点击!!!) 一.配置ssh无密码访问 ®生成公钥密钥对 1.在每个节点上分别执行: ssh-keygen -t rsa(一 ...
- Hadoop集群搭建安装过程(一)(图文详解---尽情点击!!!)
Hadoop集群搭建(一)(上篇中讲到了Linux虚拟机的安装) 一.安装所需插件(以hadoop2.6.4为例,如果需要可以到官方网站进行下载:http://hadoop.apache.org) h ...
- 大数据 --> Hadoop集群搭建
Hadoop集群搭建 1.修改/etc/hosts文件 在每台linux机器上,sudo vim /etc/hosts 编写hosts文件.将主机名和ip地址的映射填写进去.编辑完后,结果如下: 2. ...
- Hadoop(二) HADOOP集群搭建
一.HADOOP集群搭建 1.集群简介 HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起 HDFS集群: 负责海量数据的存储,集群中的角色主要有 Na ...
- 1.Hadoop集群搭建之Linux主机环境准备
Hadoop集群搭建之Linux主机环境 创建虚拟机包含1个主节点master,2个从节点slave1,slave2 虚拟机网络连接模式为host-only(非虚拟机环境可跳过) 集群规划如下表: 主 ...
随机推荐
- P1078 文化之旅
P1078 文化之旅 题目描述 有一位使者要游历各国,他每到一个国家,都能学到一种文化,但他不愿意学习任何一 种文化超过一次(即如果他学习了某种文化,则他就不能到达其他有这种文化的国家).不 同的国家 ...
- Android Stadio 指定文件打开类型
我们项目里面,有一个文件,叫做aaa.meta. 这个只是一个配置文件,里面是txt. 但是Android Stadio 不识别.怎么办? 设置如下图: 首先,打开Android stadio 的设置 ...
- python中判断输入是否为数字(包括浮点数)
1.当num确定为数字后 num=123.4print(isinstance(num,float))#判断是否为浮点数 print(isinstance(num,int))#判断是否为整数 2.当nu ...
- 【APUE】Chapter10 Signals
Signal主要分两大部分: A. 什么是Signal,有哪些Signal,都是干什么使的. B. 列举了非常多不正确(不可靠)的处理Signal的方式,以及怎么样设计来避免这些错误出现. 10.2 ...
- 【个人训练】(POJ3279)Fliptile
最近在刷kuangbin神犇的各种套题....感觉自己好弱啊.....还是要多多训练,跟上大神的脚步.最近的这十几题都比较水,记下来这一条我比较印象深刻.也比较难的题目吧(之后应该不会再有水题写了,珍 ...
- C++学习006-条件运算符
这里我也理解的不咋的,大致意思应该就是根据运算符号 的优先级不同来解决的 条件运算符是其中一部分,而条件运算符具有右结合性,当一个表达式中出现多个条件运算符时,应该将位于最右边的问号与理他最近的冒号配 ...
- Mysql性能优化三:主从配置,读写分离
大型网站为了软解大量的并发访问,除了在网站实现分布式负载均衡,远远不够.到了数据业务层.数据访问层,如果还是传统的数据结构,或者只是单单靠一台服务器扛,如此多的数据库连接操作,数据库必然会崩溃,数据丢 ...
- c# 把List<T>转成DataTable对象,批量导入Sqlserver库
/// <summary> /// Sqlbulkcopies the specified SMS.批量插入到数据库 /// </summary> /// <param ...
- linux备忘录-正则表达式与文件格式化处理
正则表达式 POSIX标准的符号 [:alnum:] -> 英文大小写字母和数字 0-9,A-Z,a-z [:alpha:] -> 英文大小写字母 A-Z,a-z [:blank:] -& ...
- 文件特殊权限:SUID,SGID,SBIT
我们之前认识的文件的权限仅局限于r,w,x,但如果我们执行命令“ll /tmp; ll /usr/bin/passwd”,会出现除了r,w,x之外的其他字母: 即出现了特殊权限(s跟t). [SetU ...