1.创建3台虚拟机并装好系统,这里使用64位CentOS.

2.Ping测试[确保两两能ping通]: [ping xxx.xxx.xxx.xxx]

3.安装SSH:[yum install ssh rsync]

4.按下图重命名主机、修改host文件:

master:

slave1:

slave2:

具体虚拟机的IP地址根据实际情况配置。

5.重启每台机器,检查ip和host配置是否正常,然后使用主机名来进行ping测试:

6.创建hadoop的用户和用户组[每台机器上执行]

sudo groupadd Hadoop

sudo useradd -s /bin/bash -d /home/hadooper -m hadooper -g hadoop -G root

passwd hadooper  [密码设置成和用户名相同便于记忆]

7.SSH无验证双向登陆配置

如master上的执行截图:

上述操作生成一对密钥[ssh-keygen -t rsa -P ''],并将公钥保存至文件[cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys]

授权[chmod 600 ~/.ssh/authorized_keys]。

切换至root用户[su root]

取消被注释的公钥字段[vi /etc/ssh/sshd_config]:

文件打开后如下:

将红圈中的三行代码前面的#号去掉,如下:

保存并退出[按Esc后输入  :wq!   命令]

切换到root用户,重启一下SSHD服务:service sshd restart

至此SSH配置完毕,下面可以尝试自身无验证的SSH登陆(注意切换到hadooper用户):

可以看到无论是使用localhost还是IP或者主机名master都是可以无验证登陆的。首次登陆会提示主机无法识别,后面再次使用ssh登陆就不会有提示了(其实可以看到已经在/home/hadooper/.ssh/下生成了一个known_hosts文件)。

同样在slave1和slave2上做类似的配置和验证。

8.接下来开始配置不同主机间的无验证SSH登录:

将master的公钥文件复制到slave1节点的hadooper用户上:[scp ~/.ssh/id_rsa.pub hadooper@192.168.42.133:~/]

拷贝完成之后,去Slave1机上进行,公钥追加授权文件,并赋权限:

然后切换root用户,进行sshd配置,并重启ssh服务:

(即:切换用户、编辑sshd_config文件vi /etc/ssh/sshd_config 重启SSHD服务)

至此,salve1配置完毕,可以去master上无验证ssh登陆salve1了

在master上测试无验证SSH登陆slave1(注意切换到hadooper用户)

重复步骤8,完成master到slave2的无验证SSH登陆。

即:

在master上scp传送id_rsa.pub到132机器[scp ~/.ssh/id_rsa.pub hadooper@192.168.42.132:~/]

去Slave2机上进行,公钥追加授权文件,并赋权限

切换root用户,进行sshd配置,并重启ssh服务。

做完后验证一下master是否可以无验证SSH登陆slave2.

9.接下来反过来,让salve1和slave2可以无验证登陆master

需要分别将slave1的公钥和slave2的公钥scp传输到master,在master上导入,重启sshd服务即可。

去slave1,传输公钥文件到master的/home/hadooper/目录(即hadooper登陆后的~目录)

去master导入这个公钥:

(即在master上追加salve1的公钥到授权文件authorized_keys中,重启SSHD服务(注意使用root用户否则权限不足,囧))

测试一下,slave1可以无验证SSH登陆到master:(注意切换到hadooper用户)

验证成功,下面差最后一步,slave2到master的无验证SSH登陆。

由于已经将salve1的公钥id_rsa.pub文件放在了master的/home/hadooper/下面(即hadooper用户的~目录),接下来要把slave2的id_rsa.pub放到这个位置,所以先删掉slave1的这个文件(在master上,切换到hadooper用户,执行 rm /home/hadooper/id_rsa.pub 即可)

去slave2传输公钥到master,然后在master上执行导入操作并重启sshd服务即可。方法同步骤12。

10.最后做一次“总体验证”即可:

master上自身无验证SSH登陆、master到slave1、master到slave2:

slave1上自身无验证SSH登陆+slave1到master:

slave2上自身无验证SSH登陆+slave2到master:

至此,安装Hadoop框架的基础环境配置完毕,后面记录安装Hadoop过程。

WMware 中CentOS系统Hadoop 分布式环境搭建(一)——Hadoop安装环境准备的更多相关文章

  1. 攻城狮在路上(陆)-- hadoop分布式环境搭建(HA模式)

    一.环境说明: 操作系统:Centos6.5 Linux node1 2.6.32-431.el6.x86_64 #1 SMP Fri Nov 22 03:15:09 UTC 2013 x86_64 ...

  2. Ubuntu16.04下伪分布式环境搭建之hadoop、jdk、Hbase、phoenix的安装与配置

    一.准备工作 安装包链接: https://pan.baidu.com/s/1i6oNmOd 密码: i6nc 环境准备 修改hostname: $ sudo vi /etc/hostname why ...

  3. [大数据学习研究] 3. hadoop分布式环境搭建

    1. Java安装与环境配置 Hadoop是基于Java的,所以首先需要安装配置好java环境.从官网下载JDK,我用的是1.8版本. 在Mac下可以在终端下使用scp命令远程拷贝到虚拟机linux中 ...

  4. Hadoop 分布式环境搭建

    一.前期环境 安装概览 IP Host Name Software Node 192.168.23.128 ae01 JDK 1.7 NameNode, SecondaryNameNode, Data ...

  5. centos系统常用软件环境搭建

    yum源制作grub常见问题:http://linux.chinaunix.net/techdoc/beginner/2008/01/04/975921.shtml 系统安装: 2 软件安装:yum ...

  6. Spark入门到精通--(第八节)环境搭建(Hadoop搭建)

    上一节把Centos的集群免密码ssh登陆搭建完成,这一节主要讲一下Hadoop的环境搭建. Hadoop下载安装 下载官网的Hadoop 2.4.1的软件包.http://hadoop.apache ...

  7. Hadoop学习笔记(3)——分布式环境搭建

    Hadoop学习笔记(3) ——分布式环境搭建 前面,我们已经在单机上把Hadoop运行起来了,但我们知道Hadoop支持分布式的,而它的优点就是在分布上突出的,所以我们得搭个环境模拟一下. 在这里, ...

  8. 【HADOOP】| 环境搭建:从零开始搭建hadoop大数据平台(单机/伪分布式)-下

    因篇幅过长,故分为两节,上节主要说明hadoop运行环境和必须的基础软件,包括VMware虚拟机软件的说明安装.Xmanager5管理软件以及CentOS操作系统的安装和基本网络配置.具体请参看: [ ...

  9. 【转】Hadoop HDFS分布式环境搭建

    原文地址  http://blog.sina.com.cn/s/blog_7060fb5a0101cson.html Hadoop HDFS分布式环境搭建 最近选择给大家介绍Hadoop HDFS系统 ...

随机推荐

  1. sdn交换机和普通交换机区别

    SDN交换机基本具有普通交换机的所有功能.SDN交换机特别的功能在于支持OpenFlow协议(有些只支持OpenFlow1.0,有些强点支持1.0和1.3).不过你要连接交换机再手动将所需的端口改成支 ...

  2. 使用VMware Workstation 14 Player或者Oracle VM VirtualBox安装Fedora-Workstation-netinst-x86_64-27-1.6操作系统的相关记录

    无论是在使用哪个(VMware或者Oracle VM)都遇到了一个问题:即使在安装完Fedoras操作系统之后,进行Reboot还是会进入之前一摸一样的安装界面,相当于再次安装.然而最最有效的解决办法 ...

  3. React Native - 网页组件(WebView)的使用详解

    一.WebView组件介绍 使用 WebView 组件我们可以通过 url 来加载显示一个网页,也可以传入一段 html 代码来显示.下面对其主要属性和方法进行介绍.   1,属性介绍 source: ...

  4. ssh 无秘钥登录

    三台centos 一台服务器192.168.2.152 一台客户端192.168.2.142 一台客户端192.168.2.151 (1)产生无密钥 [root@localhost ~]#  ssh- ...

  5. yarn安装

    Yarn是Facebook提供的替代npm的工具,可以加速node模块的下载.React Native的命令行工具用于执行创建.初始化.更新项目.运行打包服务(packager)等任务. 先安装nod ...

  6. 用chrome和anywhere,配合安卓机搭建最简单的移动端页面测试。

    很多时候,我们前端在写移动端页面的时候,虽然目前chrome有调试模式,可以模拟手机的部分效果,但仍有部分效果需要直接在手机上进行页面的调试,今天就在这里推荐一个适合windows+安卓的无需连接局域 ...

  7. redis的LRU算法(二)

    前文再续,书接上一回.上次讲到redis的LRU算法,文章实在精妙,最近可能有机会用到其中的技巧,顺便将下半部翻译出来,实现的时候参考下. 搏击俱乐部的第一法则:用裸眼观测你的算法 Redis2.8的 ...

  8. 2018.11.25 AMC-ICPC 亚洲区域赛(焦作站)吊银

    11月23日 大清早,跟着wyb的脚步,早起跑过去听方伟的编译原理,然鹅一点都没听进去,在焦作胡辣汤群里疯狂灌水... 听说焦作那边冷得不行,前一天看天气预报说那边已经是2℃了,都快零下了,然鹅学校里 ...

  9. mongoDB数据库的安装与配置

    noSql数据库MongoDB的安装地址:https://www.mongodb.com/download-center?jmp=nav#community 选择相应的版本进行下载,在此以window ...

  10. 微信h5,背景音乐自动播放

    移动端默认是禁止背景音乐自动播放的,很多需求都需要在页面加载完成的情况下同时出现背景音乐. 既然是微信h5,那么wx.config肯定不陌生,废话不多,直接上代码: html: <audio s ...