一、为什么设置ssh免密码登录

在集群中,Hadoop控制脚本依赖SSH来执行针对整个集群的操作。例如,某个脚本能够终止并重启集群中的所有守护进程。所以,需要安装SSH,但是,SSH远程登陆的时候,需要密码验证,集群中数千台计算机,数千台计算机都需要手工输入密码,这是不太现实的,所以,就需要配置SSH无密码登录。

二、环境

  Hadoop集群,虚拟机中安装了4个节点,为centos操作系统

  node-001 : 192.168.38.131

  node-002 : 192.168.38.132

  node-003 : 192.168.38.133

  node-004 : 192.168.38.134

三、设置免密码登录流程概述

<1>在客户端创建密钥文件

  因为四个节点要相互访问,所以,四个节点都是客户端,也都是服务器端,我们分别在四个节点上创建 一对密钥文件,密钥文件包括公钥文件(~/.ssh/id_rsa.pub)和私钥文件 (~/.ssh/id_rsa)  。

<2>把公钥文件放到要登录的节点上

客户端在使用ssh登录到其他节点上的时候,ssh会发送私钥去和其他节点上的公钥去匹配,如果匹配成功,那么就会自动登录,而不需要输入密码,这就实现了无密码登录。  所以,客户端要实现免密码登录到目标节点上的时候,就需要把公钥写入目标节点上的~/.ssh/authorized_keys中。因为四个客户端节点(node-001、node-002、node-003、node-004)要实现相互间 免密码登录,所以,每个客户端节点都需要将他们的公钥发送到剩余三个节点上,当然,由于客户端也可以ssh到它自己,所以,可以把它自己的公钥也加入到他自己的~/.ssh/authorized_keys,因此,四个客户端节点的公钥就相同了,我们可以将公钥全部发送的node-001上,由node-001将各 个客户端节点的公钥整合到~/.ssh/authorize_keys中,然后,用scp命令将 ~/.ssh/autorized_keys复制  到其他两个节点中,这样,就实现了客户端节点间相互ssh免密码登录。

<3>目标节点的配置

权限问题: .ssh目录的权限必须是700

      .ssh/authorized_keys文件权限必须是600 
配置目标节点:修改sshd配置文件(/etc/ssh/sshd_config)

四、客户端创建秘钥文件

1.查看是否安装了ssh

~目录下,ls -a,.ssh隐藏文件夹

ssh -version

没有的话安装:  yum install -y openssl openssh-server

2.在客户端节点创建密钥文件

输入 ls ~/.ssh,查看是否有密钥存在。

创建密钥,输入以下指令: ssh-keygen -t rsa ,一直默认Enter下去,密码为空就行。

输入ls ~/.ssh,查看是否多了两个文件(id_rsa.pub和id_rsa)。

依次在各个节点创建密钥文件

五、将各个客户端节点公钥写入node-001中

1.将node-001自己的公钥写入到自己的~/.ssh/authorized_keys中

 ls                                      #再次确认是否有密钥

 cat id_rsa.pub >> authorized_keys       #将公钥写入

在命令行下输入vi ~/.ssh/authorized_keys,查看公钥是否写入,修改sshd以及上面所提到的authorized_keys以及目录~/.ssh权限的修改

2.node-001中权限修改以及sshd

修改目录~/.ssh以及~/.ssh/authorized_keys文件的权限,打开命令行,输入:

chmod  ~/.ssh

chmod  ~/.ssh/authorized_keys

3.自己验证ssh登录自己

ssh 192.168.38.131                  #node-001的ip

如果不需要密码就能登录成功,则说明ssh成功

4.将其他三个节点的公钥加入node-001进来

进入node-002节点:

cd ~/.ssh                                                      #进入到ssh目录下面

ls                                                             #检测目录下面是否有密匙

scp id_rsa.pub lims@192.168.38.131:/home/tmp                   #将文件传递到Ip地址为 192.168.38.131(node-)的/home/tmp目录下

或者 scp id_rsa.pub lims@node-:/home/tmp                     #在hosts中配置了ip映射

上传成功,切换到tmp目录,查看公钥是否存在

将公钥写入到centosNameNode的~/.ssh/authorized_keys文件中,打开命令 行,输入指令:

cat /home/roboson/id_rsa.pub >>~/.ssh/authorized_keys

查看,输入vi ~/.ssh/authorized_keys指令,发现文件中又多了一堆数字。然后在node-002利用远程登录,验证是否成功

有的时候,会报这样的错

          Agent admitted failure to sign using the key

解决方法:

在当前用户下执行命令:

ssh-add

然后,利用同样的方法,将其他两个节点的公钥也加入。

六、将文件加入所有节点

以上可以用客户端节点登录node-001,为了所有节点互相免密登录,将authorized_keys 文件远程拷贝到集群所有节点

scp authorized_keys 192.168.10.67:/home/roboson/.ssh/authorized_keys

最后互相ssh验证

Hadoop集群搭建过程中ssh免密码登录(二)的更多相关文章

  1. hadoop集群搭建过程中遇到的问题

    在安装配置Hadoop集群的过程中遇到了很多问题,有些是配置导致的,有些是linux系统本身的问题造成的,现在总结如下. 1. hdfs namenode -format出现错误:hdfs namen ...

  2. Linux Hadoop集群搭建第二步:--------SSH免密登陆

    内容和Linux 搭建 Hadoop集群--Jdk配置相关联 三台虚拟机的操作 Linux SSH免密登陆: 参考网址:http://www.cnblogs.com/999-/p/6884861.ht ...

  3. CentOs6.8 hadoop集群搭建过程中的问题

    1.Error: Java heap space 网上有很多说是java虚拟机内存不够的,我也试着修改内存大小,但是没起作用,后来发现是文件在传输过程中失真.文件在上传到HDFS后变成乱码,重新上传文 ...

  4. Hadoop集群配置过程中需要注意的问题

    环境:VMwareWorkstation8.0 和 Ubuntu14.04 1. 使用三台虚拟机搭建Hadoop集群 2. 一定要在每台机器上配置ssh免密码登录 3. 由于需要给/etc/hosts ...

  5. Hadoop2.2.0安装配置手册!完全分布式Hadoop集群搭建过程~(心血之作啊~~)

    http://blog.csdn.net/licongcong_0224/article/details/12972889 历时一周多,终于搭建好最新版本hadoop2.2集群,期间遇到各种问题,作为 ...

  6. Kubernetes集群搭建过程中遇到的问题

    1. 创建Nginx Pod过程中报如下错误: #kubectlcreate -f nginx-pod.yaml Error from server: error when creating &quo ...

  7. 正式生产环境下hadoop集群的DNS+NFS+ssh免password登陆配置

    博客地址:http://www.loveweir.com/ 环境虚拟机centos6.5 主机名h1  IP 192.168.137.11  作为DNS FNS的server 主机名h2  IP 19 ...

  8. Hadoop学习笔记-003-CentOS_6.5_64_设置ssh免密码登录

    参考:http://blog.csdn.net/u010270403/article/details/51444677 虚拟机中共五个centos系统,每个系统有两个用户root和hadoop:cdh ...

  9. Hadoop集群最迅速的配置免密码登陆方法

    1:多台机器互相免密登陆的思路(默认你的linux操作系统已经安装好ssh): 第一步:在各自的机器上面生成密钥: 在第1台机器上生产一对钥匙: ssh-keygen -t rsa 在第2台机器上生产 ...

随机推荐

  1. Qt+mpg123+openal播放MP3流

    #ifndef PLAYSTREAM_H #define PLAYSTREAM_H #include <QObject> #include "../libMPG123/mpg12 ...

  2. 011_TCP专项研究监控

    (1)In Segs 数据源: /proc/net/snmp; 采集方式:累计值,每10秒采集一次取差值: 指标:net.snmp.tcp (key: system); In Segs: tcp协议层 ...

  3. git(windows)

    windows下比较比较好用的git客户端: 1. msysgit + TortoiseGit(乌龟git) 2. GitHub for Windows 3. Git Extensions

  4. PHP提取页面第一张图为缩略图的代码

    <?php $p = '/<img.*?src=[\'|\"](.+?)[\'|\"].*?>/i'; preg_match_all($p,$str,$match ...

  5. canal-随记001-吐血一个下午找bug

    前天leader说,阿里的新版本canal支持 canal收集binlog直接发到kafka,你要不研究一下? ok,没问题. 昨天周六,在家搭了套环境.解决centos7安装mysql各种小细节,按 ...

  6. SpringBoot 整合 Redis缓存

    在我们的日常项目开发过程中缓存是无处不在的,因为它可以极大的提高系统的访问速度,关于缓存的框架也种类繁多,今天主要介绍的是使用现在非常流行的NoSQL数据库(Redis)来实现我们的缓存需求. Spr ...

  7. Mybaits入门使用

    1.pom.xml配置信息 <dependencies> <dependency> <groupId>junit</groupId> <artif ...

  8. Linux服务器常用工具

    一.Ubuntu18版本 服务器 1)替换源.将原有的源注释掉 vi /etc/apt/sources.list deb http://mirrors.aliyun.com/ubuntu/ bioni ...

  9. 使用HttpWebRequest请求https链接时,无法访问的问题,设置ServicePointManager.SecurityProtocol安全协议

    //请求前设置一下使用的安全协议类型 System.Net if (url.StartsWith("https", StringComparison.OrdinalIgnoreCa ...

  10. C#学习-显式接口

    显式的接口实现解决了命名冲突问题. 在使用显式的接口实现方式时,需要注意以下几个问题. 若显式实现接口,方法不能使用任何访问修饰符,显式实现的成员都默认为私有: 现式实现的成员默认是私有的,所以这些成 ...