第一步 在kerberos服务器所在主机 通过kadmin.local,也可以通过kadmin 输入用户密码登录 kadmin.local: addprinc -randkey it1@STARYEA.COM --新建的普通用户 或用下面的命令行建立 产生随机密码 第二步 导出keytab文件 kadmin.local: xst -k /root/it1.keytab it1@STARYEA.COM --导出keytab文件 第三步 新建linux用户,将文件传到linux主机上 useradd…

言归正传,介绍过hadoop的simple认证和kerberos后,我们在这一章介绍hadoop的kerberos认证 我们还使用hadoop集群的机器. OS 版本: Centos6.4 Kerberos版本: krb5-1.10.3 环境配置 机器名 Ip地址 功能 安装模块 ganglia.localdomain 192.168.124.140 Kerberos server krb5-libs krb5-server krb5-workstation krb5-devel hadoop1…

关于hadoop新增节点网上的说法都有些差别,自己来实践一把 1.建立一个namenode一个datanode的集群 master:192.168.126.130 slave1:192.168.126.131 2.新增一个datanode,配置JDK.SSH.hadoop.Host.hostname: slave2:192.168.126.132 3.在新增datanode上启动守护进程 很快namenode就认识到了新成员的加入 新节点添加成功 然后关闭slave2 这里面发现一个细节 hdf…

通常,一个Hadoop集群的安全使用kerberos来进行保障.在启用Kerberos后,需要用户进行身份验证.用户通过验证后可以使用GRANT/REVOKE语句来进行基于角色的访问控制.本文介绍一下在CDH集群中如何配置kerberos. 1.KDC安装和配置脚本 脚本install_kerberos.sh可以完成kerberos服务器所有安装配置和相应的参数配置 #!/bin/bash # echo "ready to install and config kerberos" #…

Hadoop开启Kerberos安全模式, 基于已经安装好的Hadoop的2.7.1环境, 在此基础上开启Kerberos安全模式. 1.安装规划 已经安装好Hadoop的环境 10.43.159.7 zdh-7 hdfsone/zdh1234 Kerberos服务器 10.43.159.11 zdh-11 kerberos server 2.创建用户的keytab 在zdh-11上,用root用户在/root/keytabs目录下, 创建hdfsone的principal,并导出hdfsone…

1 新增Data节点 1.1 修改/etc/hosts,增加datanode的ip 1.2 在新增加的节点启动服务 hadoop-daemon.sh start datanode yarn-daemon.sh start nodemanager 1.3 均衡block start-balancer.sh 1)如果不balance,那么cluster会把新的数据都存放在新的node上,这样会降低mapred的工作效率 2)设置平衡阈值,默认是10%,值越低各节点越平衡,但消耗时间也更长 start…

#新增节点 1.安装lunix,和以前一样的版本 2.初始化系统环境 2.1.设置静态ip vi /etc/sysconfig/network-scripts/ifcfg-eth0 //增加 #Advanced Micro Devices [AMD] 79c970 [PCnet32 LANCE] DEVICE=eth0 #BOOTPROTO=dhcp # add BOOTPROTO=static ONBOOT=yes # add IPADDR=192.168.119.134 HWADDR=:0c…

IP.主机名规划 hadoop集群规划: hostname IP hadoop 备注 hadoop1 110.185.225.158 NameNode,ResourceManager,DFSZKFailoverController,JournalNode   hadoop2 110.185.225.166 NameNode,ResourceManager,DataNode,NodeManager,DFSZKFailoverController,JournalNode   hadoop3 110.…

1.  常见问题 (1)hostname设置问题.vi /etc/sysconfig/network (2)集群/etc/hosts没有统一. (3)yarn slave需要单独启动../sbin/yarn-daemon.sh start resourcemanager (4)namenode格式化需要逐个先启动journalnode. (5)kerberos主从数据同步时获取不到ticket,一般和设置了多个hosts有关.建议hosts配置和hostname只配置一个. (6)jsvc通过y…

中心思想,设置kerberos环境变量时,发现JDK源码当中的一个问题,故描述如下. 在平时的使用中,如果hadoop集群配置kerberos认证的话,使用java访问hdfs或者hive时,需要先进行认证登陆,之后才可以访问.登陆代码大致如下: package demo.kerberos; import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Pa…