hadoop学习(一)环境的搭建
1、安装几台Linux虚拟机。安装的过程就不赘述了,网上教程很多。win7系统上装了一个VMWare,因为一些原因,VMWare版本不是最新的,是VMWare7.1版本,由于VMWare版本不高,所以也就不能支持太高版本的Linux,装了两台rhel-5、两台fedora14、一台CentOS5.11。
安装系统的时候出现过一个很头疼的问题,开始下载的是CentOS7,装不了,再下载CentOS6还是安装不了,再把版本往下降,降到5.11,这才发现可以安装,所以VMWare的版本和Linux系统的版本匹配是个问题。
2、系统安装好了之后,就是配IP,配置完IP,ping一下宿主机IP,发现居然ping不通,什么问题??几台分配好IP地址的都检查一次,发现都ping不通宿主机,但是几台虚拟机之间是可以ping通的。网关、掩码都和宿主机一致,IP都是局域网中没人用的。怎么回事呢?上网查了下,很多种说法,我一一照做了,还是没有解决问题。网上也介绍了几种联网的方式:桥接、NAT、Host-only,肯定是选择桥接,这种方式是直接连接到物理交换机上,模拟真实环境。这个问题困扰了我两天,一直在上网搜索答案,一次一次的实验,一次一次的失败,最后我点开我的虚拟机,发现我装的几台虚拟机的网络适配器居然全部选择的是NAT,太大意了。。。全部改为桥接,问题解决!!
3、系统安装完后,IP配好之后,再就是Linux的免密码登录的配置。这个也是一个小问题让我纠结了一天,记录下来吧。免密码登录的步骤如下:
(1)、切换到hadoop用户目录下,在该用户目录下创建.ssh目录(初始是没有这个目录的在看炼数成金的视频的时候,说的是在root用户下创建,这里更正一下)。
(2)、进入.ssh目录,用ssh-keygen -t rsa命令生成密钥对,然后目录下会生成一个id_rsa的私钥和一个id_rsa.pub的公钥。
(3)、使用cp id_rsa.pub authorized_keys命令来创建authorized_keys文件。
(4)、对几台Linux系统重复上述操作。
(5)、将每台系统中的authorized_keys文件的内容复制出来,组合成一个文件。然后将这个文件中的内容全部覆盖到几台Linux系统上的authorized_keys文件中。操作完成后,几台系统中的authorized_keys文件中的内容是一致的。炼数成金视频中讲到这里就说可以免密码登录了,扯淡,实践证明是不行的,还缺了下面个重要的步骤!
(6)、设置文件和目录权限
设置.ssh目录权限:chmod 700 -R .ssh
设置authorized_keys权限:chmod 644 authorized_keys
(7)注意:配置免密码登录的用户名要一致!!
这个免密码登录参考了CSDN上的一篇文章:linux远程登录ssh免密码
hadoop学习(一)环境的搭建的更多相关文章
- hadoop集群环境的搭建
hadoop集群环境的搭建 今天终于把hadoop集群环境给搭建起来了,能够运行单词统计的示例程序了. 集群信息如下: 主机名 Hadoop角色 Hadoop jps命令结果 Hadoop用户 Had ...
- hadoop伪分布环境快速搭建
1.首先下载一个完成已经进行简单配置好的镜像文件(hadoop,HBASE,eclipse,jdk环境已经搭建好,tomcat为7.0版本,建议更改为tomcat8.5版本,运行比较稳定). 2安装V ...
- hadoop学习笔记——环境搭建
基础环境准备: 系统:(VirtualBox) ubuntu-12.04.2-desktop-i386.iso hadoop版本:hadoop-0.20.203.0rc1.tar.gz jdk版本:j ...
- hadoop学习day1环境配置笔记(非完整流程)
hdfs的工作机制: 1.客户把一个文件存入hdfs,其实hdfs会把这个文件切块后,分散存储在N台linux机器系统中(负责存储文件块的角色:data node)<准确来说:切块的行为是由客户 ...
- hadoop学习笔记——zookeeper平台搭建
zookeeper是一个自动管理分布式集群的一个工具,以实现集群的高可用. 比如集群中的一个机器挂掉了,没有zookeeper的话就得考虑挂一个机器对剩下集群工作的影响,而有了zookeeper,它就 ...
- hadoop学习笔记--集群搭建
注:大家常说的ssh其实就是一个免密码访问的东西,为了简化操作的,不用每次访问其他节点重新输入密码.但是要想配置如下: .在每台机器上执行 ssh-keygen -t rsa,连敲三次回车键(即设置空 ...
- Mono for Android 学习一 环境的搭建
JAVA SDK和Android SDK下载安装 1.疑问:用mono for android 开发为什么必须要java sdk的支持 答:因为android sdk是java开发的,所以和它相关的 ...
- Hadoop伪分布式环境快速搭建
Hadoop分支 Apache Cloudera Hortonworks 本文是采用Cloudera分支的hadoop. 下载cdh-5.3.6 版本 下载地址:http://archive.clou ...
- Hadoop集群环境搭建步骤说明
Hadoop集群环境搭建是很多学习hadoop学习者或者是使用者都必然要面对的一个问题,网上关于hadoop集群环境搭建的博文教程也蛮多的.对于玩hadoop的高手来说肯定没有什么问题,甚至可以说事“ ...
- Spark集群环境搭建——Hadoop集群环境搭建
Spark其实是Hadoop生态圈的一部分,需要用到Hadoop的HDFS.YARN等组件. 为了方便我们的使用,Spark官方已经为我们将Hadoop与scala组件集成到spark里的安装包,解压 ...
随机推荐
- 016.Python闭包函数以及locals和globals
一 闭包函数 内函数使用了外函数的局部变量,并且外函数把内函数返回出来的过程叫做闭包,这个内函数叫做闭包函数 1.1 闭包函数语法 def outer(): a = 5 def inner(): pr ...
- python3 xlrd包的用法
一.xlrd的安装 pip install xlrd 二.xlrd使用介绍 1.导入模块 import xlrd 2.打开Excel文件,实例化为readbook readbook = xlrd.op ...
- Angular环境搭建及简单体验
一.安装开发环境 npm install -g typescript npm install -g @angular/cli 二.创建hello-world项目 创建项目 ng new angular ...
- Step By Step(Lua表达式和语句)
Step By Step(Lua表达式和语句) 一.表达式: 1. 算术操作符: Lua支持常规算术操作符有:二元的"+"."-"."*& ...
- jupyter notebook快捷键使用的注意点
来源:https://zhidao.baidu.com/question/1800695798976401387.html 本文做进一步的阐释: 1.使行出现,但是光标要点击到有line空白区域 直接 ...
- 将代码生成器带入TVM
将代码生成器带入TVM 为了使数据科学家不必担心开发新模型时的性能,硬件后端提供程序(例如Intel,NVIDIA,ARM等)可以提供诸如cuBLAS或cuDNN之类的内核库以及许多常用的深度学习内核 ...
- 神经网络AI加速器技术
神经网络AI加速器技术 能够直接加速卷积神经网络,还能够直接运行常见的网络框架,如TensorFlow.Caffe.PyTorch,DarkNet等,支持用户定制化的网络和计算类型. 功能特点: ● ...
- VB 老旧版本维护系列---有点懵逼的webserver访问
有点懵逼的webserver访问 '定义webserver地址 Dim postUrl As String = "" '定义webserver所需xml字符串参数 Dim xmlR ...
- JAVA面向对象详细总结
面向对象概念 所有操作基于对象进行操作实现 面向对象的三大特征 封装.继承.多态 类:具有相同特征和行为物体的统称 在java中类的定义语法: [修饰符] class 类名{ 属性 ...
- 使用firefox打开网页报错——Error: no display specified
想在linux环境下打开一个网页,环境描述:在窗口模式下,打Terminal,然后从本地服务器ssh到了另一个服务器,想执行firefox命令打开一个网页,如下 [root@pc207 ~]# fir ...