hadoop学习(一)环境的搭建
1、安装几台Linux虚拟机。安装的过程就不赘述了,网上教程很多。win7系统上装了一个VMWare,因为一些原因,VMWare版本不是最新的,是VMWare7.1版本,由于VMWare版本不高,所以也就不能支持太高版本的Linux,装了两台rhel-5、两台fedora14、一台CentOS5.11。
安装系统的时候出现过一个很头疼的问题,开始下载的是CentOS7,装不了,再下载CentOS6还是安装不了,再把版本往下降,降到5.11,这才发现可以安装,所以VMWare的版本和Linux系统的版本匹配是个问题。
2、系统安装好了之后,就是配IP,配置完IP,ping一下宿主机IP,发现居然ping不通,什么问题??几台分配好IP地址的都检查一次,发现都ping不通宿主机,但是几台虚拟机之间是可以ping通的。网关、掩码都和宿主机一致,IP都是局域网中没人用的。怎么回事呢?上网查了下,很多种说法,我一一照做了,还是没有解决问题。网上也介绍了几种联网的方式:桥接、NAT、Host-only,肯定是选择桥接,这种方式是直接连接到物理交换机上,模拟真实环境。这个问题困扰了我两天,一直在上网搜索答案,一次一次的实验,一次一次的失败,最后我点开我的虚拟机,发现我装的几台虚拟机的网络适配器居然全部选择的是NAT,太大意了。。。全部改为桥接,问题解决!!
3、系统安装完后,IP配好之后,再就是Linux的免密码登录的配置。这个也是一个小问题让我纠结了一天,记录下来吧。免密码登录的步骤如下:
(1)、切换到hadoop用户目录下,在该用户目录下创建.ssh目录(初始是没有这个目录的在看炼数成金的视频的时候,说的是在root用户下创建,这里更正一下)。
(2)、进入.ssh目录,用ssh-keygen -t rsa命令生成密钥对,然后目录下会生成一个id_rsa的私钥和一个id_rsa.pub的公钥。
(3)、使用cp id_rsa.pub authorized_keys命令来创建authorized_keys文件。
(4)、对几台Linux系统重复上述操作。
(5)、将每台系统中的authorized_keys文件的内容复制出来,组合成一个文件。然后将这个文件中的内容全部覆盖到几台Linux系统上的authorized_keys文件中。操作完成后,几台系统中的authorized_keys文件中的内容是一致的。炼数成金视频中讲到这里就说可以免密码登录了,扯淡,实践证明是不行的,还缺了下面个重要的步骤!
(6)、设置文件和目录权限
设置.ssh目录权限:chmod 700 -R .ssh
设置authorized_keys权限:chmod 644 authorized_keys
(7)注意:配置免密码登录的用户名要一致!!
这个免密码登录参考了CSDN上的一篇文章:linux远程登录ssh免密码
hadoop学习(一)环境的搭建的更多相关文章
- hadoop集群环境的搭建
hadoop集群环境的搭建 今天终于把hadoop集群环境给搭建起来了,能够运行单词统计的示例程序了. 集群信息如下: 主机名 Hadoop角色 Hadoop jps命令结果 Hadoop用户 Had ...
- hadoop伪分布环境快速搭建
1.首先下载一个完成已经进行简单配置好的镜像文件(hadoop,HBASE,eclipse,jdk环境已经搭建好,tomcat为7.0版本,建议更改为tomcat8.5版本,运行比较稳定). 2安装V ...
- hadoop学习笔记——环境搭建
基础环境准备: 系统:(VirtualBox) ubuntu-12.04.2-desktop-i386.iso hadoop版本:hadoop-0.20.203.0rc1.tar.gz jdk版本:j ...
- hadoop学习day1环境配置笔记(非完整流程)
hdfs的工作机制: 1.客户把一个文件存入hdfs,其实hdfs会把这个文件切块后,分散存储在N台linux机器系统中(负责存储文件块的角色:data node)<准确来说:切块的行为是由客户 ...
- hadoop学习笔记——zookeeper平台搭建
zookeeper是一个自动管理分布式集群的一个工具,以实现集群的高可用. 比如集群中的一个机器挂掉了,没有zookeeper的话就得考虑挂一个机器对剩下集群工作的影响,而有了zookeeper,它就 ...
- hadoop学习笔记--集群搭建
注:大家常说的ssh其实就是一个免密码访问的东西,为了简化操作的,不用每次访问其他节点重新输入密码.但是要想配置如下: .在每台机器上执行 ssh-keygen -t rsa,连敲三次回车键(即设置空 ...
- Mono for Android 学习一 环境的搭建
JAVA SDK和Android SDK下载安装 1.疑问:用mono for android 开发为什么必须要java sdk的支持 答:因为android sdk是java开发的,所以和它相关的 ...
- Hadoop伪分布式环境快速搭建
Hadoop分支 Apache Cloudera Hortonworks 本文是采用Cloudera分支的hadoop. 下载cdh-5.3.6 版本 下载地址:http://archive.clou ...
- Hadoop集群环境搭建步骤说明
Hadoop集群环境搭建是很多学习hadoop学习者或者是使用者都必然要面对的一个问题,网上关于hadoop集群环境搭建的博文教程也蛮多的.对于玩hadoop的高手来说肯定没有什么问题,甚至可以说事“ ...
- Spark集群环境搭建——Hadoop集群环境搭建
Spark其实是Hadoop生态圈的一部分,需要用到Hadoop的HDFS.YARN等组件. 为了方便我们的使用,Spark官方已经为我们将Hadoop与scala组件集成到spark里的安装包,解压 ...
随机推荐
- 云计算OpenStack核心组件---neutron网络服务(8)*****
一.neutron介绍 1.Neutron概述 传统的网络管理方式很大程度上依赖于管理员手工配置和维护各种网络硬件设备:而云环境下的网络已经变得非常复杂,特别是在多租户场景里,用户随时都可能需要创建. ...
- linux中级之HAProxy基础配置
一.haproxy简介 HAProxy是一款提供高可用性.负载均衡以及基于TCP(第四层)和HTTP(第七层)应用的代理软件,HAProxy是完全免费的.借助HAProxy可以快速并且可靠的提供基于T ...
- 问题解决: PythonStudy 环境搭建
环境搭建的时候遇到问题 参见帖子: http://www.xitongcheng.com/jiaocheng/dnrj_article_24923.html 虚拟机运行的时候会遇到 最近有用户发现在电 ...
- exit()和_exit()的区别
版权声明:本文为博主原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/HAHAandHEHE/article/de ...
- 物联网设备OTA软件升级之:升级包下载过程之旅
OTA概述 大家好,我是一个软件升级包.这几天呢,我将会进行一次神奇的网络之旅,从开发者的电脑中,一直跑到终端嵌入式设备中. 大家都把我的这个旅游过程叫做 OTA,也就是在线升级. 那么啥叫 OTA ...
- 端到端TVM编译器(下)
端到端TVM编译器(下) 4.3 Tensorization DL工作负载具有很高的运算强度,通常可以分解为张量运算符,如矩阵乘法或一维卷积.这些自然分解导致了最近的添加张量计算原语.这些新的原语带来 ...
- 如何使用Intel vtune profilier?
如何使用Intel vtune profilier?
- 腾讯云 K8S 集群实战 Service Mesh—Linkerd2 & Traefik2 部署 emojivoto 应用
Linkerd 是 Kubernetes 的服务网格. 它通过为您提供运行时调试(runtime debugging).可观察性(observability).可靠性(reliability)和安全性 ...
- Redis系列(四):地理信息
除了Bitmaps和HyperLogLog,Redis还提供了关于地理空间的相关操作,主要是经纬度.Redis提供的地理信息操作是有误差的,最大误差可能会达到5%.Redis提供的Geo的操作如下: ...
- Javaweb:Servlet
servlet简介 Servlet(Server Applet)是 Java Servlet 的简称,是使用 Java 语言编写的运行在服务器端的程序.具有独立于平台和协议的特性,主要功能在于交互式地 ...