环境搭建-CentOS集群搭建
环境搭建-CentOS集群搭建
写在前面
最近有许多小伙伴问我,大数据的hadoop分布式集群该如何去搭建。所以,想着,就写一篇博客,帮助到更多刚入门大数据的人。本博客会一步一步带你实现一个Hadoop的搭建。跟着博客上面的步骤,很详细的。你很快就会有一个自己的hadoop集群啦。
我是在自己的windows机器上使用virtualBox来虚拟三台机器,作为实验的环境。
实验环境
Windows 宿主机:Windows 10 (其余也是可以的)
VirtualBox 版本:VirtualBox 5.1.22
CentOS 版本:CentOS 6.9
Xshell 版本:Xshell 5
可能许多的小伙伴,会因为找软件比较麻烦。我这里直接分享在了我的百度云的链接,方便大家下载:
链接:http://pan.baidu.com/s/1c24gbUK 密码:8h1r
接下来,我们就开始创建虚拟机
使用VirtualBox创建虚拟机
使用VirtualBox创建三台CentOS作为项目实验集群。
跟着下面的步骤就好:
打开virtualBox软件,我们new一个:
接下来,我们点击设置按钮
设置我们的存储,把我们的镜像添加进去
设置我们的网络连接(很重要)
上面的设置完成之后,我们就可以开启,开始安装centos了
接下来的两项默认就好,这里需要注意一下
设置时区为亚洲,上海
设置密码,我这里为了方便,直接设置为123456
由于密码安全太低,这里选择不管如何都使用就好
磁盘分区,默认就好
等待它自己安装,这个时候,你也可以按照这个步骤再去新建两台机器
会出现reboot的按钮,重启就好
重启之后,我们输入账号密码,进入:
一开始是没有ip的,是需要我们设置的,
设置IP
设置 网卡onboot=yes即可,自动获取
[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]#
[root@localhost network-scripts]# vi ifcfg-eth0
DEVICE=eth0
HWADDR=08:00:27:72:EC:EE
TYPE=Ethernet
UUID=6b262313-ddd5-4a97-bb75-771ea5621f91
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=dhcp
#:wq 保存退出
重新启动网络
[root@localhost network-scripts]# service network restart
测试,去ping百度:
到这里我们的centos就安装好了,说明一下,网络一定要连通,不然,后面,会比较麻烦。
依据,这个操作,我们再重新新建两台机器。
使用Xshell连接我们的服务器
xshell这个软件还是很好用得,
新建连接
接下来,就是输入用户和密码,输入就好。
这里把下面的框选上,这样以后就不用输账号密码了
上面就表示登录成功了
安装常用软件
下面安装lrzsz这个软件,是用来传输文件的,比较实用的一个软件,当然,你也可以选择自己的方式
[root@localhost ~]# yum -y install lrzsz
....
Installed:
lrzsz.x86_64 0:0.12.20-27.1.el6
Complete!
好啦,到这里我们就安装好了
安装JDK环境
在开始安装之前,
我们先新建一个目录,这样比较规范,这个看个人习惯就好
[root@localhost ~]#
[root@localhost ~]# mkdir app
[root@localhost ~]# mkdir softwares
[root@localhost ~]#
[root@localhost ~]# mkdir lib
[root@localhost ~]#
[root@localhost ~]# mkdir data
[root@localhost ~]#
#app软件安装的目录
#softwares软件的存放目录
#lib架包的存放目录
#data测试的数据存放目录
接下来,我们把jdk文件上传到我们的服务器,
使用rz命令
上传完毕之后,就开始解压到app目录下
[root@localhost softwares]# tar -zxvf jdk-8u144-linux-x64.tar.gz -C ../app/
解压完毕之后,就可以配置环境变量
[root@localhost ~]# vim ~/.bash_profile
# .bash_profile
# Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
export JAVA_HOME=/root/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH
再source一下,使得我我们的环境变量生效,
[root@localhost ~]# source ~/.bash_profile
[root@localhost ~]#
[root@localhost ~]# java -version
java version "1.8.0_144"
Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
Java HotSpot(TM) 64-Bit Server VM (build 25.144-b01, mixed mode)
[root@localhost ~]#
到这里,我们就安装好了我们的JDK环境
至于,另外的两台,我们可以先不用配置,后面,我们可以直接scp过去。
补充说明一下,有的小伙伴可能会发现,我创建过程中的名称为hadoop004,这是因为,我之前做hadoop000的时候,做好了,忘记保存了,就丢失了,这是我补充的。码字不易,不洗勿喷。
到这里,我最终配置好的centos集群是:
hadoop000 192.168.1.61
hadoop001 192.168.1.62
hadoop002 192.168.1.63
,接下来,就可以开始Hadoop集群的搭建了,后面的地址是:
http://blog.csdn.net/liuge36/article/details/78613910
环境搭建-CentOS集群搭建的更多相关文章
- 环境搭建-Hadoop集群搭建
环境搭建-Hadoop集群搭建 写在前面,前面我们快速搭建好了centos的集群环境,接下来,我们就来开始hadoop的集群的搭建工作 实验环境 Hadoop版本:CDH 5.7.0 这里,我想说一下 ...
- Linux环境下Hadoop集群搭建
Linux环境下Hadoop集群搭建 前言: 最近来到了武汉大学,在这里开始了我的研究生生涯.昨天通过学长们的耐心培训,了解了Hadoop,Hdfs,Hive,Hbase,MangoDB等等相关的知识 ...
- centos6搭建redis集群搭建(单机多节点)
一.安装redis 1.安装gcc环境 yum install gcc-c++ 2.下载源码包并解压 wget http://download.redis.io/releases/redis-3.2. ...
- druid.io本地集群搭建 / 扩展集群搭建
druid.io 是一个比较重型的数据库查询系统,分为5种节点 . 在此就不对数据库进行介绍了,如果有疑问请参考白皮书: http://pan.baidu.com/s/1eSFlIJS 单台机器的集群 ...
- 基于Dokcer搭建Redis集群搭建(主从集群)
最近陆陆续续有不少园友加我好友咨询 redis 集群搭建的问题,我觉得之前写的这篇 <基于Docker的Redis集群搭建> 文章一定是有问题了,所以我花了几分钟浏览之前的文章总结了下面几 ...
- elk6.3 centos集群搭建 head插件安装
版本elk均为6.3+centos7.0 准备工作 官网下载elk6.3的linux环境的压缩包,sftp上传 下载对应的head插件sftp上传到指定目录 tar.gz文件解压 tar -zxvf ...
- redis centos集群搭建和java应用
1. 首先要ssh免密登录 redis集群,3台虚拟机,6个节点,每台机器2个节点一主一从. 192.168.132.154 c0192.168.132.156 c1192.168.132.155 c ...
- Zookeeper介绍 Zookeeper搭建 Zookeeper集群搭建
关键字:分布式 背景 随着互联网技术的高速发展,企业对计算机系统的技术.存储能力要求越来越高,最简单的证明就是出现了一些诸如:高并发.海量存储这样的词汇.在这样的背景 下,单纯依靠少量 ...
- Linux环境下nginx集群搭建
#确保安装nginx,stream模块默认不安装的,需要手动添加参数:–with-stream, nginx1.9或以上版本 #nginx.conf文件中,添加以下内容(只供参考),这个不能放在htt ...
随机推荐
- 使用synchronized获取互斥锁的几点说明
在并发编程中,多线程同时并发访问的资源叫做临界资源,当多个线程同时访问对象并要求操作相同资源时,分割了原子操作就有可能出现数据的不一致或数据不完整的情况,为避免这种情况的发生,我们会采取同步机制,以确 ...
- 终于跑通分布式事务框架tcc-transaction的示例项目
1.背景 前段时间在看项目代码的时候,发现有些接口的流程比较长,在各个服务里面都有通过数据库事务保证数据的一致性,但是在上游的controller层并没有对一致性做保证. 网上查了下,还没找到基于Go ...
- python多进程通信实例分析
操作系统会为每一个创建的进程分配一个独立的地址空间,不同进程的地址空间是完全隔离的,因此如果不加其他的措施,他们完全感觉不到彼此的存在.那么进程之间怎么进行通信?他们之间的关联是怎样的?实现原理是什么 ...
- 自己实现vue瀑布流组件,含详细注释
我知道vue有瀑布流插件vue-waterfall-easy,但是使用的时候与我的预期有部分别,所以就自己动手写了这个组件 人和动物的根本区别是是否会使用工具,我们不仅要会使用,还要会创造工具,别人提 ...
- Angular Material 的设计之美
前言 Angular Material 作为 Angular 的官方组件库,无论是设计交互还是易用性都有着极高的质量.正如官方所说其目的就是构建基于 Angular 和 Typescript 的高质量 ...
- Eclipse批量注释、批量缩进、批量取消缩进技巧
1.批量注释:选中若干行,按"Ctrl"+"/" 2.批量缩进:选中若干行,按TAB 3.批量取消缩进:选中若干行,按SHIFT+TAB
- P3084 [USACO13OPEN]照片Photo dp
题意: 有n个区间,每个区间只能有一个斑点奶牛,问最多有几个斑点奶牛. 思路: 首先要处理出每个点的L[i],R[i]. L[i]表示L[i]-i-1之间一定有一个点.i也是选中的. R[i]表示R[ ...
- lightoj 1140 - How Many Zeroes?(数位dp)
Jimmy writes down the decimal representations of all natural numbers between and including m and n, ...
- 树莓派4B安装64位Linux(不用显示器键盘鼠标)
入手了树莓派4B,我对它的定位是作为一个Docker实验环境,平时用到的镜像多为Java服务端常用的技术.以及自己作的Java应用镜像,因此宿主机需要64位操作系统,而树莓派官方操作系统只有32位的, ...
- 剑指offer(五):用两个栈实现一个队列
题目: 用两个栈来实现一个队列,完成队列的Push和Pop操作. 队列中的元素为int类型. 解决办法: 队列先进先出,栈先进后出(stack1和stack2) 其实主要要注意的点是: ①在添加时直接 ...