环境搭建-CentOS集群搭建

写在前面

最近有许多小伙伴问我,大数据的hadoop分布式集群该如何去搭建。所以,想着,就写一篇博客,帮助到更多刚入门大数据的人。本博客会一步一步带你实现一个Hadoop的搭建。跟着博客上面的步骤,很详细的。你很快就会有一个自己的hadoop集群啦。

我是在自己的windows机器上使用virtualBox来虚拟三台机器,作为实验的环境。

实验环境

Windows 宿主机:Windows 10 (其余也是可以的)

VirtualBox 版本:VirtualBox 5.1.22

CentOS 版本:CentOS 6.9

Xshell 版本:Xshell 5

可能许多的小伙伴,会因为找软件比较麻烦。我这里直接分享在了我的百度云的链接,方便大家下载:

链接:http://pan.baidu.com/s/1c24gbUK 密码:8h1r

接下来,我们就开始创建虚拟机

使用VirtualBox创建虚拟机

使用VirtualBox创建三台CentOS作为项目实验集群。

跟着下面的步骤就好:

打开virtualBox软件,我们new一个:

接下来,我们点击设置按钮

设置我们的存储,把我们的镜像添加进去

设置我们的网络连接(很重要)

上面的设置完成之后,我们就可以开启,开始安装centos了

接下来的两项默认就好,这里需要注意一下

设置时区为亚洲,上海

设置密码,我这里为了方便,直接设置为123456

由于密码安全太低,这里选择不管如何都使用就好

磁盘分区,默认就好

等待它自己安装,这个时候,你也可以按照这个步骤再去新建两台机器

会出现reboot的按钮,重启就好

重启之后,我们输入账号密码,进入:

一开始是没有ip的,是需要我们设置的,

设置IP

设置 网卡onboot=yes即可,自动获取

[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]#
[root@localhost network-scripts]# vi ifcfg-eth0
DEVICE=eth0
HWADDR=08:00:27:72:EC:EE
TYPE=Ethernet
UUID=6b262313-ddd5-4a97-bb75-771ea5621f91
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=dhcp
#:wq 保存退出

重新启动网络

[root@localhost network-scripts]# service network restart

测试,去ping百度:

到这里我们的centos就安装好了,说明一下,网络一定要连通,不然,后面,会比较麻烦。

依据,这个操作,我们再重新新建两台机器。

使用Xshell连接我们的服务器

xshell这个软件还是很好用得,

新建连接

接下来,就是输入用户和密码,输入就好。

这里把下面的框选上,这样以后就不用输账号密码了

上面就表示登录成功了

安装常用软件

下面安装lrzsz这个软件,是用来传输文件的,比较实用的一个软件,当然,你也可以选择自己的方式

[root@localhost ~]# yum -y install lrzsz
.... Installed:
lrzsz.x86_64 0:0.12.20-27.1.el6 Complete!

好啦,到这里我们就安装好了

安装JDK环境

在开始安装之前,

我们先新建一个目录,这样比较规范,这个看个人习惯就好

[root@localhost ~]#
[root@localhost ~]# mkdir app
[root@localhost ~]# mkdir softwares
[root@localhost ~]#
[root@localhost ~]# mkdir lib
[root@localhost ~]#
[root@localhost ~]# mkdir data
[root@localhost ~]#
#app软件安装的目录
#softwares软件的存放目录
#lib架包的存放目录
#data测试的数据存放目录

接下来,我们把jdk文件上传到我们的服务器,

使用rz命令

上传完毕之后,就开始解压到app目录下

[root@localhost softwares]# tar -zxvf jdk-8u144-linux-x64.tar.gz -C ../app/

解压完毕之后,就可以配置环境变量

[root@localhost ~]# vim ~/.bash_profile
# .bash_profile # Get the aliases and functions
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi export JAVA_HOME=/root/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH

再source一下,使得我我们的环境变量生效,

[root@localhost ~]# source ~/.bash_profile
[root@localhost ~]#
[root@localhost ~]# java -version
java version "1.8.0_144"
Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
Java HotSpot(TM) 64-Bit Server VM (build 25.144-b01, mixed mode)
[root@localhost ~]#

到这里,我们就安装好了我们的JDK环境

至于,另外的两台,我们可以先不用配置,后面,我们可以直接scp过去。

补充说明一下,有的小伙伴可能会发现,我创建过程中的名称为hadoop004,这是因为,我之前做hadoop000的时候,做好了,忘记保存了,就丢失了,这是我补充的。码字不易,不洗勿喷。

到这里,我最终配置好的centos集群是:

hadoop000 192.168.1.61

hadoop001 192.168.1.62

hadoop002 192.168.1.63

,接下来,就可以开始Hadoop集群的搭建了,后面的地址是:

http://blog.csdn.net/liuge36/article/details/78613910

环境搭建-CentOS集群搭建的更多相关文章

  1. 环境搭建-Hadoop集群搭建

    环境搭建-Hadoop集群搭建 写在前面,前面我们快速搭建好了centos的集群环境,接下来,我们就来开始hadoop的集群的搭建工作 实验环境 Hadoop版本:CDH 5.7.0 这里,我想说一下 ...

  2. Linux环境下Hadoop集群搭建

    Linux环境下Hadoop集群搭建 前言: 最近来到了武汉大学,在这里开始了我的研究生生涯.昨天通过学长们的耐心培训,了解了Hadoop,Hdfs,Hive,Hbase,MangoDB等等相关的知识 ...

  3. centos6搭建redis集群搭建(单机多节点)

    一.安装redis 1.安装gcc环境 yum install gcc-c++ 2.下载源码包并解压 wget http://download.redis.io/releases/redis-3.2. ...

  4. druid.io本地集群搭建 / 扩展集群搭建

    druid.io 是一个比较重型的数据库查询系统,分为5种节点 . 在此就不对数据库进行介绍了,如果有疑问请参考白皮书: http://pan.baidu.com/s/1eSFlIJS 单台机器的集群 ...

  5. 基于Dokcer搭建Redis集群搭建(主从集群)

    最近陆陆续续有不少园友加我好友咨询 redis 集群搭建的问题,我觉得之前写的这篇 <基于Docker的Redis集群搭建> 文章一定是有问题了,所以我花了几分钟浏览之前的文章总结了下面几 ...

  6. elk6.3 centos集群搭建 head插件安装

    版本elk均为6.3+centos7.0 准备工作 官网下载elk6.3的linux环境的压缩包,sftp上传 下载对应的head插件sftp上传到指定目录 tar.gz文件解压 tar -zxvf ...

  7. redis centos集群搭建和java应用

    1. 首先要ssh免密登录 redis集群,3台虚拟机,6个节点,每台机器2个节点一主一从. 192.168.132.154 c0192.168.132.156 c1192.168.132.155 c ...

  8. Zookeeper介绍 Zookeeper搭建 Zookeeper集群搭建

    关键字:分布式 背景         随着互联网技术的高速发展,企业对计算机系统的技术.存储能力要求越来越高,最简单的证明就是出现了一些诸如:高并发.海量存储这样的词汇.在这样的背景 下,单纯依靠少量 ...

  9. Linux环境下nginx集群搭建

    #确保安装nginx,stream模块默认不安装的,需要手动添加参数:–with-stream, nginx1.9或以上版本 #nginx.conf文件中,添加以下内容(只供参考),这个不能放在htt ...

随机推荐

  1. vue当图片加载失败时,用一个默认图片替换;

    原理就是给img绑定error事件,替换原有的src地址. 首先在data中创建一个defaultImg(随便起的),里面的值是该默认图片的地址: 在html页面的img标签上绑定该属性 这样默认图片 ...

  2. 第一个Javaweb应用程序

    第一个Javaweb应用程序 一.Javaweb应用程序结构 一个 web 应用程序是由一组 Servlet,HTML 页面,类,以及其它的资源组成的运行在 web 服务器上的完整的应用程序,以一种结 ...

  3. CSAPP - Ch 1 - 计算机系统漫游

    目录 0 序言及摘要 1 信息就是位+上下文 2 程序被其他程序翻译成不同的格式 3 了解编译系统如何工作是大有益处的 0 序言及摘要 (1) 序言: CS:APP -- Computer Syste ...

  4. net core WebApi——尝试企业微信内部应用

    目录 前言 企业微信 开始 测试 小结 @ 前言 这几天忙活着别的东西,耽误了很长时间,从文件操作完了之后就在考虑着下一步鼓捣点儿啥,因为最开始的业务开发就是企业微信相关的,这刚好来做个内部应用的小例 ...

  5. 工作中遇到的99%SQL优化,这里都能给你解决方案

    前几篇文章介绍了mysql的底层数据结构和mysql优化的神器explain.后台有些朋友说小强只介绍概念,平时使用还是一脸懵,强烈要求小强来一篇实战sql优化,经过周末两天的整理和总结,sql优化实 ...

  6. 2019牛客暑期多校训练营(第二场) - J - Go on Strike! - 前缀和预处理

    题目链接:https://ac.nowcoder.com/acm/contest/882/C 来自:山东大学FST_stay_night的的题解,加入一些注释帮助理解神仙代码. 好像题解被套了一次又一 ...

  7. POJ-1984-Navigation Nightmare+带权并查集(中级

    传送门:Navigation Nightmare 参考:1:https://www.cnblogs.com/huangfeihome/archive/2012/09/07/2675123.html 参 ...

  8. 牛客OI测试赛 F 子序列 组合数学 欧拉降幂公式模板

    链接:https://www.nowcoder.com/acm/contest/181/F来源:牛客网 题目描述 给出一个长度为n的序列,你需要计算出所有长度为k的子序列中,除最大最小数之外所有数的乘 ...

  9. CodeForces 758 C Unfair Poll

    Unfair Poll 题意:一共有n排同学每排同学有m个人, 老师问问题有一个顺序, 先从第一排开始问,问完第一排的所有同学之后,再问第2排的,对于所有排的访问顺序为 1,2,3……n-1,n,n- ...

  10. 关于Ubunto在VMwark中无法全屏。

    1.右键点击Ubunto桌面,进入终端 输入: 1.sudo apt-get install open-vm*   安装依赖项 2.sudo apt-get install open-vm-tools ...