类型:学习笔记

参考:尚硅谷大数据系列教程

工具准备

1、VMware

2、CentOS 7 最小安装版

3、远程工具推荐使用 FinalShell

安装系统

1、打开VMware,根据自己的情况配置好虚拟机,选择系统镜像就可以安装了,可自行百度“VMware如何安装CentOS”

2、打开虚拟机后,选中Test this media & install CentOS 7,回车进行安装

3、语言设置为中文:简体中文

4、时间日期:根据实际情况设置即可

5、配置磁盘,使用默认配置也行

选中我要配置分区,点击完成,进入手动分区

  • /boot:1G
  • swap:4G
  • /:剩下全部

6、学习用机,可以关闭KDUMP

7、设置完成后,可以点击开始安装,安装过程中记得设置root用户密码

配置网络

我们需要配置3处

1、配置VMware

右上角编辑->虚拟机网络编辑器,进入更改设置后,选中VMnet8进行设置

  • 子网IP:192.168.10.0
  • 子网掩码:255.255.255.0
  • 在NAT设置中将网关设置为:192.168.10.2

2、配置Windows网卡

我们打开网络连接界面:按“Win+R”,打开【运行】;输入“ncpa.cpl”,回车。

找到VMnet8,右键属性,找到“Internet 协议版本 4(TCP/IPv4)”,双击进入属性设置

根据步骤一,填入对应位置

3、配置CentOS 7

我们以root用户登录

vi /etc/sysconfig/network-scripts/ifcfg-ens33

BOOTPROTO="dynamic"更改为BOOTPROTO="static"

在最后添加下面几句,注意不要拼写错误

IPADDR=192.168.10.100
GATEWAY=192.168.10.2
DNS1=192.168.10.2

修改hostname,改为hadoop100(随意啦,你自己记得就行)

vi /etc/hostname

添加主机名和IP的映射关系(方便用主机名代替IP)

vi /etc/hosts

#我就象征性写了几个,后面用到再添加也可以
192.168.10.100 hadoop100
192.168.10.101 hadoop101
192.168.10.102 hadoop102
192.168.10.103 hadoop103
192.168.10.104 hadoop104

重启

reboot

4、测试网络

重启进入系统后,测试网络是否畅通

ping www.baidu.com

如果网络不可达,注意检查拼写错误。网络畅通是必须的,解决完再进行下一步哦。

配置环境

1、最小系统需要安装下面的工具

net-tool工具包

yum install -y net-tools

vim编辑器

yum install -y vim

epel-release软件仓库

yum install -y epel-release

rsync:数据同步工具

yum install -y rsync

2、关闭防火墙,禁用开机自启(学习用途)

systemctl stop firewalld
systemctl disable firewalld.service

3、创建用户,并修改密码

useradd swcode
passwd swcode

4、配置用户的root权限,否则sudo无法执行

vim /etc/sudoers
# 在 %wheel 下面添加,NOPASSWD无需密码
swcode ALL=(ALL) NOPASSWD:ALL

:wq!强制保存即可

5、在/opt目录下创建文件夹,并修改所属主和所属组(root下执行)

mkdir /opt/module
mkdir /opt/software chown swcode:swcode /opt/module
chown swcode:swcode /opt/software

下面是成功的样子

drwxr-xr-x. 2 swcode swcode 6 11月 14 11:34 module
drwxr-xr-x. 2 swcode swcode 6 11月 14 11:34 software

6、卸载虚拟机自带JDK(最小版是没有的,可以忽略这一步)

rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps
  • rpm -qa:查询所安装的所用rpm软件包
  • grep -i:忽略大小写
  • xargs -n1:每次只传递一个参数
  • rpm -e --nodeps:强制卸载软件

7、重启虚拟机

reboot

大数据学习——搭建第一台Hadoop主机的更多相关文章

  1. 大数据学习笔记之初识Hadoop

    1.Hadoop概述 1.1 Hadoop名字的由来 Hadoop项目作者的孩子给一个棕黄色的大象样子的填充玩具的命名 Hadoop的官网:http://hadoop.apache.org . 1.2 ...

  2. 大数据学习之路之Hadoop

    Hadoop介绍 一.简介 Hadoop是一个开源的分布式计算平台,用于存储大数据,并使用MapReduce来处理.Hadoop擅长于存储各种格式的庞大的数据,任意的格式甚至非结构化的处理.两个核心: ...

  3. 大数据学习(1)Hadoop安装

    集群架构 Hadoop的安装其实就是HDFS和YARN集群的配置,从下面的架构图可以看出,HDFS的每一个DataNode都需要配置NameNode的位置.同理YARN中的每一个NodeManager ...

  4. 大数据学习(7)Hadoop高可用

    HDFS高可用 通过主从切换实现单NameNode高可用.通过Federation:水平扩展来联合多NameNode个: NameNode高可用 把edits日志从原来的nameNode中分离出来,存 ...

  5. 大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 图文详解

    引言 在之前的大数据学习系列中,搭建了Hadoop+Spark+HBase+Hive 环境以及一些测试.其实要说的话,我开始学习大数据的时候,搭建的就是集群,并不是单机模式和伪分布式.至于为什么先写单 ...

  6. 大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)

    引言 在大数据学习系列之一 ----- Hadoop环境搭建(单机) 成功的搭建了Hadoop的环境,在大数据学习系列之二 ----- HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用 ...

  7. 大数据学习系列之六 ----- Hadoop+Spark环境搭建

    引言 在上一篇中 大数据学习系列之五 ----- Hive整合HBase图文详解 : http://www.panchengming.com/2017/12/18/pancm62/ 中使用Hive整合 ...

  8. 大数据学习(16)—— HBase环境搭建和基本操作

    部署规划 HBase全称叫Hadoop Database,它的数据存储在HDFS上.我们的实验环境依然基于上个主题Hive的配置,参考大数据学习(11)-- Hive元数据服务模式搭建. 在此基础上, ...

  9. 大数据系列(3)——Hadoop集群完全分布式坏境搭建

    前言 上一篇我们讲解了Hadoop单节点的安装,并且已经通过VMware安装了一台CentOS 6.8的Linux系统,咱们本篇的目标就是要配置一个真正的完全分布式的Hadoop集群,闲言少叙,进入本 ...

随机推荐

  1. P4198-楼房重建【线段树】

    正题 题目链接:https://www.luogu.com.cn/problem/P4198 题目大意 \(n\)条线,开始时第\(i\)条是\((i,0)\)的一个点. 每次有操作把第\(x\)条线 ...

  2. YbtOJ#943-平方约数【莫比乌斯反演,平衡规划】

    正题 题目链接:http://www.ybtoj.com.cn/contest/122/problem/3 题目大意 \(S(i)\)表示\(i\)的约数个数,\(Q\)次询问给出\(n,m\)求 \ ...

  3. 题解 CF241E Flights

    题目传送门 题目大意 给出一个 \(n\) 个点 \(m\) 条边的 \(\texttt{DAG}\) ,给每条边设定边权为 \(1\) 或者 \(2\) ,使得 \(1\to n\) 的每条路径长度 ...

  4. 2020.3.14--训练联盟周赛 Preliminaries for Benelux Algorithm Programming Contest 2019

    1.A题 题意:给定第一行的值表示m列的最大值,第m行的值表示n行的最大值,问是否会行列冲突 思路:挺简单的,不过我在一开始理解题意上用了些时间,按我的理解是输入两组数组,找出每组最大数,若相等则输出 ...

  5. JS最简单的定时累加计数器

    js代码: 1 var timer , k = 0; 2 function star() { 3 k += 1; 4 document.getElementById("num"). ...

  6. 【UE4 C++】Input 输入事件绑定

    轴映射与动作映射 编辑器设置input+代码实现具体动作 void AMyCharacter::SetupPlayerInputComponent(UInputComponent* PlayerInp ...

  7. Convolutional Neural Network-week2编程题2(Residual Networks)

    1. Residual Networks(残差网络) 残差网络 就是为了解决深网络的难以训练的问题的. In this assignment, you will: Implement the basi ...

  8. 防止SQL注入总结

    1.预编译(占位符)可以很大程度上防止SQL注入 预编译的原理是数据库厂商提供的JAR包中,对参数进行了转义 2.mybatis中,能用# 的地方,不用$,因为#是预编译占位符形式,可以防止SQL注入 ...

  9. [no_code]OCR表格处理——功能规格说明书

    项目 内容 这个作业属于哪个课程 2020春季计算机学院软件工程(罗杰 任健) 这个作业的要求在哪里 功能规格说明书 我们在这个课程的目标是 远程协同工作,采用最新技术开发软件 这个作业在哪个具体方面 ...

  10. OO第三次博客作业--第三单元总结

    一.JML 语言的理论基础及应用工具链 JML 是一种行为接口规格语言,提供了对方法和类型的规格定义手段.通过 JML 和其支持工具,不仅可以基于规格自动构造测试用例,并整合了 SMT Solver ...