大数据学习——搭建第一台Hadoop主机
类型:学习笔记
参考:尚硅谷大数据系列教程
工具准备
1、VMware
2、CentOS 7 最小安装版
3、远程工具推荐使用 FinalShell
安装系统
1、打开VMware,根据自己的情况配置好虚拟机,选择系统镜像就可以安装了,可自行百度“VMware如何安装CentOS”
2、打开虚拟机后,选中Test this media & install CentOS 7,回车进行安装

3、语言设置为中文:简体中文
4、时间日期:根据实际情况设置即可
5、配置磁盘,使用默认配置也行

选中我要配置分区,点击完成,进入手动分区

/boot:1Gswap:4G/:剩下全部
6、学习用机,可以关闭KDUMP
7、设置完成后,可以点击开始安装,安装过程中记得设置root用户密码
配置网络
我们需要配置3处
1、配置VMware
右上角编辑->虚拟机网络编辑器,进入更改设置后,选中VMnet8进行设置

- 子网IP:
192.168.10.0 - 子网掩码:
255.255.255.0 - 在NAT设置中将网关设置为:
192.168.10.2
2、配置Windows网卡
我们打开网络连接界面:按“Win+R”,打开【运行】;输入“ncpa.cpl”,回车。
找到VMnet8,右键属性,找到“Internet 协议版本 4(TCP/IPv4)”,双击进入属性设置

根据步骤一,填入对应位置
3、配置CentOS 7
我们以root用户登录
vi /etc/sysconfig/network-scripts/ifcfg-ens33
将BOOTPROTO="dynamic"更改为BOOTPROTO="static"
在最后添加下面几句,注意不要拼写错误
IPADDR=192.168.10.100
GATEWAY=192.168.10.2
DNS1=192.168.10.2
修改hostname,改为hadoop100(随意啦,你自己记得就行)
vi /etc/hostname
添加主机名和IP的映射关系(方便用主机名代替IP)
vi /etc/hosts
#我就象征性写了几个,后面用到再添加也可以
192.168.10.100 hadoop100
192.168.10.101 hadoop101
192.168.10.102 hadoop102
192.168.10.103 hadoop103
192.168.10.104 hadoop104
重启
reboot
4、测试网络
重启进入系统后,测试网络是否畅通
ping www.baidu.com
如果网络不可达,注意检查拼写错误。网络畅通是必须的,解决完再进行下一步哦。
配置环境
1、最小系统需要安装下面的工具
net-tool工具包
yum install -y net-tools
vim编辑器
yum install -y vim
epel-release软件仓库
yum install -y epel-release
rsync:数据同步工具
yum install -y rsync
2、关闭防火墙,禁用开机自启(学习用途)
systemctl stop firewalld
systemctl disable firewalld.service
3、创建用户,并修改密码
useradd swcode
passwd swcode
4、配置用户的root权限,否则sudo无法执行
vim /etc/sudoers
# 在 %wheel 下面添加,NOPASSWD无需密码
swcode ALL=(ALL) NOPASSWD:ALL
:wq!强制保存即可
5、在/opt目录下创建文件夹,并修改所属主和所属组(root下执行)
mkdir /opt/module
mkdir /opt/software
chown swcode:swcode /opt/module
chown swcode:swcode /opt/software
下面是成功的样子
drwxr-xr-x. 2 swcode swcode 6 11月 14 11:34 module
drwxr-xr-x. 2 swcode swcode 6 11月 14 11:34 software
6、卸载虚拟机自带JDK(最小版是没有的,可以忽略这一步)
rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps
rpm -qa:查询所安装的所用rpm软件包grep -i:忽略大小写xargs -n1:每次只传递一个参数rpm -e --nodeps:强制卸载软件
7、重启虚拟机
reboot
大数据学习——搭建第一台Hadoop主机的更多相关文章
- 大数据学习笔记之初识Hadoop
1.Hadoop概述 1.1 Hadoop名字的由来 Hadoop项目作者的孩子给一个棕黄色的大象样子的填充玩具的命名 Hadoop的官网:http://hadoop.apache.org . 1.2 ...
- 大数据学习之路之Hadoop
Hadoop介绍 一.简介 Hadoop是一个开源的分布式计算平台,用于存储大数据,并使用MapReduce来处理.Hadoop擅长于存储各种格式的庞大的数据,任意的格式甚至非结构化的处理.两个核心: ...
- 大数据学习(1)Hadoop安装
集群架构 Hadoop的安装其实就是HDFS和YARN集群的配置,从下面的架构图可以看出,HDFS的每一个DataNode都需要配置NameNode的位置.同理YARN中的每一个NodeManager ...
- 大数据学习(7)Hadoop高可用
HDFS高可用 通过主从切换实现单NameNode高可用.通过Federation:水平扩展来联合多NameNode个: NameNode高可用 把edits日志从原来的nameNode中分离出来,存 ...
- 大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 图文详解
引言 在之前的大数据学习系列中,搭建了Hadoop+Spark+HBase+Hive 环境以及一些测试.其实要说的话,我开始学习大数据的时候,搭建的就是集群,并不是单机模式和伪分布式.至于为什么先写单 ...
- 大数据学习系列之四 ----- Hadoop+Hive环境搭建图文详解(单机)
引言 在大数据学习系列之一 ----- Hadoop环境搭建(单机) 成功的搭建了Hadoop的环境,在大数据学习系列之二 ----- HBase环境搭建(单机)成功搭建了HBase的环境以及相关使用 ...
- 大数据学习系列之六 ----- Hadoop+Spark环境搭建
引言 在上一篇中 大数据学习系列之五 ----- Hive整合HBase图文详解 : http://www.panchengming.com/2017/12/18/pancm62/ 中使用Hive整合 ...
- 大数据学习(16)—— HBase环境搭建和基本操作
部署规划 HBase全称叫Hadoop Database,它的数据存储在HDFS上.我们的实验环境依然基于上个主题Hive的配置,参考大数据学习(11)-- Hive元数据服务模式搭建. 在此基础上, ...
- 大数据系列(3)——Hadoop集群完全分布式坏境搭建
前言 上一篇我们讲解了Hadoop单节点的安装,并且已经通过VMware安装了一台CentOS 6.8的Linux系统,咱们本篇的目标就是要配置一个真正的完全分布式的Hadoop集群,闲言少叙,进入本 ...
随机推荐
- Ybt#452-序列合并【期望dp】
正题 题目链接:https://www.ybtoj.com.cn/contest/113/problem/2 题目大意 一个空序列,每次往末尾加入一个\([1,m]\)中的随机一个数.如果末尾两个数相 ...
- Python3入门系列之-----range和xrange的区别详解,你明白了吗?
前言 range()是Python的内置函数,用于创建整数的列表,可以生成递增或者递减的数列. xrange也有相同的功能, 今天来看下它们之间的不同. range 函数说明:range([start ...
- LR Socket接收超时TPS上不去解决方法
在一次做项目中,由于Socket协议接收的报文会有不定长度,基本每次都会有变化,在data.ws 接收buf1有固定长度,这是在接收的实时报文会有长度不一致的问题.这时LR默认会去与接收的报文的长度及 ...
- CSS 小技巧 | 一行代码实现头像与国旗的融合
到国庆了,大家都急着给祖国母亲庆生. 每年每到此时,微信朋友圈就会流行起给头像装饰上国旗,而今年又流行这款: emm,很不错. 那么,将一张国旗图片与我们的头像,快速得到想要的头像,使用 CSS 如何 ...
- VMware vSphere 7 Update 3 下载
请访问原文链接:https://sysin.org/blog/vmware-vsphere-7-u3/,查看最新版.原创作品,转载请保留出处. vSphere 7 Update 3 已经宣布可用,即将 ...
- java 从零开始手写 RPC (03) 如何实现客户端调用服务端?
说明 java 从零开始手写 RPC (01) 基于 socket 实现 java 从零开始手写 RPC (02)-netty4 实现客户端和服务端 写完了客户端和服务端,那么如何实现客户端和服务端的 ...
- 未来云原生 | CIF 论坛精彩看点
当下云原生技术正在飞速发展,那么如何准确理解「云原生」?在发展不够成熟,行业认知差异大的情况下,不论是云原生计算基金会(CNCF),还是行业的任何大咖,都不能给出精确的.便于理解的定义.我们要理解的逻 ...
- 无法获取指向控制台的文件描述符 (couldn't get a file descriptor referring to the console)
背景 最近收拾东西,从一堆杂物里翻出来尘封四年多的树莓派 3B 主机来,打扫打扫灰尘,接上电源,居然还能通过之前设置好的 VNC 连上.欣慰之余,开始 clone 我的 git 项目,为它们拓展一个新 ...
- python的参数传递是值传递还是引用传递?都不是!
[写在前面] 参考文章: https://www.cnblogs.com/spring-haru/p/9320493.html[偏理论,对值传递和引用传递作了总结] https://www.cnblo ...
- JuiceFS 如何帮助趣头条超大规模 HDFS 降负载
作者简介 王振华,趣头条大数据总监,趣头条大数据负责人. 王海胜,趣头条大数据工程师,10 年互联网工作经验,曾在 eBay.唯品会等公司从事大数据开发相关工作,有丰富的大数据落地经验. 高昌健,Ju ...