hadoop搭建的前期准备
这个hadoop的搭建是以比赛前的练习为目的的,所以我直接以root用户来搭建hadoop,主要也是方便我自己以后复习用的
需要的软件:vmware15.5,xshell6,xftp6,jdk Linux:centos7.4
1,创建主机
在虚拟机中用centos镜像创建3台主机,用于模拟之后的实验。具体的创建方式就不说了
2,设置静态IP
vi /etc/sysconfig/network-scripts/ifcfg-ens33
修改ifcfg-ens33文件的内容,把“dhcp"修改成”static“,并添加ip地址,掩码和网关。
BOOTPROTO = static
IPADDR = 192.168.1.10
NETMASK = 255.255.255.0
GEYWAY = 192.168.1.1
DNS1 = 8.8.8.8
但是有一个问题,配置静态ip后我的DNS失效了,以前也遇见过解决了,现在又忘了。
3,主机名修改
Centos7.4修改主机名有两种方法,都有重启后才生效
方法一
hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2
init 0
方法二
vi /etc/hostname
master
init 6
4,主机映射
vi /etc/hosts
#(每台主机都要添加)
172.16.1.2 master
172.16.1.3 slave1
172.16.1.4 slave2
5,关闭防护墙
关闭iptables
systemctl enable iptables #让iptables开机不自启
systemctl stop iptables
关闭selinux
service selinux stop
vim /etc/sysconfig/selinux
SELINUX=enforcing 改为 SELINUX=disabled
关闭firewalld
service firewalld stop
setenforce
6,配置免密码登入
ssh-keygen #生成密钥
都按回车健,默认无密码。
ssh-copy-id master
ssh-copy-id slave1
ssh-copy-id slave2
每台主要都要操作一遍,先生成密钥
7,安装JDK
先在官网上下载jdk,文件:jdk-8u144-linux-x64.tar.gz 要注册oracle。然后使用XFTP上传文件到root目录下。
先配置环境变量
vi /etc/profile
export JAVA_HOME=/usr/local/src/jdk
export PATH=$PATH:JAVA_HOME/bin
source /etc/profile #使环境变量生效
然后解压文件,重命名文件名(个人习惯)
tar zxf /root/jdk-jdk-8u144-linux-x64.tar.gz -C /usr/local/src/
cd /usr/local/src
mv jdk1..0_144 jdk
最后就是验证jdk是否有用
java -version
8,时间同步
伪分布式的hadoop不用
利用Xshell的同时键入到所有的会话的功能发送命令
date #查看当前的时间
data -s "20191122 13:28:00" #yyyymmdd hh:mm:ss
最后:这个是我自己一直在用的方法,可能以后会有更好的
hadoop搭建的前期准备的更多相关文章
- Hadoop集群搭建-01前期准备
Hadoop集群搭建-05安装配置YARN Hadoop集群搭建-04安装配置HDFS Hadoop集群搭建-03编译安装hadoop Hadoop集群搭建-02安装配置Zookeeper Hado ...
- hadoop搭建开发环境及编写Hello World
hadoop搭建开发环境及编写Hello World 本文地址:http://www.cnblogs.com/archimedes/p/hadoop-helloworld.html,转载请注明源地 ...
- hadoop搭建伪分布式集群(centos7+hadoop-3.1.0/2.7.7)
目录: Hadoop三种安装模式 搭建伪分布式集群准备条件 第一部分 安装前部署 1.查看虚拟机版本2.查看IP地址3.修改主机名为hadoop4.修改 /etc/hosts5.关闭防火墙6.关闭SE ...
- hadoop搭建一:虚拟机网络配置和基础(未完成)
基于VMware 15+CentOS 7+Hadoop 2.6,hadoop的搭建主要用于个人学习,水平有限. hadoop搭建一:虚拟机网络配置和基础 hadoop搭建二:hadoop全分布搭建 h ...
- 搭建分布式hadoop环境的前期准备---需要检查的几个点
前期准备: jdkhostnamehostsdate安全机制firewallwindows 域名映射 具体的操作见下面 1.看看自己是否已经配置了别名了(linux别名的配置可以参考博文:自己cent ...
- 【hbase0.96】基于hadoop搭建hbase的心得
hbase是基于hadoop的hdfs框架做的分布式表格存储系统,所谓表格系统就是在k/v系统的基础上,对value部分支持column family和column,并支持多版本读写. hbase的工 ...
- hadoop搭建杂记:Linux下hadoop的安装配置
VirtualBox搭建伪分布式模式:hadoop的下载与配置 VirtualBox搭建伪分布式模式:hadoop的下载与配置 由于个人机子略渣,无法部署XWindow环境,直接用的Shell来操作, ...
- hadoop搭建杂记:Linux下hostname的更改办法
VirtualBox搭建hadoop伪分布式模式:更改hostname VirtualBox搭建hadoop伪分布式模式:更改hostname master: ip:192.168.56.120 机器 ...
- hadoop搭建杂记:Linux下虚拟机集群网络搭建
VirtualBox搭建hadoop伪分布式模式 VirtualBox搭建hadoop伪分布式模式 master: ip:192.168.56.120 机器名: master 启动NameNode 启 ...
随机推荐
- 设计模式GOF23(行为型模式)
场景: – 公司里面,报销个单据需要经过流程: • 申请人填单申请,申请给经理 • 小于1000,经理审查. • 超过1000,交给总经理审批. • 总经理审批通过 – 公司里面,请假条的审批过程: ...
- 使用Spring Boot和AspectJ实现方法跟踪基础结构
了解如何使用Spring Boot和AspectJ实现方法跟踪基础结构!最近在优锐课学习收获颇多,记录下来大家一起进步! 在我们的应用程序中,获取方法的堆栈跟踪信息可能会节省很多时间.具有输入输出参数 ...
- Python利用PyExecJS库执行JS函数
在Web渗透流程的暴力登录场景和爬虫抓取场景中,经常会遇到一些登录表单用DES之类的加密方式来加密参数,也就是说,你不搞定这些前端加密,你的编写的脚本是不可能Login成功的.针对这个问题,现在有 ...
- Kubernetes基本概念和术语之《Master和Node》
Kubernetes中的大部分概念如Node.Pod.Replication Controller.Service等都可以看作一种“资源对象”,几乎所有的资源对象都可以通过Kubernetes提供的k ...
- PostgreSQL 、springboot 、spring data jpa 集成
项目地址:https://gitee.com/zhxs_code/PostgreSQL_springboot_jpa_demo.git 增删查改都已经实现. 重点部分: 1.定义自己的方言. pack ...
- Django序列化时间报错
一.前言 当利用models模块从数据库获取数据时,当获的取数据序列化时,如果获取的数据中有关于时间类型的字段,则会报错,错误如下: TypeError: datetime.datetime(2018 ...
- CentOS6.8系统最小化安装
一.CentOS系统版本 CentOS-6.8-x86_64 二.安装系统 1.打开VMware主页点击创建虚拟机 2.选择镜像 3.启动虚拟机 4.键入回车键直接进行安装 5.按Tab键选择Skip ...
- PAT1057 Stack(树状数组+倍增)
目录 题目大意 题目分析 题目大意 要求维护一个栈,提供压栈.弹栈以及求栈内中位数的操作(当栈内元素\(n\)为偶数时,只是求第\(n/2\)个元素而非中间两数的平均值).最多操作100000次,压栈 ...
- 一起学MyBatis之入门篇
概述 本文以一个简单的小例子,简述在Java项目开发中MyBatis的基本用法,属于入门级文章,仅供学习分享使用,如有不足之处,还请指正. 什么是MyBatis? MyBatis 是一款优秀的持久层框 ...
- 画线缩放、瞳距缩放、Line延长到指定长度,内附效果,源码供应,解压就跑
前言 公司项目需要做个画线缩放,我司称之为瞳距缩放,简而言之就是:2张图,从第一张图画一条线,再从第二个图画一条线,第二条线以第一条为基准,延长到一致的长度,并同比缩放图片:文字太枯燥,请先实例图 例 ...