spark学习4(zookeeper3.4集群搭建)
第一步:zookeeper安装
通过WinSCP软件将zookeeper-3.4.8.tar.gz软件传送到/usr/zookeeper/目录下
[root@spark1 zookeeper]# chmod u+x zookeeper-3.4.8.tar.gz #增加执行权限
[root@spark1 zookeeper]# tar -zxvf zookeeper-3.4.8.tar.gz #
[root@spark1 zookeeper]# mv zookeeper-3.4.8 zk
[root@spark1 ~]# vi /etc/profile
export ZOOKEEPER_HOME=/usr/zookeeper/zk
export PATH=$ZOOKEEPER_HOME/bin
[root@spark1 ~]# source /etc/profile
第二步:配置zoo.cfg
[root@spark1 ~]# cd /usr/zookeeper/zk/conf
[root@spark1 conf]# mv zoo_sample.cfg zoo.cfg
[root@spark1 conf]# vi zoo.cfg #进入文件修改以下内容
dataDir=/usr/zookeeper/zk/data #修改
新增
server.0=spark1:2888:3888
server.1=spark2:2888:3888
server.2=spark3:2888:3888
第三步:设置zookeeper节点标识
[root@spark1 zk]# mkdir data #进入到zookeeper目录
[root@spark1 zk]# cd data
[root@spark1 data]# vi myid #创建该文件并输入数字0
0
第四步:搭建zookeeper集群
在两个节点上按照上述步骤配置ZooKeeper,使用scp将zk和.bashrc拷贝到spark2和spark3上。区别是spark2和spark3的标识号分别设置为1和2,需重新设置
[root@spark1 usr]# scp -r zookeeper root@spark2:/usr/ #拷贝zookeeper目录到spark2
[root@spark1 usr]# scp -r zookeeper root@spark3:/usr/ #
[root@spark1 ~]# scp -r /etc/profile root@spark2:/etc/ #
[root@spark1 ~]# scp -r /etc/profile root@spark3:/etc/ #拷贝目录到spark3
[root@spark2 ~]# source /etc/profile #使配置生效
[root@spark3 ~]# source /etc/profile
[root@spark2 zk]# cd data #进入zookeeper下的data目录
[root@spark2 data]# vi myid #修改myid文件为1
[root@spark3 zk]# cd data
[root@spark3 data]# vi myid #修改myid文件为2
第五步:启动zookeeper集群
分别在三台机器上执行:zkServer.sh start
[root@spark1 zk]# zkServer.sh start #各个节点分别执行
[root@spark2 zk]# zkServer.sh start
[root@spark3 zk]# zkServer.sh start
[root@spark1 zk]# #检查zookeeper状态
[root@spark2 zk]# zkServer.sh status
[root@spark3 zk]# zkServer.sh status






第六步:连接zookeeper集群
三个节点都验证下
[root@spark1 zk]# bin/zkCli.sh -server 192.168.220.144:2181 #验证spark1节点




spark学习4(zookeeper3.4集群搭建)的更多相关文章
- spark学习5(hbase集群搭建)
第一步:Hbase安装 hadoop,zookeeper前面都安装好了 将hbase-1.1.3-bin.tar.gz上传到/usr/HBase目录下 [root@spark1 HBase]# chm ...
- spark学习1(hadoop集群搭建)
把原先搭建的集群环境给删除了,自己重新搭建了一次,将笔记整理在这里,方便自己以后查看 第一步:安装主节点spark1 第一个节点:centos虚拟机安装,全名spark1,用户名hadoop,密码12 ...
- ZooKeeper学习笔记一:集群搭建
作者:Grey 原文地址:ZooKeeper学习笔记一:集群搭建 说明 单机版的zk安装和运行参考:https://zookeeper.apache.org/doc/r3.6.3/zookeeperS ...
- redis 学习笔记(6)-cluster集群搭建
上次写redis的学习笔记还是2014年,一转眼已经快2年过去了,在段时间里,redis最大的变化之一就是cluster功能的正式发布,以前要搞redis集群,得借助一致性hash来自己搞shardi ...
- 大数据平台搭建 - cdh5.11.1 - spark源码编译及集群搭建
一.spark简介 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎,Spark 是一种与 hadoop 相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同 ...
- redis学习五,redis集群搭建及添加主从节点
redis集群 java架构师项目实战,高并发集群分布式,大数据高可用,视频教程 在redis3.0之前,出现了sentinel工具来监控各个Master的状态(可以看上一篇博客).如果Master异 ...
- Etcd学习(二)集群搭建Clustering
1.单个etcd节点(测试开发用) 之前我一直开发测试一直是用的一个Etcd节点,然后启动命令一直都是直接打一个etcd(我已经将etcd安装目录的bin目录加入到PATH环 境变量中),然后启动信息 ...
- Redis Cluster集群搭建与应用
1.redis-cluster设计 Redis集群搭建的方式有多种,例如使用zookeeper,但从redis 3.0之后版本支持redis-cluster集群,redis-cluster采用无中心结 ...
- 大数据学习系列之七 ----- Hadoop+Spark+Zookeeper+HBase+Hive集群搭建 图文详解
引言 在之前的大数据学习系列中,搭建了Hadoop+Spark+HBase+Hive 环境以及一些测试.其实要说的话,我开始学习大数据的时候,搭建的就是集群,并不是单机模式和伪分布式.至于为什么先写单 ...
随机推荐
- tomcat启动不起来,不知原因,没有报错日志,控制台一闪而过 怎么办
在startup.bat文件中 编辑,在最后一行回车 加上一个词pause,暂停,然后再启动就看见控制台的错误信息啦,然后就自己解决吧
- mac安装以及删除mysql5.7
关于msyql5.7,安装时最大的改变就是有了一个默认密码 我安装的是mysql-5.7.17-macos10.12-x86_64.dmg 和mysql-workbench-community-6.3 ...
- 【转】NPOI自定义单元格背景颜色
经常在NPOI群里聊天时发现有人在问NPOI设置单元格背景颜色的问题,而Tony Qu大神的博客里没有相关教程,刚好最近在做项目时研究了一下这一块,在这里总结一下. 在NPOI中默认的颜色类是HSSF ...
- 图片热区——map的用法
<area>标记主要用于图像地图,通过该标记可以在图像地图中设定作用区域(又称为热点),这样当用户的鼠标移到指定的作用区域点击时,会自动链接到预先设定好的页面.其基本语法结构如下: 1 & ...
- mixin 在传参中可以出现 参数 在类内部可以定义 作用域
mixin 在传参中可以出现 参数 在类内部可以定义
- C++常备知识总结
1.extern表示是外部函数或外部变量,比如: 1.extern void add(int x,inty);表示该函数主体不在当前模块中,在另一个模块中(文件)2.extern int total; ...
- php中定时计划任务的实现原理
根据php手册简单介绍一些相关的知识: 1.连接处理: 在 PHP 内部,系统维护着连接状态,其状态有三种可能的情况: 0 - NORMAL(正常) 1 - ABORTED(异常退出) 2 - TIM ...
- 常用模块一(os模块、序列化模块(json和pickle))
一.os模块 os模块是与操作系统交互的一个接口. import os # 和文件和文件夹的操作有关 os.makedirs('dirname1/dirname2') # 可生成多层递归目录 os.r ...
- 图的遍历:DFS和BFS
图的遍历一般由两者方式:深度优先搜索(DFS),广度优先搜索(BFS),深度优先就是先访问完最深层次的数据元素,而BFS其实就是层次遍历,每一层每一层的遍历. 1.深度优先搜索(DFS) 我一贯习惯有 ...
- Python定时执行脚本
最近测试hbase,老发现服务挂掉,自己不能及时发现,想了想,写了个脚本,让脚本每个小时执行一次,以便检测是否有服务挂掉,如果有服务挂掉,及时启动 import os import datetime ...