!!!该系列使用三台虚拟机搭建一个完整的spark集群,集群环境如下:

virtualBox5.2、Ubuntu14.04、securecrt7.3.6_x64英文版(连接虚拟机)

jdk1.7.0、hadoop2.6.5、zookeeper3.4.5、Scala2.12.6、kafka_2.9.2-0.8.1、park1.3.1-bin-hadoop2.6

第一篇:准备三台虚拟机环境,配置静态IP,ssh免密码登录

第二篇:搭建hadoop集群

第三篇:搭建zookeeper集群

第四篇:搭建kafka集群

第五篇:搭建spark集群

本文在前面基础上搭建zookeeper集群

一、spark1上

下面操作均在spark1上进行

1、下载解压移动重命名

3、配置zoo.cfg

$ cd /usr/local/bigdata/zk/conf
$ cp zoo_sample.cfg zoo.cfg
$ vim zoo.cfg

修改dataDir,添加如下:

dataDir=/usr/local/bigdata/zk/data
server.0=spark1:2888:3888
server.1=spark2:2888:3888
server.2=spark3:2888:3888

4、添加标识

$ cd ..
$ mkdir data
$ cd data
$ vim myid
#在myid 文件写入0

二、另外两台机器

1、将spark1上的zookeeper复制到spark2和spark3上

root@spark1:/usr/local/bigdata# scp -r zk root@spark2://usr/local/bigdata/
root@spark1:/usr/local/bigdata# scp -r zk root@spark3://usr/local/bigdata/

2、同理修改 spark2 myid 为1, spark3  myid 为2(这里序号要与zoo.cfg文件中序号一致)

root@spark1:/usr/local/bigdata/zk/data# cat myid
0
root@spark2:/usr/local/bigdata/zk/data# cat myid
1
root@spark3:/usr/local/bigdata/zk/data# cat myid
2

3、配置环境变量(三台机器均需要)

export ZOOKEEPER_HOME=/usr/local/bigdata/zk
export PATH=$PATH:$ZOOKEEPER_HOME/bin

三、启动zookeeper集群

1、启动集群

$ zkServer.sh start   # 启动集群

2、状态如下,一个leader,两个follower,即启动成功,QuorumPeerMain代表zookeeper:

root@spark1:/usr/local/bigdata/zk/conf# zkServer.sh status
JMX enabled by default
Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg
Mode: follower

root@spark1:/usr/local/bigdata/zk/conf# jps
2400 SecondaryNameNode
4261 ResourceManager
4150 QuorumPeerMain
2249 DataNode
4458 NodeManager
4733 Jps
2126 NameNode

root@spark2:/usr/local/bigdata/zk/conf# zkServer.sh status
JMX enabled by default
Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg
Mode: leader

root@spark2:/usr/local/bigdata/zk/conf# jps
1809 DataNode
3654 NodeManager
3751 Jps
3511 QuorumPeerMain

root@spark3:/usr/local/bigdata/zk/conf# zkServer.sh status
JMX enabled by default
Using config: /usr/local/bigdata/zk/bin/../conf/zoo.cfg
Mode: follower

root@spark3:/usr/local/bigdata/zk/conf# jps
3493 Jps
3253 QuorumPeerMain
3399 NodeManager
1836 DataNode

到这里zookeeper集群就成功安装

进入命令行

$ zkCli.sh

spark集群搭建(三台虚拟机)——zookeeper集群搭建(3)的更多相关文章

  1. ZooKeeper1 利用虚拟机搭建自己的ZooKeeper集群

    前言:       前段时间自己参考网上的文章,梳理了一下基于分布式环境部署的业务系统在解决数据一致性问题上的方案,其中有一个方案是使用ZooKeeper,加之在大数据处理中,ZooKeeper确实起 ...

  2. CentOS7搭建 Hadoop + HBase + Zookeeper集群

    摘要: 本文主要介绍搭建Hadoop.HBase.Zookeeper集群环境的搭建 一.基础环境准备 1.下载安装包(均使用当前最新的稳定版本,截止至2017年05月24日) 1)jdk-8u131 ...

  3. STORM_0001_用vmware拷贝出三个相同的ubuntu搭建小的zookeeper集群

    第一次配置zookeeper的集群 因为想运行storm必须搭建集群在自己的电脑上拷贝了自己的ubuntu虚拟机采用的是vmware给虚拟机分配的地址三个机器的配置基本上一样除了myid这个文件看了这 ...

  4. 搭建真正的zookeeper集群

    搭建zookeeper伪分布式集群 zookeeper是Hadop Ecosystem中非常重要的组件,它的主要功能是为分布式系统提供一致性协调服务, 提供的功能包括配置维护,域名服务,分布式同步和组 ...

  5. solr集群SolrCloud(solr+zookeeper)windows搭建

    SolrCloud是什么 参考 solrCloud官网介绍 http://lucene.apache.org/solr/guide/6_6/solrcloud.html Apache Solr 可以设 ...

  6. Centos 7下VMware三台虚拟机Hadoop集群初体验

    一.下载并安装Centos 7 传送门:https://www.centos.org/download/    注:下载DVD ISO镜像 这里详解一下VMware安装中的两个过程 网卡配置 是Add ...

  7. Spark 系列(七)—— 基于 ZooKeeper 搭建 Spark 高可用集群

    一.集群规划 这里搭建一个 3 节点的 Spark 集群,其中三台主机上均部署 Worker 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop0 ...

  8. Kafka1 利用虚拟机搭建自己的Kafka集群

    前言:       上周末自己学习了一下Kafka,参考网上的文章,学习过程中还是比较顺利的,遇到的一些问题最终也都解决了,现在将学习的过程记录与此,供以后自己查阅,如果能帮助到其他人,自然是更好的. ...

  9. ZooKeeper学习之路 (九)利用ZooKeeper搭建Hadoop的HA集群

    Hadoop HA 原理概述 为什么会有 hadoop HA 机制呢? HA:High Available,高可用 在Hadoop 2.0之前,在HDFS 集群中NameNode 存在单点故障 (SP ...

  10. zookeeper 集群搭建 转

    通过 VMware ,我们安装了三台虚拟机,用来搭建 zookeeper 集群,虚拟机网络地址如下: hostname                      ipaddress           ...

随机推荐

  1. Javascript之傻傻理不清的原型链、prototype、__proto__

    新人学习Javascript,其中的原型链一直是云里雾里,不得要领,查了很多相关资料,觉得这遍讲得最为清晰易懂,特转载分享,共同学习. 1. JavaScript内置对象 所谓的内置对象 指的是:Ja ...

  2. [CODEVS1537] 血色先锋队 - BFS

    题目描述 Description 巫妖王的天灾军团终于卷土重来,血色十字军组织了一支先锋军前往诺森德大陆对抗天灾军团,以及一切沾有亡灵气息的生物.孤立于联盟和部落的血色先锋军很快就遭到了天灾军团的重重 ...

  3. muduo Library

    muduo是由陈硕(http://www.cnblogs.com/Solstice)开发的一个Linux多线程网络库,采用了很多新的Linux特性(例如eventfd.timerfd)和GCC内置函数 ...

  4. 手机号码格式化显示javascript

    /*手机代码格式化一般与Object.oninput=function(){}连用*/ function phoneFormat(phone){ if(phone.length <= 3 ){ ...

  5. opencv::SURF特征

    SURF特征基本介绍 SURF(Speeded Up Robust Features)特征关键特性: -特征检测 -尺度空间 -选择不变性 -特征向量 工作原理 . 选择图像中POI(Points o ...

  6. asp.net core mvc中自定义ActionResult

    在GitHub上有个项目,本来是作为自己研究学习.net core的Demo,没想到很多同学在看,还给了很多星,所以觉得应该升成3.0,整理一下,写成博分享给学习.net core的同学们. 项目名称 ...

  7. Hive On HBase实战

    1.概述 HBase是一款非关系型.分布式的KV存储数据库.用来存储海量的数据,用于键值对操作.目前HBase是原生是不包含SQL操作,虽然说Apache Phoenix可以用来操作HBase表,但是 ...

  8. 【MongoDB详细使用教程】五、MongoDB的数据库管理

    目录 1.数据库安全 1.1.创建管理员账号和密码 1.2.设置服务状态为需要验证用户 1.3.创建用户账户和密码 1.4.忘记密码/修改密码 2.主从服务器 2.1.创建服务器目录,用于分别存放主从 ...

  9. 使用 git bisect 定位你的 BUG

    Git 是开发者的好帮手,今天跟大家分享的是用 git bisect 来找到你代码中的 bad commit . 背景 你可能遇到过这种情况, 昨天下班前把模块开发完了, 单元测试验证通过, git ...

  10. 如何理解swift中的delegate

    Delegation翻译为代理或者委托,是一种设计模式.顾名思义,使class或struct能够将某些职责移交给其他类型的实例. 该设计模式通过定义一个封装(包含)delegate的protocol( ...