ZooKeeper 04 - ZooKeeper 集群的节点为什么必须是奇数个
首发于 2018-12-08,修改于 2021-12-06。
1 - 关于节点个数的说明
ZooKeeper 的单机服务 (也就是单节点,或着单进程) 虽然便于开发与测试,但并不适合在生产环境使用 —— 生产环境中为了服务的高可用以及容错性,建议使用 ZooKeeper 集群模式.
ZooKeeper 集群中,建议部署奇数个 ZooKeeper节点(或进程) —— 大多数情况下,3个节点就足够了。
节点个数并不是越多越好 —— 节点越多,节点间通信所需的时间就会越久,选举 Leader 时需要的时间也会越久。
2 - ZooKeeper 集群的容错数
ZooKeeper 集群中,在保证集群可用的前提下,最多允许挂掉的节点个数,即为 ZooKeeper 集群的容错数,也叫集群的容忍度。
为了集群中 Leader 节点的选举,允许挂掉的节点个数 < 剩余的存活节点个数 —— 剩余的存活节点个数必须大于n/2,n为总节点个数。
2n 和 2n-1(n>1) 个节点的集群的容错数都是 n-1。比如:
- 5个节点中,最多允许挂掉2个,因为剩余的3个节点大于5/2;
- 6个节点中,最多允许挂掉2个,因为剩余的4个节点大于6/2。
3 - ZooKeeper 集群可用的标准
集群模式(包括伪集群模式,即在一台服务器上部署多个 ZooKeeper 进程)下,遵循 “过半存活即可用” 的原则:
(1) 集群中超过一半的节点(或进程)可以正常工作,集群就是对外可以用的。示例:
- 2个节点的 ZooKeeper 集群:当 leader (主)节点挂掉,还活跃着的 follower(随从)节点的数量为1,没有超过集群总数的一半(即2/2=1),所以此时集群就无法对外提供服务 —— 2个节点的集群容错数为0。
- 3个节点的 ZooKeeper 集群:当 leader (主)节点挂掉,还活跃着的 follower(随从)节点的数量为2,就能再次选出 leader 对外提供服务 —— 容错数为1。
- 同样的,5个节点的 ZooKeeper 集群最多允许2个主节点挂掉 —— 容错数为2。
(2) ZooKeeper 写操作成功的标志:
leader 节点负责 ZooKeeper 集群的写操作,它会通知所有 follower 节点执行写操作,只有收到半数以上 follower 节点的成功反馈,写操作才算成功.
如果2个节点的 ZooKeeper 集群,就必须2个节点都写成功,才能算操作成功。
4 - 为什么不能是偶数个节点
4.1 防止由脑裂造成的集群不可用
关于 ZooKeeper 集群的脑裂,请参看:ZooKeeper集群的脑裂问题 (Split Brain问题)
举例说明:
(1) 假如:集群有 5 个节点,发生了脑裂,脑裂成了 A、B 两个小集群:
(a) 小集群 A:1个节点,小集群 B:4个节点,或A、B互换
(b) 小集群 A:2个节点,小集群 B:3个节点,或A、B互换
上面两种情况下,A、B 中总会有一个小集群满足 可用节点数量 > 总节点数量/2 ,所以集群仍然能选举出 leader,仍然能对外提供服务。
(2) 假如:集群有4个节点,同样发生脑裂,脑裂成了 A、B 两个小集群:
(a) 小集群 A:1个节点,小集群 B:3个节点,或 A、B互换
(b) 小集群 A:2个节点,小集群 B:2个节点
上述情况 (a) 满足选举条件,而情况(b)不满足,此时集群就彻底不能提供服务了。
(3) 总结:
- 节点数量为奇数个,只要不出现过半的节点失效,集群就总能对外提供服务;
- 节点数量是偶数个,如果有一半的节点失效,就可能存在集群可用(脑裂成两个均等的子集群)。
4.2 奇数个节点更省资源
原则上 ZooKeeper 集群中可以有偶数个节点,但其容错数并不会提高,反而降低了集群间的通信效率,也浪费了资源。
—— 即:容错能力相同时,奇数个节点更节省资源.
4.3 偶数个节点遇到的其他问题
博主测试过2个和4个节点的 ZooKeeper 集群,基于这个前提总结出下述问题:
(1) 分布式环境下,ZooKeeper 集群容易受到网络、系统调度等因素的影响;
(2) 2个 ZooKeeper 节点的集群中:
- 如果1个 ZooKeeper 节点挂掉,剩下的1个节点并不能满足“过半存活”的原则,所以集群将不可用;
- 2个节点的集群比单机模式更不可靠 —— 2个节点中至少1个节点出错的概率比单节点出错的概率大;
(3) 4个节点的 ZooKeeper 集群中,第4个节点不能成功启动,ZooKeeper 会强制 JVM 抛出如下错误:
Error occurred during initialization of VM
Unable to allocate 983040KB bitmaps for parallel garbage collection for the requested 31457280KB heap.
Error: Could not create the Java Virtual Machine.
Error: A fatal exception has occurred. Program will exit.
参考资料
版权声明
出处:博客园-瘦风的南墙(https://www.cnblogs.com/shoufeng)
感谢阅读,公众号 「瘦风的南墙」 ,手机端阅读更佳,还有其他福利和心得输出,欢迎扫码关注
本文版权归博主所有,欢迎转载,但 [必须在页面明显位置标明原文链接],否则博主保留追究相关人士法律责任的权利。
ZooKeeper 04 - ZooKeeper 集群的节点为什么必须是奇数个的更多相关文章
- 为什么zookeeper集群中节点配置个数是奇数个?
Zookeeper的大部分操作都是通过选举产生的.比如,标记一个写是否成功是要在超过一半节点发送写请求成功时才认为有效.同样,Zookeeper选择领导者节点也是在超过一半节点同意时才有效.最后,Zo ...
- zookeeper安装(集群)
Dubbo 建议使用Zookeeper 作为服务的注册中心.Zookeeper 集群中只要有过半的节点是正常的情况下,那么整个集群对外就是可用的.正是基于这个特性,要将ZK 集群的节点数量要为奇数(2 ...
- Zookeeper简介与集群搭建
Zookeeper简介 Zookeeper是一个高效的分布式协调服务,可以提供配置信息管理.命名.分布式同步.集群管理.数据库切换等服务.它不适合用来存储大量信息,可以用来存储一些配置.发布与订阅等少 ...
- Zookeeper简介与集群搭建【转】
Zookeeper简介 Zookeeper是一个高效的分布式协调服务,可以提供配置信息管理.命名.分布式同步.集群管理.数据库切换等服务.它不适合用来存储大量信息,可以用来存储一些配置.发布与订阅等少 ...
- Kafka 1.0.0集群增加节点
原有环境 主机名 IP 地址 安装路径 系统 sht-sgmhadoopdn-01 172.16.101.58 /opt/kafka_2.12-1.0.0 /opt/kafka(软连接) CentOS ...
- 【Zookeeper】Zookeeper集群单节点提供服务
以下只在特殊情况下使用,不要用在生产环境. 一.问题背景 公司的产品使用Zookeeper做为集群支持,但是客户在验收的时候提出了一个很为难人的要求,那就是3台集群服务,停止2台以后,还要求我们的应用 ...
- (转)ZooKeeper伪分布式集群安装及使用
转自:http://blog.fens.me/hadoop-zookeeper-intro/ 前言 ZooKeeper是Hadoop家族的一款高性能的分布式协作的产品.在单机中,系统协作大都是进程级的 ...
- ZooKeeper伪分布式集群安装及使用
ZooKeeper伪分布式集群安装及使用 让Hadoop跑在云端系列文章,介绍了如何整合虚拟化和Hadoop,让Hadoop集群跑在VPS虚拟主机上,通过云向用户提供存储和计算的服务. 现在硬件越来越 ...
- zookeeper部署及集群测试
zookeeper部署及集群测试 环境 三台测试机 操作系统: centos7 ; hostname: c1 ; ip: 192.168.1.80 操作系统: centos7 ; hostname: ...
随机推荐
- JVM:垃圾收集器与对象的"存活"问题
垃圾收集器垃圾收集(Garbage Collection,GC).当需要排查各种内存溢出.内存泄露问题时,当垃圾收集成为系统更高并发量的瓶颈时,我们需要去了解GC和内存分配. 检查对象的"存 ...
- cf13C Sequence(DP)
题意: N个数.a1...aN. 对于每个数而言,每一步只能加一或减一. 问最少总共需要多少步使得新序列是非递减序列. N (1 ≤ N ≤ 5000) 思路: *一个还不知道怎么证明的结论(待证): ...
- laravel路由导出和参数加密
路由导出 代码位置:\vendor\laravel\framework\src\Illuminate\Foundation\Console\RouteListCommand.php protected ...
- Redis源码分析(intset)
源码版本:4.0.1 源码位置: intset.h:数据结构的定义 intset.c:创建.增删等操作实现 1. 整数集合简介 intset是Redis内存数据结构之一,和之前的 sds. skipl ...
- etcd原理详解代码剖析
1 架构 从etcd的架构图中我们可以看到,etcd主要分为四个部分. HTTP Server: 用于处理用户发送的API请求以及其它etcd节点的同步与心跳信息请求. Store:用于处理etcd支 ...
- 组件通信之全局事件总线 & 消息订阅发布
全局事件总线 介绍 一种组件间通信的方式,适用于任意组件间通信. 在使用全局事件总线之前需要一些知识准备 所有组件实例的原型对象的原型对象就是 Vue 的原型对象,即VueComponent.prot ...
- codeql初探
CodeQL初探 环境搭建 基于Windows 基于Mac 下载codeql https://github.com/github/codeql-cli-binaries/releases/latest ...
- Sql 语句中 IN 和 EXISTS 的区别及应用
演示demo表: student表 DROP TABLE IF EXISTS `student`; CREATE TABLE `student` ( `stuid` varchar(16) NOT N ...
- c++学习笔记(十)
返回应用类型 返回引用 1.不要返回局部变量的引用 为了验证为什么不能返回局部变量的引用,我按照所学的例题自己做了一点小测试. #include<iostream> using names ...
- 解决IE6,边框问题
IE6是一个让人蛋疼而又无奈的浏览器,这次不经意间发现了一个BUG的解决发放,给大家分享一下 直接中部代码<input type="text" value="&qu ...