【原创】大数据基础之Zookeeper（4）应用场景

1 集群配置管理

应用服务器的配置通常会放到properties文件中，格式为：

system1.module2.prop3=value4

然后启动的时候加载，这样带来的问题是启动后无法修改，想修改必须要重启应用服务器；

• 一个简单的替代方式是存放到数据库中，应用服务器每次从数据库中加载配置，这样带来的问题是由于数据库是一种昂贵的资源从而降低性能；
• 一个简单的改进方式是存放到数据库中后再存放到缓存中，应用服务器每次从缓存中加载配置，这时要解决的问题是数据库和缓存的数据一致性问题，缓存的可靠性问题，而且会增加相当多的网络IO（缓存读操作）；
• 一个简单的改进方式是应用服务器在本地也存一份配置，每次从缓存中加载配置或者定时从缓存中加载配置，缓存读超时则使用本地配置；

回过头来看，配置的名字是一个标准的树形结构，可以直接将所有配置以及值放到zookeeper中，

/config/system1/module2/prop3=value4

由于zookeeper将所有的数据存放在内存中，所以读操作非常快，应用服务器启动之后从zookeeper中将所有配置存储到本地一份，另外利用zookeeper的watcher，当配置修改之后所有的应用服务器都可以收到通知，同步修改本地配置即可，这样达到的效果是如果配置没有更新（极大概率事件），则所有的配置读取都是本地操作（没有网络io）；如果配置有更新（极小概率事件），所有的应用服务器都可以及时收到通知并更新本地；

2 服务器分组及动态更新

在大规模集群中通常有很多类型角色的服务器，这时会将服务器按照类型角色进行分组，然后可以动态监控组内服务器的变更，然后做进一步处理；

比如在Dubbo中会将producer服务器分组，当producer服务器有变更时consumer端会及时收到更新方便做balance，这样实现producer服务器动态增减以及自动发现；

比如在Kafka中会将consumer服务器分组，当consumer服务器有变更时也会触发rebalance；

另外还可以用来对组内服务器的存活进行监控报警；

3 Master主备

众多的开源软件中比如Hadoop（HDFS、YARN）、HBase、Spark Standalone、Oozie等，都是通过zookeeper来实现master的HA，实现主从切换；

比如：

/hadoop-ha/$hdfs_name/ActiveStandbyElectorLock

/yarn-leader-election/$yarn_name/ActiveStandbyElectorLock

/hbase/master

4 分布式锁

分布式环境中有时需要在服务器之间进行协调，比如一个任务只允许在集群中的一台服务器运行等，常用的方法是利用数据库锁，这里分为乐观锁和悲观锁两种实现；

比如Quartz的分布式部署，就是利用数据库锁；

使用数据库锁有一些问题，1 数据库资源昂贵，而且有并发数限制，悲观锁会直接占用连接数，乐观锁可能由于数据库连接池满导致锁释放，悲观锁可能由于数据库连接池满导致卡住；2 数据库连接有超时时间限制；

利用zookeeper的Ephemeral Node+Sequence Node+watch可以很方便的实现分布式锁，Sequence Node可以保证只有一个节点能拿到锁，Ephemeral Node+watch可以保证一旦锁的持有者挂掉，其他等待锁的节点可以马上收到通知，同时再利用Sequence Node保证下一个节点能拿到锁；