Zookeeper实现分布式集群监控
Zookeeepr实现分布式集群监控
Zookeeper中节点有两种:临时节点和永久节点
从类型上看节点又可以分为四种节点类型:PERSIST,PERSIST_SEQUENTIAL,EPHEMERAL,EPHEMERAL_SEQUENTIAL
临时节点有一个特点:当创建临时节点的程序停掉之后,这个临时节点就会消失。
监视器的特点:可以给zk中的节点注册监视器,见识这个节点的变化情况。
监视器注册一次,只能使用一次,多次使用就要多次注册。
我们利用这个Zookeeper的临时节点特性+监视器(Watch)来实现分布式集群监控
我们在/monitor(永久节点)下创建临时节点。
实际上,zookeeper的sdk不是特别好用,很多边界情况需要用户自己处理。curator是对Zookeeper的sdk进行了封装,所以说使用curator操作Zookeeper更加方便
在maven官网找到curator的依赖
<!-- https://mvnrepository.com/artifact/org.apache.curator/curator-framework,支持zookeeper3.4.6-->
<dependency>
<groupId>org.apache.curator</groupId>
<artifactId>curator-framework</artifactId>
<version>2.10.</version>
</dependency>
我们通过curator来使用zookeeper,那么我们就必须知道如何使用curator来连上zookeeper,下面代码是官方文档所给出
RetryPolicy retryPolicy = new ExponentialBackoffRetry(1000, 3)CuratorFramework client = CuratorFrameworkFactory.newClient(zookeeperConnectionString, retryPolicy);
client.start();
开始我们的代码
TestCurator.java ,实现功能:创建Zookeeper临时节点
package zkdemo; import java.net.InetAddress; import org.apache.curator.RetryPolicy;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.retry.ExponentialBackoffRetry; import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.ZooDefs.Ids;
import org.apache.zookeeper.ZooKeeper;
import org.junit.Test; public class TestCurator { @Test
public void test1() throws Exception{
//1000:表示curator链接zk的时候超时时间是多少 3:表示链接zk的最大重试次数
RetryPolicy retryPolicy = new ExponentialBackoffRetry(1000, 3);
String connectString = "djt1:2181,djt2:2181,djt3:2181,djt4:2181,djt5:2181";
int sessionTimeoutMs = 5000;//这个值只能在4000-40000ms之间表示链接断开后多长时间临时节点会小时
int connectionTimeoutMs = 3000;//获取链接的超时时间
//创建一个zk连接
CuratorFramework client = CuratorFrameworkFactory.newClient(connectString, sessionTimeoutMs
,connectionTimeoutMs,retryPolicy); client.start(); InetAddress localHost = InetAddress.getLocalHost();
String ip = localHost.getHostAddress(); client.create().creatingParentsIfNeeded()
.withMode(CreateMode.EPHEMERAL)//指定节点类型
.withACL(Ids.OPEN_ACL_UNSAFE)//指定设置节点权限信息
.forPath("/monitor/"+ip);//指定节点名称 while(true)
{
;
}
}
}
ZkNodeWatcher.java 实现功能:注册watcher,监视节点的变化
package zk; import java.util.List;
import java.util.ArrayList; import org.apache.curator.RetryPolicy;
import org.apache.curator.framework.CuratorFramework;
import org.apache.curator.framework.CuratorFrameworkFactory;
import org.apache.curator.retry.ExponentialBackoffRetry;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher; public class ZkNodeWatcher implements Watcher{
CuratorFramework client;
List<String> childrenList = new ArrayList<String>();
List<String> newChildrenList = new ArrayList<String>(); public ZkNodeWatcher(){
//1000:表示curator链接zk的时候超时时间是多少 3:表示链接zk的最大重试次数
RetryPolicy retryPolicy = new ExponentialBackoffRetry(1000, 3);
String connectString = "djt1:2181,djt2:2181,djt3:2181,djt4:2181,djt5:2181";
int sessionTimeoutMs = 5000;//这个值只能在4000-40000ms之间表示链接断开后多长时间临时节点会消失
int connectionTimeoutMs = 3000;//获取链接的超时时间
//创建一个zk连接
client = CuratorFrameworkFactory.newClient(connectString, sessionTimeoutMs
,connectionTimeoutMs,retryPolicy);
client.start(); //监视monitor节点,获取下面的所有子节点的变化情况
try {
childrenList = client.getChildren().usingWatcher(this).forPath("/monitor");
} catch (Exception e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
} /**
* 实现一个zk监视器,监视某个节点的变化情况
*
* 这个监视程序需要一直运行
* @CPH
*/ public void process(WatchedEvent event) {
System.out.println("我被调用了");
try {
newChildrenList = client.getChildren().usingWatcher(this).forPath("/monitor");
for(String ip : childrenList)
{
if(!newChildrenList.contains(ip)){
System.out.println("节点消失了"+ip);
//TODO 给管理员发送短信什么的 }
} for(String ip : newChildrenList){
if(!childrenList.contains(ip)){
System.out.println("节点新增"+ip);
}
}
//重要
childrenList = newChildrenList;
} catch (Exception e) {
// TODO Auto-generated catch block
e.printStackTrace();
} } public void start(){
while (true){;}
} public static void main(String[] args) {
ZkNodeWatcher watcher = new ZkNodeWatcher();
watcher.start();
}
}
我们先开启Zookeeper集群,启动/bin/zkCli.sh,然后启动这2个集群,我们可以看到由对应的ip目录,这个ip不是虚拟机的ip,而是本地的ip,同时我们console下看到
然后暂停TestCurator.java,不一会儿,就会看到
这样,通过Zookeeper实现分布式集群监控的功能就完成了!
Zookeeper实现分布式集群监控的更多相关文章
- (转)ZooKeeper伪分布式集群安装及使用
转自:http://blog.fens.me/hadoop-zookeeper-intro/ 前言 ZooKeeper是Hadoop家族的一款高性能的分布式协作的产品.在单机中,系统协作大都是进程级的 ...
- ZooKeeper伪分布式集群安装及使用
ZooKeeper伪分布式集群安装及使用 让Hadoop跑在云端系列文章,介绍了如何整合虚拟化和Hadoop,让Hadoop集群跑在VPS虚拟主机上,通过云向用户提供存储和计算的服务. 现在硬件越来越 ...
- ZooKeeper 完全分布式集群环境搭建
1. 搭建前准备 示例共三台主机,主机IP映射信息如下: 192.168.32.101 s1 192.168.32.102 s2 192.168.32.103 s3 2.下载ZooKeeper, 以 ...
- 搭建zookeeper伪分布式集群
伪分布式集群的意思就是在同一台机子上部署多个zookeeoer,但是他们的端口不一样. 1.安装zookeeper 到/usr/local 2.cd /usr/local/zookeeper 3.cd ...
- 阿里云ECS服务器部署HADOOP集群(三):ZooKeeper 完全分布式集群搭建
本篇将在阿里云ECS服务器部署HADOOP集群(一):Hadoop完全分布式集群环境搭建的基础上搭建,多添加了一个 datanode 节点 . 1 节点环境介绍: 1.1 环境介绍: 服务器:三台阿里 ...
- zookeeper伪分布式集群搭建
zookeeper集群搭建注意点: 配置数据文件myid1/2/3对应server.1/2/3 通过zkCli.sh -server [ip]:[port]检测集群是否 ...
- zookeeper伪分布式集群环境搭建
step1.下载 下载地址:http://zookeeper.apache.org/releases.html 将下载的压缩包放到用户家目录下(其他目录也可以) step2.解压 $tar –zxvf ...
- zookeeper伪分布式集群安装
1.安装3个zookeeper 1.1创建集群安装的目录 1.2配置一个完整的服务 这里不做详细说明,参考我之前写的 zookeeper单节点安装 进行配置即可,此处直接复制之前单节点到集群目录 创建 ...
- [zookeeper] Zookeeper伪分布式集群配置
参考配置:http://blog.csdn.net/clementad/article/details/48057059 注意要点: 启动时注意分别启动 bin/zkServer.sh start c ...
随机推荐
- %.*lf控制输出长度
#include<stdio.h> int main(){ int a,b,c; while(scanf("%d%d%d",&a,&b,&a ...
- transient是干嘛的
Java的serialization提供了一种持久化对象实例的机制.当持久化对象时,可能有一个特殊的对象数据成员,我们不想用 serialization机制来保存它.为了在一个特定对象的一个域上关闭s ...
- MYSQL和ORACLE的一些区别
有很多应用项目, 刚起步的时候用MYSQL数据库基本上能实现各种功能需求,随着应用用户的增多,数据量的增加,MYSQL渐渐地出现不堪重负的情况:连接很慢甚至宕机,于是就有把数据从MYSQL迁到ORAC ...
- CakePHP模型中使用join的多种写法
Cake写法 App::import("Model","Client"); $this->Client = & new Client(); $th ...
- 利尔达CC3200模块第一篇之-wlan_ap例程测试
1. 本次采用利尔达的CC3200模块,CC3200主时钟80M,内部没有flash,必须外接SPI Flash.本次测试采用利尔达科技的CC3200的底板和模块(左边).烧写连接VCC, GND, ...
- Python Map 并行
Map是一个酷酷的小东西,也是在Python代码轻松引入并行的关键.对此不熟悉的人会认为map是从函数式语言(如Lisp)借鉴来的东西.map是一个函数 - 将另一个函数映射到一个序列上.例如: ur ...
- redis 类型、方法
之前使用redis,现在对所有redis方法做一个总结: string类型 形式:key=>value; 说明:最简单的类型:一个key对应一个value,value保存的类型是二进制安全的,s ...
- C# 组装XML传给webserver+XML 返回获取多个xml,根据多个XML 返回dataset类型
大致流程介绍: 传值给 webserver+XML ,得到webserver+XML多个返回值,组装成dataset形式返回 首先创建所需要的类型 DataSet ds = new DataSet() ...
- CentOS 使用PostFix搭建邮件服务器
搭建环境: 关于PostFix是什么以及邮件服务器接受发送邮件流程网上有很多文章,这里就不再写了,这里只记录如何搭建邮件服务器,使用PostFix接受发送邮件 CentOS6.8 32位,postfi ...
- 第四篇 与Flask相关的插件(flask-session、wtforms)
公司中使用SQL的种方式: 1. 写Django:ORM(关系对象映射), 2. 写Flask和其他:有两种方式: (1) 原生SQL:使用原生SQL有两种选择: A. pymysql (python ...