jafka的zk数据
查看topics:
- ls /brokers/topics
- [mytopic]
查看topic所在的broker,下面例子,mytopic在broker 0 中管理。
- ls /brokers/topics/mytopic
- [0]
查看brocker中,某个topic有多少partition:
- get /brokers/topics/mytopic/0
- 3
查看brocker信息: 存在brocker 0
- ls /brokers/ids
- [0]
查看brocker详细信息:机器名-时间戳:机器IP:机器端口
- get /brokers/ids/0
- 10.217.12.109-1401950718319:10.217.12.109:9092
查看consumer信息:
- ls /consumers
- [test_group, mygroup]
- 说明,有两个group
查看group下的信息:
- ls /consumers/test_group
- [offsets, owners, ids]
- offsets内记录消息消费到何处;owners中记录的是topic,通过‘test_group’组消费消息,消息所属的topic。ids记录的是消费者实例的一些信息。
查看offsets下的信息:
- ls /consumers/test_group/offsets
- [mytopic, ww]
- 有两个topic
- ls /consumers/test_group/offsets/mytopic
- [0-2, 0-1, 0-0]
- 每个topic有三个分区
- get /consumers/test_group/offsets/mytopic/0-0
- 1763880
- 这个是offset的值
查看owners信息:
- ls /consumers/test_group/owners
- [mytopic, ww]
- 两个topic
- ls /consumers/test_group/owners/mytopic
- [0-2, 0-1, 0-0]
- get /consumers/test_group/owners/mytopic/0-0
- test_group_fww-PC-1402367921721-e9527998-0
- 上面的内容的格式是:consumerIdString-N,consumerIdString是test_group_fww-PC-1402367921721-e9527998。N代表MessageStream的ID
查看ids:
- ls /consumers/test_group/ids
- [test_group_fww-PC-1402367921721-e9527998]
- group_hostname-时间戳-uuid
- get /consumers/test_group/ids/test_group_fww-PC-1402367921721-e9527998
- {"mytopic":1}
- 说明:{"mytopic":1}是创建consumer时指定的,要创建多少MessageStream。在mytopic上面创建一个MessageStream用于消费消息,代码如下:
Map<String, List<MessageStream<String>>> topicMessageStreams = connector
.createMessageStreams(ImmutableMap.of("mytopic", 1),//topic名称,1表示要创建一个stream
new StringDecoder());
jafka的zk数据的更多相关文章
- JStrom的zk数据
/jstorm/masterlock 用于LeaderSelector的锁. /jstorm/master get /jstorm/master localhost.localdomain:7627 ...
- ZK数据同步
整个集群完成Learner选举后,Learner向Leader发起注册,然后进入数据同步环节,即Leader将learner上缺失的事务请求同步给Learner 1). 获取Learner状态 根据L ...
- zookeeper 各节点数据保证是弱一致性
一致性保证: ZooKeeeper 是一个高性能的,可扩展的服务.不管是读和写操作是被设计成快速,虽然读比写快. 这样做的原因是在读的情况下,Zookeeper 可以提供旧的数据, 反过来又是由于Zo ...
- <zk在大型分布式系统中的应用>
Hadoop 在hadoop中,zk主要用来实现HA(High Availability).这部分逻辑主要集中在hadoop common的HA模块中,HDFS的NameNode和Yarn的Resou ...
- <zk的典型应用场景>
Overview zk是一个典型的发布/订阅模式的分布式数据管理与协调框架,开发人员可以使用它来进行分布式数据的发布与订阅. 另一方面,通过对zk中丰富的数据节点进行交叉使用,配合watcher事件通 ...
- Zookeeper数据查看工具ZooInspector
Zookeeper作为常用的集群协调者组件被广泛应用,尤其是在大数据生态圈中: Zookeeper集群存储各个节点信息,包括:Hadoop.Hbase.Storm.Kafka等等: 二.查询ZK数据的 ...
- 160728、Spark Streaming kafka 实现数据零丢失的几种方式
定义 问题开始之前先解释下流处理中的一些概念: At most once - 每条数据最多被处理一次(0次或1次) At least once - 每条数据最少被处理一次 (1次或更多) Exactl ...
- zookeeper3.3.6 伪分布式安装
下载地址(http://zookeeper.apache.org/releases.html#download) 一:下载zookeeper的安装包,解压,进入到zk的目录文件,进入conf目录 ...
- Storm-源码分析- Storm中Zookeeper的使用
在backtype.storm.cluster.clj中, 定义了storm对于Zookeeper的使用 ClusterState 首先定义操作Zookeeper集群的interface (def ...
随机推荐
- ubuntu14.04LTS编译MUDOS v22.2b14
附:MudOS v22.2b14下载连接 简单的编译步骤: (1)运行./build.MudOS (2)vim socket_efuns.c o 修改Ln:1198的代码为 ...
- 68. 蓄水池抽样(Reservoir Sampling)
[本文链接] http://www.cnblogs.com/hellogiser/p/reservoir-sampling.html 问题起源于编程珠玑Column 12中的题目10,其描述如下: H ...
- vim备忘
复制指定行 5,20co$(5到20行复制到最后一行之后) 指令模式下,c的使用方式与d相同,但删除后会进入INSERT模式 删除以某一符号开头或结尾的行 :%g/^\s/d(删除以空格开头的行) : ...
- Dos命令完成文件拷贝
Dos命令初阶--文件拷贝 1.XCOPY命令 可以在cmd中录入:XCOPY /? 即可查看帮助 帮助: XCOPY Microsoft Windows [版本 6.2.9200] (c) 2012 ...
- Django常用命令及参数配置(Django 1.8.6)
常用命令 #新建Django项目 django-admin startproject mysite(项目名) #新建一个APP cd mysite python manager.py startapp ...
- Java事务处理全解析(五)—— Template模式
在本系列的上一篇文章中,我们讲到了使用TransactionManger和ConnectionHolder完成线程安全的事务管理,在本篇中,我们将在此基础上引入Template模式进行事务管理. Te ...
- ubuntu14升级到15后遇到的问题
ubuntu14的unity坏了,于是就找了个镜像升级到15.但是升级完android开发环境出了点问题.. 1:Picked up JAVA_TOOL_OPTIONS: -javaagent:/us ...
- C#线程并发执行的实例[转]
实现思路:线程执行后进行阻塞,判断当前标记是否达到设置的并发数,如果未达到上限,执行队列中将继续增加线程:如已达到其余线程排队等候.实例代码: 注:其中用到Mutex与Interlocked两个与线程 ...
- [MySQL] 关系型数据库的设计范式 1NF 2NF 3NF BCNF
一.缘由: 要做好DBA,就要更好地理解数据库设计范式.数据库范式总结概览: 为了更好地理解数据库的设计范式,这里借用一下知乎刘慰老师的解释,很通俗易懂.非常感谢! 二.具体说明: 首先要明白”范 ...
- 伯克利包过滤(Berkeley Packet Filter,BPF)语言
libpcap支持一种功能非常强大的过滤语言——“伯克利包过滤”语法.使用BPF过滤规则,你可以确定该获取和检查哪些流量,忽略哪些流量.BPF让你能够通过比较第2.3.4层协议中各个数据字段值的方法对 ...