【Apache Kafka】Kafka学习笔记
0x00 基本信息
1、Kafka架构图
2、环境信息
- 服务器IP:xx.xx.xx.xx
- 操作系统:CentOS7.2_x64
- Kafka版本:kafka_2.12-1.1.0
- Zookeeper版本:zookeeper-3.4.12
0x01 让Kafka运行起来
1、先启动Zookeeper
$ cd /opt/kafka/zookeeper-3.4./bin
$ zkServer.sh start
确认zookeeper是否成功启动:
$ netstat -an | grep
tcp6 ::: :::* LISTEN
返回以上结果说明成功启动,接下来就可以启动kafka服务并使用具体的kafka命令来进行相应操作了。
2、启动kafka服务
$ cd /opt/kafka/kafka_2.-1.1./bin
$ ./kafka-server-start.sh -daemon /opt/kafka/kafka_2.-1.1./config/server.properties
确认kafka服务是否正常启动:
$ ps -ef | grep kafka
返回以上结果说明成功启动。
0x02 Kafka指令
利用kafka指令进行具体的操作。
1、查看当前已有的topic
$ cd /opt/kafka/kafka_2.-1.1./bin
$ ./kafka-topics.sh --list --zookeeper localhost:
2、创建topic test-topic的生产者
$ ./kafka-console-producer.sh --broker-list PLAINTEXT://xx.xx.xx.xx:9092 --topic test-topic
3、创建topic test-topic的消费者
./kafka-console-consumer.sh --zookeeper localhost: --topic test-topic --from-beginning
这样,在2中创建的生产者命令行中发送的消息,3中创建的消费者就可以及时接收到。
注意:上面截图中提示旧的消费者创建方式将会废弃,建议使用bootstrap-server这种新的方式,如下:
./kafka-console-consumer.sh --bootstrap-server xx.xx.xx.xx: --topic test-topic --from-beginning
4、创建新topic
./kafka-topics.sh --create --zookeeper localhost: --replication-factor --partitions --topic my-test-topic
5、查看某个topic的详细信息
./kafka-topics.sh --describe --zookeeper localhost: --topic test-topic
6、修改已有topic
# 已经存在topic my-test-topic,且该topic之前分区数为1,现在我们将该topic的分区数修改成2
./kafka-topics.sh --zookeeper localhost: --alter --topic my-test-topic --partitions
7、删除某个topic
./kafka-topics.sh --zookeeper localhost: --delete --topic my-test-topic
本文到此结束。
【Apache Kafka】Kafka学习笔记的更多相关文章
- Apache Calcite 论文学习笔记
特别声明:本文来源于掘金,"预留"发表的[Apache Calcite 论文学习笔记](https://juejin.im/post/5d2ed6a96fb9a07eea32a6f ...
- Apache Commons Math3学习笔记(2) - 多项式曲线拟合(转)
多项式曲线拟合:org.apache.commons.math3.fitting.PolynomialCurveFitter类. 用法示例代码: // ... 创建并初始化输入数据: double[] ...
- Flink学习笔记:Connectors之kafka
本文为<Flink大数据项目实战>学习笔记,想通过视频系统学习Flink这个最火爆的大数据计算框架的同学,推荐学习课程: Flink大数据项目实战:http://t.cn/EJtKhaz ...
- kafka学习笔记(一)消息队列和kafka入门
概述 学习和使用kafka不知不觉已经将近5年了,觉得应该总结整理一下之前的知识更好,所以决定写一系列kafka学习笔记,在总结的基础上希望自己的知识更上一层楼.写的不对的地方请大家不吝指正,感激万分 ...
- Flume-ng+Kafka+storm的学习笔记
Flume-ng Flume是一个分布式.可靠.和高可用的海量日志采集.聚合和传输的系统. Flume的文档可以看http://flume.apache.org/FlumeUserGuide.html ...
- kafka学习笔记1:测试环境搭建
最近因为架构中引入了kafka,一些之前在代码中通过RPC调用强耦合但是适合异步处理的内容可以用kafka重构一下. 考虑从头学一下kafka了解其特性和使用场景. 环境选择 首先是测试环境的搭建,平 ...
- Kafka 学习笔记之 Kafka0.11之console-producer/console-consumer
Kafka 学习笔记之 Kafka0.11之console-producer/console-consumer: 启动Zookeeper 启动Kafka0.11 创建一个新的Topic: ./kafk ...
- 大数据 -- kafka学习笔记:知识点整理(部分转载)
一 为什么需要消息系统 1.解耦 允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束. 2.冗余 消息队列把数据进行持久化直到它们已经被完全处理,通过这一方式规避了数据丢失风险.许多 ...
- kafka学习笔记(二)——基础入门
1.集群规划 从官网下载jar包 http://kafka.apache.org/downloads.html,我选择的是kafka_2.11-0.11.0.0.tgz版本 规划一下集群环境先~ ha ...
- Kafka学习笔记之为什么使用Kafka
在介绍为什么使用kafka之前,我们有必要来了解一下什么是kafka? 0x00 什么是kafka Kafka是由LinkedIn开发的一个分布式的消息系统,使用Scala编写,它以可水平扩展和高吞吐 ...
随机推荐
- flume接收http请求,并将数据写到kafka
flume接收http请求,并将数据写到kafka,spark消费kafka的数据.是数据采集的经典框架. 直接上flume的配置: source : http channel : file sink ...
- es6面向对象
<script> class user{ constructor(name,age){ this.name=name; this.age=age; } showName(){ alert( ...
- 1030 Travel Plan Dijkstra+dfs
和1018思路如出一辙,先求最短路径,再dfs遍历 #include <iostream> #include <cstdio> #include <vector> ...
- [swarthmore cs75] Lab 0 Warmup & Basic OCaml
课程回顾 Swarthmore学院16年开的编译系统课,总共10次大作业.本随笔记录了相关的课堂笔记以及第1次大作业. 什么是编译 编译就是执行Program->Program'转换的过程,如下 ...
- search
|—search()—|—添加一个列表变量Expend,存储每个小格扩展时为第几步,可打印出 | |—打印运动表 |—A*—|— heuristic() |—Dy ...
- SAwUML – UML-based, contractual software architectures and their formal analysis using SPIN
一.基本信息 标题:SAwUML – UML-based, contractual software architectures and their formal analysis using SPI ...
- 画线代码V1.0.0
画线代码: 最终效果图: 优点: 1.效果还行,计算量也不大(就一点2维直线一般式能有多少运算量). 缺点: 1.每条线怎么也是建模,可能会有点开销. 2.编辑起来很是麻烦. 代码部分: /***** ...
- 【.NET Core项目实战-统一认证平台】第二章网关篇-定制Ocelot来满足需求
[.NET Core项目实战-统一认证平台]开篇及目录索引 这篇文章,我们将从Ocelot的中间件源码分析,目前Ocelot已经实现那些功能,还有那些功能在我们实际项目中暂时还未实现,如果我们要使用这 ...
- 解决Jenkins安装的时区问题
正常情况下,jenkins是Java执行在Java容器,比如tomcat容器之下,只要改了tomcat的时区就行.我这里是为了方便后续的代码可用性测试,用的是Ubuntu中apt在线安装,也只是安装了 ...
- BCrypt实现密码的加密
这里设计到一个新的知识点,下来准备找找资料学习一下:Spring Security 我们都知道,密码这种东西存到数据库是不能以明文直接存入的,而是要经过加密,而且加密还颇多讲究 比如以前的 MD5加密 ...