kafka安装流程

本文是作者原创,版权归作者所有.若要转载,请注明出处.

安装前的环境准备

1.由于Kafka是用Scala语言开发的，运行在JVM上，在安装之前需要先安装JDK(省略)

2.kafka依赖zookeeper，所以需要先安装zookeeper,https://zookeeper.apache.org/releases.html

解压zookeeper,安装在/usr/local/java下

 tar zxvf zookeeper-3.4.14.tar.gz 

进入zk目录

cd zookeeper-3.4.14/

zookeeper的默认配置文件为/conf/zoo_sample.cfg，需要将其修改为zoo.cfg

cp conf/zoo_sample.cfg conf/zoo.cfg

进入zk的bin目录,启动zk服务端,查看zk状态,默认端口2181

cd /usr/local/java/zookeeper-3.4.14/bin

./zkServer.sh start

./zkServer.sh  status

添加放行端口

firewall-cmd --zone=public --add-port=2181/tcp --permanent

重启防火墙

firewall-cmd --reload

查看已开放端口：

firewall-cmd --list-all

安装kafka

下载kafka(官网 http://kafka.apache.org/downloads),就按官方推荐的即可

1. 解压安装包,(前面2.12是Scala版本,后面2.4.1是kafka版本),安装在/usr/local/java下

tar zxvf kafka_2.12-2.4.1.tgz

2.修改配置文件 config/server.properties:

#broker.id属性在kafka集群中必须要是唯一

broker.id=0

#kafka部署的机器ip和提供服务的端口号

listeners=PLAINTEXT://localhost:9092

#kafka的消息存储文件

log.dir=/usr/local/java/data/kafka‐logs

#kafka连接zookeeper的地址

zookeeper.connect=localhost:2181

3.进入kafka目录,后台启动kafka

bin/kafka-server-start.sh -daemon config/server.properties

4 可以用jps命令，查看有没有kafka的进程

5. 停止kafka服务

bin/kafka-server-stop.sh config/server.properties

6.添加放行端口

firewall-cmd --zone=public --add-port=9302/tcp --permanent

重启防火墙

firewall-cmd --reload

查看已开放端口：

firewall-cmd --list-all

Zk和kafka都启动完成后测试

以下测试命令都在kafka主目录下进行

1. 创建topic

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

2.查看主题

bin/kafka-topics.sh --list --zookeeper localhost:2181

3. 发送消息

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

4.接收消息

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

5. 查看特定主题的详细信息

bin/kafka-topics.sh --zookeeper localhost:2181 --describe  --topic test

6  删除主题