zookeeper集群及kafka集群搭建
1.zookeeper集群搭建
1.1 上传安装包
官网推荐至少3个节点,我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包,zookeeper的默认端口为2181

将安装包分别上传到3个节点的指定目录中 这里以/home/admin作为说明

运行命令 tar -zxvf apache-zookeeper-3.7.0-bin.tar.gz
然后进入到 解压后的目录 目录结构如图

1.2 编辑配置文件
进到conf 目录下 运行 cp zoo_sample.cfg zoo.cfg 如图

运行 vi zoo.cfg 修改如图

然后保存
说明一下
dataDir是存储内存中数据库快照的位置,除非另有说明,否则指向数据库更新的事务日志。注意:应该谨慎的选择日志存放的位置,使用专用的日志存储设备能够大大提高系统的性能,如果将日志存储在比较繁忙的存储设备上,那么将会很大程度上影像系统性能
2888是集群的通信端口 3888是集群的选举端口
1.3创建 myid文件
在上一步的 dataDir指定的目录下 创建 myid文件 然后写入指定的数字

数字是对应配置文件中的server.0 server.1 server.2

server.0的ip是192.169.1.95,那么在 192.169.1.95机器上的dataDir指定的目录下创建myid文件 写入0 保存 依次类推 server.1 写入1 server.2写入2
1.4启动zookeeper集群
运行bin目录下的sh bin/zkServer.sh start 启动zookeeper

每个节点都要运行
然后运行 sh bin/zkServer.sh status 查询节点状态如图 三个节点的状态如图



出现如图代表集群搭建成功 mode:follower代表从节点 mode:leader代表主节点
1.5命令补充
sh bin/zkServer.sh stop 停止命令
sh bin/zkServer.sh restart 重启命令
2.Kafka集群搭建
2.1 上传安装包
官网推荐3个节点, 我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包, 默认端口是9092

上传到服务器的指定目录,以/home/admin做为说明
运行命令 tar -zxvf kafka_2.12-2.8.0.tgz 解压后的目录结构为

2.2 编辑配置文件
编辑config目录下的server.properties vi config/server.properties


然后保存配置文件,每个节点的配置文件都要修改
2.3启动kafka集群
在每个节点 运行命令 sh bin/kafka-server-start.sh -daemon config/server.properties
会在kafka的解压目录出现logs的目录 tail -f logs/server.log

出现这个即为启动成功
运行下面的查看topic详情的命令 有出现信息即可 kafka集群搭建完成

2.4命令补充
停止命令 sh bin/kafka-server-stop.sh
查看topic详情 sh bin/kafka-topics.sh --describe --zookeeper ip:port,ip:port,ip:port
zookeeper集群及kafka集群搭建的更多相关文章
- Docker部署zookeeper集群和kafka集群,实现互联
本文介绍在单机上通过docker部署zookeeper集群和kafka集群的可操作方案. 0.准备工作 创建zk目录,在该目录下创建生成zookeeper集群和kafka集群的yml文件,以及用于在该 ...
- docker 搭建zookeeper集群和kafka集群
docker 搭建zookeeper集群 安装docker-compose容器编排工具 Compose介绍 Docker Compose 是 Docker 官方编排(Orchestration)项目之 ...
- 【拆分版】Docker-compose构建Zookeeper集群管理Kafka集群
写在前边 在搭建Logstash多节点之前,想到就算先搭好Logstash启动会因为日志无法连接到Kafka Brokers而无限重试,所以这里先构建下Zookeeper集群管理的Kafka集群. 众 ...
- docker-compose部署zk集群、kafka集群以及kafka-manager,及其遇到的问题和解决
zk集群docker-compose.yml 1.新建网络 docker network create --driver bridge --subnet --gateway 172.23.0.1 zo ...
- zoookeeper集群和kafka集群启动快速启动脚本
kafka.sh port=9092 # 根据端口号去查询对应的PID pid=$(netstat -nlp | grep :$port | awk '{print $7}' | awk -F&quo ...
- docker容器中搭建kafka集群环境
Kafka集群管理.状态保存是通过zookeeper实现,所以先要搭建zookeeper集群 zookeeper集群搭建 一.软件环境: zookeeper集群需要超过半数的的node存活才能对外服务 ...
- 【Kafka】Kafka集群环境搭建
目录 一.初始环境准备 二.下载安装包并上传解压 三.修改配置文件 四.启动ZooKeeper 五.启动Kafka集群 一.初始环境准备 必须安装了JDK和ZooKeeper,并保证Zookeeper ...
- 数据源管理 | Kafka集群环境搭建,消息存储机制详解
本文源码:GitHub·点这里 || GitEE·点这里 一.Kafka集群环境 1.环境版本 版本:kafka2.11,zookeeper3.4 注意:这里zookeeper3.4也是基于集群模式部 ...
- 在kubernetes上部署zookeeper,kafka集群
本文采用网上镜像:mirrorgooglecontainers/kubernetes-zookeeper:1.0-3.4.10 准备共享存储:nfs,glusterfs,seaweed或其他,并在no ...
随机推荐
- x265编码命令
CQP: #/bin/bash ./x265 --input FourPeople_1280x720_60.yuv --input-res 1280x720 --fps 60 --qp 40 --fr ...
- 如何用Vim搭建IDE?
推荐:http://harttle.com/2015/07/18/vim-cpp.html 转自:http://harttle.com/2015/11/04/vim-ide.html 一年前我从Vim ...
- apiAutoTest:基于mitmproxy实现接口录制
目录 apiAutoTest 目前功能 重大更新(个人认为) 本次更新 契机 根本 如何录制 录制的用例 执行录制的用例 执行结果 实现源码 参考资料 apiAutoTest 先软文介绍下:apiAu ...
- mysql无列名注入
0x00 原理 mysql无列名注入是报错注入的一个变种,前提是已知表名,但是不知道列名,或者只知道部分列名,可通过报错注入拼接查询自身表,当自表被拼接时,由于存在重复属性列,会将列信息报错返回, ...
- centos下如何查看命令由哪个包提供
今天在使用centos进行端口查看的时候发现系统没有netstat命令 yum安装发现并没有同名的包 经过一番查阅 学习到了 yum whatprovides/provides [commandNam ...
- Play-book格式写法
Play-Book playbook的组成 play 角色(主机或者主机组) task 任务,演戏的动作 总结:playbook是有多个play组成,一个play有多个task:剧本由一个或者多个演员 ...
- python3 smtplib发送邮件
使用smtp包发送邮件还依赖email的一些方法 发送邮件主要分为三步: 1,定义邮箱参数:邮箱服务器地址,邮箱用户名,邮箱密码,邮件发送方,邮件接收方,邮件标题,邮件内容 2,配置发送内容 3,实例 ...
- centos更换损坏硬盘uuid改变导致系统不能正常启动处理
1.因为挂载磁盘uuid错误导致,而系统在启动的时候,会读取fstab文件.来加载预设的硬盘到指定的分区目录,但读取到需要挂载的UUID的磁盘不存在,中断文件的读取,然后提示文件系统错误,不能解析UU ...
- shell字符截取
shell字符截取 截取文本中以vm开头的单词 grep -o vm.* text | cut -d' ' -f1 截取活动主机
- macOS Big Sur 11.4 (20F71) 正式版(DMG、ISO、IPSW),百度网盘下载
本站提供的 macOS Big Sur 软件包,既可以拖拽到 Applications(应用程序)下直接安装,也可以制作启动 U 盘安装,或者在虚拟机中启动安装. 请访问原文链接:https://sy ...