zookeeper集群及kafka集群搭建
1.zookeeper集群搭建
1.1 上传安装包
官网推荐至少3个节点,我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包,zookeeper的默认端口为2181

将安装包分别上传到3个节点的指定目录中 这里以/home/admin作为说明

运行命令 tar -zxvf apache-zookeeper-3.7.0-bin.tar.gz
然后进入到 解压后的目录 目录结构如图

1.2 编辑配置文件
进到conf 目录下 运行 cp zoo_sample.cfg zoo.cfg 如图

运行 vi zoo.cfg 修改如图

然后保存
说明一下
dataDir是存储内存中数据库快照的位置,除非另有说明,否则指向数据库更新的事务日志。注意:应该谨慎的选择日志存放的位置,使用专用的日志存储设备能够大大提高系统的性能,如果将日志存储在比较繁忙的存储设备上,那么将会很大程度上影像系统性能
2888是集群的通信端口 3888是集群的选举端口
1.3创建 myid文件
在上一步的 dataDir指定的目录下 创建 myid文件 然后写入指定的数字

数字是对应配置文件中的server.0 server.1 server.2

server.0的ip是192.169.1.95,那么在 192.169.1.95机器上的dataDir指定的目录下创建myid文件 写入0 保存 依次类推 server.1 写入1 server.2写入2
1.4启动zookeeper集群
运行bin目录下的sh bin/zkServer.sh start 启动zookeeper

每个节点都要运行
然后运行 sh bin/zkServer.sh status 查询节点状态如图 三个节点的状态如图



出现如图代表集群搭建成功 mode:follower代表从节点 mode:leader代表主节点
1.5命令补充
sh bin/zkServer.sh stop 停止命令
sh bin/zkServer.sh restart 重启命令
2.Kafka集群搭建
2.1 上传安装包
官网推荐3个节点, 我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包, 默认端口是9092

上传到服务器的指定目录,以/home/admin做为说明
运行命令 tar -zxvf kafka_2.12-2.8.0.tgz 解压后的目录结构为

2.2 编辑配置文件
编辑config目录下的server.properties vi config/server.properties


然后保存配置文件,每个节点的配置文件都要修改
2.3启动kafka集群
在每个节点 运行命令 sh bin/kafka-server-start.sh -daemon config/server.properties
会在kafka的解压目录出现logs的目录 tail -f logs/server.log

出现这个即为启动成功
运行下面的查看topic详情的命令 有出现信息即可 kafka集群搭建完成

2.4命令补充
停止命令 sh bin/kafka-server-stop.sh
查看topic详情 sh bin/kafka-topics.sh --describe --zookeeper ip:port,ip:port,ip:port
zookeeper集群及kafka集群搭建的更多相关文章
- Docker部署zookeeper集群和kafka集群,实现互联
本文介绍在单机上通过docker部署zookeeper集群和kafka集群的可操作方案. 0.准备工作 创建zk目录,在该目录下创建生成zookeeper集群和kafka集群的yml文件,以及用于在该 ...
- docker 搭建zookeeper集群和kafka集群
docker 搭建zookeeper集群 安装docker-compose容器编排工具 Compose介绍 Docker Compose 是 Docker 官方编排(Orchestration)项目之 ...
- 【拆分版】Docker-compose构建Zookeeper集群管理Kafka集群
写在前边 在搭建Logstash多节点之前,想到就算先搭好Logstash启动会因为日志无法连接到Kafka Brokers而无限重试,所以这里先构建下Zookeeper集群管理的Kafka集群. 众 ...
- docker-compose部署zk集群、kafka集群以及kafka-manager,及其遇到的问题和解决
zk集群docker-compose.yml 1.新建网络 docker network create --driver bridge --subnet --gateway 172.23.0.1 zo ...
- zoookeeper集群和kafka集群启动快速启动脚本
kafka.sh port=9092 # 根据端口号去查询对应的PID pid=$(netstat -nlp | grep :$port | awk '{print $7}' | awk -F&quo ...
- docker容器中搭建kafka集群环境
Kafka集群管理.状态保存是通过zookeeper实现,所以先要搭建zookeeper集群 zookeeper集群搭建 一.软件环境: zookeeper集群需要超过半数的的node存活才能对外服务 ...
- 【Kafka】Kafka集群环境搭建
目录 一.初始环境准备 二.下载安装包并上传解压 三.修改配置文件 四.启动ZooKeeper 五.启动Kafka集群 一.初始环境准备 必须安装了JDK和ZooKeeper,并保证Zookeeper ...
- 数据源管理 | Kafka集群环境搭建,消息存储机制详解
本文源码:GitHub·点这里 || GitEE·点这里 一.Kafka集群环境 1.环境版本 版本:kafka2.11,zookeeper3.4 注意:这里zookeeper3.4也是基于集群模式部 ...
- 在kubernetes上部署zookeeper,kafka集群
本文采用网上镜像:mirrorgooglecontainers/kubernetes-zookeeper:1.0-3.4.10 准备共享存储:nfs,glusterfs,seaweed或其他,并在no ...
随机推荐
- 云空调来自 GitHub 的冷气——GitHub 热点速览 v.21.20
作者:HelloGitHub-小鱼干 万物皆可上云,air-conditioner 是上周火爆小鱼干朋友圈和公众号信息流的云空调项目.第一眼的时候,你会觉得和这个云空调还挺别致的,第二眼,si~~感到 ...
- 02 CTF WEB 知识梳理
1. 工具集 基础工具 Burpsuit, Python, FireFox(Hackbar, FoxyProxy, User-Agent Swither .etc) Burpsuit 代理工具,攻击w ...
- Java_接口
接口 接口中的方法全都是抽象方法,用来指定一些规则,让子类去重写.接口的作用主要体现在一下两点 1.指定规则2.利用这些规则给类做功能扩展 接口的定义和使用 接口使用interface关键字来定义,使 ...
- [xml模块、hashlib模块、subprocess模块、os与sys模块、configparser模块]
[xml模块.hashlib模块.subprocess模块.os与sys模块.configparser模块] xml模块 XML:全称 可扩展标记语言,为了能够在不同的平台间继续数据的交换,使交换的数 ...
- Gradle的环境安装与配置
本文是基于Windows环境对Gradle-6.6版本进行的安装配置. 简介 下载 安装 环境变量配置 开发工具配置 1.简介 Gradle是一个基于JVM的构建工具,是一款通用灵活的构建工具,支持m ...
- TCP 中的两个细节点
TCP 超时和重传 没有永远不出错误的通信,这句话表明着不管外部条件多么完备,永远都会有出错的可能.所以,在 TCP 的正常通信过程中,也会出现错误,这种错误可能是由于数据包丢失引起的,也可能是由于数 ...
- safari模拟IE
在如下网站找到相对应的useragent https://developers.whatismybrowser.com/useragents/explore/software_name/interne ...
- [Java]数据分析--数据可视化
时间序列 需求:将一组字符顺序添加到时间序列中 实现:定义时间序列类TimeSeries,包含静态类Entry表示序列类中的各项,以及add,get,iterator,entry方法 TimeSeri ...
- Linux_用户和组管理
一.用户分类 1.管理员和普通用户 1️⃣:管理员 -- 用户ID:0 2️⃣:普通用户 -- 用户ID:1-65535 2.普通用户又分为系统用户和登陆用户 1️⃣:系统用户 -- 用 ...
- HBase HA 集群环境搭建
安装准备 确定已安装并启动 HDFS(HA)集群 角色分配如下: node-01: namenode datanode regionserver hmaster zookeeper node-02: ...