zookeeper集群及kafka集群搭建
1.zookeeper集群搭建
1.1 上传安装包
官网推荐至少3个节点,我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包,zookeeper的默认端口为2181
将安装包分别上传到3个节点的指定目录中 这里以/home/admin作为说明
运行命令 tar -zxvf apache-zookeeper-3.7.0-bin.tar.gz
然后进入到 解压后的目录 目录结构如图
1.2 编辑配置文件
进到conf 目录下 运行 cp zoo_sample.cfg zoo.cfg 如图
运行 vi zoo.cfg 修改如图
然后保存
说明一下
dataDir是存储内存中数据库快照的位置,除非另有说明,否则指向数据库更新的事务日志。注意:应该谨慎的选择日志存放的位置,使用专用的日志存储设备能够大大提高系统的性能,如果将日志存储在比较繁忙的存储设备上,那么将会很大程度上影像系统性能
2888是集群的通信端口 3888是集群的选举端口
1.3创建 myid文件
在上一步的 dataDir指定的目录下 创建 myid文件 然后写入指定的数字
数字是对应配置文件中的server.0 server.1 server.2
server.0的ip是192.169.1.95,那么在 192.169.1.95机器上的dataDir指定的目录下创建myid文件 写入0 保存 依次类推 server.1 写入1 server.2写入2
1.4启动zookeeper集群
运行bin目录下的sh bin/zkServer.sh start 启动zookeeper
每个节点都要运行
然后运行 sh bin/zkServer.sh status 查询节点状态如图 三个节点的状态如图
出现如图代表集群搭建成功 mode:follower代表从节点 mode:leader代表主节点
1.5命令补充
sh bin/zkServer.sh stop 停止命令
sh bin/zkServer.sh restart 重启命令
2.Kafka集群搭建
2.1 上传安装包
官网推荐3个节点, 我们这里也用三个节点192.169.2.18 192.169.1.82 192.169.1.95
准备好安装包, 默认端口是9092
上传到服务器的指定目录,以/home/admin做为说明
运行命令 tar -zxvf kafka_2.12-2.8.0.tgz 解压后的目录结构为
2.2 编辑配置文件
编辑config目录下的server.properties vi config/server.properties
然后保存配置文件,每个节点的配置文件都要修改
2.3启动kafka集群
在每个节点 运行命令 sh bin/kafka-server-start.sh -daemon config/server.properties
会在kafka的解压目录出现logs的目录 tail -f logs/server.log
出现这个即为启动成功
运行下面的查看topic详情的命令 有出现信息即可 kafka集群搭建完成
2.4命令补充
停止命令 sh bin/kafka-server-stop.sh
查看topic详情 sh bin/kafka-topics.sh --describe --zookeeper ip:port,ip:port,ip:port
zookeeper集群及kafka集群搭建的更多相关文章
- Docker部署zookeeper集群和kafka集群,实现互联
本文介绍在单机上通过docker部署zookeeper集群和kafka集群的可操作方案. 0.准备工作 创建zk目录,在该目录下创建生成zookeeper集群和kafka集群的yml文件,以及用于在该 ...
- docker 搭建zookeeper集群和kafka集群
docker 搭建zookeeper集群 安装docker-compose容器编排工具 Compose介绍 Docker Compose 是 Docker 官方编排(Orchestration)项目之 ...
- 【拆分版】Docker-compose构建Zookeeper集群管理Kafka集群
写在前边 在搭建Logstash多节点之前,想到就算先搭好Logstash启动会因为日志无法连接到Kafka Brokers而无限重试,所以这里先构建下Zookeeper集群管理的Kafka集群. 众 ...
- docker-compose部署zk集群、kafka集群以及kafka-manager,及其遇到的问题和解决
zk集群docker-compose.yml 1.新建网络 docker network create --driver bridge --subnet --gateway 172.23.0.1 zo ...
- zoookeeper集群和kafka集群启动快速启动脚本
kafka.sh port=9092 # 根据端口号去查询对应的PID pid=$(netstat -nlp | grep :$port | awk '{print $7}' | awk -F&quo ...
- docker容器中搭建kafka集群环境
Kafka集群管理.状态保存是通过zookeeper实现,所以先要搭建zookeeper集群 zookeeper集群搭建 一.软件环境: zookeeper集群需要超过半数的的node存活才能对外服务 ...
- 【Kafka】Kafka集群环境搭建
目录 一.初始环境准备 二.下载安装包并上传解压 三.修改配置文件 四.启动ZooKeeper 五.启动Kafka集群 一.初始环境准备 必须安装了JDK和ZooKeeper,并保证Zookeeper ...
- 数据源管理 | Kafka集群环境搭建,消息存储机制详解
本文源码:GitHub·点这里 || GitEE·点这里 一.Kafka集群环境 1.环境版本 版本:kafka2.11,zookeeper3.4 注意:这里zookeeper3.4也是基于集群模式部 ...
- 在kubernetes上部署zookeeper,kafka集群
本文采用网上镜像:mirrorgooglecontainers/kubernetes-zookeeper:1.0-3.4.10 准备共享存储:nfs,glusterfs,seaweed或其他,并在no ...
随机推荐
- 引言:CTF新世界
1. CTF的昨天和今天 CTF(Capture The Flag)中文一般译作夺旗赛,在网络安全领域中指的是网络安全技术人员之间进行技术竞技的一种比赛形式.CTF起源于1996年DEFCON全球黑客 ...
- 【2020BUAA软件工程】个人博客作业
个人作业博客 项目 内容 北航2020软工 班级博客 作业要求 具体要求 我的课程目标 学习软件工程,掌握团队合作,锻炼自我 作业在哪个方面帮助我实现目标 通读<构建之法>,尝试理解软件工 ...
- DataGear 变更部署数据库为SQL Server填坑指南(含转写后的SQL server代码及SQL server配置文件)
1. 引言 2. 配置数据库链接 3. 引入数据库驱动 4. 手动初始化数据库 5. 改写SQL 6. 其他 7. 参考 1. 引言 DataGear默认使用Derby数据库作为系统的元数据库,至于待 ...
- Map 实现类之一:HashMap
Map 实现类之一:HashMapHashMap是 Map 接口 使用频率最高的实现类.允许使用null键和null值,与HashSet一样,不保证映射的顺序.所有的key构成的集合是Set:无 ...
- canal 实现Mysql到Elasticsearch实时增量同步
简介: MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,目前属于 Oracle 旗下产品.MySQL是一种关系数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据 ...
- centOS 7 安装 CUPS 打印服务器,安装映美 FP-730K打印机共享
centOS 7 安装 CUPS 打印服务器,安装映美 FP-730K打印机共享 2017-09-13 16:27:02 mostone 阅读数 3698 版权声明:本文为博主原创文章,遵循CC ...
- Docker——JVM 感知容器的 CPU 和 Memory 资源限制
前言 对于那些在Java应用程序中使用Docker的CPU和内存限制的人来说,可能会遇到一些挑战.特别是CPU限制,因为JVM在内部透明地设置GC线程和JIT编译器线程的数量. 这些可以通过命令行选项 ...
- shell基础之函数
shell中允许将一组命令集合或语句形成一段可用代码,这些代码块称为shell函数.给这段代码起个名字称为函数名,后续可以直接调用该段代码. 格式: func() { #指定函数名 command # ...
- 9.7 top:实时显示系统中各个进程的资源占用状况
top命令 用于实时地对系统处理器状态进行监控,它能够实时地显示系统中各个进程的资源占用状况.该命令可以按照CPU的使用.内存的使用和执行时间对系统任务进程进行排序显示,同时top命令还可以通过交互式 ...
- 手机POS机
资质查询 http://www.pbc.gov.cn/zhengwugongkai/127924/128041/2951606/1923625/1923629/d6d180ae/index4.html ...