本文档应用环境为 kafka-0.8.2.0, 其余版本请先行测试

场景

线上很多 kafka 的 topic 的副本数为1,这样的设置丧失了 kafka 高可用的特性,所以我们需要把 topic 的副本数至少设置为2(当前3台 kafka)

我们使用 kafkat 这个工具,这个工具是 ruby 写的,所以我们先安装 ruby 环境

参考 https://ruby-china.org/wiki/rvm-guide

这时候你应该已经由了 gem 命令

继续参考https://github.com/airbnb/kafkat 把 kafkat 装上, 并配置好你的 kafka 环境参数到 ~/.kafkatcfg

实操

我们修改 topic 的 replicas 为2

[root@001 kafka]# kafkat partitions IM_APP_BINSPECT_MSG_TOPIC
Topic       Partition   Leader      Replicas                        ISRs
IM_APP_BINSPECT_MSG_TOPIC   0       2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   1       3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   2       1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   3       2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   4       3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   5       1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   6       2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   7       3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   8       1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   9       2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   10      3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   11      1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   12      2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   13      3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   14      1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   15      2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   16      3       [3]                         [3]
IM_APP_BINSPECT_MSG_TOPIC   17      1       [1]                         [1]
IM_APP_BINSPECT_MSG_TOPIC   18      2       [2]                         [2]
IM_APP_BINSPECT_MSG_TOPIC   19      3       [3]                         [3]
[root@001 kafka]# kafkat set-replication-factor IM_APP_BINSPECT_MSG_TOPIC --newrf 2 --brokers 1,2,3
This operation executes the following assignments:
Topic       Partition   Replicas
IM_APP_BINSPECT_MSG_TOPIC   0       [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   1       [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   2       [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   3       [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   4       [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   5       [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   6       [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   7       [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   8       [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   9       [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   10      [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   11      [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   12      [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   13      [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   14      [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   15      [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   16      [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   17      [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   18      [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   19      [3, 2]
Proceed (y/n)?
y
Beginning.
Started.
[root@001 kafka]# kafkat partitions IM_APP_BINSPECT_MSG_TOPIC
Topic       Partition   Leader      Replicas                        ISRs
IM_APP_BINSPECT_MSG_TOPIC   0       2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   1       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   2       1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   3       2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   4       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   5       1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   6       2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   7       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   8       1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   9       2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   10      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   11      1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   12      2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   13      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   14      1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   15      2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   16      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   17      1       [1, 3]                          [1]
IM_APP_BINSPECT_MSG_TOPIC   18      2       [2, 1]                          [2]
IM_APP_BINSPECT_MSG_TOPIC   19      3       [3, 2]                          [3]

解释

上面一共执行了3个命令

  1. kafkat partitions IM_APP_BINSPECT_MSG_TOPIC   查看 topic 的分区情况
  2. kafkat set-replication-factor IM_APP_BINSPECT_MSG_TOPIC --newrf 2 --brokers 1,2,3   重新设置副本数为2  --newrf 2  , 你有几个 broker就在--brokers 后面指定
  3. kafkat partitions IM_APP_BINSPECT_MSG_TOPIC    检查是否生效

根据 topic 数据量最后完成的时间也不同(大概几分钟)

这是最后的完成情况

[root@001 kafka]# kafkat partitions IM_APP_BINSPECT_MSG_TOPIC
Topic       Partition   Leader      Replicas                        ISRs
IM_APP_BINSPECT_MSG_TOPIC   0       2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   1       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   2       1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   3       2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   4       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   5       1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   6       2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   7       3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   8       1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   9       2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   10      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   11      1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   12      2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   13      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   14      1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   15      2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   16      3       [3, 2]                          [3, 2]
IM_APP_BINSPECT_MSG_TOPIC   17      1       [1, 3]                          [1, 3]
IM_APP_BINSPECT_MSG_TOPIC   18      2       [2, 1]                          [2, 1]
IM_APP_BINSPECT_MSG_TOPIC   19      3       [3, 2]                          [3, 2]
 

使用 kafkat 在线扩缩容 kafka replicas的更多相关文章

  1. 构建Docker平台【第四篇】创建服务及扩缩容等操作

    第一步:创建服务 1. 配置 nginx 的 yaml 文件 apiVersion: extensions/v1beta1 kind: Deployment metadata: name: my-ng ...

  2. 通过Dapr实现一个简单的基于.net的微服务电商系统(十一)——一步一步教你如何撸Dapr之自动扩/缩容

    上一篇我们讲到了dapr提供的bindings,通过绑定可以让我们的程序轻装上阵,在极端情况下几乎不需要集成任何sdk,仅需要通过httpclient+text.json即可完成对外部组件的调用,这样 ...

  3. Docker Swarm（七）Scale 扩(缩)容服务

    扩(缩)容服务 扩容服务 Service还提供了复制(类似kubernetes里的副本)功能.可以通过 docker service scale 命令来设置服务中容器的副本数: docker serv ...

  4. 【kubevirt】VirtualMachineInstanceReplicaSet(vmis)-扩缩容-弹性伸缩

    @ 目录 概述/理解 使用场景 创建vmis 扩缩容 弹性伸缩 方法1 方法2 概述/理解 VirtualMachineInstanceReplicaSet(vmis)确保指定数量的 VirtualM ...

  5. Airbnb的动态kubernetes集群扩缩容

    Airbnb的动态kubernetes集群扩缩容 本文介绍了Airbnb的集群扩缩容的演化历史,以及当前是如何通过Cluster Autoscaler 实现自定义扩展器的.最重要的经验就是Airbnb ...

  6. k8s手动扩缩容

    1. 查询deploy副本数,ready数表示副本数 kubectl get deploy 2.通过命令直接扩容或者缩容,--replicas=1表示把my-dep缩容到副本数1,--replicas ...

  7. Kubernetes 监控：Prometheus Adpater =》自定义指标扩缩容

    使用 Kubernetes 进行容器编排的主要优点之一是,它可以非常轻松地对我们的应用程序进行水平扩展.Pod 水平自动缩放(HPA)可以根据 CPU 和内存使用量来扩展应用,前面讲解的 HPA 章节 ...

  8. 三十三、HPA实现自动扩缩容

    通过HPA实现业务应用的动态扩缩容 HPA控制器介绍 当系统资源过高的时候,我们可以使用如下命令来实现 Pod 的扩缩容功能 $ kubectl -n luffy scale deployment m ...

  9. Knative 基本功能深入剖析：Knative Serving 自动扩缩容 Autoscaler

    Knative Serving 默认情况下,提供了开箱即用的快速.基于请求的自动扩缩容功能 - Knative Pod Autoscaler(KPA).下面带你体验如何在 Knative 中玩转 Au ...

随机推荐

  1. MySQL正则表达式 REGEXP详解

    在开始这个话题之前我们首先来做一个小实验,比较一下REGEXP和Like他们两个哪个效率高,如果效率太低,我们就没有必要做过多的研究了,实验的代码如下:<?phpRequire("co ...

  2. VSCode 设置侧边栏字体大小;Visual Studio Code改变侧边栏大小

    1.代码改写,进入默认安装的如下路径 C:\Users\Administrator\AppData\Local\Programs\Microsoft VS Code\resources\app\out ...

  3. 以太坊虚拟机（EVM）

    转载链接:https://ethfans.org/posts/solidity-chapter1-introduciton-to-smart-contracts 概括总览: 以太坊虚拟机(EVM)是以 ...

  4. 一个简单的MySQL多实例环境搭建

    安装mysql 初始化两个数据库目录 mysql_install_db --datadir=/usr/local/var/mysql1 --user=mysql mysql_install_db -- ...

  5. 20155205 《Java程序设计》实验二（Java面向对象程序设计）实验报告

    20155205 <Java程序设计>实验二(Java面向对象程序设计)实验报告 一.实验内容及步骤 (一)单元测试 (1)三种代码 举例:我们要在一个MyUtil类中解决一个百分制成绩转 ...

  6. 常见笔记本进入bios方法

    联想 y510p ->F2 ThinkPad E431 -> Fn + F1

  7. x86_64汇编调试程序初步

    寄存器说明: rdi 存第1个参数(值或地址) rsi 存第2个参数 rdx 存第3个参数 rcx 存第4个参数 r8 存第5个参数 r9 存第6个参数 rax 第1个返回值 rdx 第2个返回值 r ...

  8. MIT Molecular Biology 笔记4 DNA相关实验

    视频  https://www.bilibili.com/video/av7973580?from=search&seid=16993146754254492690 教材 Molecular ...

  9. Ubuntu下安装并配置TexStudio

    作者:tongqingliu 转载请注明出处:http://www.cnblogs.com/liutongqing/p/7069715.html Ubuntu下安装并配置TexStudio Ubunt ...

  10. 第一章javascript词法结构笔记摘要

    语法介绍 javascript最流行的脚本语言,用于web和HTML,服务器.pc.移动端 轻量级语言,可以插入HTML页面,由浏览器按编写顺序执行 一.字符集 用Unicode字符集编写,是ASCI ...