TiKV节点缩容不掉，通常遇到的情况：

  • 1、经常遇到的情况是：3个节点的tikv集群缩容肯定会一直卡着，因为没有新节点接受要下线kv的region peer。

  • 2、另外就是除缩容tikv外，剩下的KV硬盘使用情况比较高，到达schedule.high-space-ratio=0.6的限制，导致该tikv的region无法迁移。

但是今天要讨论的是：我先执行了扩容，然后再进行的缩容，仍然卡着就说不过去了。

问题现场

版本：TiDB v5.2.1 情况说明：这个tidb是有tiflash节点的，并且这个集群是一路从3.X升级到5.2.1版本 问题现场：为了下线一个3kv集群中的一个kv，我们在24号扩容了一个新kv，然后扩容完毕后，下线某个kv，都过了2天，该kv还是处于pending offline的状态，看监控leader+reigon已经切走了，为啥该kv的状态仍然没有tombstone？

下图是扩容和缩容tikv的监控，从下图可以发现扩容和缩容都已经完毕了。

问题排查

（1）先看看有缩容问题的TIKV节点日志

查看日志发现有：KvService::batch_raft send response fail报错，查了下asktug，发现这些报错指向一个4.X的bug：raft 大小限制的过大，超过 gRPC 传输通信限制导致 raft message 卡住的问题，所以影响了 region 的调度。将 TiKV 集群的 raft-max-size-per-msg 这个配置调小，降低 raft message 大小来看是否能恢复 region 调度。

如果其他人的4.X版本遇到这个问题可以通过上面方式搞定，但是目前我已经升级到了5.2.1，所以上面方法不适合解决我的这个问题。相关的报错日志如下：



  1. 

    

    

    

    $ grep 'ERROR' tikv.log
    

    2. 

  2. 

    

    

    

    [2022/03/28 09:34:38.062 +08:00] [ERROR] [kv.rs:729] ["KvService::batch_raft send response fail"] [err=RemoteStopped]
    

    3. 

  3. 

    

    

    

    [2022/03/28 09:34:38.062 +08:00] [ERROR] [kv.rs:729] ["KvService::batch_raft send response fail"] [err=RemoteStopped]
    

    4. 

  4. 

    

    

    

    [2022/03/28 09:34:38.227 +08:00] [ERROR] [pd.rs:83] ["Failed to send read flow statistics"] [err="channel has been closed"]
    

    5. 

  5. 

    

    

    

    [2022/03/28 09:34:38.261 +08:00] [ERROR] [kv.rs:729] ["KvService::batch_raft send response fail"] [err=RemoteStopped]
    

    6. 

  6. 

    

    

    

    [2022/03/28 09:34:38.261 +08:00] [ERROR] [kv.rs:729] ["KvService::batch_raft send response fail"] [err=RemoteStopped]
    

    7. 

  7. 

    

    

    

    [2022/03/28 09:34:55.711 +08:00] [ERROR] [server.rs:1030] ["failed to init io snooper"] [err_code=KV:Unknown] [err="\"IO snooper is not started due to not compiling with BCC\""]

（2）查看节点情况，发现该节点除了状态为Offline外，leader_count/region_count都为0，为啥都为0了，等了2天还是pending offline？没有变tombstone？



  1. 

    

    

    

    tiup ctl:v5.2.1 pd -u http://pd-ip:2379 store 5
    

    2. 

  2. 

    

    

    

    {
    

    3. 

  3. 

    

    

    

      "store": {
    

    4. 

  4. 

    

    

    

        "id": 5,
    

    5. 

  5. 

    

    

    

        "address": "xxxx:20160",
    

    6. 

  6. 

    

    

    

        "state": 1,
    

    7. 

  7. 

    

    

    

        "version": "5.2.1",
    

    8. 

  8. 

    

    

    

        "status_address": "xxxxx:20180",
    

    9. 

  9. 

    

    

    

        "git_hash": "2c99f317d4ba125b772a8b94a6c3c0eb9d07ac59",
    

    10. 

  10. 

    

    

    

        "start_timestamp": 1648465247,
    

    11. 

  11. 

    

    

    

        "deploy_path": "/data/deploy/bin",
    

    12. 

  12. 

    

    

    

        "last_heartbeat": 1648517045511041818,
    

    13. 

  13. 

    

    

    

        "state_name": "Offline"
    

    14. 

  14. 

    

    

    

      },
    

    15. 

  15. 

    

    

    

      "status": {
    

    16. 

  16. 

    

    

    

        "capacity": "0B",
    

    17. 

  17. 

    

    

    

        "available": "0B",
    

    18. 

  18. 

    

    

    

        "used_size": "0B",
    

    19. 

  19. 

    

    

    

        "leader_count": 0,
    

    20. 

  20. 

    

    

    

        "leader_weight": 1,
    

    21. 

  21. 

    

    

    

        "leader_score": 0,
    

    22. 

  22. 

    

    

    

        "leader_size": 0,
    

    23. 

  23. 

    

    

    

        "region_count": 0,
    

    24. 

  24. 

    

    

    

        "region_weight": 1,
    

    25. 

  25. 

    

    

    

        "region_score": 0,
    

    26. 

  26. 

    

    

    

        "region_size": 0,
    

    27. 

  27. 

    

    

    

        "slow_score": 0,
    

    28. 

  28. 

    

    

    

        "start_ts": "2022-03-28T19:00:47+08:00",
    

    29. 

  29. 

    

    

    

        "last_heartbeat_ts": "2022-03-29T09:24:05.511041818+08:00",
    

    30. 

  30. 

    

    

    

        "uptime": "14h23m18.511041818s"
    

    31. 

  31. 

    

    

    

      }
    

    32. 

  32. 

    

    

    

    }

（3）查看有问题tikv节点的region信息。

结果发现不得了的结果，这个不能成功下线的tikv store 5，竟然还有一个id为434317的region，这个region没有leader，有3个voter(在store 5 、1 、 4上)和2个Learner（在tiflash store 390553和390554上），并且这2个tiflash store还是集群升级前4.0.9版本的store id，并且之前对tikv/tiflash节点执行过scale-in --force等暴力下线的操作，至于该region为啥没有选出leader，一则可能是bug，二则可能是暴力下线tikv/tiflash导致。

也就是说：这个没有leader的region：434317，因为他在store_id：5 上还有记录，这个问题成为了阻碍该tikv一直卡到offline状态无法成功下线的原因。



  1. 

    

    

    

    $ tiup ctl:v5.2.1 pd -u http://pd-ip:2379 region store 5
    

    2. 

  2. 

    

    

    

    {
    

    3. 

  3. 

    

    

    

      "count": 1,
    

    4. 

  4. 

    

    

    

      "regions": [
    

    5. 

  5. 

    

    

    

        {
    

    6. 

  6. 

    

    

    

          "id": 434317,
    

    7. 

  7. 

    

    

    

          "start_key": "748000000000002DFFB95F720000000000FA",
    

    8. 

  8. 

    

    

    

          "end_key": "748000000000002DFFB95F728000000003FF3F16990000000000FA",
    

    9. 

  9. 

    

    

    

          "epoch": {
    

    10. 

  10. 

    

    

    

            "conf_ver": 7,
    

    11. 

  11. 

    

    

    

            "version": 4204
    

    12. 

  12. 

    

    

    

          },
    

    13. 

  13. 

    

    

    

          "peers": [
    

    14. 

  14. 

    

    

    

            {
    

    15. 

  15. 

    

    

    

              "id": 434318,
    

    16. 

  16. 

    

    

    

              "store_id": 1,
    

    17. 

  17. 

    

    

    

              "role_name": "Voter"
    

    18. 

  18. 

    

    

    

            },
    

    19. 

  19. 

    

    

    

            {
    

    20. 

  20. 

    

    

    

              "id": 434319,
    

    21. 

  21. 

    

    

    

              "store_id": 4,
    

    22. 

  22. 

    

    

    

              "role_name": "Voter"
    

    23. 

  23. 

    

    

    

            },
    

    24. 

  24. 

    

    

    

            {
    

    25. 

  25. 

    

    

    

              "id": 434320,
    

    26. 

  26. 

    

    

    

              "store_id": 5,
    

    27. 

  27. 

    

    

    

              "role_name": "Voter"
    

    28. 

  28. 

    

    

    

            },
    

    29. 

  29. 

    

    

    

            {
    

    30. 

  30. 

    

    

    

              "id": 434321,
    

    31. 

  31. 

    

    

    

              "store_id": 390553,
    

    32. 

  32. 

    

    

    

              "role": 1,
    

    33. 

  33. 

    

    

    

              "role_name": "Learner",
    

    34. 

  34. 

    

    

    

              "is_learner": true
    

    35. 

  35. 

    

    

    

            },
    

    36. 

  36. 

    

    

    

            {
    

    37. 

  37. 

    

    

    

              "id": 434322,
    

    38. 

  38. 

    

    

    

              "store_id": 390554,
    

    39. 

  39. 

    

    

    

              "role": 1,
    

    40. 

  40. 

    

    

    

              "role_name": "Learner",
    

    41. 

  41. 

    

    

    

              "is_learner": true
    

    42. 

  42. 

    

    

    

            }
    

    43. 

  43. 

    

    

    

          ],
    

    44. 

  44. 

    

    

    

          "leader": {
    

    45. 

  45. 

    

    

    

            "role_name": "Voter"
    

    46. 

  46. 

    

    

    

          },
    

    47. 

  47. 

    

    

    

          "written_bytes": 0,
    

    48. 

  48. 

    

    

    

          "read_bytes": 0,
    

    49. 

  49. 

    

    

    

          "written_keys": 0,
    

    50. 

  50. 

    

    

    

          "read_keys": 0,
    

    51. 

  51. 

    

    

    

          "approximate_size": 0,
    

    52. 

  52. 

    

    

    

          "approximate_keys": 0
    

    53. 

  53. 

    

    

    

        }
    

    54. 

  54. 

    

    

    

      ]
    

    55. 

  55. 

    

    

    

    }

（4）查看下该region对应的库表信息，看是否对业务有影响，执行后发现是个空region：



  1. 

    

    

    

    $ curl http://tidb-server-ip:10080/regions/434317
    

    2. 

  2. 

    

    

    

    {
    

    3. 

  3. 

    

    

    

     "start_key": "dIAAAAAAAC25X3I=",
    

    4. 

  4. 

    

    

    

     "end_key": "dIAAAAAAAC25X3KAAAAAAz8WmQ==",
    

    5. 

  5. 

    

    

    

     "start_key_hex": "748000000000002db95f72",
    

    6. 

  6. 

    

    

    

     "end_key_hex": "748000000000002db95f7280000000033f1699",
    

    7. 

  7. 

    

    

    

     "region_id": 434317,
    

    8. 

  8. 

    

    

    

     "frames": null
    

    9. 

  9. 

    

    

    

    }

问题已经定位，下面是如何解决了

问题解决

(1)使用pd-ctl，看看是否能让434317选出leader，或者通过添加peer，删除peer等方式解决问题。

执行尝试如下



  1. 

    

    

    

    // 把 Region 434317 的 leader 调度到 store 4
    

    2. 

  2. 

    

    

    

    $tiup ctl:v5.2.1 pd -u http://pd-ip:2379 operator add transfer-leader 434317 4
    

    3. 

  3. 

    

    

    

        Failed! [500] "cannot build operator for region with no leader"
    

    4. 

  4. 

    

    

    

     
    

    5. 

  5. 

    

    

    

    // 在 store 1094772 上新增 Region 434317 的副本
    

    6. 

  6. 

    

    

    

    $tiup ctl:v5.2.1 pd -u http://pd-ip:2379 operator add add-peer 434317 1094772
    

    7. 

  7. 

    

    

    

        Failed! [500] "cannot build operator for region with no leader"
    

    8. 

  8. 

    

    

    

     
    

    9. 

  9. 

    

    

    

    // 移除要下线 store 5 上的 Region 434317 的副本
    

    10. 

  10. 

    

    

    

    $ tiup ctl:v5.2.1 pd -u http://pd-ip:2379 operator add remove-peer 434317 5
    

    11. 

  11. 

    

    

    

        Failed! [500] "cannot build operator for region with no leader"

发现通过pd-ctl折腾的这条路走不通，因为要想实现上述操作，需要在region有leader的情况下才能操作。

（2）那我使用pd-ctl去把这个store delete如何？



  1. 

    

    

    

    tiup ctl:v5.2.1 pd -u http://pd-ip:2379 store delete 5
    

    2. 

  2. 

    

    

    

    Success!

看到Sucess很激动，但是pd-ctl store一看，store 5还是在记录里面。发现这一招也不管用。

（3）tiup scale-in --force强制/暴力下线该tikv如何？

tiup cluster scale-in dsp_report -N 10.203.93.36:20160 --force

执行完毕，tiup里面确实没了。虽然说眼不见心不烦，但是pd-ctl store查看tikv信息还是有，崩溃！

（4）最后只能祭出tikv-ctl工具，来删除这个region，因为我上文提到了这个region本是空reigon，删除也不影响业务。具体tikv-ctl的使用和介绍就不详细说明了，可以参见我之前的公众号文章：TiDB集群恢复之TiKV集群不可用

./tikv-ctl --db /data/deploy/data/db tombstone -r 434317 --force

这么操作后，整个世界安静了，我的“强迫症”也得到满足，这个region终于“干净”了。

PS:其他人遇到类似的问题，该排查方案可以参考；也可以先停止下线操作，先升级到高阶版本后再尝试缩容的，这里告诉大家一个小妙招：我如何收回正在执行的scale-in呢？看下面：

curl -X POST http://${pd_ip}:2379/pd/api/v1/store/${store_id}/state?state=Up

store的状态转换

最后这个小结讲讲Store状态，TiKV Store 的状态具体分为 Up，Disconnect，Offline，Down，Tombstone。各状态的关系如下：

  • Up：表示当前的 TiKV Store 处于提供服务的状态。

  • Disconnect：当 PD 和 TiKV Store 的心跳信息丢失超过 20 秒后，该 Store 的状态会变为 Disconnect 状态，当时间超过 max-store-down-time 指定的时间后，该 Store 会变为 Down 状态。

  • Down：表示该 TiKV Store 与集群失去连接的时间已经超过了 max-store-down-time 指定的时间，默认 30 分钟。超过该时间后，对应的 Store 会变为 Down，并且开始在存活的 Store 上补足各个 Region 的副本。

  • Offline：当对某个 TiKV Store 通过 PD Control 进行手动下线操作，该 Store 会变为 Offline 状态。该状态只是 Store 下线的中间状态，处于该状态的 Store 会将其上的所有 Region 搬离至其它满足搬迁条件的 Up 状态 Store。当该 Store 的 leadercount 和 regioncount (在 PD Control 中获取) 均显示为 0 后，该 Store 会由 Offline 状态变为 Tombstone 状态。在 Offline 状态下，禁止关闭该 Store 服务以及其所在的物理服务器。下线过程中，如果集群里不存在满足搬迁条件的其它目标 Store（例如没有足够的 Store 能够继续满足集群的副本数量要求），该 Store 将一直处于 Offline 状态。

  • Tombstone：表示该 TiKV Store 已处于完全下线状态，可以使用 remove-tombstone 接口安全地清理该状态的 TiKV。

本小节来自官网：https://docs.pingcap.com/zh/tidb/stable/tidb-scheduling#%E4%BF%A1%E6%81%AF%E6%94%B6%E9%9B%86

本人作者：@代晓磊_360 
发表时间：2022/4/25 原文链接：https://tidb.net/blog/ec7009ac

文章知识点与官方知识档案匹配，可进一步学习相关知识
MySQL入门技能树首页概览66768 人正在系统学习中

[转帖]TiKV 缩容不掉如何解决？的更多相关文章

  1. Mycat节点扩缩容及高可用集群方案

    数据迁移与扩容实践: 工具目前从 mycat1.6,准备工作:1.mycat 所在环境安装 mysql 客户端程序. 2.mycat 的 lib 目录下添加 mysql 的 jdbc 驱动包. 3.对 ...

  2. docker微服务部署之：七、Rancher进行微服务扩容和缩容

    docker微服务部署之:六.Rancher管理部署微服务 Rancher有两个特色用起来很方便,那就是扩容和缩容. 一.扩容前的准备工作 为了能直观的查看效果,需要修改下demo_article项目 ...

  3. Knative 基本功能深入剖析：Knative Serving 自动扩缩容 Autoscaler

    Knative Serving 默认情况下,提供了开箱即用的快速.基于请求的自动扩缩容功能 - Knative Pod Autoscaler(KPA).下面带你体验如何在 Knative 中玩转 Au ...

  4. 基于Ambari的WebUI实现服务缩容

    基于Ambari的WebUI实现服务缩容 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.实现服务的扩容 1>.进入到主机的管理界面 2>.查看主机的信息概览 3&g ...

  5. 如何根据不同业务场景调节 HPA 扩缩容灵敏度

    背景 在 K8s 1.18 之前,HPA 扩容是无法调整灵敏度的: 对于缩容,由 kube-controller-manager 的 --horizontal-pod-autoscaler-downs ...

  6. kubernetes中有状态应用的优雅缩容

    将有状态的应用程序部署到Kubernetes是棘手的. StatefulSet使它变得容易得多,但是它们仍然不能解决所有问题.最大的挑战之一是如何缩小StatefulSet而不将数据留在断开连接的Pe ...

  7. 怎么做 HDFS 的原地平滑缩容？

    背景 当数据规模越来越大,存储成本也水涨船高.随着时间推移,数据热度分布往往呈 2⁄8 原则,即 80% 的访问集中在 20% 的数据上.对于那不经常访问的 80% 数据来说,使用多个 SSD 来存储 ...

  8. Redis Cluster 集群搭建与扩容、缩容

    说明:仍然是伪集群,所有的Redis节点,都在一个服务器上,采用不同配置文件,不同端口的形式实现 前提:已经安装好了Redis,本文的redis的版本是redis-6.2.3 Redis的下载.安装参 ...

  9. Kubernetes 监控：Prometheus Adpater =》自定义指标扩缩容

    使用 Kubernetes 进行容器编排的主要优点之一是,它可以非常轻松地对我们的应用程序进行水平扩展.Pod 水平自动缩放(HPA)可以根据 CPU 和内存使用量来扩展应用,前面讲解的 HPA 章节 ...

  10. 三十三、HPA实现自动扩缩容

    通过HPA实现业务应用的动态扩缩容 HPA控制器介绍 当系统资源过高的时候,我们可以使用如下命令来实现 Pod 的扩缩容功能 $ kubectl -n luffy scale deployment m ...

随机推荐

  1. ubuntu frame 个人开发心得

    引言 有一次我在树莓派上安装 Ubuntu Core 我给创新创业项目开发一个可视化 gui 看板,用于展示数据. 然后我就找到了我需要的工具 Ubuntu Frame 初次尝试使用 Ubuntu F ...

  2. 一些JavaSE学习过程中的思路整理(三)（主观性强，持续更新中...）

    目录 一些JavaSE学习过程中的思路整理(三)(主观性强,持续更新中...) Java线程同步的几种常见情况分析 由简单到复杂的几种单例模式写法 死锁的实现与破解 使用lambda表达式化简代码 J ...

  3. ElasticSearch-1

    原文链接:https://gaoyubo.cn/blogs/52ef5bf7.html 一.Elasticsearch 架构设计 Elasticsearch 架构层: Elasticsearch 五层 ...

  4. ElasticSearch系列：基本操作(SpringDataElasticSearch)

    一.创建工程.导入坐标 1.选择Next 2.填写名称.选择位置.填写公司或组织.选择Finish 3.导入坐标 <?xml version="1.0" encoding=& ...

  5. 深度探秘.NET 5

    今年11月10号 .NET 5.0 如约而至.这是.NET All in one后的第一个版本,虽然不是LTS(Long term support)版本,但是是生产环境可用的. 有微软的背书,微软从. ...

  6. Java 查找并高亮PDF中的跨行文本

    以下内容介绍如何在Java后端程序中查找并高亮PDF文档中的跨行文本.本次测试环境如下: 源文档:PDF 编译工具:IntelliJ IDEA2018 JDK:1.8.0 PDF类库:free spi ...

  7. C#/VB.NET 添加、删除PPT幻灯片中的数字签名

    本文介绍如何通过C#及VB.NET代码来添加数字签名到PPT幻灯片文档,以及如何将文档中的数字签名删除. 辅助工具: Spire.Presentation.dll (dll版本为5.11.2) 注意: ...

  8. 【技术控请进】华为云DevCloud深色模式开发解读

    引言 近期,华为云DevCloud推出了开发者友好的深色模式,深受开发者们的喜爱和关注.大家都知道,深色模式(Dark Mode)在iOS13 引入该特性后各大应用和网站都开始支持了深色模式.在这之前 ...

  9. 【云享·人物】华为云AI高级专家白小龙：AI如何释放应用生产力，向AI工程化前行？

    摘要:AI技术发展,正由应用落地阶段向效率化生产阶段演进,AI工程化能力将会不断深入业务,释放企业生产力. 本文分享自华为云社区<[云享·人物]华为云AI高级专家白小龙:AI如何释放应用生产力, ...

  10. 解析数仓lazyagg查询重写优化规则

    摘要:为了降低调优难度,提升产品易用性,GaussDB(DWS)提供了lazyagg查询重写优化规则. 本文分享自华为云社区<GaussDB(DWS) lazyagg查询重写优化解析[这次高斯不 ...