好记性不如烂笔头,记录分片高可用Redis Cluster的搭建过程

Redis集群演进过程

  1. Redis单节点
  2. 主从复制:

    复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。

    故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
  3. 哨兵(Sentinel):

    在复制的基础上,哨兵实现了自动化的故障恢复。

    缺陷是写操作无法负载均衡;存储能力受到单机的限制。
  4. Cluster集群:

    通过分片集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,而且也具有故障迁移(主从切换)的功能,实现了较为完善的高可用方案。

科普特性

请对照上面的架构图

  • redis cluster不支持单机版本的16个默认数据库,仅有0数据库, select命令被禁用
  • key空间被划分为16384个哈希槽,每个master节点负责处理16384个哈希槽的子集;

    当集群没有发生重配,集群是稳定的
  • 每个master都可能有1个或多个slave节点, 这些节点将在网络分区或者发生故障时尝试替代master节点, 同时这些slave节点也可用于支撑大规模的读操作
  • 将key映射到哈希操作的算法是 hash_slot = CRC16(16)mod 16384

例外:key hash tags:

{user1000}.following和{user1000}.followers两个键值将被放在一个哈希槽,因为只有子字符串user1000将被用来计算哈希槽。

  • Cluster bus: 每个redis节点都有一个用于集群节点间通信的tcp端口(在原客户端访问端口之上加上1000),
  • 节点使用gossip协议和配置更新机制,以避免在正常情况下在节点之间交换过多的消息,因此交换的消息数量不是指数级的
  • redis客户端可以向集群中每个节点发送查询(包括从节点),节点将会分析查询key,找到负责对应哈希槽的节点。

当前节点能处理最好,不能处理将返回 MOVED error、哈希槽、能处理的节点,客户端将自行定向到特定新节点查询。

  • 一般情况下slave节点会将客户端请求重定向到负责对应哈希槽的master节点,但是为了支撑大规模读,可以给slave节点开启 READONLY

搭建Redis Cluster

本文使用一个单物理机,搭建伪Redis Cluster(3主3从)

  1. 创建redis-cluster目录,存放集群
  2. 下载最新版redis-6.2.4, 将bin目录下的可执行文件、redis.conf拷贝到同级目录redis01
  3. 修改redis01 目录下redis.conf配置:
    • port 7001
    • cluster-enabled yes // 之前被注释
  4. 将redis01拷贝多个,形成redis02, redis02, redis04, redis05,redis06 ,

    修改对应redis.conf port为7002 7003 7004 7005 7006

  1. 启动6个redis节点,使用start.sh脚本( chmod +x start.sh)

    // 每个启动命令后面的& 表示后台启动
cd redis01
./redis-server redis.conf &
cd ..
cd redis02
./redis-server redis.conf &
cd ..
cd redis03
./redis-server redis.conf &
cd ..
cd redis04
./redis-server redis.conf &
cd ..
cd redis05
./redis-server redis.conf &
cd ..
cd redis06
./redis-server redis.conf &
cd ..

  1. 准备组建redis cluster

redis 5+可以使用redis-cli 特定命令来组建集群; redis3,4使用redis-trib.rb来协助组建。

使用redis-cli --cluster命令创建由6个节点组成的redis cluser,其中cluster-replicas 1将为每个master节点创建slave节点(不带上这个cluster-replicas,会创建了6个master节点组成的redis cluster).

redis-cli --cluster create 127.0.0.1:7001 \
127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006 \
--cluster-replicas 1

  1. 验证集群状态

    使用 redis-cli -p 7001 -c登录节点

    使用cluster nodes查看节点状态

以上操作搭建了由3master 3Slave形成的高可用redis cluster,

节点角色由自动生成的nodes.conf文件维护

  1. 客户端实操


如果觉得以上过程很繁琐,Redis官方提供了另外的工具,在utils目录下存在create-cluster脚本。

  1. create-cluster start
  2. create-cluster create

    就会创建3 mater 3 slave组成的redis cluster(首节点端口从30001 开始),这样前置知识可能没有按部就班更清晰。

总结

以上就是Redis Cluster科普级别的知识, 帮助大家快速全面了解Redis Cluster, 快速搭建Redis Cluster。

好记性不如烂笔头,倒腾一次,记录一次。

最适合新手的Redis Cluster搭建过程的更多相关文章

  1. Redis Cluster搭建方法简介22211111

    Redis Cluster搭建方法简介 (2013-05-29 17:08:57) 转载▼       Redis Cluster即Redis的分布式版本,将是Redis继支持Lua脚本之后的又一重磅 ...

  2. redis cluster 部署过程

    一, 特点 高性能: 1.在多分片节点中,将16384个槽位,均匀分布到多个分片节点中 2.存数据时,将key做crc16(key),然后和16384进行取模,得出槽位值(0-16383之间) 3.根 ...

  3. Redis Cluster搭建高可用Redis服务器集群

    一.Redis Cluster集群简介 Redis Cluster是Redis官方提供的分布式解决方案,在3.0版本后推出的,有效地解决了Redis分布式的需求,当一个节点挂了可以快速的切换到另一个节 ...

  4. Redis(1.12)Redis cluster搭建常见错误

    [1]gem install redis 报错 redis-cluster安装需要通过gem install redis来安装相关依赖.否则报错.通过gem install redis执行后会出现两个 ...

  5. redis cluster搭建

    一 .准备文件: Ruby :http://www.ruby-lang.org/en/downloads/    redis-3.0.5.tar.gz Redis:http://www.redis.c ...

  6. Ubuntu 16.04在搭建Redis Cluster搭建时,使用gem install redis时出现:ERROR: While executing gem ... (Gem::FilePermissionError) You don't have write permissions for the /var/lib/gems/2.3.0 directory.

    注意:千万不要使用sudo来执行gem install redis. 解决方法: sudo apt-get update sudo apt-get install git-core curl zlib ...

  7. 新手springmvc web简单搭建过程-caidachun

    第一次做整了一天,中间各种报错,大佬肯定要嘲笑我了,但还是很有成就敢,现在只知道怎么装配,还不知道为什么,还需要学习.加油 1.新建动态web项目 2. 添加jar包,可以到网上下载,commons- ...

  8. 170103、Redis官方集群方案 Redis Cluster

    前面我们谈了Redis Sharding多服务器集群技术,Redis Sharding是客户端Sharding技术,对于服务端来说,各个Redis服务器彼此是相互独立的,这对于服务端根据需要灵活部署R ...

  9. redis cluster以及master-slave在windows下环境搭建

    一.redis cluster环境搭建: 1.了解Redis Cluster原理: 详细了解可参考:http://doc.redisfans.com/topic/cluster-tutorial.ht ...

随机推荐

  1. 中文NER的那些事儿1. Bert-Bilstm-CRF基线模型详解&代码实现

    这个系列我们来聊聊序列标注中的中文实体识别问题,第一章让我们从当前比较通用的基准模型Bert+Bilstm+CRF说起,看看这个模型已经解决了哪些问题还有哪些问题待解决.以下模型实现和评估脚本,详见 ...

  2. day-26-封装-property装饰器-反射

    一.super进阶 在多继承中:严格按照mro顺序来执行 super是按照mro顺序来寻找当前类的下一类 在py3中不需要传参数,自动就帮我们寻找当前类的mro顺序的下一个类中的同名方法 在py2中的 ...

  3. 你可能不知道的CSS元素隐藏“失效”以其妙用

    在CSS中,让元素隐藏(指屏幕范围内肉眼不可见)的方法很多,有的占据空间,有的不占据空间:有的可以响应点击,有的不能响应点击.后宫选秀--一个一个看. { display: none; /* 不占据空 ...

  4. php浮点数(float)运算中转整形(int)问题

    今天工作中遇见了一个浮点数转整形的问题,特此记录一下,防止以后再次踩坑. 实例: $f = 0.58; var_dump(intval($f * 100.0)); 也许你认为他会输出58,但是实际上他 ...

  5. Netcat瑞士军刀的简单使用

    目录 Netcat 常用参数: 常见的用法: 端口扫描: 聊天 文件传输 反弹shell 蜜罐 Netcat Netcat 常称为 nc,拥有"瑞士军刀"的美誉.nc 小巧强悍,可 ...

  6. 接口测试原理及Postman详解

    接口测试定义 接口是前后端沟通的桥梁,是数据传输的通道,包括外部接口.内部接口.内部接口又包括:上层服务与下层服务接口,同级接口 生活中常见接口:电脑上的键盘.USB接口,电梯按钮,KFC下单 接口测 ...

  7. opencv——图像遍历以及像素操作

    摘要 我们在图像处理时经常会用到遍历图像像素点的方式,在OpenCV中一般有四种图像遍历的方式,在这里我们通过像素变换的点操作来实现对图像亮度和对比度的调整. 补充: 图像变换可以看成 像素变换--点 ...

  8. SpringBoot简单尝试

    一.spring boot核心 配置在类路径下autoconfigure下(多瞅瞅) @SpringBootApplication里的重要注解(@Configuration,@EnableAutoCo ...

  9. PSP初体验:求交点

    项目 内容 课程:北航2020春软件工程 博客园班级博客 作业:完成一个平面图形求交点的程序,体验PSP的过程 个人项目作业 我在这个课程的目标是 体验软件开发的全流程 这个作业在哪个具体方面帮助我实 ...

  10. 企业是否可以用CRM做邮件营销?

    最近总有一些从事外贸,跨境电商的朋友问小Z:"我的企业能用CRM做邮件营销吗?" 我回答:"能,Zoho CRM系统不但能用来发营销邮件,还发得聪明.发得到位." ...