好记性不如烂笔头,记录分片高可用Redis Cluster的搭建过程

Redis集群演进过程

  1. Redis单节点
  2. 主从复制:

    复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。

    故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制。
  3. 哨兵(Sentinel):

    在复制的基础上,哨兵实现了自动化的故障恢复。

    缺陷是写操作无法负载均衡;存储能力受到单机的限制。
  4. Cluster集群:

    通过分片集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,而且也具有故障迁移(主从切换)的功能,实现了较为完善的高可用方案。

科普特性

请对照上面的架构图

  • redis cluster不支持单机版本的16个默认数据库,仅有0数据库, select命令被禁用
  • key空间被划分为16384个哈希槽,每个master节点负责处理16384个哈希槽的子集;

    当集群没有发生重配,集群是稳定的
  • 每个master都可能有1个或多个slave节点, 这些节点将在网络分区或者发生故障时尝试替代master节点, 同时这些slave节点也可用于支撑大规模的读操作
  • 将key映射到哈希操作的算法是 hash_slot = CRC16(16)mod 16384

例外:key hash tags:

{user1000}.following和{user1000}.followers两个键值将被放在一个哈希槽,因为只有子字符串user1000将被用来计算哈希槽。

  • Cluster bus: 每个redis节点都有一个用于集群节点间通信的tcp端口(在原客户端访问端口之上加上1000),
  • 节点使用gossip协议和配置更新机制,以避免在正常情况下在节点之间交换过多的消息,因此交换的消息数量不是指数级的
  • redis客户端可以向集群中每个节点发送查询(包括从节点),节点将会分析查询key,找到负责对应哈希槽的节点。

当前节点能处理最好,不能处理将返回 MOVED error、哈希槽、能处理的节点,客户端将自行定向到特定新节点查询。

  • 一般情况下slave节点会将客户端请求重定向到负责对应哈希槽的master节点,但是为了支撑大规模读,可以给slave节点开启 READONLY

搭建Redis Cluster

本文使用一个单物理机,搭建伪Redis Cluster(3主3从)

  1. 创建redis-cluster目录,存放集群
  2. 下载最新版redis-6.2.4, 将bin目录下的可执行文件、redis.conf拷贝到同级目录redis01
  3. 修改redis01 目录下redis.conf配置:
    • port 7001
    • cluster-enabled yes // 之前被注释
  4. 将redis01拷贝多个,形成redis02, redis02, redis04, redis05,redis06 ,

    修改对应redis.conf port为7002 7003 7004 7005 7006

  1. 启动6个redis节点,使用start.sh脚本( chmod +x start.sh)

    // 每个启动命令后面的& 表示后台启动
cd redis01
./redis-server redis.conf &
cd ..
cd redis02
./redis-server redis.conf &
cd ..
cd redis03
./redis-server redis.conf &
cd ..
cd redis04
./redis-server redis.conf &
cd ..
cd redis05
./redis-server redis.conf &
cd ..
cd redis06
./redis-server redis.conf &
cd ..

  1. 准备组建redis cluster

redis 5+可以使用redis-cli 特定命令来组建集群; redis3,4使用redis-trib.rb来协助组建。

使用redis-cli --cluster命令创建由6个节点组成的redis cluser,其中cluster-replicas 1将为每个master节点创建slave节点(不带上这个cluster-replicas,会创建了6个master节点组成的redis cluster).

redis-cli --cluster create 127.0.0.1:7001 \
127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006 \
--cluster-replicas 1

  1. 验证集群状态

    使用 redis-cli -p 7001 -c登录节点

    使用cluster nodes查看节点状态

以上操作搭建了由3master 3Slave形成的高可用redis cluster,

节点角色由自动生成的nodes.conf文件维护

  1. 客户端实操


如果觉得以上过程很繁琐,Redis官方提供了另外的工具,在utils目录下存在create-cluster脚本。

  1. create-cluster start
  2. create-cluster create

    就会创建3 mater 3 slave组成的redis cluster(首节点端口从30001 开始),这样前置知识可能没有按部就班更清晰。

总结

以上就是Redis Cluster科普级别的知识, 帮助大家快速全面了解Redis Cluster, 快速搭建Redis Cluster。

好记性不如烂笔头,倒腾一次,记录一次。

最适合新手的Redis Cluster搭建过程的更多相关文章

  1. Redis Cluster搭建方法简介22211111

    Redis Cluster搭建方法简介 (2013-05-29 17:08:57) 转载▼       Redis Cluster即Redis的分布式版本,将是Redis继支持Lua脚本之后的又一重磅 ...

  2. redis cluster 部署过程

    一, 特点 高性能: 1.在多分片节点中,将16384个槽位,均匀分布到多个分片节点中 2.存数据时,将key做crc16(key),然后和16384进行取模,得出槽位值(0-16383之间) 3.根 ...

  3. Redis Cluster搭建高可用Redis服务器集群

    一.Redis Cluster集群简介 Redis Cluster是Redis官方提供的分布式解决方案,在3.0版本后推出的,有效地解决了Redis分布式的需求,当一个节点挂了可以快速的切换到另一个节 ...

  4. Redis(1.12)Redis cluster搭建常见错误

    [1]gem install redis 报错 redis-cluster安装需要通过gem install redis来安装相关依赖.否则报错.通过gem install redis执行后会出现两个 ...

  5. redis cluster搭建

    一 .准备文件: Ruby :http://www.ruby-lang.org/en/downloads/    redis-3.0.5.tar.gz Redis:http://www.redis.c ...

  6. Ubuntu 16.04在搭建Redis Cluster搭建时,使用gem install redis时出现:ERROR: While executing gem ... (Gem::FilePermissionError) You don't have write permissions for the /var/lib/gems/2.3.0 directory.

    注意:千万不要使用sudo来执行gem install redis. 解决方法: sudo apt-get update sudo apt-get install git-core curl zlib ...

  7. 新手springmvc web简单搭建过程-caidachun

    第一次做整了一天,中间各种报错,大佬肯定要嘲笑我了,但还是很有成就敢,现在只知道怎么装配,还不知道为什么,还需要学习.加油 1.新建动态web项目 2. 添加jar包,可以到网上下载,commons- ...

  8. 170103、Redis官方集群方案 Redis Cluster

    前面我们谈了Redis Sharding多服务器集群技术,Redis Sharding是客户端Sharding技术,对于服务端来说,各个Redis服务器彼此是相互独立的,这对于服务端根据需要灵活部署R ...

  9. redis cluster以及master-slave在windows下环境搭建

    一.redis cluster环境搭建: 1.了解Redis Cluster原理: 详细了解可参考:http://doc.redisfans.com/topic/cluster-tutorial.ht ...

随机推荐

  1. 持续集成 简介&环境搭建

    1. 持续集成简介 2. 持续集成环境搭建(Jenkins) 2.1 Git 安装 2.2 JDK 1.8 安装 2.3 Tomcat 安装 2.4 Maven 简介和安装 2.5 Jenkins 安 ...

  2. PowerBI开发 第十八篇:行级安全(RLS)

    PowerBI可以通过RLS(Row-level security)限制用户对数据的访问,过滤器在行级别限制数据的访问,用户可以在角色中定义过滤器,通过角色来限制数据的访问.在PowerBI Serv ...

  3. 如何使用Vue中的slot

    之前看官方文档,由于自己理解的偏差,不知道slot是干嘛的,看到小标题,使用Slot分发内容,就以为 是要往下派发内容.然后就没有理解插槽的概念.其实说白了,使用slot就是先圈一块地,将来可能种花种 ...

  4. JavaScript动态设置div的样式的方法

    有时候需要根据需要动态设置div的样式,当然对于稍有经验的javascript开发者来说,这一切都是那么的简单,但是对于初学者或者说没有相关经验的开发者来说可能就是一个不大不小的难关,下面就通过实例简 ...

  5. 让访问pc端的官网直接跳转到移动端的网站代码

    <SCRIPT LANGUAGE="JavaScript"> function mobile_device_detect(url) { var thisOS=navig ...

  6. 技术面试问题汇总第003篇:猎豹移动反病毒工程师part3

    从现在开始,面试的问题渐渐深入.这次的三个问题,都是对PE格式的不断深入的提问.从最初的概念,到病毒对PE格式的利用,再到最后的壳的问题.这里需要说明的是,由于壳是一个比较复杂的概念,面试中也仅仅只能 ...

  7. 【原创】ansible常用模块整理

    一.Ansible模块帮助 ansible-doc -l # 列出 Ansible 支持的模块 ansible-doc ping # 查看该模块帮助信息 二.远程命令模块 2.1command com ...

  8. POJ3498最大流,枚举终点,企鹅,基础最大流

    题意:       有一n个冰块,每个冰块上都有一些企鹅,所有的企鹅要跳到一个冰块上去,但是由于起跳是的后坐力原因导致每个冰块最多条mi次,最后问你所有的企鹅都跳到一个冰块上去的那块冰块可以是哪一块, ...

  9. POJ1149 最大流经典建图PIG

    题意:       有一个人,他有m个猪圈,每个猪圈里都有一定数量的猪,但是他没有钥匙,然后依次来了n个顾客,每个顾客都有一些钥匙,还有他要卖猪的数量,每个顾客来的时候主人用顾客的钥匙打开相应的门,可 ...

  10. Windows核心编程 第四章 进程(上)

    第4章 进 程     本章介绍系统如何管理所有正在运行的应用程序.首先讲述什么是进程,以及系统如何创建进程内核对象,以便管理每个进程.然后将说明如何使用相关的内核对象来对进程进行操作.接着,要介绍进 ...