14.5、redis-sentinel高可用

1、redis主从同步配置：

（0）主机配置：

服务器名称	ip地址	实例6379	实例6380	实例6381
controller-node1	172.16.1.90	主	从	从

（1）确定主从：

1）将redis 6379实例确定为redis主服务器；

修改redis 6379的"/data/6379/redis.conf"参数如下：

requirepass root

#redis安全保护模式认证密码设置为root；

2）将redis 6380实例和redis 6381实例确定为redis从服务器；

修改redis 6380和redis 6381实例的redis.conf文件,修改参数如下：

vim /data/6380/redis.conf | vim /data/6381/redis.conf

requirepass root

#redis安全保护模式认证密码设置为root；

replicaof 172.16.1.90 6379

#设置主从同步主库的ip和端口号；

masterauth root

#设置主从同步主库的密码；

（2）启动redis：

for nu in 79 80 81;do /data/63$nu/redis.sh start;done

START REDIS [ 确定 ]

START REDIS [ 确定 ]

START REDIS [ 确定 ]

netstat -tunlp | grep -E "6379|6380|6381"

tcp 0 0 172.16.1.90:6379 0.0.0.0:* LISTEN 1894/redis-server 1

tcp 0 0 172.16.1.90:6380 0.0.0.0:* LISTEN 1906/redis-server 1

tcp 0 0 172.16.1.90:6381 0.0.0.0:* LISTEN 1918/redis-server 1

（3）验证：

1）主6379实例：

172.16.1.90:6379> info replication

# Replication

role:master

connected_slaves:2

slave0:ip=172.16.1.90,port=6381,state=online,offset=364,lag=0

slave1:ip=172.16.1.90,port=6380,state=online,offset=364,lag=1

172.16.1.90:6379> set lc1 1

OK

172.16.1.90:6379> keys *

1) "lc1"

2）从6380实例：

172.16.1.90:6380> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6379

master_link_status:up

172.16.1.90:6380> keys *

1) "lc1"

3）从6381实例：

172.16.1.90:6381> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6379

master_link_status:up

172.16.1.90:6381> keys *

1) "lc1"

2、redis主从同步手动切换主从：

（1）关闭主redis 6379实例：

172.16.1.90:6379> shutdown

not connected>

172.16.1.90:6380> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6379

master_link_status:down

172.16.1.90:6381> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6379

master_link_status:down

（2）将redis 6380实例提升为主：

172.16.1.90:6380> slaveof no one

OK

删除"/data/6380/redis.conf"文件的参数为"replicaof 172.16.1.90 6379"；

（3）修改redis 6381实例指向新的主：

172.16.1.90:6381> slaveof 172.16.1.90 6380

OK

修改"/data/6381/redis.conf"文件的参数为"replicaof 172.16.1.90 6380";

（4）验证：

1）redis 6380实例：

172.16.1.90:6380> info replication

# Replication

role:master

connected_slaves:1

slave0:ip=172.16.1.90,port=6381,state=online,offset=1102,lag=0

2）redis 6381实例：

172.16.1.90:6381> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6380

master_link_status:up

（5）修复redis 6379实例：

修改"/data/6379/redis.conf"文件的参数为"replicaof 172.16.1.90 6380、masterauth root"

重启redis 6379实例，该实例就加入到了主从复制的集群中了；

3、redis主从同步自动切换主从：

将环境恢复到未手动切换主从前一步；

修改redis 6379实例"/data/6379/redis.conf"文件的参数为"masterauth root"，并重启redis 6379实例；

（1）redis sentinel介绍：

redis sentinel是redis官方推荐的高可用解决方案，当用redis做master-slave的高可用方案时，加入master宕机了，reids本

身(包括它的很多客户端)都没有实现主备切换，而redis-sentinel本身也是一个独立运行的进程，它能监控多个master-slave集

群，发现master宕机后能进行自动切换，实际上这意味着你可以使用Sentinel模式创建一个可以不用人为干预而应对各种故障

的Redis部署。

（2）功能：

1）监控：

Sentinel不断的检查master和slave是否正常的运行；

2）通知：

如果发现某个redis节点运行出现问题，可以通过API通知系统管理员和其他的应用程序；

3）自动故障转移：

能够进行自动切换。当一个master节点不可用时，能够选举出master的多个slave中的一个来作为新

的master，其它的slave节点会将它所追随的master的地址改为被提升为master的slave的新地址，sentinel会

修改相应redis实例的redis.conf文件添加或删除"replicaof <master-IP> <master-port>"配置；

4）配置提供者：

哨兵作为Redis客户端发现的权威来源，客户端连接到哨兵请求当前可靠的master的地址，如果发生故

障，哨兵将报告新地址；

5）sentinel的分布式特性：

很显然，只使用单个sentinel进程来监控redis集群是不可靠的，当sentinel进程宕掉后(sentinel本身也

有单点问题，single-point-of-failure)整个集群系统将无法按照预期的方式运行。所以有必要使用sentinel

集群，这样有几个好处：即使有一些sentinel进程宕掉了，依然可以进行redis集群的主备切换；如果只有

一个sentinel进程，如果这个进程运行出错，或者是网络堵塞，那么将无法实现redis集群的主备切换

如果有多个sentinel，redis的客户端可以随意地连接任意一个sentinel来获得关于redis集群中的信息。

6）sentinel的自动发现机制：

A、sentinel集群中各个sentinel都互相连接彼此来检查对方的可用性以及互相发送消息；

B、不需要在sentinel中配置某个master的所有slave的地址，sentinel会通过询问master来得到这些slave的地址的；

C、每个sentinel发送的消息中也包含了其当前维护的最新的master配置，如果某个sentinel发现自己的配置版本低于接收到的配

置版本，则会用新的配置更新自己的master配置；

D、当检测到了新的sentinel，则将其加入到自身维护的master监控列表中；

7）通常使用sentinel集群(每个redis实例设置一个sentinel)监控reids集群；

（3）配置：

1）复制编译包中的sentinel.conf文件到各个redis实例的目录：

sed -ri.bak "/#|^$/d" /application/redis/sentinel.conf

for nu in 79 80 81;do cp -a /application/redis/sentinel.conf /data/63$nu/;done

2）修改各个参数：

A、实例6379：

vim /data/6379/sentinel.conf

bind 172.16.1.90

port 26379

daemonize yes

pidfile "/data/6379/redis-sentinel.pid"

logfile "/data/6379/redis-sentinel.log"

dir "/tmp"

sentinel monitor mymaster 172.16.1.90 6379 2

sentinel auth-pass mymaster root

sentinel parallel-syncs mymaster 1

sentinel down-after-milliseconds mymaster 30000

sentinel failover-timeout mymaster 180000

sentinel deny-scripts-reconfig yes

B、实例6380：

vim /data/6380/sentinel.conf

bind 172.16.1.90

port 26380

daemonize yes

pidfile "/data/6380/redis-sentinel.pid"

logfile "/data/6380/redis-sentinel.log"

dir "/tmp"

sentinel monitor mymaster 172.16.1.90 6379 2

sentinel auth-pass mymaster root

sentinel parallel-syncs mymaster 1

sentinel down-after-milliseconds mymaster 30000

sentinel failover-timeout mymaster 180000

sentinel deny-scripts-reconfig yes

C、实例6381：

vim /data/6381/sentinel.conf

bind 172.16.1.90

port 26381

daemonize yes

pidfile "/data/6381/redis-sentinel.pid"

logfile "/data/6381/redis-sentinel.log"

dir "/tmp"

sentinel monitor mymaster 172.16.1.90 6379 2

sentinel auth-pass mymaster root

sentinel parallel-syncs mymaster 1

sentinel down-after-milliseconds mymaster 30000

sentinel failover-timeout mymaster 180000

sentinel deny-scripts-reconfig yes

D、参数说明：

cat /data/6379/sentinel.conf

bind 172.16.1.90

#绑定的ip；

port 26379

#sentinel监听的端口号；

daemonize yes

#sentinel以守护进程的方式运行；

pidfile /data/6379/redis-sentinel.pid

#sentinel以守护进程运行生成的pid文件路径；

logfile /data/6379/redis-sentinel.log

#sentinel日志文件；

dir /tmp

#进程工作的目录；

sentinel monitor mymaster 172.16.1.90 6379 2

#######################################################

#指定监控的master，2表示要2个sentinel认为redis

#主实例宕机才有效；

#######################################################

sentinel auth-pass mymaster root

#连接redis验证密码，该密码和redis.cof中配置的安全验证密码一致；

sentinel down-after-milliseconds mymaster 30000

#超过30000毫秒(30s)后认为redis主实例宕机；

sentinel parallel-syncs mymaster 1

########################################################

#发生主备切换时有1个slave同时对新的master进行同步，通常

#将这个值设为1来保证每次只有一个slave 处于不能处理命令请

#求的状态；

#########################################################

sentinel failover-timeout mymaster 180000

#当主从切换超过180000毫秒(180s)后认为主从切换失败；

sentinel deny-scripts-reconfig yes

#########################################################

#不允许使用SENTINEL SET设置notification-script和

#client-reconfig-script；

#########################################################

（4）配置sentinel脚本文件：

vim /data/6379/sentinel.sh

#!/bin/sh

. /etc/init.d/functions

export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin

IP="172.16.1.90"

PORT="6379"

SENTINEL_PORT="26379"

SENTINEL_HOME="/application/redis/src/redis-sentinel"

CONFIG="/data/$PORT/sentinel.conf"

SENTINEL_ADMIN="redis-cli -h $IP -p ${SENTINEL_PORT}"

SENTINEL_PID="/data/$PORT/redis-sentinel.pid"

[ $UID -eq 0 ] || {

echo "please use root"

exit 1

}

function usage (){

echo "USAGE:sh $0 |start|stop|restart|"

}

RETVAL=0

function check() {

RETVAL="$?"

if [ $RETVAL -eq 0 ]; then

action "$1" /bin/true

else

action "$1" /bin/false

fi

}

function start() {

if [ -f ${SENTINEL_PID} ]; then

echo "SENTINEL_${SENTINEL_PORT} IS RUNNIG......"

else

${SENTINEL_HOME} $CONFIG

check "START SENTINEL_${SENTINEL_PORT}"

fi

}

function stop() {

if [ -f ${SENTINEL_PID} ]; then

${SENTINEL_ADMIN} shutdown &>/dev/null

check "STOP SENTINEL_${SENTINEL_PORT}"

else

echo "SENTINEL_${SENTINEL_PORT} IS STOP......"

fi

}

function main(){

if [ $# -eq 1 ]; then

case "$1" in

start)

start

sleep 2

;;

stop)

stop

sleep 2

;;

restart)

stop

start

;;

*)

usage

;;

esac

else

usage

fi

}

main $*

chmod u+x sentinel.sh

说明：仿照上面的脚本，完成redis 6380实例、redis 6381实例的sentinel脚本；

（5）启动各个sentinel实例：

for nu in 79 80 81;do /data/63$nu/sentinel.sh start;done

netstat -tunlp | egrep "26379|26380|26381"

tcp 0 0 172.16.1.90:26379 0.0.0.0:* LISTEN 2475/redis-sentinel

tcp 0 0 172.16.1.90:26380 0.0.0.0:* LISTEN 2477/redis-sentinel

tcp 0 0 172.16.1.90:26381 0.0.0.0:* LISTEN 2485/redis-sentinel

（6）验证：

1）关闭主redis 6379实例：

172.16.1.90:6379> shutdown

not connected>

2）通过sentinel日志查看主从接替过程：

tailf /data/6380/redis-sentinel.log

2673:X 17 May 2019 23:21:03.206 * +slave slave 172.16.1.90:6380 172.16.1.90 6380 @ mymaster 172.16.1.90 6379

2673:X 17 May 2019 23:21:33.363 * +slave slave 172.16.1.90:6381 172.16.1.90 6381 @ mymaster 172.16.1.90 6379

2673:X 17 May 2019 23:26:45.840 # +sdown master mymaster 172.16.1.90 6379

2673:X 17 May 2019 23:26:45.907 # +new-epoch 1

2673:X 17 May 2019 23:26:45.909 # +vote-for-leader 73b994f2ff6ab006c450f8c5662861ab90ee1c04 1

2673:X 17 May 2019 23:26:45.911 # +odown master mymaster 172.16.1.90 6379 #quorum 2/2

2673:X 17 May 2019 23:26:45.911 # Next failover delay: I will not start a failover before Fri May 17 23:32:46 2019

2673:X 17 May 2019 23:26:46.384 # +config-update-from sentinel 73b994f2ff6ab006c450f8c5662861ab90ee1c04 172.16.1.90 26381 @ mymaster 172.16.1.90 6379

2673:X 17 May 2019 23:26:46.384 # +switch-master mymaster 172.16.1.90 6379 172.16.1.90 6381

2673:X 17 May 2019 23:26:46.385 * +slave slave 172.16.1.90:6380 172.16.1.90 6380 @ mymaster 172.16.1.90 6381

2673:X 17 May 2019 23:26:46.385 * +slave slave 172.16.1.90:6379 172.16.1.90 6379 @ mymaster 172.16.1.90 6381

2673:X 17 May 2019 23:27:16.424 # +sdown slave 172.16.1.90:6379 172.16.1.90 6379 @ mymaster 172.16.1.90 6381

3）查看主从信息：

A、redis 6380实例：

172.16.1.90:6380> info replication

# Replication

role:slave

master_host:172.16.1.90

master_port:6381

master_link_status:up

B、redis 6381实例：

172.16.1.90:6381> info replication

#Replication

role:master

connected_slaves:1

slave0:ip=172.16.1.90,port=6380,state=online,offset=974710,lag=1

（7）将redis 6379实例启动：

启动redis 6379实例后，sentinel 3个运行进程中的一个会在"/data/6379/redis.conf"配置文件最后一行

追加"replicaof 172.16.1.90 6381" 配置，然后重启redis 6379实例，这样redis 6379实例就会被加入到集

群中作从服务器；

（8）sentinel命令：

1）SENTINEL get-master-addr-by-name <master name>：

返回给定名字的主服务器的 IP 地址和端口号。

例：

[root@controller-node1 ~]# redis-cli -h 172.16.1.90 -p 26380

172.16.1.90:26380> sentinel get-master-addr-by-name mymaster

1) "172.16.1.90"

2) "6381"

2）PING ：

返回 PONG;

3）SENTINEL masters：

列出所有被监视的主服务器，以及这些主服务器的当前状态；

4）SENTINEL master <master name>：

显示指定master的信息和状态；

5）SENTINEL slaves <master name>：

列出给定主服务器的所有从服务器，以及这些从服务器的当前状态；

6）SENTINEL reset <pattern>：

重置所有名字和给定模式 pattern 相匹配的主服务器。 pattern 参数是一个 Glob 风格的模式。 重置

操作清楚主服务器目前的所有状态， 包括正在执行中的故障转移， 并移除目前已经发现和关联的， 主

服务器的所有从服务器和 Sentinel；

7）SENTINEL failover <master name>：

当主服务器失效时， 在不询问其他 Sentinel 意见的情况下， 强制开始一次自动故障迁移(不过发起故障转

移的 Sentinel 会向其他 Sentinel 发送一个新的配置，其他 Sentinel 会根据这个配置进行相应的更新)；

3、将redis和sentinel脚本加入开机自启动：

chmod +x /etc/rc.d/rc.local

vim /etc/rc.d/rc.local

/data/6379/redis.sh start &>/dev/null

/data/6380/redis.sh start &>/dev/null

/data/6381/redis.sh start &>/dev/null

/data/6379/sentinel.sh start &>/dev/null

/data/6380/sentinel.sh start &>/dev/null

/data/6381/sentinel.sh start &>/dev/null

加入开机自启动在启动的时候可能由于主节点不能及时启动，可能导致主节点转换，但这都不是问题，

sentinel能做好任何故障的转移，除了sentinel选举票数(宕机较多)不够；

4、sentinel模式下主从同步集群扩容：

以redis 6381实例为主库为例；

（1）建立新的redis 6382实例：

mkdir -p /data/6382/

cp -a /data/6379/sentinel.conf /data/6382/

cp -a /data/6379/sentinel.sh /data/6382/

cp -a /data/6379/redis.conf /data/6382/

cp -a /data/6379/redis.sh /data/6382/

（2）修改sentinel.sh、redis.conf、redis.sh文件的参数为对应实例的端口号和路径并确保sedis.conf配置文件中

有以下参数：

requirepass root

#redis安全保护模式认证密码设置为root；

replicaof 172.16.1.90 6381

#设置主从同步主库的ip和端口号；

masterauth root

#设置主从同步主库的密码；

（3）修改sentinel.conf的配置文件指向新的主：

bind 172.16.1.90

port 26382

daemonize yes

pidfile "/data/6382/redis-sentinel.pid"

logfile "/data/6382/redis-sentinel.log"

dir "/tmp"

sentinel monitor mymaster 172.16.1.90 6381 2

sentinel auth-pass mymaster root

sentinel parallel-syncs mymaster 1

sentinel down-after-milliseconds mymaster 30000

sentinel failover-timeout mymaster 180000

sentinel deny-scripts-reconfig yes

（4）将新的redis 6382实例加入到开机自启动即可；

5、小结：

（1）集群有密码验证的情况下每个redis实例必须要有的参数：

requirepass root

#redis安全保护模式认证密码设置为root；

masterauth root

#设置主从同步主库的密码；

哪个redis实例为主，哪个redis实例为从，由sentinel选举，然后在各个实例redis.conf文件中增删

replicaof <master ip> <master prot>参数来决定；

（2）从节点的只读是默认的(是对从节点的一种保护，有助于主从的一致性)，但是需要在redis 实例的

redis.conf文件中设置replicaof <master ip> <master prot>参数从节点只读才能生效；

（3）redis主从同步是实时异步增量同步；