[mysql]MGR简介与部署
前言
MySQL Group Replication,简称MGR,是MySQL官方于2016年推出的一个全新的高可用解决方案,采用Paxos分布式一致性协议作为高可用和一致性解决方案。在MGR之前的高可用方案,本质上都是主从架构,多主发生脑裂时可能会导致双写问题,这在金融领域是不可忍受的,因此为了避免脑裂,大多数采用的还是单写。而MGR在多写模式下支持集群中的所有节点都可以写入,并保证一致性。
特点
- 支持多节点并发执行事务,并且保证副本之间数据一致。
- 自动事务冲突检测。
- 数据强一致性保障
- 容错性高。只要没有超过半数的节点故障就不影响集群整体可用性。
服务模式
MGR支持单主模式和多主模式,单主模式下只有一个节点负责写,但可以从任意节点读取。多主模式就是多写模式,写操作会下发到组内所有节点,组内所有节点同时可读可写。根据配置文件的参数 group_replication_single_primary_mode 确定是运行在单主模式还是多主模式。
单主模式下,如果主节点故障,MGR会自动选举出一个新的主节点,并设置为可写,其它从节点将指向这个新主节点。但是主节点漂移后,MGR并不会将客户端请求转移到新节点,这需要应用层或者中间件去解决。
多主模式不支持SERIALIZABLE串行隔离级、不完全支持级联外键约束、不完全支持并行执行ddl
注意事项
- MGR只支持InnoDB存储引擎,并且表中必须有显式主键
部署
环境
- 系统版本:centos 7
- docker版本:19.03
- mysql版本:8.0.22
- 架构:单机启动三个MySQL容器,MGR模式为单主模式
相关参数
# 单主模式还是多主模式,ON表示单主,OFF表示多主
group_replication_single_primary_mode
配置文件(docker环境)
[mysqld]
pid-file = /var/run/mysqld/mysqld.pid
socket = /var/run/mysqld/mysqld.sock
datadir = /var/lib/mysql
log-error=/var/lib/mysql/error.log
# 监听端口,建议docker映射时对等映射
port=4306
secure-file-priv=NULL
#skip-host-cache
#skip-name-resolve
character_set_server = utf8mb4
max_connections=5000
# 大小写不敏感
lower_case_table_names = 1
max_user_connections=3000
max_allowed_packet=32M
sql_mode=STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,NO_ENGINE_SUBSTITUTION,ERROR_FOR_DIVISION_BY_ZERO
# 事务隔离级别
transaction_isolation=READ-COMMITTED
wait_timeout=300
default-time_zone='+8:00'
# 每台主机server-id必须不一样
server_id=100
# binlog自动删除5天前的
binlog_expire_logs_seconds=432000
# MGR中binlog格式必须为row
binlog-format=row
# MGR要求binlog校验规则为NONE
binlog_checksum=NONE
# MGR要求把主从复制信息记录到表中
master_info_repository=TABLE
relay_log_info_repository=TABLE
# 将从节点从主节点收到的更新记录记入到从节点自己的二进制日志文件中
log-slave-updates=on
# 禁止非innodb的存储引擎
disabled_storage_engines="MyISAM,BLACKHOLE,FEDERATED,ARCHIVE,MEMORY"
# MGR模式下gtid必须开启
gtid-mode=on
enforce-gtid-consistency=on
# 必须为每个事务收集写集合,使用XXHASH算法将其编码为散列
transaction_write_set_extraction=XXHASH64
# 载入mgr插件
plugin_load_add='group_replication.so'
# mgr名字,集群中唯一,集群中其他节点该参数应保持一致
group_replication_group_name="7119d536-04c4-11ed-9adf-0242ac120002"
# 关闭重启MySQL时自动打开MGR,避免故障恢复时出现特殊情况影响数据准确性
group_replication_start_on_boot=off
group_replication_bootstrap_group=off
# 当前节点的ip和集群通信端口号
group_replication_local_address="mgr1:43061"
# 其它节点的ip和集群通信端口号
group_replication_group_seeds= "mgr1:43061,mgr2:43071,mgr3:43081"
# 服务模式
group_replication_single_primary_mode=on
# 密码策略
default_authentication_plugin=mysql_native_password
innodb_buffer_pool_size=256M
[mysql]
default-character-set = utf8mb4
#character-set-server=utf8
[mysql.server]
default-character-set = utf8mb4
#character-set-server=utf8
[mysqld_safe]
default-character-set = utf8mb4
#character-set-server=utf8
[client]
default-character-set = utf8mb4
#character-set-server=utf8
# Custom config should go here
!includedir /etc/mysql/conf.d/
三节点的配置文件内容只有port、server_id和group_replication_local_address不一样。
由于MySQL 8.0.18修改了插件加载策略,所以docker安装MySQL的时候,要把mgr相关的参数先注释掉。也就是把 plugin_load_add、group_replication_group_name、group_replication_start_on_boot、group_replication_start_on_boot、group_replication_local_address、group_replication_group_seeds、group_replication_single_primary_mode这几个参数暂时先注释掉,初始化完成后再取消注释。
准备
mkdir -p /home/apps/mgr{1..3}/{conf,data}
# 将配置文件分别拷贝到conf目录,注意根据实际情况修改参数
使用docker-compose创建容器
- docker-compose.yaml示例。
8.0.22有点bug,用端口映射的方式在启动mgr的时候会报错找不到网卡,所以网络模式用的host。另外hosts文件也要映射进去,根据ip启动mgr时候可能会找不到其它节点。hosts文件中写主机名和ip的映射关系。
version: "3"
services:
mgr1:
image: mysql:8.0.22
container_name: mgr1
network_mode: "host"
volumes:
- /home/apps/mgr1/data:/var/lib/mysql
- /home/apps/mgr1/conf/my.cnf:/etc/mysql/my.cnf
- /etc/localtime:/etc/localtime:ro
- /etc/hosts:/etc/hosts:ro
ports:
- 4306:4306
- 43061:43061
environment:
- MYSQL_ROOT_PASSWORD=123456
mgr2:
image: mysql:8.0.22
container_name: mgr2
network_mode: "host"
volumes:
- /home/apps/mgr2/data:/var/lib/mysql
- /home/apps/mgr2/conf/my.cnf:/etc/mysql/my.cnf
- /etc/localtime:/etc/localtime:ro
- /etc/hosts:/etc/hosts:ro
ports:
- 4307:4307
- 43071:43071
environment:
- MYSQL_ROOT_PASSWORD=123456
mgr3:
image: mysql:8.0.22
container_name: mgr3
network_mode: "host"
volumes:
- /home/apps/mgr3/data:/var/lib/mysql
- /home/apps/mgr3/conf/my.cnf:/etc/mysql/my.cnf
- /etc/localtime:/etc/localtime:ro
- /etc/hosts:/etc/hosts:ro
ports:
- 4308:4308
- 43081:43081
environment:
- MYSQL_ROOT_PASSWORD=123456
- 先注释掉
my.cnf中关于mgr的参数,创建容器并初始化
docker-compose up -d
- 启动完成后,随便进一个容器内的mysql控制台,看看MySQL运行是否正常,确认正常后退回到宿主机。
- 停止docker容器,并恢复配置文件中mgr相关的参数
docker-compose stop
# 修改三节点的my.cnf
docker-compose start
- 登录docker中的MySQL控制台,查看mgr插件是否已加载:
show plugins;
创建用户
三个节点创建用户用于同步,需要注意的是,创建用户和修改密码的操作需要关闭binlog,执行后再打开。
set sql_log_bin=0;
reset master;
create user rpl_user@'%' identified by '123456';
GRANT REPLICATION SLAVE ON *.* TO rpl_user@'%';
GRANT CONNECTION_ADMIN ON *.* TO rpl_user@'%';
GRANT BACKUP_ADMIN ON *.* TO rpl_user@'%';
-- 8.0.27版本需要授予GROUP_REPLICATION_STREAM权限
-- GRANT GROUP_REPLICATION_STREAM ON *.* TO rpl_user@'%';
-- grant replication slave on *.* to rpl_user@'%' identified by '123456';
flush privileges;
set sql_log_bin=1;
创建同步规则认证信息
每个节点都要配置
change master to master_user='rpl_user',master_password='123456' for channel 'group_replication_recovery';
-- MySQL 8.0.23后命令会不一样
CHANGE REPLICATION SOURCE TO SOURCE_USER='rpl_user', SOURCE_PASSWORD='123456' FOR CHANNEL 'group_replication_recovery';
安装插件
可以先执行show plugins;查看group_replication是否已加载,如果没有则手动加载
INSTALL PLUGIN group_replication SONAME 'group_replication.so';
启动mgr
启动mgr
-- 先在主节点初始化
SET GLOBAL group_replication_bootstrap_group=ON;
-- 8.0.21之前
START GROUP_REPLICATION;
-- 8.0.21及其之后也可以换一种方式
-- START GROUP_REPLICATION USER='rpl_user', PASSWORD='123456';
-- 关闭group_replication_bootstrap_group
SET GLOBAL group_replication_bootstrap_group=OFF;
-- 主节点成功执行后,在其它节点执行 START GROUP_REPLICATION;
查看mgr集群状态
SELECT * FROM performance_schema.replication_group_members;
测试
建库建表测试
参考
- 宋立恒- MySQL性能优化和高可用架构实践
- 官方在线文档
[mysql]MGR简介与部署的更多相关文章
- 01 . Mysql简介及部署
Mysql数据库简介 什么是数据? 数据(data)是事实或观察的结果,是对客观事物的逻辑归纳,是用于表示客观事物的未经加工的原始素材,数据是信息的表现形式和载体,可以是符号,文字,数字,语音,图 ...
- MySQL MGR+ Consul之数据库高可用方案
背景说明: 基于目前存在很多MySQL数据库单点故障,传统的MHA,PXC等方案用VIP或者DNS切换的方式可以实现.基于数据库的数据强一致性考虑,采用MGR集群,采用consul服务注册发现 ...
- 深入详解美团点评CAT跨语言服务监控(一) CAT简介与部署
前言: CAT是一个实时和接近全量的监控系统,它侧重于对Java应用的监控,除了与点评RPC组件融合的很好之外,他将会能与Spring.MyBatis.Dubbo 等框架以及Log4j 等结合,支持P ...
- Linux下MySQL主从复制(Binlog)的部署过程
什么是 MySQL 的主从复制 Mysql内建的复制功能是构建大型高性能应用程序的基础, 将Mysql数据分布到多个系统上,这种分布机制是通过将Mysql某一台主机数据复制到其它主机(slaves)上 ...
- LVS+MYCAT+读写分离+MYSQL主备同步部署手册
LVS+MYCAT+读写分离+MYSQL主备同步部署手册 1 配置MYSQL主备同步…. 2 1.1 测试环境… 2 1.2 配置主数据库… 2 1.2.1 ...
- 【转载】LVS+MYCAT+读写分离+MYSQL主备同步部署手册(邢锋)
LVS+MYCAT+读写分离+MYSQL主备同步部署手册 1 配置MYSQL主备同步…. 2 1.1 测试环境… 2 1.2 配置主数据库… 2 1.2.1 ...
- .NET Core+MySql+Nginx 容器化部署
.NET Core容器化@Docker .NET Core容器化之多容器应用部署@Docker-Compose .NET Core+MySql+Nginx 容器化部署 GitHub-Demo:Dock ...
- MySql 正则表达式简介及使用
MySql正则表达式简介及使用 by:授客 QQ:1033553122 简介 正则表达式描述了一组字符串,该字符放置于REGEXP工具后面.作用是将一个正则表达式与一个文本串进行比较. 最简单的正则表 ...
- 云服务器+tomcat+mysql+web项目搭建部署
云服务器+tomcat+mysql+web项目搭建部署 1.老样子,开头墨迹两句. 作为我的第二篇文章,有很多感慨,第一篇人气好低啊,有点小丧气,不过相信我还是经验少,分享的都是浅显的,所以大家可能不 ...
- MySQL MGR集群单主模式的自动搭建和自动化故障修复
随着MySQL MGR的版本的升级以及技术成熟,在把MHA拉下神坛之后, MGR越来越成为MySQL高可用的首选方案.MGR的搭建并不算很复杂,但是有一系列手工操作步骤,为了简便MGR的搭建和故障诊断 ...
随机推荐
- 2023-03-05:ffmpeg推送本地视频至lal流媒体服务器(以RTMP为例),请用go语言编写。
2023-03-05:ffmpeg推送本地视频至lal流媒体服务器(以RTMP为例),请用go语言编写. 答案2023-03-05: 使用 github.com/moonfdd/ffmpeg-go 库 ...
- 2022-12-30:某天小美进入了一个迷宫探险,根据地图所示,这个迷宫里有无数个房间 序号分别为1、2、3、...入口房间的序号为1 任意序号为正整数x的房间,都与序号 2*x 和 2*x + 1
2022-12-30:某天小美进入了一个迷宫探险,根据地图所示,这个迷宫里有无数个房间 序号分别为1.2.3.-入口房间的序号为1 任意序号为正整数x的房间,都与序号 2x 和 2x + 1 的房间之 ...
- 2022-12-09:上升的温度。以下的数据输出2和4,2015-01-02 的温度比前一天高(10 -> 25),2015-01-04 的温度比前一天高(20 -> 30),sql语句如何写? DR
2022-12-09:上升的温度.以下的数据输出2和4,2015-01-02 的温度比前一天高(10 -> 25),2015-01-04 的温度比前一天高(20 -> 30),sql语句如 ...
- 2022-10-06:以下go语言代码输出什么?A:[1 2 3] [1 2 3] ;B:[1 2 3] [3 4 5]; C:[1 2 3] [3 4 5 6 7 8 9];D:[1 2 3] [3
2022-10-06:以下go语言代码输出什么?A:[1 2 3] [1 2 3] :B:[1 2 3] [3 4 5]: C:[1 2 3] [3 4 5 6 7 8 9]:D:[1 2 3] [3 ...
- docker安装kibana,报错Kibana server is not ready yet,未解决
1.命令 docker run -d -e ELASTICSEARCH_URL=http://192.168.101.158:9200 -p 5601:5601 --name kibana kiban ...
- 解决pytest+allure报告中文乱码
在conftest文件里添加钩子函数: def pytest_collection_modifyitems(items): """ 测试用例收集完成时,将收集到的item ...
- Bracket Sequence
F. Bracket Sequence time limit per test 0.5 seconds memory limit per test 256 megabytes input standa ...
- 【技术分享】万字长文图文并茂读懂高性能无锁 “B-Tree 改”:Bw-Tree
[技术分享]万字长文图文并茂读懂高性能无锁 "B-Tree 改":Bw-Tree 原文链接: https://mp.weixin.qq.com/s/I5TphQP__tHn6JoP ...
- 【lwip】14-TCP协议分析之TCP协议之可靠传输的实现(TCP干货)
lwip_14_TCP协议之可靠传输的实现 前言 前面章节太长了,不得不分开. 这里已源码为主,默认读者已知晓概念或原理,概念或原理可以参考前面章节,有分析. 参考:李柱明博客:https://w ...
- 图解三代测序(SMRT Sequencing)
目前主流三代测序平台除了Oxford 家的 Nanopore,还有 Pacific Biosciences(简称 PacBio)公司的 Single Molecule Real-Time(SMRT)S ...