有生之年系列----MySQL5.7之多源复制&Nginx中间件(下)-wangwenan6-ITPUB博客
http://blog.itpub.net/29510932/viewspace-1977034/

前文:http://blog.itpub.net/29510932/viewspace-1974937/
-------------------------------------------------------------------------------------正文------------------------------------------------------------------------------------
之前有写了一点验证多源复制的东西,下半篇写点Nginx的东西;
背景:赶
环境:MySQL-5.7.9 x 4,Nging-1.9.7 x 1,五台虚拟机
总体思路:
四个MySQL实例组成双主双从的多源复制结构,Nginx放在前端,对应用层屏蔽DB层细节,同时由Nginx来完成负载均衡/读写分离和“伪HA”

使用的Nginx配置

简单试一下功能,连接的时候指定host,使用TCP的方式去连接61上面的Nginx,可以看到成功的登录了MySQL,

在两台主库上面找一找,发现这个链接发送到了67上面

既然连进来了,通过一个纯粹做请求转发的Nginx之后, 普通的操作应该是没什么问题,试验略过;
连接write的upstream和连接read的upstream没什么本质上的区别,试验略过;
通过Nginx做中间件来实现读写分离的话,只需要在URL中连接不同的端口就可以了,试验略过;
多个连接同时连到这个Nginx的写库(主库),可以看到连接被分到了不同的服务器上,

提问:如果有session连接在某一台主库上,然后那台主库出问题挂掉了,客户端的状态?
解惑:kill主库的mysql进程,模拟down机;

有两个客户端出现了重连的提示,另外两个一切正常;

存活的主库状态,可以看到请求都转到了存活的主库上;

结论:对客户端来说,虽然保持连接的那个主库挂掉了,但是在前端来看,就像是连接超时被断开了一样,并不会感受到端口为13579的主库已经挂掉了;
读库同理,验证略过;

额外发现的断开连接现象在Nginx设置的timeout也会有一定的影响,接上图的状态,一直不去操作这几个客户端,在超时时间之后,会在MySQL端输出如下错误日志;

重新操作一下几个客户端,会看到所有的连接其实都断开了;

解惑:连接建立以后,空闲的时间超过Nginx(proxy_timeout)和MySQL的设置中比较短的那个之后,就会自行断开;
结论:和Nginx+Tomcat的反向代理一样,超时时间的设置也要注意一下;

提问:某一个库(以上面挂掉的那个主库为例)挂掉之后,fail_timeout的时间之后,这个主库恢复了,会不会自动加回列表?
解惑:为了方便测试,改一下fail_timeout的时间,然后关掉主库67,重启Nginx以后,再启动67,等待一段时间,


间隔的时间稍微久了点, 不过重新开启连接以后,可以看到有连接重新进来了,fail_timeout的设置还是ok的,在超过这个时间段以后,Nginx会去检测后端服务器的状况,把启动起来的服务器重新加进来;
结论:Nginx作为一个中间件,可以做到“自动移除挂掉的机器/自动加回恢复的机器”;
PS:如果是启动了,正在恢复数据的话,最好还是把出问题的库从upstream移除比较好;

提问:在upstream的配置中,写的是通过hash的方式去转发连接,那么是否可以像Nginx+Tomcat的反向代理一样,采用权重等其他的方式来转发连接?
解惑:试一下;为了方便看效果,简单改一下Nginx的配置

连接四个客户端以后,看看两个主库的连接;

可以看到连接都转发到了65主库上面去了;
结论:权重的配置是可以生效的,这样的话,可以根据实际要求,用不同配置的MySQL实例来搭建这种类似的架构;

提问:既然使用Nginx作为中间件,可以做到“自动移除挂掉的机器/自动加回恢复的机器”,也对前端屏蔽了后端DB架构上的细节,不会发现某个DB不可用,为什么要描述成“伪HA”?
解惑:个人观点,确实,通过Nginx的中间件,去访问后端的MySQL,确实是具备了HA的样子;某个MySQL实例挂掉了,不会导致整个DB系统无法运行;失败的MySQL实例恢复以后能自动加入;
但是用Nginx做中间件有两个很明显的短板:Nginx的端口是作为对外的唯一出口暴露给应用层的, Nginx本身的HA需要其他方式去保障(不像VIP,就算admin或者worker挂掉了,也不影响数据库访问);
另一个更重要的缺点,就是两个主库全部挂了以后,Nginx本身不能新选举一个从库作为新的master来重新搭建新的主从架构;
这两个短板,尤其是第二个短板,如果是很严格的HA环境和要求,这第二个短板是非常致命的,想要弥补这个,自行开发一套/修改开源工具也许能做到;

追问:存在这么明显/严重的短板,多源复制+Nginx的中间件,到底好用么?
解惑:个人观点,还不错;
1.Nginx的单出口问题,完全可以通过启动多个实例(分开的)指向同一套后端数据库来提高可用性(keepalived也可以)
2.不能选举新Master的问题,在5.7的多源复制功能中,可以横向增加Master的数量,完全靠更多的实例来提高可用性,
这么做,可能会使N主之间的数据一致性受到影响,不过只需要在读库的upstream里面剔除掉这些主库就行了;
3.完全用提高实例数的方式去提高可用性,个别的实例(不管主或者从)挂掉了,基本上不会影响到业务,所表现出来的,只是“某些事务异常中断了”,需要应用层重试,
而不是mha那样,主库挂了需要一段时间来重建主从结构;
-------------------------------------------------------------------------------------尾声------------------------------------------------------------------------------------
总算是写完了,写之前很痛苦,觉得好多东西要整理;写的时候也很痛苦,真正想表达出来的一些时候,觉得好多东西要考证;写完以后也很痛苦,觉得有更多的东西可以尝试;_(:з」∠)_
不管怎么样,这种多源复制+Nginx中间件的做法,走的是一种用数量来提高整个DB系统的可用性的思路,也许能蹭到一点“集群”的边?(倒下了一个主库,还有千千万个主库
--------------------------------------------------------------------------------------赶-------------------------------------------------------------------------------------

 
 

MySQL5.7之多源复制&Nginx中间件(下)【转】的更多相关文章

  1. MySQL5.7之多源复制&Nginx中间件(上)【转】

    有生之年系列----MySQL5.7之多源复制&Nginx中间件(上)-wangwenan6-ITPUB博客http://blog.itpub.net/29510932/viewspace-1 ...

  2. MySql5.7-多源复制(多主单从)

    1.1.主库配置 my.cnf   #确保唯一 server-id=1 #作为Master要开启binlog log-bin=mysql-bin #binlog format有三种形式:Stateme ...

  3. mysql5.7 安装和多源复制实践

    MySQL 5.7发布后,在复制方面有了很大的改进和提升.比如开始支持多源复制(multi-source)以及真正的支持多线程复制了.多源复制可以使用基于二进制日子的复制或者基于事务的复制.下面我们说 ...

  4. MySQL5.7多主一从(多源复制)同步配置

    MySQL5.7多主一从(多源复制)同步配置(抄袭) 原文地址:https://my.oschina.net/u/2399373/blog/2878650 多主一从,也称为多源复制,数据流向: 主库1 ...

  5. MySQL5.7多源复制

    MySQL5.7开始支持多源复制,也就是多主一从的复制架构: 使用多源复制的考虑: 1.灾备作用:将各个库汇总在一起,就算是其他库都挂了(整个机房都无法连接了),还有最后一个救命稻草: 2.备份:直接 ...

  6. MySQL5.7多源复制实践

    MySQL5.7开始新增多源复制功能,即允许一个salve同时复制多个主库的事务,slave会创建通往每个主库的管道.多源复制在应用来自多个源的事务的时候不会对有冲突的事务进行检测. 配置实现 主库支 ...

  7. MySQL5.7 多源复制监控脚本

    #!/bin/bash :<<BLOCK Version : v1.0 2018-12-21 MySQL多源复制检测脚本 监控配置放在 $CONFIG_FILE 中,内容如下 #mysql ...

  8. 初试mysql5.7.2新特性:多源复制(MySQL 5.7 multi-source replication)

    多源复制和多主复制的区别: 多主复制示意图: 多源复制示意图: 在my.cnf中添加crash safe特性参数:master_info_repository=TABLE;relay_log_info ...

  9. Mysql5.7多源复制,过滤复制一段时间后增加复制一个库的实现方法

    多源复制如果是整个实例级别的复制,那不存在下面描述的情况. 如果是对其中一个或多个主实例都是过滤复制,并且运行一段时间后,想在这个源上再增加一个库怎么实现?   主1:192.168.1.10 330 ...

随机推荐

  1. BZOJ2958 序列染色(动态规划)

    令f[i][0/1/2][0/1]表示前i位,不存在满足要求的B串和W串/存在满足要求的B串不存在W串/存在满足要求的B串和W串,第i位填的是B/W的方案数.转移时考虑连续的一段填什么.大讨论一波后瞎 ...

  2. 深入理解JAVA虚拟机JVM

    深入理解JAVA虚拟机JVM Java 虚拟机(Java virtual machine,JVM)是运行 Java 程序必不可少的机制.java之所以能实现一次编写到处执行,也就是因为jVM.原理:编 ...

  3. Spring面试,IoC和AOP的理解, @Transactional原理及使用

    spring 的优点?1.降低了组件之间的耦合性 ,实现了软件各层之间的解耦 2.可以使用容易提供的众多服务,如事务管理,消息服务等 3.容器提供单例模式支持 4.容器提供了AOP技术,利用它很容易实 ...

  4. 命令行Scp的使用----远程拷贝文件

    1.用CRT分别连上两台需要传输文件的linux系统服务器,并检查防火墙是否关闭. 查看防火墙状态: /etc/init.d/iptables status 若防火墙启用,暂时关闭防火墙: /etc/ ...

  5. sqlmap利用DNS进行oob(out of band)注入(转)

      0x00 起因 实际案子的时候遇到了一个注入,过狗可以使用sqlmap,但是是基于时间的注入和限制频率需要使用--delay参数,本来就是延时再加上--delay等的心力憔悴.所有有了下面介绍使用 ...

  6. 设置nginx日志滚动

    需求:设置nginx每天凌晨12点轮转,系统版本为debian7,nginx版本为tengine2.2.0 1.修改logrotate主配置文件,打开压缩和以时间为后缀命名 # vim /etc/lo ...

  7. php高效遍历文件夹、高效读取文件

    /** * PHP高效遍历文件夹(大量文件不会卡死) * @param string $path 目录路径 * @param integer $level 目录深度 */ function fn_sc ...

  8. bzoj2758【scoi2012】Blinker的的噩梦

    题目描述 一天Blinker醒来,发现自己成为了一个二维世界的点,而且被标记上了一个奇怪的值. 这个世界是由N个边界互不相交(且不相切)的图形组成,这里图形仅包括圆和凸多边形.每个图形还有一个权值.每 ...

  9. PHP正则表达式函数学习

    正则表达式是在日常开发中经常用到的,通常一些使用频率过高的正则表达式都是直接粘贴复制,对于基础正则的使用还是要铭记于心的,今天抽时间整理一些php正则表达式的用法. 一.php中常用的正则表达式函数 ...

  10. canvas 入门

    <canvas>是HTML5新增的,是可以使用脚本(JavaScript)在其中绘制图像的HTML元素. canvas是由HTML代码配合高度和宽度属性而定义出的可绘制区域,JavaScr ...