Mycat 读写分离+分库分表
上次进过GTID复制的学习记录,已经搭建好了主从复制的服务器,现在利用现有的主从复制环境,加上正在研究的Mycat,实现了主流分布式数据库的测试
Mycat就不用多介绍了,可以实现很多分布式数据库的功能,极大的减轻数据库服务器的压力,包括读写分离以及分库分表,本测试对这两种功能都进行了测试,进行相应记录
本文以Mycat官方给出的例子来进行解释总结
首先来看分库分表,分库分表一般来说都是一起说的,但是实际上分库跟分表是有区别的,简单来说有垂直和水平两种方式,垂直就是将表按字段进行拆分,水平就是将表按照数据分布来做行拆分。具体的肯定还是有区别,本文不再进行阐述,主要介绍按照字段的分布进行数据行的拆分
本身理解来说Mycat实现的应该是分库,也就是将一个表的行分开存储到不同的数据库中,这里不同的数据库可以有一下两种
1)不同的数据库服务器上的 两个数据库(此时db的名字可以相同,也可以不同)
2)相同的数据库服务器上的两个数据库(此时db的名字肯定是不同的)
当然对于实际使用分库来说肯定是使用不同的数据库服务器的,而且大多数都是在不同的服务器上使用相同的名字,这样能够比较正式的做法
分表的关键部分在mycat的配置文件schema.xml中,该文件中定义了数据库服务器,表的拆分规则等等重要信息
<table name="employee" primaryKey="ID" dataNode="dn1,dn2" rule="sharding-by-intfile" />
以该配置为例,在mycat的逻辑数据库中定义employee表,主键是ID字段,分表规则是sharding-by-intfile,该规则可以在rule.xml中找到对应的信息,而拆分的数据节点是dn1和dn2,数据节点是mycat的概念,再来看看dn1 和dn2 的配置
<dataNode name="dn1" dataHost="localhost1" database="db1" />
<dataNode name="dn2" dataHost="localhost2" database="db1" />
当然上面的配置是在将employee表的数据分配到两个数据库服务器上分别是localhost1和localhost2
同样也可以如下配置
<dataNode name="dn1" dataHost="localhost1" database="db1" />
<dataNode name="dn2" dataHost="localhost1" database="db2" />
这样的配置就在localhost1上建立两个数据库分别是db1和db2,将数据存在同一个数据库实例上的两个数据库上,同样属于分库分表
本文以正式运维环境进行配置,此处的dataHost是不同的,所以是不同的数据库服务器,而指向这两个数据库服务器的db名字是相同的,均为db1
再看dataHost的配置,这里就涉及到具体数据库服务器的配置了
<dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="ip1:3003" user="root"
password="123">
</writeHost>
</dataHost>
<dataHost name="localhost2" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="ip2:3009" user="root"
password="123">
</writeHost>
</dataHost>
这里的配置还没有加入读写分离,所以下面会介绍读写分离的配置,上面的配置就具体执行了两台的数据库服务器来做分库
这样一个表的分库就配置好了,Mycat会根据对应的rule规则和具体的sql语句进行路由处理,包括数据分库存储和数据分库获取等等
下面来看看读写分离,说到读写分离就必须存在主从复制的环境,需要先配置好主从复制,同样是在schema.xml中对主服务器和从服务器进行相应的配置即可
<dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<!-- can have multi write hosts -->
<writeHost host="hostM1" url="ip1:3003" user="root"
password="123">
<readHost host="hostS1" url="ip2:3009" user="root"
password="123"/>
</writeHost>
</dataHost>
此时在writeHost在配置对应的readHost,注意readHost是附属在writeHost下的,再去设置balance的值,至于balance的取值0,1,2网上有很多资料,分别用来指定哪几个host能参与到数据库的读操作中,上面的配置是单独的一个写服务器的读写分离实例,这样会表示写操作会通过ip1:3003的服务器,而读操作会通过ip2:3009的服务器,这就是最基本的读写分离配置,注意上面的配置只有一个dataHost,就是说明没有分库分表的特点
下面来看一下分库分表+读写分离,实际上也就是利用Mycat提供的功能,将两种特性都写入schema.xml中,达到同时具有分表+读写分离的需求
<dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<!-- can have multi write hosts -->
<writeHost host="hostM1" url="ip1:3003" user="root"
password="123">
<readHost host="hostS1" url="ip2:3009" user="root"
password="123"/>
</writeHost>
</dataHost>
<dataHost name="localhost2" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="ip3:3003" user="root"
password="123">
</writeHost>
</dataHost>
显然总结一下:
1 有多个dataHost,就说明有分库分表的设置
2 在一个dataHost中有readHost在writeHost下,或者有多个writeHost,而且balance不等于0(0代表没有读写分离),就说明有读写分离的设置,
3 在一个dataHost中有多个writeHost,这些writeHost之间必须是主主复制,这样才能保证及时两次写操作分别用不同的writeHost,也能保证两个Host数据一致的情况
再对分库分表+读写分离的配置进行一点测试记录,因为这种配置是最常见的,在实际中ip1和ip2是主从关系,假设localhost1对应db1,localhost2对应db2
这样ip1和ip2中存储了db1的分片数据,ip3中存储了db2的分片数据
在写操作的时候,mycat会将对应数据写入ip1,通过主从通过到ip2, 另一部分数据写入ip3
在读操作的时候,mycat会从ip2和ip3中获取对应数据合并后返回客户端(假设是获取表所有数据),
假设在此时在ip2上新增数据,因为mycat要求写入的数据必须符合对应表的rule规则,比如rule设置了id字段只能取值10000和10010(mycat的例子),所以通过mycat是无法写入20000的值的,但是如果此时直接在ip2上写入20000,再select是可以读出来这条不合理的数据的,这也证明了mycat的读写分离功能
在实际运用中,应该是设置好有部分的数据库服务器是用来作为分库分表服务器的,有部分数据库服务器则是用来作为读服务器的
也就是说在不同dataHost中的writeHost之间是没有关系的,只负责保存分配到本地的数据记录,而不同dataHost之间的readHost之间也是没有关系的,只负责同步对应writeHost的数据(既然writeHost都没关系,readHost肯定是没关系的)
在本文的测试中,由于服务器数量肯定达不到要求,在测试中实际上是这样的在本地有3003和3009两个Mysql服务实例,代表两个数据库服务器(在IO上存在竞争)
db1 - writeHost (3003) - readHost(3009)
db2 - writeHost(3009)
在这种配置下,3003服务器上只需要有db1的数据库即可,3009服务器上需要有db2的数据库(用来作为writeHost),同样因为需要作为3003服务器的从服务器,所有需要有db1的数据库
假设写入的数据为(1,'Rod', 10000), (2, 'Whu', 10010) 根据employee表在sharding_id字段上分片规则,Rod数据会存在db1中,Whu数据会存在db2中
这样在写入的时候如下过程:
(1,'Rod', 10000) -Mycat - 3003 db1 -- 主从同步 -- 3009 db1
(2, 'Whu', 10010) -Mycat - 3009 db2
在读取的时候如下过程:
3009 db1 - (1,'Rod', 10000) - Mycat ,因为配置了读写分离,所以会db1 - writeHost (3003) - readHost(3009)配置的readHost去获取数据
3009 db2 - (2,'Whu', 10010) - Mycat
当然也可以在3009的db1数据库中加入新的数据,这样通过mycat去获取的时候也会包括这条新数据
本文主要是在测试Mycat的读写分离和分库分片后进行的知识点记录,后续需要更多的使用Mycat工具,运用到实际开发。
Mycat 读写分离+分库分表的更多相关文章
- Mycat安装并实现mysql读写分离,分库分表
Mycat安装并实现mysql读写分离,分库分表 一.安装Mycat 1.1 创建文件夹 1.2 下载 二.mycat具体配置 2.1 server.xml 2.2 schema.xml 2.3 se ...
- Docker安装Mycat并实现mysql读写分离,分库分表
Docker安装Mycat并实现mysql读写分离,分库分表 一.拉取mycat镜像 二.准备挂载的配置文件 2.1 创建文件夹并添加配置文件 2.1.1 server.xml 2.1.2 serve ...
- SpringCloud微服务实战——搭建企业级开发框架(二十七):集成多数据源+Seata分布式事务+读写分离+分库分表
读写分离:为了确保数据库产品的稳定性,很多数据库拥有双机热备功能.也就是,第一台数据库服务器,是对外提供增删改业务的生产服务器:第二台数据库服务器,主要进行读的操作. 目前有多种方式实现读写分离,一种 ...
- 读写分离&分库分表学习笔记
读写分离 何为读写分离? 见名思意,根据读写分离的名字,我们就可以知道:读写分离主要是为了将对数据库的读写操作分散到不同的数据库节点上. 这样的话,就能够小幅提升写性能,大幅提升读性能. 我简单画了一 ...
- Django 数据库读写分离 分库分表
多个数据库 配置: DATABASES = { 'default': { 'ENGINE': 'django.db.backends.sqlite3', 'NAME': os.path.join(BA ...
- MySQL主从复制&读写分离&分库分表
MySQL主从复制 MySQL的主从复制只能保证主机对外提供服务,从机是不提供服务的,只是在后台为主机进行备份数据 首先我们说说主从复制的原理,这个是必须要理解的玩意儿: 理解: MySQL之间的数据 ...
- 学会数据库读写分离、分表分库——用Mycat,这一篇就够了!
系统开发中,数据库是非常重要的一个点.除了程序的本身的优化,如:SQL语句优化.代码优化,数据库的处理本身优化也是非常重要的.主从.热备.分表分库等都是系统发展迟早会遇到的技术问题问题.Mycat是一 ...
- 学会数据库读写分离、分表分库——用Mycat
系统开发中,数据库是非常重要的一个点.除了程序的本身的优化,如:SQL语句优化.代码优化,数据库的处理本身优化也是非常重要的.主从.热备.分表分库等都是系统发展迟早会遇到的技术问题问题.Mycat是一 ...
- (转)学会数据库读写分离、分表分库——用Mycat,这一篇就够了!
原文:https://www.cnblogs.com/joylee/p/7513038.html 系统开发中,数据库是非常重要的一个点.除了程序的本身的优化,如:SQL语句优化.代码优化,数据库的处理 ...
随机推荐
- 原生js实现多组图片切换
这几天一直在练习原生js写效果,需要理清自己的逻辑,做了一个切换多组图片的效果: css样式: * { margin: 0; padding: 0; } body { background: #303 ...
- Centos/RHEL :How to add,delete and display LVM tags
1. 什么是LVM标签? 在你想开机启动时让逻辑卷被激活可用时,添加lvm标签是一个不错的选择.lvm标签允许那些被预先标记的实现这样的效果. 2. 配置文件 配置文件/etc/lvm/lvm.con ...
- Linux中为XEN网桥绑定物理网卡
XEN虚拟机会默认将可以连通外网的网卡绑定到xenbr0上, 因此如果需要切换到其他物理网卡上时,需要自己配置脚本或执行命令. 1.添加脚本绑定 a.编写一个脚本,指定网卡与网桥绑定的关系 # vim ...
- crm操作发票实体
using System; using Microsoft.Xrm.Sdk; using Microsoft.Xrm.Sdk.Query; using Microsoft.Cr ...
- 指尖上的电商---(10)SolrAdmin中加入多核
在Solr中有的时候,我们并不仅仅是须要一种形式的索引文件.可能须要多种不同数据的索引文件.这时我们就能够在同一个Solr以下创建 多核. 比方,我们在solr以下想把产品信息和分类信息各存放一个索引 ...
- 【HDU 4763】Theme Section(KMP)
这题数据水的一B.直接暴力都能够过. 比赛的时候暴力过的.回头依照正法做了一发. 匹配的时候 失配函数 事实上就是前缀 后缀的匹配长度,之后就是乱搞了. KMP的题可能不会非常直接的出,可是KMP的思 ...
- html5中的容器标签和文本标签
html5中的容器标签和文本标签 html中的容器级标签和文本级标签,css中的块级元素和行内元素是我们常常拿来比较的四个名词(行内块级暂时先不考虑). 容器标签 容器级的标签可以简单的理解为能嵌套其 ...
- POJ 2138 最长路
思路: 如果j能由i得到 则i向j连一条边 答案就是最长路的末节点所代表的string //By SiriusRen #include <cstdio> #include <cstr ...
- java种instanceof方法和getclass方法的区别
在比较一个类是否和另一个类属于同一个类实例的时候,我们通常可以采用instanceof和getClass两种方法通过两者是否相等来判断,但是两者在判断上面是有差别的,下面写个测试类. public c ...
- 【习题 8-7 UVA - 11925】Generating Permutations
[链接] 我是链接,点我呀:) [题意] 在这里输入题意 [题解] 让你把排列1..n变换成对应的输入序列. 每次可以交换前两个数字,或者把第一个数字放到末尾去. 可以逆向考虑. 即把无序的序列变换成 ...