1. 概述

老话说的好:选择比努力更重要,如果选错了道路,就很难成功。

言归正传,之前我们聊了使用 MyCat 实现Mysql的分库分表和读写分离,MyCat是服务端的代理,使用MyCat的好处显而易见,整个分库分表和读写分离过程对Java程序来说是完全透明的,Java程序像连接Mysql一样,去连接MyCat即可。

但MyCat的运维成本较高,需要有专门的运维人员去维护,所以今天我们来聊聊另一个实现Mysql分库分表、读写分离的方案 —— ShardingSphere-JDBC。

ShardingSphere-JDBC 是一个轻量级的Java框架, 是客户端代理,不需要MyCat的中间代理,使用Java程序可以通过配置直接去实现Mysql分库分表和读写分离,适用于运维资源比较少的情况。

ShardingSphere-JDBC 支持同一库内的分表,MyCat 是不支持的,MyCat 只能在不同库内分表。

ShardingSphere-JDBC 不支持主库双写或多写,只支持一主多从的读写分离配置,因此 Mysql 集群的高可用需要使用其他手段来实现,例如 MHA。

2. 场景介绍 

分片1:

服务器A IP:192.168.1.22  (Mysql从1)

服务器B IP:192.168.1.12  (Mysql主1)

服务器C IP:192.168.1.15  (Mysql主2)

服务器D IP:192.168.1.16  (Mysql从2)

分片2:

服务器E IP:192.168.1.11  (单点)

之前我们在前4台服务器上搭建了Mysql双主双从的高可用集群,该集群与服务器E实现了分表分库,本节我们使用ShardingSphere-JDBC去整合这个集群。

关于Mysql双主双从集群的具体搭建可参考以下文章:

《MyCat的快速搭建》(https://www.cnblogs.com/w84422/p/15394662.html

《Mysql读写分离集群的搭建且与MyCat进行整合》(https://www.cnblogs.com/w84422/p/15401259.html

《Mysql双主双从高可用集群的搭建且与MyCat进行整合》(https://www.cnblogs.com/w84422/p/15418403.html

由于  ShardingSphere-JDBC 不支持主库双写或多写,因此我们把 服务器C 也当做一个从库来配置。

3. ShardingSphere-JDBC在Springboot中的具体使用

3.1 官网地址

https://shardingsphere.apache.org/index_zh.html

https://shardingsphere.apache.org/document/current/cn/overview/

3.2 引入依赖

这里我们使用最新的 5.0.0-beta 版本

        <dependency>
<groupId>org.apache.shardingsphere</groupId>
<artifactId>shardingsphere-jdbc-core-spring-boot-starter</artifactId>
<version>5.0.0-beta</version>
</dependency>

3.3 配置JPA相关配置 

# jpa 配置
spring.data.jpa.repositories.bootstrap-mode=default
spring.data.jpa.repositories.enabled=true spring.jpa.database=mysql
spring.jpa.database-platform=org.hibernate.dialect.MySQL5InnoDBDialect
spring.jpa.show-sql=true
spring.jpa.hibernate.ddl-auto=update
# 启用懒加载
spring.jpa.properties.hibernate.enable_lazy_load_no_trans=true

这里要特别注意,使用ShardingSphere-JDBC + JPA 一定要启动懒加载配置,否则 getById 时会报错。

3.4 配置数据源

这里我们按照场景介绍中描述的,配置5台服务器的信息

# 配置真实数据源
spring.shardingsphere.datasource.names=master0,master1,slave0,slave1,ds1 # 配置 服务器A 数据源
spring.shardingsphere.datasource.slave0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.slave0.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.slave0.jdbc-url=jdbc:mysql://192.168.1.22:3306/mycat
spring.shardingsphere.datasource.slave0.username=zhuifengren
spring.shardingsphere.datasource.slave0.password=Zhuifengren@123456 # 配置 服务器B 数据源
spring.shardingsphere.datasource.master0.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.master0.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.master0.jdbc-url=jdbc:mysql://192.168.1.12:3306/mycat
spring.shardingsphere.datasource.master0.username=zhuifengren
spring.shardingsphere.datasource.master0.password=Zhuifengren@123456 # 配置 服务器C 数据源
spring.shardingsphere.datasource.master1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.master1.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.master1.jdbc-url=jdbc:mysql://192.168.1.15:3306/mycat
spring.shardingsphere.datasource.master1.username=zhuifengren
spring.shardingsphere.datasource.master1.password=Zhuifengren@123456 # 配置 服务器D 数据源
spring.shardingsphere.datasource.slave1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.slave1.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.slave1.jdbc-url=jdbc:mysql://192.168.1.16:3306/mycat
spring.shardingsphere.datasource.slave1.username=zhuifengren
spring.shardingsphere.datasource.slave1.password=Zhuifengren@123456 # 配置 服务器E 数据源
spring.shardingsphere.datasource.ds1.type=com.zaxxer.hikari.HikariDataSource
spring.shardingsphere.datasource.ds1.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.ds1.jdbc-url=jdbc:mysql://192.168.1.11:3306/mycat
spring.shardingsphere.datasource.ds1.username=zhuifengren
spring.shardingsphere.datasource.ds1.password=Zhuifengren@123456

3.5 配置 分片1 的读写分离策略

这里我们使用轮询算法,具体的算法可参见 ShardingSphere 官网。

里面的 database-balance 是自定义的名称,与下面的负载均衡算法配置保持一致即可。

特别注意一点,ShardingSphere里面的自定义名称,一定不要包含下划线,否则会报错,虽然官网给出的示例就是包含下划线的。

# 读写分离配置

# 写数据源名称
spring.shardingsphere.rules.readwrite-splitting.data-sources.ds0.write-data-source-name=master0
# 读数据源名称,多个从数据源用逗号分隔
spring.shardingsphere.rules.readwrite-splitting.data-sources.ds0.read-data-source-names=master1,slave0,slave1
# 负载均衡算法名称
spring.shardingsphere.rules.readwrite-splitting.data-sources.ds0.load-balancer-name=database-balance
# 是否启用查询一致性路由
spring.shardingsphere.rules.readwrite-splitting.data-sources.ds0.query-consistent=false # 负载均衡算法配置
# 负载均衡算法类型,这里配置为轮询
spring.shardingsphere.rules.readwrite-splitting.load-balancers.database-balance.type=ROUND_ROBIN

3.6 配置 user 表的分库分表规则

之前MyCat中我们使用的是 MyCat 默认的 auto-sharding-long 算法,user 表的 id 为 0 到 5000000 时保存在第一个分片,大于5000000保存在第二个分片,这里我们还使用这个算法。

当然也可以使用其他算法,例如 取模,大家可参见ShardingSphere的官网文档自行配置。

  # 配置 user 表规则
spring.shardingsphere.rules.sharding.tables.user.actual-data-nodes=ds$->{[0,1]}.user # 配置分库策略
spring.shardingsphere.rules.sharding.tables.user.database-strategy.standard.sharding-column=id
spring.shardingsphere.rules.sharding.tables.user.database-strategy.standard.sharding-algorithm-name=database-inline # 配置分表策略
spring.shardingsphere.rules.sharding.tables.user.table-strategy.standard.sharding-column=id
spring.shardingsphere.rules.sharding.tables.user.table-strategy.standard.sharding-algorithm-name=table-inline spring.shardingsphere.rules.sharding.sharding-algorithms.database-inline.type=INLINE
spring.shardingsphere.rules.sharding.sharding-algorithms.database-inline.props.algorithm-expression=ds$->{(id <= 5000000)?0:1}
spring.shardingsphere.rules.sharding.sharding-algorithms.table-inline.type=INLINE
spring.shardingsphere.rules.sharding.sharding-algorithms.table-inline.props.algorithm-expression=user

3.7 JPA相关代码

User实体类:

@Entity
@Table(name="user")
@Setter
@Getter
@Builder
@AllArgsConstructor
@NoArgsConstructor
public class User { @Id
private Integer id; private String name; @Override
public String toString() {
return "User{" +
"id=" + id +
", name='" + name + '\'' +
'}';
}
}

User数据访问类:

public interface UserRepository extends JpaRepository<User, Integer> {
}

3.8 验证

这里使用JPA操作增、删、改、查操作是没有任何问题的,数据落库的分片也正确。

3.9 不得不说的几个坑

1)配置ShardingSphere-JDBC时,自定义的名称不要包含下划线,包含了会报错, 本人当时是跟了半天的源码才解决。

正确的命名:database-inline、table-inline、database-balance

错误的命名:database_inline、table_inline、database_balance

2)使用JPA需要开启懒加载,否则会报错。

3)不支持主库双写或多写,需要用其他手段保证集群的高可用。

4)官网文档写的不是很详细,很多细节需要自己摸索,例如 分片表达式 和 分片策略 的配置都没有给出示例。相对来说MyCat的官网文档就详细很多。

4. 综述

今天聊了一下 使用ShardingSphere-JDBC完成Mysql的分库分表和读写分离,希望可以对大家的工作有所帮助。

大家可以根据自己的喜好去选择使用 MyCat 或是 ShardingSphere-JDBC。

欢迎帮忙点赞、评论、转发、加关注 :)

关注追风人聊Java,每天更新Java干货。

5. 个人公众号

追风人聊Java,欢迎大家关注

使用ShardingSphere-JDBC完成Mysql的分库分表和读写分离的更多相关文章

  1. Sharding-JDBC基本使用,整合Springboot实现分库分表,读写分离

    结合上一篇docker部署的mysql主从, 本篇主要讲解SpringBoot项目结合Sharding-JDBC如何实现分库分表.读写分离. 一.Sharding-JDBC介绍 1.这里引用官网上的介 ...

  2. 阿里P8架构师谈:数据库分库分表、读写分离的原理实现,使用场景

    本文转载自:阿里P8架构师谈:数据库分库分表.读写分离的原理实现,使用场景 为什么要分库分表和读写分离? 类似淘宝网这样的网站,海量数据的存储和访问成为了系统设计的瓶颈问题,日益增长的业务数据,无疑对 ...

  3. ShardingSphere-proxy-5.0.0企业级分库分表、读写分离、负载均衡、雪花算法、取模算法整合(八)

    一.简要说明 以下配置实现了: 1.分库分表 2.每一个分库的读写分离 3.读库负载均衡算法 4.雪花算法,生成唯一id 5.字段取模 二.配置项 # # Licensed to the Apache ...

  4. Mycat使用--分库分表和读写分离

    Mycat分库分表读写分离 1. 模拟多数据库节点 2. 配置文件 具体操作参看: https://blog.csdn.net/vbirdbest/article/details/83448757 写 ...

  5. 基于ShardingJDBC的分库分表及读写分离整理

    ShardingJDBC的核心流程主要分成六个步骤,分别是:SQL解析->SQL优化->SQL路由->SQL改写->SQL执行->结果归并,流程图如下: sharding ...

  6. 分库分表、读写分离——用Sql和ORM(EF)来实现

    分库:将海量数据分成多个库保存,比如:2017年的订单库——Order2017,2018年的订单库——Order2018... 分表:水平分表(Order拆成Order1.....12).垂直分表(O ...

  7. php面试专题---mysql数据库分库分表

    php面试专题---mysql数据库分库分表 一.总结 一句话总结: 通过数据切分技术将一个大的MySQLServer切分成多个小的MySQLServer,既攻克了写入性能瓶颈问题,同一时候也再一次提 ...

  8. MySQL之分库分表

    MySQL之分库分表(MyCAT实现)   分库分表介绍 随着微服务这种架构的兴起,我们应用从一个完整的大的应用,切分为很多可以独立提供服务的小应用.每个应用都有独立的数据库. 数据的切分分为两种: ...

  9. MySQL订单分库分表多维度查询

    转自:http://blog.itpub.net/29254281/viewspace-2086198/ MySQL订单分库分表多维度查询  MySQL分库分表,一般只能按照一个维度进行查询. 以订单 ...

随机推荐

  1. 基于SigalR实现的奥运会实时金牌榜

    系统架构 三端 winform 后台数据管理 + Asp.Net Mvc 前台数据展示 + Xamarin.Forms 移动端跨平台APP 因为本人的代码水平一般,期间遇到了一些问题,如signalR ...

  2. python 中最好用的身份证规则解析工具,地区码、性别、出生年月、身份证编码等快速校验!

    安装并导入依赖库 # pip install parseIdCard from parseIdCard import parseIdCard from pprint import pprint 地区码 ...

  3. 并发编程之:JUC并发控制工具

    大家好,我是小黑,一个在互联网苟且偷生的农民工. 在上一期我们讲了Thread.join()方法和CountDownLatch,这两者都可以做到等待一个线程执行完毕之后当前线程继续执行,并且Count ...

  4. 记一次 .NET 某新能源汽车锂电池检测程序 UI挂死分析

    更多高质量干货:参见我的 GitHub: dotnetfly 一:背景 1. 讲故事 这世间事说来也奇怪,近两个月有三位朋友找到我,让我帮忙分析下他的程序hangon现象,这三个dump分别涉及: 医 ...

  5. 学了这么多年C语言,你真的知道全局变量,局部变量,静态变量,本地函数,外部函数是如何区分标识的吗?

    动态库内容分析 文章目录 动态库内容分析 1. 动态库编译 1.1 第一个C文件:basic.c 1.2第二个C文件:demo.c 1.3第三个C文件:main.c 2.动态库编译 3.二进制内容分析 ...

  6. Git 初识和使用

    目录 目录 目录 概念 工作区/暂存区/版本库 master 版本号 常见命令 环境搭建 Linux 下 Git 和 GitHub 环境的搭建 Git 本地操作 本地仓库的创建和使用 查看信息 查看状 ...

  7. Java 常用 Collection 继承关系与接口实现

    Java Collection List 接口 继承.接口实现关系: public interface List<E> extends Collection<E> 方法定义: ...

  8. Win8 iis 环境搭建

    http://www.cnblogs.com/Joans/archive/2012/07/16/2593828.html 系统:win8 环境:vs2012 一:安装IIS 比较win7的安装来说,多 ...

  9. PHP中国际化的字符串比较对象

    在 PHP 中,国际化的功能非常丰富,包括很多我们可能都不知道的东西其实都非常有用,比如说今天要介绍的这一系列的字符排序和比较的功能. 排序 正常来说,如果我们对数组中的字符进行排序,按照的是字符的 ...

  10. Jmeter扩展组件开发(6) - 将响应结果数据显示到查看结果树中

    CODE //用来存储响应数据,目的是将响应结果放到查看结果树当中private String resultData;/** 这个方法就是实现你具体功能逻辑的方法* @param javaSample ...