Sharding-JDBC 简介

Sharding-JDBC直接封装JDBC API,可以理解为增强版的JDBC驱动,旧代码迁移成本:

  • 可适用于任何基于Java的ORM框架,如:JPA、HIbernate、MYbatis、Spring JDBC Template或者直接使用JDBC。
  • 可基于任何第三方的数据库连接池,如:DBCP、C3P0、Druid等。
  • 理论上可支持任意实现JDBC规范的数据库。目前支持MySQL、Oracle、SQLServer等。

Sharding-JDBC定位为轻量级Java框架,使用客户端直连数据库,以jar包形式提供服务,未使用中间层,无需额外部署,无其他依赖,DBA也无需改变原有的运维方式。采用“半理解”理念的SQL解析引擎,以达到性能与兼容性的最大平衡。

Sharding-JDBC功能灵活且全面:

  • 分片策略灵活,可支持 = , BETWEEN,IN等多维度分片,也支持多分片键共用。
  • SQL解析功能完善,支持聚合,分组,排序,Limit,TOP等查询,并且支持Binding Table以及笛卡尔积的表查询。
  • 支持柔性事务(目前仅最大努力送达型)。
  • 支持读写分离。
  • 支持分布式生成全局主键。

整体架构图



sharding-JDBC 实现分表

数据库表

CREATE TABLE IF NOT EXISTS `t_order_0` (
`order_id` INT NOT NULL,
`user_id` INT NOT NULL,
PRIMARY KEY (`order_id`)
);
CREATE TABLE IF NOT EXISTS `t_order_1` (
`order_id` INT NOT NULL,
`user_id` INT NOT NULL,
PRIMARY KEY (`order_id`)
);
CREATE TABLE IF NOT EXISTS `t_order_2` (
`order_id` INT NOT NULL,
`user_id` INT NOT NULL,
PRIMARY KEY (`order_id`)
);

pom.xml

<dependency>
<groupId>com.dangdang</groupId>
<artifactId>sharding-jdbc-core</artifactId>
<version>1.4.2</version>
</dependency>
<dependency>
<groupId>com.dangdang</groupId>
<artifactId>sharding-jdbc-config-spring</artifactId>
<version>1.4.0</version>
</dependency>

Spring配置

    <rdb:strategy id="tableShardingStrategy" sharding-columns="user_id" algorithm-expression="t_order_${user_id.longValue() % 3}"/>

    <rdb:data-source id="shardingDataSource">
<rdb:sharding-rule data-sources="dataSource">
<rdb:table-rules>
<rdb:table-rule logic-table="t_order" actual-tables="t_order_${0..2}" table-strategy="tableShardingStrategy" />
</rdb:table-rules>
</rdb:sharding-rule>
</rdb:data-source>

单测

直接对MyBatis Mapper进行测试。

Order order = new Order();
order.setOrderId(1111);
order.setUserId(222); Boolean result = orderMapper.insert(order) > 0; System.out.println(result?"插入成功":"插入失败");

OrderExample example = new OrderExample() ;
example.createCriteria().andUserIdEqualTo(1112); List<Order> orderList = orderMapper.selectByExample(example) ; System.out.println(JSONObject.toJSONString(orderList));

使用SingleKeyTableShardingAlgorithm 实现分表规则

目标:每个业务线一个数据表(business_id:业务线Id)。

自定义的分表规则类需要实现SingleKeyTableShardingAlgorithm,并重写doBetweenSharding、doEqualSharding、doInSharding。

修改数据表

ALTER TABLE `t_order_0` ADD business_id INT(4) ;
ALTER TABLE `t_order_1` ADD business_id INT(4) ;
ALTER TABLE `t_order_2` ADD business_id INT(4) ; ALTER TABLE `t_order_0` RENAME t_order_112;
ALTER TABLE `t_order_1` RENAME t_order_101;
ALTER TABLE `t_order_2` RENAME t_order_113;

重新生成Mybatis Mapper相关文件

Spring 配置

    <rdb:strategy id="tableShardingStrategy" sharding-columns="business_id"  algorithm-class="com.boothsun.util.sharding.OrderSingleKeyTableShardingAlgorithm"/>

    <rdb:data-source id="shardingDataSource">
<rdb:sharding-rule data-sources="dataSource">
<rdb:table-rules>
<rdb:table-rule logic-table="t_order" actual-tables="t_order_${[112,101,113]}" table-strategy="tableShardingStrategy" />
</rdb:table-rules>
</rdb:sharding-rule>
</rdb:data-source>

注意:这里使用的是algorithm-class而非algorithm-expression

OrderSingleKeyTableShardingAlgorithm 具体实现

/**
* 每个业务线一个表
*/
public class OrderSingleKeyTableShardingAlgorithm implements SingleKeyTableShardingAlgorithm<Integer> { /**
* 对于分片字段的between操作都走这个方法。
*/
public Collection<String> doBetweenSharding(Collection<String> tableNames, ShardingValue<Integer> shardingValue) {
Collection<String> result = new LinkedHashSet<>(tableNames.size());
Range<Integer> range = shardingValue.getValueRange();
for (long i = range.lowerEndpoint(); i <= range.upperEndpoint(); i++) {
for (String each : tableNames) {
if (each.endsWith(String.valueOf(i))) {
result.add(each);
}
}
}
return result;
} /**
* 对于分片字段的等值操作 都走这个方法。(包括 插入 更新)
*/
public String doEqualSharding(Collection<String> tableNames, ShardingValue<Integer> shardingValue) {
String sdValue = String.valueOf(shardingValue.getValue());
for (String tableName : tableNames ) {
if(tableName.endsWith(sdValue)) {
return tableName ;
}
}
throw new IllegalArgumentException("无分表参数 无法定位具体数据表");
} /**
* 对于分片字段的in操作,都走这个方法。
*/
public Collection<String> doInSharding(Collection<String> tableNames, ShardingValue<Integer> shardingValue) { Collection<String> result = new LinkedHashSet<>(tableNames.size()); for (Integer value : shardingValue.getValues()) {
for (String tableName : tableNames) {
if (tableName.endsWith(String.valueOf(value))) {
result.add(tableName);
}
}
}
return result;
}
}

单测类

/**
* 测试插入
* @throws Exception
*/
@Test
public void insertSelective() throws Exception { Order order = new Order();
order.setOrderId(123113);
order.setUserId(222);
order.setBusinessId(112); Boolean result = orderMapper.insert(order) > 0; System.out.println(result?"插入成功":"插入失败");
} /**
* 测试 in 的查询操作
* @throws Exception
*/
@Test
public void selectByExample2() throws Exception { List<Integer> values = new ArrayList<>();
values.add(112);
values.add(113); OrderExample example = new OrderExample() ;
example.createCriteria().andUserIdEqualTo(11333).andBusinessIdIn(values); List<Order> orderList = orderMapper.selectByExample(example) ; System.out.println(JSONObject.toJSONString(orderList));
} /**
* 测试between的查询操作
* @throws Exception
*/
@Test
public void selectByExample3() throws Exception { OrderExample example = new OrderExample() ;
example.createCriteria().andBusinessIdBetween(112,113); List<Order> orderList = orderMapper.selectByExample(example) ; System.out.println(JSONObject.toJSONString(orderList));
}

sharding-jdbc 实现分表的更多相关文章

  1. EFCore.Sharding(EFCore开源分表框架)

    EFCore.Sharding(EFCore开源分表框架) 简介 引言 开始 准备 配置 使用 按时间自动分表 性能测试 其它简单操作(非Sharing) 总结 简介 本框架旨在为EF Core提供S ...

  2. 分布式事务-Sharding 数据库分库分表

      Sharding (转)大型互联网站解决海量数据的常见策略 - - ITeye技术网站 阿里巴巴Cobar架构设计与实践 - 机械机电 - 道客巴巴 阿里分布式数据库服务原理与实践:沈询_文档下载 ...

  3. Sharding JDBC整合SpringBoot 2.x 和 MyBatis Plus 进行分库分表

    Sharding JDBC整合SpringBoot 2.x 和 MyBatis Plus 进行分库分表 交易所流水表的单表数据量已经过亿,选用Sharding-JDBC进行分库分表.MyBatis-P ...

  4. Sharding-jdbc实现分库分表

    首先在pom文件中引入需要的依赖 <dependency> <groupId>io.shardingjdbc</groupId> <artifactId> ...

  5. sharding-jdbc结合mybatis实现分库分表功能

    最近忙于项目已经好久几天没写博客了,前2篇文章我给大家介绍了搭建基础springMvc+mybatis的maven工程,这个简单框架已经可以对付一般的小型项目.但是我们实际项目中会碰到很多复杂的场景, ...

  6. mysql、oracle分库分表方案之sharding-jdbc使用(非demo示例)

    选择开源核心组件的一个非常重要的考虑通常是社区活跃性,一旦项目团队无法进行自己后续维护和扩展的情况下更是如此. 至于为什么选择sharding-jdbc而不是Mycat,可以参考知乎讨论帖子https ...

  7. Sharding-JDBC实现水平拆分-单库分表

    参考资料:猿天地   https://mp.weixin.qq.com/s/901rNhc4WhLCQ023zujRVQ 作者:尹吉欢 当单表的数量急剧上升,超过了1千万以上,这个时候就要对表进行水平 ...

  8. 采用Sharding-JDBC解决分库分表

    源码:Sharding-JDBC(分库分表) 一.Sharding-JDBC介绍 1,介绍 Sharding-JDBC是当当网研发的开源分布式数据库中间件,从 3.0 开始Sharding-JDBC被 ...

  9. 分库分表后跨分片查询与Elastic Search

    携程酒店订单Elastic Search实战:http://www.lvesu.com/blog/main/cms-610.html 为什么分库分表后不建议跨分片查询:https://www.jian ...

  10. 【大数据和云计算技术社区】分库分表技术演进&最佳实践笔记

    1.需求背景 移动互联网时代,海量的用户每天产生海量的数量,这些海量数据远不是一张表能Hold住的.比如 用户表:支付宝8亿,微信10亿.CITIC对公140万,对私8700万. 订单表:美团每天几千 ...

随机推荐

  1. bzoj1297: [SCOI2009]迷路(矩阵乘法+拆点)

    题目大意:有向图里10个点,点与点之间距离不超过9,问从1刚好走过T距离到达n的方案数. 当时看到这题就想到了某道奶牛题(戳我).这两道题的区别就是奶牛题问的是走T条边,这道题是每条边都有一个边权求走 ...

  2. All you need to know about sorting in Postgres

    按:之前看pg的执行计划,多次看到不同的排序方式,但不知何意.偶遇此篇讲解pg执行计划三种排序方式,备忘一下. Sorting Sorting is one of the most fundament ...

  3. POJ1904:King's Quest(强连通+思维)

    King's Quest Time Limit: 15000MS   Memory Limit: 65536K Total Submissions: 10352   Accepted: 3815 题目 ...

  4. swift的一些东西

    .cmd+k 键盘toggle .模拟器的handware设置ios键盘 .设置textfield的return类型为搜索 k.returnKeyType=UIReturnKeyType.search ...

  5. OopenCV复习及函数深入理解(轮廓查询及绘图)

    核心函数:(后面标明号的,下面有解析) int cvFindContours(Iplimage* img,//这是输入函数,必须是8bit,单通道的图像---1 CvMemStorage* stora ...

  6. *和&的使用

    给变量起一个别名: int a = 2; int &b = a; 取a的地址,实参是一个指针: void chage(int *data) { } void main() { int a = ...

  7. Android之简易音乐播发器

    布局主要代码之ListView: <span style="font-size:14px;"> <ListView android:id="@+id/m ...

  8. [洛谷P2577] [ZJOI2005]午餐

    洛谷题目链接:[ZJOI2005]午餐 题目描述 上午的训练结束了,THU ACM小组集体去吃午餐,他们一行N人来到了著名的十食堂.这里有两个打饭的窗口,每个窗口同一时刻只能给一个人打饭.由于每个人的 ...

  9. [SDOI2008]仪仗队 (洛谷P2158)

    洛谷题目链接:[SDOI2008]仪仗队 题目描述 作为体育委员,C君负责这次运动会仪仗队的训练.仪仗队是由学生组成的N * N的方阵,为了保证队伍在行进中整齐划一,C君会跟在仪仗队的左后方,根据其视 ...

  10. centos6.8配置FTP普通用户除了家目录外还能访问其他目录

    今天有个需求,使用ftp服务搭建一个文件共享服务器,每个普通用户除了能访问自己家目录的东西,还能访问一个公共的目录.配置步骤如下: 环境如下: 创建用户并配置密码(使用默认家目录/home) user ...