一、基础概念

在分库分表场景下,关联表(JOIN)查询的复杂性主要源于数据分布在不同的数据库或表中。ShardingSphere 通过 绑定表(Binding Table) 和 广播表(Broadcast Table) 机制,结合 内存计算,

有效解决关联查询的难题。以下是具体实现方法和优化策略

二、绑定表(Binding Table)

适用场景:多个表的分片规则一致(如按 user_id 分片),且关联查询的字段是分片键

1、核心原理

  • 分片规则一致:确保关联表的分片键和分片算法完全相同

  • 路由一致性:关联查询时,ShardingSphere 将查询路由到同一分片,避免跨库 JOIN

2、配置示例

# ShardingSphere 配置文件
sharding:
tables:
user:
actual-data-nodes: ds$->{0..3}.user_$->{0..7}
database-strategy:
standard:
sharding-column: user_id
precise-algorithm-class-name: com.example.UserShardingAlgorithm
order:
actual-data-nodes: ds$->{0..3}.order_$->{0..7}
database-strategy:
standard:
sharding-column: user_id
precise-algorithm-class-name: com.example.UserShardingAlgorithm
# 定义绑定表
binding-tables:
- user, order # user 表和 order 表绑定

3、查询示例

-- 查询用户及其订单(user_id 是分片键)
SELECT u.name, o.amount
FROM user u
JOIN order o ON u.user_id = o.user_id
WHERE u.user_id = 123;

执行过程:

  • 根据 user_id = 123 计算分片位置(如 ds1.order_3)。

  • 在同一个分片内执行 JOIN 查询,无需跨库。

4、优势

  • 性能高效:避免跨库数据传输,减少网络和内存开销。

  • 结果准确:数据在同一分片内关联,无需内存二次计算。

三、广播表(Broadcast Table)

适用场景:小表(如字典表、配置表)需要与分片表关联查询,且数据量较小

1、核心原理

  • 全量复制:广播表的数据会被复制到所有分片库中

  • 本地关联:关联查询时,直接在分片库内完成 JOIN

2、配置示例

# ShardingSphere 配置文件
sharding:
tables:
order:
actual-data-nodes: ds$->{0..3}.order_$->{0..7}
database-strategy:
standard:
sharding-column: user_id
precise-algorithm-class-name: com.example.UserShardingAlgorithm
# 定义广播表
broadcast-tables:
- dict # dict 表为广播表

3、查询示例

-- 查询订单及其状态名称(dict 表为广播表)
SELECT o.order_id, d.dict_name
FROM order o
JOIN dict d ON o.status = d.dict_id
WHERE o.user_id = 123;

执行过程:

  • 根据 user_id = 123 路由到对应分片(如 ds1.order_3)。

  • 在分片库内关联本地的 dict 表,直接返回结果。

4、优势

  • 避免跨库查询:广播表在每个分片中都存在,关联查询无需跨库

  • 数据一致性:广播表数据更新时,自动同步到所有分片

四、内存计算(Memory Merge)

适用场景:无法通过绑定表或广播表解决的跨分片 JOIN 查询

1、核心原理

  • 数据拉取:从所有相关分片中拉取数据到内存。

  • 内存计算:在应用层内存中执行 JOIN、排序、聚合等操作。

2、示例

-- 跨分片 JOIN(product 表按 product_id 分片,order 表按 user_id 分片)
SELECT p.product_name, SUM(o.amount)
FROM order o
JOIN product p ON o.product_id = p.product_id
GROUP BY p.product_name;

执行过程:

  • a、从所有分片中拉取 order 和 product 表的数据

  • b、在内存中执行 JOIN 和聚合计算

3、缺点

  • 性能瓶颈:数据量大时,内存和网络开销极高。

  • 结果延迟:不适合实时性要求高的场景。

4、优化建议

  • 预计算:将关联结果存储到宽表中,定期更新。

  • 使用分布式数据库:如 TiDB,原生支持分布式 JOIN。

  • 结合搜索引擎:将数据同步到 Elasticsearch,利用其分布式计算能力。

五、分片策略设计的最佳实践

1、优先绑定表:业务强相关的表(如用户和订单)使用相同的分片键和分片算法

2、广播小表:字典表、配置表等小表设置为广播表

3、避免跨分片 JOIN:所有查询尽量包含分片键

4、冗余字段:在分片表中冗余关联字段(如订单表冗余 product_name),避免 JOIN 查询

六、总结

ShardingSphere 通过 绑定表 和 广播表 机制,在分库分表场景下高效解决关联查询问题:

  • 绑定表:确保关联表的分片规则一致,实现本地 JOIN。

  • 广播表:复制小表到所有分片,避免跨库查询。

  • 内存计算:兜底方案,处理复杂跨分片 JOIN,但需谨慎使用。

实际应用建议:

  • 在数据库设计阶段,优先通过分片键和表结构优化避免跨分片 JOIN。

  • 对于复杂查询,结合 Elasticsearch 或 TiDB 等分布式数据库提升性能。

ShardingSphere 解决关联表查询问题的详细方案的更多相关文章

  1. 在MyBatis中查询数据、涉及多参数的数据访问操作、插入数据时获取数据自增长的id、关联表查询操作、动态SQL、关于配置MyBatis映射没有代码提示的解决方案

    1. 单元测试 在单元测试中,每个测试方法都需要执行相同的前置代码和后置代码,则可以自定义2个方法,分别在这2个方法中执行前置代码和后置代码,并为这2个方法添加@Before和@After注解,然后, ...

  2. Mybatis源码分析--关联表查询及延迟加载原理(二)

    在上一篇博客Mybatis源码分析--关联表查询及延迟加载(一)中我们简单介绍了Mybatis的延迟加载的编程,接下来我们通过分析源码来分析一下Mybatis延迟加载的实现原理. 其实简单来说Myba ...

  3. .NetCore中EFCore的使用整理(二)-关联表查询

    EF常用处理关联加载的方式有3中:延迟加载(Lazy Loading).贪婪加载 (Eager Loading)以及显示加载. 一.EF Core  1.1 1.当前的版本,还不支持延迟加载(Lazy ...

  4. SpringBoot Data JPA 关联表查询的方法

    SpringBoot Data JPA实现 一对多.多对一关联表查询 开发环境 IDEA 2017.1 Java1.8 SpringBoot 2.0 MySQL 5.X 功能需求 通过关联关系查询商店 ...

  5. MyBatis实现关联表查询

    一.一对一关联 1.1.提出需求 根据班级id查询班级信息(带老师的信息) 1.2.创建表和数据 创建一张教师表和班级表,这里我们假设一个老师只负责教一个班,那么老师和班级之间的关系就是一种一对一的关 ...

  6. MyBatis学习总结(五)——实现关联表查询(转载)

    本文转载自:http://www.cnblogs.com/jpf-java/p/6013516.html 一.一对一关联 1.1.提出需求 根据班级id查询班级信息(带老师的信息) 1.2.创建表和数 ...

  7. MyBatis入门学习教程-实现关联表查询

    一.一对一关联 1.1.提出需求 根据班级id查询班级信息(带老师的信息) 1.2.创建表和数据 创建一张教师表和班级表,这里我们假设一个老师只负责教一个班,那么老师和班级之间的关系就是一种一对一的关 ...

  8. MyBatis学习总结(五)——实现关联表查询

    一.一对一关联 1.1.提出需求 根据班级id查询班级信息(带老师的信息) 1.2.创建表和数据 创建一张教师表和班级表,这里我们假设一个老师只负责教一个班,那么老师和班级之间的关系就是一种一对一的关 ...

  9. MyBatis学习总结(五)——实现关联表查询

    一.一对一关联 1.1.提出需求 根据班级id查询班级信息(带老师的信息) 1.2.创建表和数据 创建一张教师表和班级表,这里我们假设一个老师只负责教一个班,那么老师和班级之间的关系就是一种一对一的关 ...

  10. 7.Mybatis关联表查询(这里主要讲的是一对一和一对多的关联查询)

    在Mybatis中的管理表查询这里主要介绍的是一对一和一对多的关联查询的resultMap的管理配置查询,当然你也可以用包装类来实现.不过这里不说,做关联查询的步骤可以简单的总结为以下的几步: 1.分 ...

随机推荐

  1. w3cschool-Hadoop 教程

    https://www.w3cschool.cn/hadoop/ 铺垫 人产生数据的速度越来越快,机器则更加快,数据的增长速度通常比算法更快,所以需要另外的一种处理数据的方法. 硬盘的容量增加了,但性 ...

  2. MySQL:执行流程

  3. 使用SOUI4中的STreeView控件

    STreeView控件是一个基于虚表技术实现的高性能树形控件. 和STreeCtrl这种传统的树形控件将数据和控件固定在一起不同,STreeView数据和控件分离,使用一个adapter进行连接. 用 ...

  4. C#中使用正则将字符串中某字符不区分大小写并按全字匹配替换为空

    具体代码如下所示: //将字符串中desc不区分大小写并按全字匹配替换为空 var strText = "CreatDeSce DeSc,UserName AsC"; string ...

  5. yum repo和rpm,添加阿里repos

    RPMRPM(Red-hat Package Manager),是一个由红帽最早开发出来的包管理器,目前已经是大多数Linux发行的默认包管理器.RPM管理的包都是以.rpm结尾,其中存储了该软件的安 ...

  6. SpringBoot 自动代码生成三层

      前言 虽然mybatis已经有了代码生成,但是对于SpringBoot 项目来说生成的还是需要改动,而且也没得逻辑层,和控制层.但是这些东西是逃避不了,所以我就针对单表,做了一个代码生成器. my ...

  7. vscode launch program "xxx" does not exist

    Error Solution Please Click The Build Button Other This maybe is the one of Makefile Tools or 'c++ e ...

  8. Go实现动态开点线段树

    1.线段树介绍 线段树是一种用于高效处理区间查询和区间更新的数据结构,当我们需要解决一个频繁更新区间值的问题的时候,就可以采用线段树的结构进行解决.线段树的核心思想是将区间分为多个子区间进行管理,越往 ...

  9. Task VS ValueTask

    在 C# 中,异步编程是构建响应式应用程序的基础.Task 是表示异步操作的首选类型.但是,在某些高性能场景中,与 Task 相关的开销可能会达到一个瓶颈.ValueTask 是 .NET Core ...

  10. 一套基于 Material Design 规范实现的 Blazor 和 Razor 通用组件库

    前言 今天大姚给大家分享一套基于 Material Design 规范实现的.开源(MIT license)且免费的 Blazor 和 Razor 通用组件库:MatBlazor. Blazor介绍 ...