springboot + sharding-jdbc 学习
官网地址:http://shardingsphere.io/document/current/cn/overview/
sharding-jdbc事务:https://blog.csdn.net/yanyan19880509/article/details/78335935
1简介
通过docker搭建四台mysql,两主,每台一从;springboot搭建简单的web项目,并配置sharding-jdbc实现分库分表+独写分离;
sharding-jdbc是在datasource层做的代理,对应用透明,只需在datasource配置好读写分离/分库分表策略即可,原理可参见官网;
2 docker搭建mysql
硬件环境:虚拟机 centos7 4G内存 20G硬盘 mysql5.7.13
1 安装docker : yum install docker 并启动
2 获取mysql镜像: docker pull mysql:5.7.13
3 在虚拟机上配置四台mysql配置文件my.cnf,目录结构如下,主要是配置log-bin和server-id,主从之间server-id不能相同


tip:可以先启动一台mysql容器,然后拷贝容器的配置到本地 docker cp mysql:/etc/mysql/my.cnf /etc/mysql/master-order0/,再在这配置中修改log-bin和server-id
4 启动mysql容器 :
docker run --name master-order0 -d -p 13306:3306 -v /etc/mysql/master-order0/my.cnf:/etc/mysql/my.cnf -e MYSQL_ROOT_PASSWORD=123456 mysql:5.7.13 //主 master0
docker run --name master-order1 -d -p 23306:3306 -v /etc/mysql/master-order1/my.cnf:/etc/mysql/my.cnf -e MYSQL_ROOT_PASSWORD=123456 mysql:5.7.13 //主master1
docker run --name slave-order0 -d -p 13307:3306 -v /etc/mysql/slave-order0/my.cnf:/etc/mysql/my.cnf -e MYSQL_ROOT_PASSWORD=123456 mysql:5.7.13 //从slave0 作为master0的从
docker run --name slave-order1 -d -p 23307:3306 -v /etc/mysql/master-order0/my.cnf:/etc/mysql/my.cnf -e MYSQL_ROOT_PASSWORD=123456 mysql:5.7.13 //从slave1 作为master1的从
说明 --name 指定容器名称,-d后台运行 -v 使用本地配置代替容器自身的配置文件 -e 设置mysql root密码
配置主从:配置前需要关闭虚拟机防火墙 : service firewalld stop
进入 slave-order0: docker exec -it slave-order0 /bin/bash
进入mysql:mysql -uroot -p123456
配置主从: change master to MASTER_HOST='主机ip',MASTER_PORT=13306,MASTER_USER='ROOT',MASTER_PASSWORD='123456',
MASTER_LOG_FILE='主中的log-bin名称',MASTER_LOG_POS=主机log-bin的pos ;
其中MASTER_LOG_FILE和MASTER_LOG_POS需要到主上查看 ,进入主master-order0数据库,show master status \G 可以查看到这两个参数
另外的master-order1和slave-order1配置方式相同;
在两主上建立相同的库和表,库 tyyd; 每个库上新建两张表 order0,order1 表结构相同,表id不要设置为自增,由sharding-jdbc生成;

可以到从数据库上查看到对应的库和表也已经生成;
3springboot+sharding-jdbc搭建web项目
idea中新建web项目,引入sharding-jdbc maven依赖
<!-- https://mvnrepository.com/artifact/io.shardingsphere/sharding-jdbc -->
<dependency>
<groupId>io.shardingsphere</groupId>
<artifactId>sharding-jdbc</artifactId>
<version>3.0.0.M2</version>
</dependency>
1 配置sharding-jdbc 分库分表+独写分离 datasource(也可以采用只独写分离或只分库分表),可以有多种配置方式,我采用的是代码的配置方式:
/**
* @author cgl
* @date 2018/8/15 11:12
* <p>
* 读写分离+分库分表
*/
@Configuration
public class ShardingJDBCSplitAndMsDataSourceConfig {
@Bean
DataSource getDataSource() throws SQLException {
ShardingRuleConfiguration shardingRuleConfig = new ShardingRuleConfiguration();
shardingRuleConfig.getTableRuleConfigs().add(getOrderTableRuleConfiguration());
// shardingRuleConfig.getTableRuleConfigs().add(getOrderItemTableRuleConfiguration());
// shardingRuleConfig.getBindingTableGroups().add("t_order, t_order_item"); //分库策略:根据参数userId取摸计算,此处的ds和下面一行中的order都是逻辑库/表名
shardingRuleConfig.setDefaultDatabaseShardingStrategyConfig(new InlineShardingStrategyConfiguration("user_id", "ds${user_id % 2}"));
//分表策略:根据参数id取模计算
shardingRuleConfig.setDefaultTableShardingStrategyConfig(new InlineShardingStrategyConfiguration("id", "order${id % 2}"));
shardingRuleConfig.setMasterSlaveRuleConfigs(getMasterSlaveRuleConfigurations());
//实际项目需自定义keyGenerator或使用默认的
shardingRuleConfig.setDefaultKeyGenerator(System::currentTimeMillis );
return ShardingDataSourceFactory.createDataSource(createDataSourceMap(), shardingRuleConfig, new HashMap<>(), new Properties());
} TableRuleConfiguration getOrderTableRuleConfiguration() {
TableRuleConfiguration result = new TableRuleConfiguration();
result.setLogicTable("order");
result.setActualDataNodes("ds${0..1}.order${0..1}");
result.setKeyGeneratorColumnName("id");
return result;
} List<MasterSlaveRuleConfiguration> getMasterSlaveRuleConfigurations() {
MasterSlaveRuleConfiguration masterSlaveRuleConfig1 = new MasterSlaveRuleConfiguration("ds0", "ds_master_0", Arrays.asList("ds_master_0_slave_0"));
MasterSlaveRuleConfiguration masterSlaveRuleConfig2 = new MasterSlaveRuleConfiguration("ds1", "ds_master_1", Arrays.asList("ds_master_1_slave_0"));
return Lists.newArrayList(masterSlaveRuleConfig1, masterSlaveRuleConfig2);
} Map<String, DataSource> createDataSourceMap() {
final Map<String, DataSource> result = new HashMap<>();
result.put("ds_master_0", createDatasource("com.mysql.jdbc.Driver", "jdbc:mysql://192.168.137.128:13306/tyyd?useUnicode=true&characterEncoding=utf-8&useSSL=false", "root", "123456"));
result.put("ds_master_1", createDatasource("com.mysql.jdbc.Driver", "jdbc:mysql://192.168.137.128:23306/tyyd?useUnicode=true&characterEncoding=utf-8&useSSL=false", "root", "123456"));
result.put("ds_master_0_slave_0", createDatasource("com.mysql.jdbc.Driver", "jdbc:mysql://192.168.137.128:13307/tyyd?useUnicode=true&characterEncoding=utf-8&useSSL=false", "root", "123456"));
result.put("ds_master_1_slave_0", createDatasource("com.mysql.jdbc.Driver", "jdbc:mysql://192.168.137.128:23307/tyyd?useUnicode=true&characterEncoding=utf-8&useSSL=false", "root", "123456"));
return result;
} private HikariDataSource createDatasource(String driverClassName, String jdbcUrl, String userName, String password) {
HikariConfig hikariConfig0 = new HikariConfig();
hikariConfig0.setDriverClassName(driverClassName);
hikariConfig0.setJdbcUrl(jdbcUrl);
hikariConfig0.setUsername(userName);
hikariConfig0.setPassword(password);
return new HikariDataSource(hikariConfig0);
}
}
2 编写order Controller crud操作
package com.sj.web.controller;
import com.sj.client.request.order.OrderAddRequest;
import com.sj.client.request.order.OrderUpdateRequest;
import com.sj.client.response.order.OrderDetail;
import com.sj.client.service.order.OrderService;
import com.sj.web.dto.BaseResponse;
import com.sj.web.dto.order.OrderDTO;
import org.apache.commons.lang3.RandomUtils;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import java.util.List;
import java.util.Optional;
import java.util.stream.Collectors; /**
* @author cgl
* @date 2018/8/16 15:00
*/
@RestController
@RequestMapping("/order")
public class OrderController { @Autowired
private OrderService orderService;
@RequestMapping("/get/{id}/{userId}")
public OrderDTO getOrderInfo(@PathVariable("id") long id,@PathVariable("userId") long userId){
Optional<OrderDetail> orderDetailOptional = orderService.getOrderInfoByOrderId(id,userId);
if(orderDetailOptional.isPresent()){
OrderDetail detail = orderDetailOptional.get();
return convert(detail);
}
return new OrderDTO();
} private OrderDTO convert(OrderDetail detail) {
OrderDTO dto=new OrderDTO();
dto.setId(detail.getId());
dto.setPrice(detail.getPrice());
dto.setProdId(detail.getProdId());
dto.setUserId(detail.getUserId());
return dto;
} @RequestMapping("/delete/{id}/{userId}")
public BaseResponse delete(@PathVariable("id") long id,@PathVariable("userId") long userId){
orderService.deleteOrder(id,userId);
return new BaseResponse();
} @RequestMapping("/update")
public BaseResponse update(@RequestBody OrderDTO order){
OrderUpdateRequest updateOrder=new OrderUpdateRequest();
updateOrder.setId(order.getId());
updateOrder.setPrice(order.getPrice());
updateOrder.setProdId(order.getProdId());
updateOrder.setUserId(order.getUserId());
orderService.updateOrder(updateOrder);
return new BaseResponse();
} @RequestMapping("/add")
public BaseResponse add(@RequestBody OrderDTO order){
OrderAddRequest request=new OrderAddRequest();
request.setPrice(order.getPrice());
request.setProdId(order.getProdId());
request.setUserId(RandomUtils.nextInt(10,20));
orderService.insertOrder(request);
BaseResponse baseResponse = new BaseResponse();
return baseResponse;
} @RequestMapping("/getlist/{userId}")
public BaseResponse orderList(@PathVariable long userId){
List<OrderDetail>orders= orderService.getOrderListByUserId(userId);
List<OrderDTO> orderDTOS = orders.stream().map(this::convert).collect(Collectors.toList());
BaseResponse response=new BaseResponse();
response.setSuccess(true);
response.setCode(200);
response.setData(orderDTOS);
return response;
}
}
其他service层代码就是简单调用,mapper代码
@Mapper
public interface OrderMapper { @Select("select id,prod_id prodId,user_id userId,price from order where id =#{id} and user_id=#{userId}")
Order selectByPrimaryKey(@Param("id") long id,@Param("userId") long userId);
//此处不应出现id,否则sharding-jdbc不会自动生成id
@Insert("insert into order (prod_id,user_id,price) value(#{prodId},#{userId},#{price} )")
void insertOrder(Order order); @Delete("delete from order where id=#{id} and user_id=#{userId}")
void deleteById(@Param("id") long id,@Param("userId")long userId); @Update("update order set prod_id=#{prodId},user_id=#{userId},price=#{price} where id=#{id}")
void updateOrder(Order order); @Select("select id,prod_id prodId,user_id userId,price from order where user_id=#{userId}")
List<Order> selectListByUserId(long userId);
}
4测试
新增/获取/获取列表 等都正常。测试结果略
以上是这两天学习sharding-jdbc的简单入门demo,前路漫漫~~
springboot + sharding-jdbc 学习的更多相关文章
- Sharding JDBC整合SpringBoot 2.x 和 MyBatis Plus 进行分库分表
Sharding JDBC整合SpringBoot 2.x 和 MyBatis Plus 进行分库分表 交易所流水表的单表数据量已经过亿,选用Sharding-JDBC进行分库分表.MyBatis-P ...
- SpringBoot系列之学习教程汇总
对应SpringBoot系列博客专栏,例子代码,本博客不定时更新 一.配置篇 SpringBoot系列之@PropertySource读取yaml文件 >> source down ...
- Sharding jdbc 强制路由策略(HintShardingStrategy)使用记录
背景 随着项目运行时间逐渐增加,数据库中的数据也越来越多,虽然加索引,优化查询,但是数据量太大,还是会影响查询效率,也给数据库增加了负载. 再加上冷数据基本不使用的场景,决定采用分表来处理数据,从而来 ...
- JDBC学习笔记(2)——Statement和ResultSet
Statement执行更新操作 Statement:Statement 是 Java 执行数据库操作的一个重要方法,用于在已经建立数据库连接的基础上,向数据库发送要执行的SQL语句.Statement ...
- JDBC学习笔记(1)——JDBC概述
JDBC JDBC API是一个Java API,可以访问任何类型表列数据,特别是存储在关系数据库中的数据.JDBC代表Java数据库连接. JDBC库中所包含的API任务通常与数据库使用: 连接到数 ...
- 【转】JDBC学习笔记(2)——Statement和ResultSet
转自:http://www.cnblogs.com/ysw-go/ Statement执行更新操作 Statement:Statement 是 Java 执行数据库操作的一个重要方法,用于在已经建立数 ...
- 【转】JDBC学习笔记(1)——JDBC概述
转自:http://www.cnblogs.com/ysw-go/ JDBC JDBC API是一个Java API,可以访问任何类型表列数据,特别是存储在关系数据库中的数据.JDBC代表Java数据 ...
- jdbc学习总结
jdbc学习总结: 一.简介: jdbc,直译为java连接数据库.实际为java为很好的操作数据库而提供的一套接口,接口的实现(即驱动)由各个数据库厂商提供. 二.知识要点: 连接5要素,3 ...
- SpringBoot + Spring Security 学习笔记(五)实现短信验证码+登录功能
在 Spring Security 中基于表单的认证模式,默认就是密码帐号登录认证,那么对于短信验证码+登录的方式,Spring Security 没有现成的接口可以使用,所以需要自己的封装一个类似的 ...
- SpringBoot + Spring Security 学习笔记(三)实现图片验证码认证
整体实现逻辑 前端在登录页面时,自动从后台获取最新的验证码图片 服务器接收获取生成验证码请求,生成验证码和对应的图片,图片响应回前端,验证码保存一份到服务器的 session 中 前端用户登录时携带当 ...
随机推荐
- 第九节:numpy之随机数组及随机排列
- Android一键换肤功能:一种简单的实现
Android一键换肤功能:一种简单的实现 现在的APP开发,通常会提供APP的换肤功能,网上流传的换肤代码和实现手段过于复杂,这里有一个开源实现,我找了一大堆,发现这个项目相对较为简洁:htt ...
- 理解linux安装软件
http://www.codecoffee.com/tipsforlinux/articles/27.html -------------------------------------------- ...
- c语言文件包含
文件包含是指一个C语言源程序中将另一个C语言源程序包含进来,通过include预处理指令实现. 一般形式: #include”被包含文件名” 或#include<被包含文件名> 2. 作 ...
- axis实现webservices分布式通信
分布式通信原理 watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvY2ZsMjAxMjEzMTQ=/font/5a6L5L2T/fontsize/400/fil ...
- ExtJs4.1布局具体解释
Border布局: Ext.onReady(function(){ Ext.QuickTips.init(); Ext.create('Ext.container.Viewport', ...
- 从头认识java-15.7 Map(3)-介绍HashMap的工作原理-get方法
接着上一章节.我们来讨论一下get方法. 1.还是利用上一章节的图 下图引用自:http://www.admin10000.com/document/3322.html 我们简单说一下步骤.就是通过h ...
- git 的安装和使用
安装Git 下载并安装 mysysgit 下载并安装 git windows版本号 配置Git 设置你的名字和邮箱 git config --global user.name "xxxx&q ...
- TControl的主要功能研究(属性,函数,事件)
-------------------------- TControl主要用来管理以下消息 -------------------------- 鼠标消息显示隐藏刷新控件状态 ControlState ...
- 套接字(socket)与socket 编程
字节序: 主机字节序(host byte order):不同的主机有不同的字节序,x86:小端: 网络字节序(network byte order):大端字节序: 0. 什么是套接字 套接字是网络进程 ...