背景:

在有标注为@Transactional的类或公共方法中(传播特性,如:NOT_SUPPORTED、SUPPORTS、REQUIRED【默认值】、REQUIRES_NEW)执行数据源切换可能不成功(比如:主从数据源切换,多数据源切换等,均会发现切换不成功,或“偶尔又切换成功”),导致本应该需要查主库却查了从库,本应该查B库却仍查了A库导致表不存在等各种查询问题。

原因是什么呢?

本质原因是:因为只要添加了@Transactional (传播特性,如:NOT_SUPPORTED、SUPPORTS、REQUIRED【默认值】、REQUIRES_NEW),在事务同步上下文类型为:SYNCHRONIZATION_ALWAYS时 ,那么会在事务切面中进行初始化事务同步上下文状态【prepareTransactionStatus】(具体可分析代码位置:org.springframework.transaction.support.AbstractPlatformTransactionManager#getTransaction),此时org.springframework.transaction.support.TransactionSynchronizationManager#isSynchronizationActive 是true,若需要事务时(EQUIRED【默认值】、REQUIRES_NEW)则还会org.springframework.transaction.support.AbstractPlatformTransactionManager#doBegin获取connection并开启事务且构建ConnectionHolder注册保存于事务同步上下文中,当mybatis 的SqlSessionTemplate.SqlSessionInterceptor.invoke执行时,第一次会将获取的SqlSession通过SqlSessionUtils.registerSessionHolder注册保存于事务同步上下文中,后续只要是同一个SqlSession,那么间接的就是持有同一个SpringManagedTransaction,SpringManagedTransaction是优先从ConnectionHolder获取已有connection对象,若不存在才会创建新的connection对象,并构建ConnectionHolder注册保存于事务同步上下文中,后续只要是在同一个事务同步上下文中,那么都是复用相同的SqlSession、SpringManagedTransaction、ConnectionHolder,所以单纯的改DataSource(ThreadLocal的线程变量)没有用,因为此时ConnectionHolder中保存的是Connection,而不是DataSource

Spring声明式事务源代码分析流程图

为何偶尔切换数据源成功?

当为事务传播特性为NOT_SUPPORTED、SUPPORTS时,由于此时事务管理器并不会提前打开Conneciton并开启事务(即:也不会保存到ConnectionHolder)【从上图中就可以看出】,而是在执行一条SQL语句时,触发了MyBatis的第一次获取SqlSession,间接的执行了DataSourceUtils.doGetConnection(会保存到ConnectionHolder中),如果在方法中的执行第一条SQL语句前进行数据源切换,那么就可以生效,若在执行第一条SQL语句后再尝试切换,那么由于SqlSession已不是最新的(ConnectionHolder中已有Connection),则只会复用。

解决方案:

新增数据源切换执行器工具类:DataSourceSwitchInvoker,作用:在执行前会检查要切换的数据源与当前已持有的数据源(ConnectionHolder.Connection)是否一致,一致则直接执行回调方法(即:不存在切换数据源),不一致则挂起当前事务(挂事务与资源后,会清空事务同步上下文,就像从来没有执行过事务方法一样,默认状态),然后执行回调方法,最后恢复被挂起的事务与资源,并恢复回执行前的数据源设置。即:相当于在事务执行过程中,撕开一个口子(无任何状态),执行完成后,再恢复回事务的原状态,不影响后续的执行。

DataSourceSwitchInvoker.invokeOn 代码逻辑流程图:

(注:图片部份位置有屏蔽删减是因为我实现了多个版本,本次是简化实用版,无需复杂的设置,直接方法入参传入即可)

DataSourceSwitchInvoker 实现CODE:


/**
* @author: zuowenjun
* @description:数据源切换后执行器,解决在多数据源项目中,无法在事务方法中进行数据源切换问题
*/
@Component
public class DataSourceSwitchInvoker { private static final Logger LOGGER = LoggerFactory.getLogger(DataSourceSwitchInvoker.class); private static final Map<String, String> DATA_SOURCE_NAME_WITH_URL_MAP = new HashMap<>(); private static final String SET_BEFORE = "BEFORE";
private static final String SET_AFTER = "AFTER"; @Value("${dataSourceSwitchInvoker.settings.datasourceJdbcUrlPattern:}")
private String datasourceJdbcUrlPattern; /**
* 初始化必要条件:数据源配置集合(数据源名称与jdbcUrl对应关系)
*/
@PostConstruct
public void initializeRequirement() {
if (StringUtils.isBlank(datasourceJdbcUrlPattern)) {
LOGGER.warn("datasourceJdbcUrlPattern is null");
return;
} DATA_SOURCE_NAME_WITH_URL_MAP.clear(); Map<String, String> configMap = getPropertiesByPattern(datasourceJdbcUrlPattern, value -> ObjectUtils.defaultIfNull(value, "").toString().trim(), (k, v) -> StringUtils.isNotEmpty(v)); if (MapUtils.isEmpty(configMap)) {
LOGGER.error("DataSourceSwitchInvoker.initializeRequirement configMap is empty ,datasourceJdbcUrlPattern: {}", datasourceJdbcUrlPattern);
return;
} DATA_SOURCE_NAME_WITH_URL_MAP.putAll(configMap); LOGGER.info("DataSourceSwitchInvoker.initializeRequirement ok");
} /**
* 在指定的数据源下执行回调方法
*
* @param getCurrentDsNameFunc
* @param setCurrentDsNameFunc
* @param invokeCallback
* @return
*/
public static <T> T invokeOn(String newDataSourceName, Supplier<String> getCurrentDsNameFunc, Consumer<String> setCurrentDsNameFunc, BiFunction<String, String, Boolean> checkSameDsNameFunc, Supplier<T> invokeCallback) {
Assert.notNull(getCurrentDsNameFunc, "执行前获取数据源配置回调方法不能为空");
Assert.notNull(setCurrentDsNameFunc, "执行前要设置的数据源配置回调方法不能为空");
Assert.notNull(invokeCallback, "具体执行回调方法不能为空"); String invokeId = "DSI" + System.currentTimeMillis(); String oldDataSourceName = getCurrentDsNameFunc.get(); setCurrentDsNameFunc.accept(newDataSourceName); LOGGER.info("DataSourceSwitchInvoker.invokeOn setCurrentDsName {} --> {} ,invokeId: {}", oldDataSourceName, newDataSourceName, invokeId); Object currentTransaction = null;
Object suspendedResourcesHolder = null;
PlatformTransactionManagerDelegateInner platformTransactionManagerDelegate = null;
try { String currentDbConnectionUrl = TransactionManagerUtils.getCurrentDbConnectionUrl(null); if (StringUtils.isEmpty(currentDbConnectionUrl) || currentDbConnectionUrl.equalsIgnoreCase(DATA_SOURCE_NAME_WITH_URL_MAP.get(newDataSourceName))) {
//若当前没有持有DB连接 或持有的DB连接与当前要设置的DB数据源相同,则表明无需额外处理,只需正常执行即可
return invokeCallback.get();
} else if (StringUtils.isNotEmpty(currentDbConnectionUrl) && checkSameDsNameFunc != null) {
String currentUsedDataSourceName = DATA_SOURCE_NAME_WITH_URL_MAP.entrySet().stream().filter(kv -> currentDbConnectionUrl.equalsIgnoreCase(kv.getValue())).map(Map.Entry::getKey).findFirst().orElse(null);
if (Boolean.TRUE.equals(checkSameDsNameFunc.apply(currentUsedDataSourceName, newDataSourceName))) {
//若当前事务连接对应的已实际使用的数据源与要设置的数据源一致,则表明无需额外处理,只需正常执行即可
return invokeCallback.get();
}
} //若持有DB连接,则需要先挂起当前事务或资源
AbstractPlatformTransactionManager platformTransactionManager = SpringUtils.getBean(AbstractPlatformTransactionManager.class);
Assert.notNull(platformTransactionManager, "not found AbstractPlatformTransactionManager bean"); platformTransactionManagerDelegate = new PlatformTransactionManagerDelegateInner(platformTransactionManager);
currentTransaction = TransactionManagerUtils.getCurrentTransaction(platformTransactionManager); if (!platformTransactionManagerDelegate.isExistingTransaction(currentTransaction)) {
currentTransaction = null;
} suspendedResourcesHolder = platformTransactionManagerDelegate.suspend(currentTransaction); LOGGER.debug("DataSourceSwitchInvoker.invokeOn suspend result is {} ,invokeId: {}", suspendedResourcesHolder != null, invokeId); return invokeCallback.get(); } finally {
String resumeSuspendedResources = null;
//前面若有挂起事务或资源,则需在执行完方法后需恢复到当前事务状态
if (currentTransaction != null || suspendedResourcesHolder != null) {
platformTransactionManagerDelegate.resume(currentTransaction, suspendedResourcesHolder);
resumeSuspendedResources = "resume suspendedResources ok";
} setCurrentDsNameFunc.accept(oldDataSourceName); LOGGER.info("DataSourceSwitchInvoker.invokeOn end {} , recover setCurrentDsName {} --> {} ,invokeId: {}", resumeSuspendedResources, newDataSourceName, oldDataSourceName, invokeId);
}
} /**
* 在指定的数据源下执行回调方法
*
* @param setCurrentDsNameFunc
* @param invokeCallback
* @param <T>
* @return
*/
public static <T> T invokeOn(Consumer<String> setCurrentDsNameFunc, Supplier<T> invokeCallback) {
return invokeOn(SET_BEFORE, () -> SET_AFTER, setCurrentDsNameFunc, null, invokeCallback);
} private static <T> Map<String, T> getPropertiesByPattern(String configPath, Function<Object, T> convertValueFunc, BiFunction<String, T, Boolean> filterFunc) {
Assert.notNull(configPath, "param configPath not be null");
Assert.notNull(convertValueFunc, "param convertValueFunc not be null"); Map<String, T> resultMap = new HashMap<>(); if (!(SpringUtils.getApplicationContext().getEnvironment() instanceof ConfigurableEnvironment)) {
return resultMap;
} ConfigurableEnvironment environment = (ConfigurableEnvironment) SpringUtils.getApplicationContext().getEnvironment();
AntPathMatcher antPathMatcher = new AntPathMatcher(".");
String configKey = "{configKey}";
// 遍历所有的属性源
for (PropertySource<?> propertySource : environment.getPropertySources()) {
if (propertySource instanceof EnumerablePropertySource) {
EnumerablePropertySource<?> enumerablePropertySource = (EnumerablePropertySource<?>) propertySource; // 遍历当前属性源中的所有属性
for (String propertyName : enumerablePropertySource.getPropertyNames()) {
if (antPathMatcher.match(configPath, propertyName)) {
String key = propertyName;
if (configPath.contains(configKey)) {
key = antPathMatcher.extractUriTemplateVariables(configPath, propertyName).getOrDefault(configKey.replaceAll("[{}]", ""), "<null>");
} T value = convertValueFunc.apply(enumerablePropertySource.getProperty(propertyName));
if (filterFunc == null || filterFunc.apply(key, value)) {
resultMap.put(key, convertValueFunc.apply(value));
}
}
}
}
}
return resultMap;
} /**
* 通过内部类在不破坏封装性、访问性的前提下,提供当前类内部的protected方法的访问能力
*/
private static class PlatformTransactionManagerDelegateInner extends PlatformTransactionManagerDelegate { public PlatformTransactionManagerDelegateInner(AbstractPlatformTransactionManager transactionManager) {
super(transactionManager);
} @Override
protected Object suspend(Object transaction) throws TransactionException {
return super.suspend(transaction);
} @Override
protected void resume(Object transaction, Object resourcesHolderObj) {
super.resume(transaction, resourcesHolderObj);
} @Override
protected boolean isExistingTransaction(Object transaction) {
return super.isExistingTransaction(transaction);
}
} }

依赖CODE(注意包名路径需与AbstractPlatformTransactionManager、DataSourceTransactionManager一致):

//author: zuowenjun
//注意包名必需是如下,因为要访问protected方法
package org.springframework.jdbc.datasource; public class PlatformTransactionManagerDelegate {
private final AbstractPlatformTransactionManager delegate; public PlatformTransactionManagerDelegate(AbstractPlatformTransactionManager transactionManager) {
this.delegate = transactionManager;
} protected Object suspend(Object transaction) throws TransactionException {
return delegate.suspend(transaction);
} protected void resume(Object transaction, Object resourcesHolderObj) {
AbstractPlatformTransactionManager.SuspendedResourcesHolder resourcesHolder = (AbstractPlatformTransactionManager.SuspendedResourcesHolder) resourcesHolderObj;
delegate.resume(transaction, resourcesHolder);
} protected boolean isExistingTransaction(Object transaction) {
return delegate.isExistingTransaction(transaction);
} } //author: zuowenjun
//注意包名必需是如下,因为要访问protected方法
package org.springframework.transaction.support; public class TransactionManagerUtils { public static String getCurrentDbConnectionUrl(String threadLocalDbNameIfNoSet) {
DataSource dataSource = SpringUtils.getBean(DataSource.class);
if (dataSource == null) {
return threadLocalDbNameIfNoSet;
} ConnectionHolder conHolder = (ConnectionHolder) TransactionSynchronizationManager.getResource(dataSource);
if (conHolder == null || !conHolder.hasConnection()) {
return threadLocalDbNameIfNoSet;
} try {
return conHolder.getConnection().getMetaData().getURL();
} catch (Throwable e) {
LOGGER.warn("TransactionManagerUtils.getCurrentDbConnectionUrl error", e);
} return threadLocalDbNameIfNoSet;
} public static Object getCurrentTransaction(AbstractPlatformTransactionManager transactionManager) {
if (!(transactionManager instanceof DataSourceTransactionManager)) {
throw new RuntimeException("only support DataSourceTransactionManager doGetTransaction");
} DataSourceTransactionManager dsTransactionManager = (DataSourceTransactionManager) transactionManager;
return dsTransactionManager.doGetTransaction();
} }

其中:SpringUtils工具类是一个简单的实现了Spring上下文织入的接口然后赋值给静态字段,最终实现可以直接使用applicationContext.getBean(type)

使用示例CODE:

//假设这里是数据源的设置,tips:多数据源一般都是自定义实现了AbstractRoutingDataSource,然后使用ThreadLocal来保存设置当前要使用的数据源配置名称

private ThreadLocal<String> dataSourceHolder = new ThreadLocal<>();

@Transactional
public doWithTx(){
//第一种方法:【推荐第一种】
//假设之前是read_db 数据源,现在需要切换成master_db
DataSourceSwitchInvoker.invokeOn("master_db", () -> dataSourceHolder.get(), (dsName) -> dataSourceHolder.set(dsName), null, () -> {
Object demo = null; //模拟 demoMapper.get(123L);
return demo;
}); //第二种方法:(重载方法,一个设置数据源方法处理执行前、执行后的数据源设置)
//假设之前是read_db 数据源,现在需要切换成master_db
AtomicReference<String> dsName = new AtomicReference<>();
DataSourceSwitchInvoker.invokeOn(eventName -> {
if (SET_BEFORE.equals(eventName)) {
//执行前,自行记录之前的数据源
dsName.set(dataSourceHolder.get());
//设置新数据源
dataSourceHolder.set("master_db");
} else if (SET_AFTER.equals(eventName)) {
//执行后,还原设置数据源
dataSourceHolder.set(dsName.get());
} }, () -> {
Object demo = null; //模拟 demoMapper.get(123L);
return demo;
});
}

编码建议:

切换虽好用,但建议不要在切换的方法中进行写数据的操作,更适合仅用于临时需要查询其他数据源的数据时使用,以免破坏spring事务的完整性,因为invokeOn方法本身就是先挂起一个事务,然后开新连接执行新的操作DB的方法,最后还原恢复事务,若在其中又进行了其他的操作,可能存在未知风险,虽然理论做什么都可以但非常不建议。

经多种测试,无论是普通方法 OR 在事务中的方法,均能正常执行,简直就是YYDS!原创不易,如有帮助关注+点个赞吧v

事务中无法切换数据源?DataSourceSwitchInvoker:轻松实现多数据源切换执行工具类的更多相关文章

  1. 时间工具类之“ JDK1.8中 LocalDate、LocalTime、LocalDateTime、LocalDateTimeUtil四个时间工具类”

    一.使用的原因 在JDK8发布的时候,推出了LocalDate.LocalTime.LocalDateTime这个三个时间处理类,以此来弥补之前的日期时间类的不足,简化日期时间的操作. 在Java8之 ...

  2. 转:轻松把玩HttpClient之封装HttpClient工具类(一)(现有网上分享中的最强大的工具类)

    搜了一下网络上别人封装的HttpClient,大部分特别简单,有一些看起来比较高级,但是用起来都不怎么好用.调用关系不清楚,结构有点混乱.所以也就萌生了自己封装HttpClient工具类的想法.要做就 ...

  3. 轻松把玩HttpClient之封装HttpClient工具类(五),携带Cookie的请求

    近期更新了一下HttpClientUtil工具类代码,主要是加入了一个參数HttpContext,这个是用来干嘛的呢?事实上是用来保存和传递Cookie所须要的. 由于我们有非常多时候都须要登录.然后 ...

  4. Java中使用google.zxing快捷生成二维码(附工具类源码)

    移动互联网时代,基于手机端的各种活动扫码和收付款码层出不穷:那我们如何在Java中生成自己想要的二维码呢?下面就来讲讲在Java开发中使用 google.zxing 生成二维码. 一般情况下,Java ...

  5. (转)Android中px与dip,sp与dip等的转换工具类

    功能 通常在代码中设置组件或文字大小只能用px,通过这个工具类我们可以把dip(dp)或sp为单位的值转换为以px为单位的值而保证大小不变.方法中的参数请参考http://www.cnblogs.co ...

  6. redis事务中的WATCH命令和基于CAS的乐观锁

    转自:http://blog.sina.com.cn/s/blog_ae8441630101cgy3.html 在Redis的事务中,WATCH命令可用于提供CAS(check-and-set)功能. ...

  7. 五、在事务中使用Mybatis缓存的那些坑

    场景: 1.同一个事务中 2.使用mybatis执行同一个sql @Transactional(rollbackFor = { Exception.class }) public void getIn ...

  8. hibernate框架学习第二天:核心API、工具类、事务、查询、方言、主键生成策略等

    核心API Configuration 描述的是一个封装所有配置信息的对象 1.加载hibernate.properties(非主流,早期) Configuration conf = new Conf ...

  9. LY.JAVA面向对象编程.工具类中使用静态、说明书的制作过程、API文档的使用过程

    2018-07-08 获取数组中的最大值 某个数字在数组中第一次出现时的索引 制作说明书的过程 对工具类的使用 获取数组中的最大值 获取数字在数组中第一次出现的索引值 API的使用过程 Math

  10. java高并发系列 - 第16天:JUC中等待多线程完成的工具类CountDownLatch,必备技能

    这是java高并发系列第16篇文章. 本篇内容 介绍CountDownLatch及使用场景 提供几个示例介绍CountDownLatch的使用 手写一个并行处理任务的工具类 假如有这样一个需求,当我们 ...

随机推荐

  1. 09C++选择结构(3)——教学

    一.求3个整数中最小值 (第20课 初识算法) 题目:输入三个整数,表示梨的重量,输出最小的数. 方法1:经过三次两两比较,得出最小值. a<=b && a<=c min= ...

  2. C++顺序结构(3)、数据类型_____教学

    一.设置域宽setw() 输出的内容所占的总宽度成为域宽,有些高级语言中称为场宽. 使用setw()前,必须包含头文件iomanip,即#include<iomanip> 头文件ioman ...

  3. 4.mysql中的存储过程

    创建存储过程和函数 CREATE [DEFINER = {USER | CURRENT_USER}] # 定义者是谁 PROCEDURE sp_name ([proc_parameter[,...]] ...

  4. Advanced .NET Remoting: 第 9 章 3.在 Remoting 中传递额外的运行时信息

    Advanced .NET Remoting:第 9 章 3.传递运行时信息 前面使用的接收器 ( Sink ) 是 IClientChannelSinks 与 IServerChannelSinks ...

  5. 【软件】【逆向】StarUML regist

    // 安装npm brew install node //安装打包工具 npm install asar -g C:\Program Files\StarUML\resources StarUML\r ...

  6. git clone 指定 ssh-key 文件

    环境 & 软件 mac OS 问题 git clone 不是默认 ssh-key,无法克隆 解决方法 用ssh-add命令将对应的私钥加入到缓存 // ssh-add 自定义名称 // 例子 ...

  7. Qt/C++音视频开发64-共享解码线程/重复利用解码/极低CPU占用/画面同步/进度同步

    一.前言 共享解码线程主要是为了降低CPU占用,重复利用解码,毕竟在一个监控系统中,很可能打开了同一个地址,需要在多个不同的窗口中播放,形成多屏渲染的效果,做到真正的完全的画面同步,在主解码线程中切换 ...

  8. Qt开发经验小技巧271-275

    编程的过程中经常遇到需要将QString转成char *或者const char *的情况,在转换成QByteArray后调用.data()或者.constData()函数进行转换,这里需要注意的是, ...

  9. 关于QtCreator中三种不同编译版本 debug、release、profile 的区别

    debug调试模式,编译后的可执行文件很大,带了很多调试符号信息等,方便开发阶段调试的时候进入具体的堆栈查看值.会打开所有的断言,运行阶段性能差速度慢,可能会有卡顿感觉. release发布模式,编译 ...

  10. 创建用于预测序列的人工智能模型,用Keras Tuner探索模型的超参数。

    上一篇:<创建用于预测序列的人工智能模型(五),调整模型的超参数> 序言:在完成初步的模型研发后,接下来的重点是探索和优化超参数.通过合理调整超参数(如学习率.动量参数.神经元数量等),可 ...