同一个项目有时会涉及到多个数据库,也就是多数据源。多数据源又可以分为两种情况:

1)两个或多个数据库没有相关性,各自独立,其实这种可以作为两个项目来开发。比如在游戏开发中一个数据库是平台数据库,其它还有平台下的游戏对应的数据库;

2)两个或多个数据库是master-slave的关系,比如有mysql搭建一个 master-master,其后又带有多个slave;或者采用MHA搭建的master-slave复制;

目前我所知道的 Spring 多数据源的搭建大概有两种方式,可以根据多数据源的情况进行选择。

1. 采用spring配置文件直接配置多个数据源

比如针对两个数据库没有相关性的情况,可以采用直接在spring的配置文件中配置多个数据源,然后分别进行事务的配置,如下所示:

  1. <context:component-scan base-package="net.aazj.service,net.aazj.aop" />
  2. <context:component-scan base-package="net.aazj.aop" />
  3. <!-- 引入属性文件 -->
  4. <context:property-placeholder location="classpath:config/db.properties" />
  5.  
  6. <!-- 配置数据源 -->
  7. <bean name="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
  8. <property name="url" value="${jdbc_url}" />
  9. <property name="username" value="${jdbc_username}" />
  10. <property name="password" value="${jdbc_password}" />
  11. <!-- 初始化连接大小 -->
  12. <property name="initialSize" value="0" />
  13. <!-- 连接池最大使用连接数量 -->
  14. <property name="maxActive" value="20" />
  15. <!-- 连接池最大空闲 -->
  16. <property name="maxIdle" value="20" />
  17. <!-- 连接池最小空闲 -->
  18. <property name="minIdle" value="0" />
  19. <!-- 获取连接最大等待时间 -->
  20. <property name="maxWait" value="60000" />
  21. </bean>
  22.  
  23. <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
  24. <property name="dataSource" ref="dataSource" />
  25. <property name="configLocation" value="classpath:config/mybatis-config.xml" />
  26. <property name="mapperLocations" value="classpath*:config/mappers/**/*.xml" />
  27. </bean>
  28.  
  29. <!-- Transaction manager for a single JDBC DataSource -->
  30. <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
  31. <property name="dataSource" ref="dataSource" />
  32. </bean>
  33.  
  34. <!-- 使用annotation定义事务 -->
  35. <tx:annotation-driven transaction-manager="transactionManager" />
  36.  
  37. <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
  38. <property name="basePackage" value="net.aazj.mapper" />
  39. <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/>
  40. </bean>
  41. <!-- Enables the use of the @AspectJ style of Spring AOP -->
  42. <aop:aspectj-autoproxy/>
  43.  
  44. <!-- ===============第二个数据源的配置=============== -->
  45. <bean name="dataSource_2" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
  46. <property name="url" value="${jdbc_url_2}" />
  47. <property name="username" value="${jdbc_username_2}" />
  48. <property name="password" value="${jdbc_password_2}" />
  49. <!-- 初始化连接大小 -->
  50. <property name="initialSize" value="0" />
  51. <!-- 连接池最大使用连接数量 -->
  52. <property name="maxActive" value="20" />
  53. <!-- 连接池最大空闲 -->
  54. <property name="maxIdle" value="20" />
  55. <!-- 连接池最小空闲 -->
  56. <property name="minIdle" value="0" />
  57. <!-- 获取连接最大等待时间 -->
  58. <property name="maxWait" value="60000" />
  59. </bean>
  60.  
  61. <bean id="sqlSessionFactory_slave" class="org.mybatis.spring.SqlSessionFactoryBean">
  62. <property name="dataSource" ref="dataSource_2" />
  63. <property name="configLocation" value="classpath:config/mybatis-config-2.xml" />
  64. <property name="mapperLocations" value="classpath*:config/mappers2/**/*.xml" />
  65. </bean>
  66.  
  67. <!-- Transaction manager for a single JDBC DataSource -->
  68. <bean id="transactionManager_2" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
  69. <property name="dataSource" ref="dataSource_2" />
  70. </bean>
  71.  
  72. <!-- 使用annotation定义事务 -->
  73. <tx:annotation-driven transaction-manager="transactionManager_2" />
  74.  
  75. <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
  76. <property name="basePackage" value="net.aazj.mapper2" />
  77. <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory_2"/>
  78. </bean>

如上所示,我们分别配置了两个 dataSource,两个sqlSessionFactory,两个transactionManager,以及关键的地方在于MapperScannerConfigurer 的配置——使用sqlSessionFactoryBeanName属性,注入不同的sqlSessionFactory的名称,这样的话,就为不同的数据库对应的 mapper 接口注入了对应的 sqlSessionFactory。

需要注意的是,多个数据库的这种配置是不支持分布式事务的,也就是同一个事务中,不能操作多个数据库。这种配置方式的优点是很简单,但是却不灵活。对于master-slave类型的多数据源配置而言不太适应,master-slave性的多数据源的配置,需要特别灵活,需要根据业务的类型进行细致的配置。比如对于一些耗时特别大的select语句,我们希望放到slave上执行,而对于update,delete等操作肯定是只能在master上执行的,另外对于一些实时性要求很高的select语句,我们也可能需要放到master上执行——比如一个场景是我去商城购买一件兵器,购买操作的很定是master,同时购买完成之后,需要重新查询出我所拥有的兵器和金币,那么这个查询可能也需要防止master上执行,而不能放在slave上去执行,因为slave上可能存在延时,我们可不希望玩家发现购买成功之后,在背包中却找不到兵器的情况出现。

所以对于master-slave类型的多数据源的配置,需要根据业务来进行灵活的配置,哪些select可以放到slave上,哪些select不能放到slave上。所以上面的那种所数据源的配置就不太适应了。

2. 基于 AbstractRoutingDataSource 和 AOP 的多数据源的配置

基本原理是,我们自己定义一个DataSource类ThreadLocalRountingDataSource,来继承AbstractRoutingDataSource,然后在配置文件中向ThreadLocalRountingDataSource注入 master 和 slave 的数据源,然后通过 AOP 来灵活配置,在哪些地方选择  master 数据源,在哪些地方需要选择 slave数据源。下面看代码实现:

1)先定义一个enum来表示不同的数据源:

  1. package net.aazj.enums;
  2.  
  3. /**
  4. * 数据源的类别:master/slave
  5. */
  6. public enum DataSources {
  7. MASTER, SLAVE
  8. }

2)通过 TheadLocal 来保存每个线程选择哪个数据源的标志(key):

  1. package net.aazj.util;
  2.  
  3. import net.aazj.enums.DataSources;
  4.  
  5. public class DataSourceTypeManager {
  6. private static final ThreadLocal<DataSources> dataSourceTypes = new ThreadLocal<DataSources>(){
  7. @Override
  8. protected DataSources initialValue(){
  9. return DataSources.MASTER;
  10. }
  11. };
  12.  
  13. public static DataSources get(){
  14. return dataSourceTypes.get();
  15. }
  16.  
  17. public static void set(DataSources dataSourceType){
  18. dataSourceTypes.set(dataSourceType);
  19. }
  20.  
  21. public static void reset(){
  22. dataSourceTypes.set(DataSources.MASTER0);
  23. }
  24. }

3)定义 ThreadLocalRountingDataSource,继承AbstractRoutingDataSource:

  1. package net.aazj.util;
  2.  
  3. import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;
  4.  
  5. public class ThreadLocalRountingDataSource extends AbstractRoutingDataSource {
  6. @Override
  7. protected Object determineCurrentLookupKey() {
  8. return DataSourceTypeManager.get();
  9. }
  10. }

4)在配置文件中向 ThreadLocalRountingDataSource 注入 master 和 slave 的数据源:

  1. <context:component-scan base-package="net.aazj.service,net.aazj.aop" />
  2. <context:component-scan base-package="net.aazj.aop" />
  3. <!-- 引入属性文件 -->
  4. <context:property-placeholder location="classpath:config/db.properties" />
  5. <!-- 配置数据源Master -->
  6. <bean name="dataSourceMaster" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
  7. <property name="url" value="${jdbc_url}" />
  8. <property name="username" value="${jdbc_username}" />
  9. <property name="password" value="${jdbc_password}" />
  10. <!-- 初始化连接大小 -->
  11. <property name="initialSize" value="0" />
  12. <!-- 连接池最大使用连接数量 -->
  13. <property name="maxActive" value="20" />
  14. <!-- 连接池最大空闲 -->
  15. <property name="maxIdle" value="20" />
  16. <!-- 连接池最小空闲 -->
  17. <property name="minIdle" value="0" />
  18. <!-- 获取连接最大等待时间 -->
  19. <property name="maxWait" value="60000" />
  20. </bean>
  21. <!-- 配置数据源Slave -->
  22. <bean name="dataSourceSlave" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">
  23. <property name="url" value="${jdbc_url_slave}" />
  24. <property name="username" value="${jdbc_username_slave}" />
  25. <property name="password" value="${jdbc_password_slave}" />
  26. <!-- 初始化连接大小 -->
  27. <property name="initialSize" value="0" />
  28. <!-- 连接池最大使用连接数量 -->
  29. <property name="maxActive" value="20" />
  30. <!-- 连接池最大空闲 -->
  31. <property name="maxIdle" value="20" />
  32. <!-- 连接池最小空闲 -->
  33. <property name="minIdle" value="0" />
  34. <!-- 获取连接最大等待时间 -->
  35. <property name="maxWait" value="60000" />
  36. </bean>
  37. <bean id="dataSource" class="net.aazj.util.ThreadLocalRountingDataSource">
  38. <property name="defaultTargetDataSource" ref="dataSourceMaster" />
  39. <property name="targetDataSources">
  40. <map key-type="net.aazj.enums.DataSources">
  41. <entry key="MASTER" value-ref="dataSourceMaster"/>
  42. <entry key="SLAVE" value-ref="dataSourceSlave"/>
  43. <!-- 这里还可以加多个dataSource -->
  44. </map>
  45. </property>
  46. </bean>
  47. <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
  48. <property name="dataSource" ref="dataSource" />
  49. <property name="configLocation" value="classpath:config/mybatis-config.xml" />
  50. <property name="mapperLocations" value="classpath*:config/mappers/**/*.xml" />
  51. </bean>
  52. <!-- Transaction manager for a single JDBC DataSource -->
  53. <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
  54. <property name="dataSource" ref="dataSource" />
  55. </bean>
  56. <!-- 使用annotation定义事务 -->
  57. <tx:annotation-driven transaction-manager="transactionManager" />
  58. <bean class="org.mybatis.spring.mapper.MapperScannerConfigurer">
  59. <property name="basePackage" value="net.aazj.mapper" />
  60. <!-- <property name="sqlSessionFactoryBeanName" value="sqlSessionFactory"/> -->
  61. </bean>

上面spring的配置文件中,我们针对master数据库和slave数据库分别定义了dataSourceMaster和dataSourceSlave两个dataSource,然后注入到<bean id="dataSource" class="net.aazj.util.ThreadLocalRountingDataSource"> 中,这样我们的dataSource就可以来根据 key 的不同来选择dataSourceMaster和 dataSourceSlave了。

5)使用Spring AOP 来指定 dataSource 的 key ,从而dataSource会根据key选择 dataSourceMaster 和 dataSourceSlave:

  1. package net.aazj.aop;
  2.  
  3. import net.aazj.enums.DataSources;
  4. import net.aazj.util.DataSourceTypeManager;
  5.  
  6. import org.aspectj.lang.JoinPoint;
  7. import org.aspectj.lang.annotation.Aspect;
  8. import org.aspectj.lang.annotation.Before;
  9. import org.aspectj.lang.annotation.Pointcut;
  10. import org.springframework.stereotype.Component;
  11.  
  12. @Aspect // for aop
  13. @Component // for auto scan
    @Order(0)  // execute before @Transactional
  14. public class DataSourceInterceptor {
  15. @Pointcut("execution(public * net.aazj.service..*.getUser(..))")
  16. public void dataSourceSlave(){};
  17.  
  18. @Before("dataSourceSlave()")
  19. public void before(JoinPoint jp) {
  20. DataSourceTypeManager.set(DataSources.SLAVE);
  21. }
    // ... ...
  22. }

这里我们定义了一个 Aspect 类,我们使用 @Before 来在符合 @Pointcut("execution(public * net.aazj.service..*.getUser(..))") 中的方法被调用之前,调用 DataSourceTypeManager.set(DataSources.SLAVE) 设置了 key 的类型为 DataSources.SLAVE,所以 dataSource 会根据key=DataSources.SLAVE 选择 dataSourceSlave 这个dataSource。所以该方法对于的sql语句会在slave数据库上执行(经网友老刘1987提醒,这里存在多个Aspect之间的一个执行顺序的问题,必须保证切换数据源的Aspect必须在@Transactional这个Aspect之前执行,所以这里使用了@Order(0)来保证切换数据源先于@Transactional执行)。

我们可以不断的扩充 DataSourceInterceptor  这个 Aspect,在中进行各种各样的定义,来为某个service的某个方法指定合适的数据源对应的dataSource。

这样我们就可以使用 Spring AOP 的强大功能来,十分灵活进行配置了。

6)AbstractRoutingDataSource原理剖析

ThreadLocalRountingDataSource继承了AbstractRoutingDataSource,实现其抽象方法protected abstract Object determineCurrentLookupKey(); 从而实现对不同数据源的路由功能。我们从源码入手分析下其中原理:

  1. public abstract class AbstractRoutingDataSource extends AbstractDataSource implements InitializingBean
  1. AbstractRoutingDataSource 实现了 InitializingBean 那么spring在初始化该bean时,会调用InitializingBean的接口
    void afterPropertiesSet() throws Exception; 我们看下AbstractRoutingDataSource是如何实现这个接口的:
  1. @Override
  2. public void afterPropertiesSet() {
  3. if (this.targetDataSources == null) {
  4. throw new IllegalArgumentException("Property 'targetDataSources' is required");
  5. }
  6. this.resolvedDataSources = new HashMap<Object, DataSource>(this.targetDataSources.size());
  7. for (Map.Entry<Object, Object> entry : this.targetDataSources.entrySet()) {
  8. Object lookupKey = resolveSpecifiedLookupKey(entry.getKey());
  9. DataSource dataSource = resolveSpecifiedDataSource(entry.getValue());
  10. this.resolvedDataSources.put(lookupKey, dataSource);
  11. }
  12. if (this.defaultTargetDataSource != null) {
  13. this.resolvedDefaultDataSource = resolveSpecifiedDataSource(this.defaultTargetDataSource);
  14. }
  15. }
  1. targetDataSources 是我们在xml配置文件中注入的 dataSourceMaster dataSourceSlave. afterPropertiesSet方法就是使用注入的
    dataSourceMaster dataSourceSlave来构造一个HashMap——resolvedDataSources。方便后面根据 key 从该map 中取得对应的dataSource
    我们在看下 AbstractDataSource 接口中的 Connection getConnection() throws SQLException; 是如何实现的:
  1. @Override
  2. public Connection getConnection() throws SQLException {
  3. return determineTargetDataSource().getConnection();
  4. }

关键在于 determineTargetDataSource(),根据方法名就可以看出,应该此处就决定了使用哪个 dataSource :

  1. protected DataSource determineTargetDataSource() {
  2. Assert.notNull(this.resolvedDataSources, "DataSource router not initialized");
  3. Object lookupKey = determineCurrentLookupKey();
  4. DataSource dataSource = this.resolvedDataSources.get(lookupKey);
  5. if (dataSource == null && (this.lenientFallback || lookupKey == null)) {
  6. dataSource = this.resolvedDefaultDataSource;
  7. }
  8. if (dataSource == null) {
  9. throw new IllegalStateException("Cannot determine target DataSource for lookup key [" + lookupKey + "]");
  10. }
  11. return dataSource;
  12. }
  1. Object lookupKey = determineCurrentLookupKey(); 该方法是我们实现的,在其中获取ThreadLocal中保存的 key 值。获得了key之后,
    在从afterPropertiesSet()中初始化好了的resolvedDataSources这个map中获得key对应的dataSource。而ThreadLocal中保存的 key
    是通过AOP的方式在调用service中相关方法之前设置好的。OK,到此搞定!

7)扩展 ThreadLocalRountingDataSource

上面我们只是实现了 master-slave 数据源的选择。如果有多台 master 或者有多台 slave。多台master组成一个HA,要实现当其中一台master挂了是,自动切换到另一台master,这个功能可以使用LVS/Keepalived来实现,也可以通过进一步扩展ThreadLocalRountingDataSource来实现,可以另外加一个线程专门来每个一秒来测试mysql是否正常来实现。同样对于多台slave之间要实现负载均衡,同时当一台slave挂了时,要实现将其从负载均衡中去除掉,这个功能既可以使用LVS/Keepalived来实现,同样也可以通过近一步扩展ThreadLocalRountingDataSource来实现。

3. 总结

从本文中我们可以体会到AOP的强大和灵活。

本文使用的是mybatis,其实使用Hibernate也应该是相似的配置。

【转】Spring, MyBatis 多数据源的配置和管理的更多相关文章

  1. Spring, MyBatis 多数据源的配置和管理

    同一个项目有时会涉及到多个数据库,也就是多数据源.多数据源又可以分为两种情况: 1)两个或多个数据库没有相关性,各自独立,其实这种可以作为两个项目来开发.比如在游戏开发中一个数据库是平台数据库,其它还 ...

  2. spring+mybatis 多数据源的配置

    方式一: 参见博客https://www.cnblogs.com/AmbitiousMice/p/6027674.html 此种方式每次需要在调用dao的时候设置对应的数据源. 方式二: 直接在myb ...

  3. Spring系列 之数据源的配置 数据库 数据源 连接池的区别

    Spring系列之数据源的配置 数据源,连接池,数据库三者的区别 连接池:这个应该都学习过,比如c3p0,druid等等,连接池的作用是为了提高程序的效率,因为频繁的去创建,关闭数据库连接,会对性能有 ...

  4. Spring+Mybatis多数据源配置

    一.配置文件 properties ds1.driverClassName=com.mysql.jdbc.Driver ds1.url=jdbc:mysql://192.168.200.130:330 ...

  5. spring+mybatis多数据源动态切换

    spring mvc+mybatis+多数据源切换 选取oracle,mysql作为例子切换数据源.oracle为默认数据源,在测试的action中,进行mysql和oracle的动态切换. web. ...

  6. spring ,mybatis多数据源

    同一个项目有时会涉及到多个数据库,也就是多数据源.多数据源又可以分为两种情况:   1)两个或多个数据库没有相关性,各自独立,其实这种可以作为两个项目来开发.比如在游戏开发中一个数据库是平台数据库,其 ...

  7. Spring+Mybatis多数据源的一种实现方式,支持事务

    最近一个项目用到了多个数据库,所以需要实现动态切换数据源来查询数据,http://www.cnblogs.com/lzrabbit/p/3750803.html这篇文章让我受益匪浅,提供了一种自动切换 ...

  8. Spring + MyBatis 多数据源实现

    近期,在项目中需要做分库,但是因为某些原因,没有采用开源的分库插件,而是采用了同事之前弄得多数据源形式实现的分库.对于多数据源,本人在实际项目也中遇到的不多,之前的项目大多是服务化,以RPC的形式获得 ...

  9. spring+mybatis多数据源,动态切换

    有时我们项目中需要配置多个数据源,不同的业务使用的数据库不同 实现思路:配置多个dataSource ,再配置多个sqlSessionFactory,和dataSource一一对应.重写SqlSess ...

随机推荐

  1. IntelliJ IDEA-Git提交和更新

    提交和更新 通过上一个知识点创建项目的操作之后,就拿到了一个自己的项目在IDEA里进行提交和更新是非常方便的,接下来就会进行演示 修改HiWorld 把HiWorld随便改改,只要和以前不一样就行 提 ...

  2. CodeForces 665B 【水-暴力】

    题意(来自网络): 现在有k件商品,每个商品的位置已经告诉你了 现在有n个人,每个人有m个需求,每个需求就是要把第a[i][j]个物品拿到第一个位置来 他的代价是pos[a[i][j]] 问你所有代价 ...

  3. uoj#275. 【清华集训2016】组合数问题(数位dp)

    传送门 假设有\(k|{n\choose m}\),因为\(n!\)中质因子\(k\)的次数为\(S(n)=\left\lfloor\frac{n}{k}\right\rfloor+\left\lfl ...

  4. 笔记-JavaWeb学习之旅9

    XML Extensible Markup Language 可扩展标记语言 功能:配置文件,在网络中传输 基本语法 1.xml文档的后缀名.xml 2.xml第一行必须定义为文档声明 3.xml文档 ...

  5. P3809【模板】后缀排序

    传送门 深入理解了一波后缀数组,这东西真的很妙诶,自己推感觉完全不现实,看来只能靠背代码了 这段时间就多敲敲,把板子记熟吧 代码: #include<cstdio> #include< ...

  6. Spring Boot后端+Vue前端+微信小程序,完整的开源解决方案!

    项目简介 一个小商场系统,包括: 后端:Spring Boot 管理员前端:Vue 用户前端:微信小程序 功能介绍 1.小商城 首页 专题列表.专题详情 分类列表.分类详情 品牌列表.品牌详情 新品首 ...

  7. SpringBoot | 查看默认版本配置

    <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot ...

  8. 《Python网络爬虫相关基础概念》

    爬虫介绍 引入 之前在授课过程中,好多同学都问过我这样的一个问题:为什么要学习爬虫,学习爬虫能够为我们以后的发展带来那些好处?其实学习爬虫的原因和为我们以后发展带来的好处都是显而易见的,无论是从实际的 ...

  9. POJ-325Corn Fields

    链接:https://vjudge.net/problem/POJ-3254#author=freeloop 题意: 农场主John新买了一块长方形的新牧场,这块牧场被划分成M行N列(1 ≤ M ≤ ...

  10. Codeforces 1106F(数论)

    要点 998244353的原根g = 3,意味着对于任意\[1 <= x,y<p\]\[x\neq\ y\]\[g^x\%p\neq\ g^y\%p\]因此可以有构造序列\(q(a)与a一 ...