使用spring的动态路由实现数据库负载均衡

系统中存在的多台服务器是“地位相当”的,不过,同一时间他们都处于活动(Active)状态,处于负载均衡等因素考虑,数据访问请求需要在这几台数据库服务器之间进行合理分配, 这个时候,通过统一的一个DataSource来屏蔽这种请求分配的需求,从而屏蔽数据访问类与具体DataSource的耦合;

系统中存在的多台数据库服务器现在地位可能相当也可能不相当,但数据访问类在系统启动时间无法明确到底应该使用哪一个数据源进行数据访问,而必须在系统运行期间通过某种条件来判定到底应该使用哪一个数据源,这个时候,我们也得使用这种“合纵连横”的方式向数据访问类暴露一个统一的DataSource,由该DataSource来解除数据访问类与具体数据源之间的过紧耦合;

更多场景需要读者根据具体的应用来判定,不过,并非所有的应用要做这样的处理,如果能够保持简单,那尽量保持简单.要实现这种“合纵连横”的多数据源管理方式,总的指导原则就是实现一个自定义的DataSource,让该DataSource来管理系统中存在的多个与具体数据库挂钩的数据源,
数据访问类只跟这个自定义的DataSource打交道即可。在spring2.0.1发布之前,各个项目中可能存在多种针对这种情况下的多数据源管理方式, 不过,spring2.0.1发布之后,引入了AbstractRoutingDataSource,使用该类可以实现普遍意义上的多数据源管理功能。

假设我们有三台数据库用来实现负载均衡,所有的数据访问请求最终需要平均的分配到这三台数据库服务器之上,那么,我们可以通过继承AbstractRoutingDataSource来快速实现一个满足这样场景的原型(Prototype):

[java] view
plain
copy

  1. public class PrototypeLoadBalanceDataSource extends AbstractRoutingDataSource  {
  2. private Lock lock = new ReentrantLock();
  3. private int counter = 0;
  4. private int dataSourceNumber = 3;
  5. @Override
  6. protected Object determineCurrentLookupKey() {
  7. lock.lock();
  8. try{
  9. counter++;
  10. int lookupKey = counter % getDataSourceNumber();
  11. return new Integer(lookupKey);
  12. }finally{
  13. lock.unlock();
  14. }
  15. }
  16. // ...
  17. }

我们在介绍AbstractRoutingDataSource的时候说过,要继承该类,通常只需要给出determineCurrentLookupKey()方法的逻辑即可。 下面是针对PrototypeLoadBalanceDataSource的配置:

[html] view
plain
copy

  1. <bean id="dataSourc1" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
  2. <property name="url" value=".."/>
  3. <property name="driverClassName" value=".."/>
  4. <property name="username" value=".."/>
  5. <property name="password" value=".."/>
  6. <!-- other property settings -->
  7. </bean>
  8. <bean id="dataSource2" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
  9. <property name="url" value=".."/>
  10. <property name="driverClassName" value=".."/>
  11. <property name="username" value=".."/>
  12. <property name="password" value=".."/>
  13. <!-- other property settings -->
  14. </bean>
  15. <bean id="dataSource3" class="org.apache.commons.dbcp.BasicDataSource" destroy-method="close">
  16. <property name="url" value=".."/>
  17. <property name="driverClassName" value=".."/>
  18. <property name="username" value=".."/>
  19. <property name="password" value=".."/>
  20. <!-- other property settings -->
  21. </bean>
  22. <util:map id="dataSources">
  23. <entry key="0" value-ref="dataSource1"/>
  24. <entry key="1" value-ref="dataSource2"/>
  25. <entry key="2" value-ref="dataSource3"/>
  26. </util:map>
  27. <bean id="dataSourceLookup" class="org.springframework.jdbc.datasource.lookup.MapDataSourceLookup">
  28. <constructor-arg>
  29. <ref bean="dataSources"/>
  30. </constructor-arg>
  31. </bean>
  32. <bean id="dataSource" class="..PrototypeLoadBalanceDataSource">
  33. <property name="defaultTargetDataSource" ref="dataSourc1"/>
  34. <property name="targetDataSources" ref="dataSources"/>
  35. <property name="dataSourceLookup" ref=""/>
  36. </bean>
  37. <bean id="jdbcTemplate" class="org.springframework.jdbc.core.JdbcTemplate">
  38. <property name="dataSource" ref="dataSource"/>
  39. </bean>
  40. <bean id="someDao" class="...">
  41. <property name=""jdbcTemplate"" ref=""jdbcTemplate""/>
  42. <!-- other property settings -->
  43. </bean>

使用spring的动态路由实现数据库读写分离



Spring2.0.1以后的版本已经支持配置多数据源,并且可以在运行的时候动态加载不同的数据源。通过继承AbstractRoutingDataSource就可以实现多数据源的动态转换。目前做的项目就是需要访问2个数据源,每个数据源的表结构都是相同的,所以要求数据源的变动对于编码人员来说是透明,也就是说同样SQL语句在不同的环境下操作的数据库是不一样的。具体的流程如下:

1.建立一个获得和设置上下文的类

[java] view
plain
copy

  1. package com.lvye.base.dao.impl.jdbc;
  2. /**
  3. *连接哪个数据源的环境变量
  4. */
  5. public class JdbcContextHolder {
  6. private static final ThreadLocal<String> contextHolder = new ThreadLocal<String>();
  7. public static void setJdbcType(String jdbcType) {
  8. contextHolder.set(jdbcType);
  9. }
  10. public static void setSlave(){
  11. setJdbcType("slave");
  12. }
  13. public static void setMaster(){
  14. clearJdbcType();
  15. }
  16. public static String getJdbcType(){
  17. return (String) contextHolder.get();
  18. }
  19. public static void clearJdbcType() {
  20. contextHolder.remove();
  21. }
  22. }

2.建立动态数据源类,这个类必须继承AbstractRoutingDataSource

[java] view
plain
copy

  1. package com.lvye.base.dao.impl.jdbc;
  2. import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;
  3. public class DynamicDataSource extends AbstractRoutingDataSource{
  4. /*(non-Javadoc)
  5. *@see org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource#determineCurrentLookupKey()
  6. *@author wenc
  7. */
  8. @Override
  9. protected Object determineCurrentLookupKey() {
  10. return JdbcContextHolder.getJdbcType();
  11. }
  12. }

这个类实现了determineCurrentLookupKey方法,该方法返回一个Object,一般是返回字符串。该方法中直接使用了JdbcContextHolder.getJdbcType();方法获得上下文环境并直接返回。

3.编写spring的配置文件配置数据源

[html] view
plain
copy

  1. <beans>
  2. <bean id="master" class="com.mchange.v2.c3p0.ComboPooledDataSource" destroy-method="close">
  3. <property name="driverClass">
  4. <value>com.mysql.jdbc.Driver</value>
  5. </property>
  6. <property name="jdbcUrl">
  7. <value>jdbc:mysql://192.168.18.143:3306/wenhq?useUnicode=true&characterEncoding=utf-8</value>
  8. </property>
  9. <property name="user">
  10. <value>root</value>
  11. </property>
  12. <property name="password">
  13. <value></value>
  14. </property>
  15. </bean>
  16. <bean id="slave" class="com.mchange.v2.c3p0.ComboPooledDataSource" destroy-method="close">
  17. <property name="driverClass">
  18. <value>com.mysql.jdbc.Driver</value>
  19. </property>
  20. <property name="jdbcUrl">
  21. <value>jdbc:mysql://192.168.18.144:3306/ wenhq?useUnicode=true&characterEncoding=utf-8</value>
  22. </property>
  23. <property name="user">
  24. <value>root</value>
  25. </property>
  26. <property name="password">
  27. <value></value>
  28. </property>
  29. </bean>
  30. <bean id="mySqlDataSource" class="com.lvye.base.dao.impl.jdbc.DynamicDataSource">
  31. <property name="targetDataSources">
  32. <map>
  33. <entry key="slave" value-ref="slave"/>
  34. </map>
  35. </property>
  36. <property name="defaultTargetDataSource" ref="master"/>
  37. </bean>
  38. <bean id="jdbcTemplate" class="org.springframework.jdbc.core.JdbcTemplate">
  39. <property name="dataSource" ref="mySqlDataSource" />
  40. </bean>
  41. <bean id="transactionManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
  42. <property name="dataSource" ref="mySqlDataSource" />
  43. </bean>
  44. </beans>

在这个配置中可以看到首先配置两个真实的数据库连接,使用的msyql数据库;master和slave是按照mysql配置的主从关系的数据库,数据会自动实时同步mySqlDataSource会根据上下文选择不同的数据源。在这个配置中第一个property属性配置目标数据源,<entry key="slave" value-ref=" slave"/>中key的值必须要和JdbcContextHolder类中设置的参数值相同,如果有多个值,可以配置多个<entry>标签。第二个property属性配置默认的数据源,我们一般默认为主数据库。有些朋友喜欢使用hibernate,只需要把上面的jdbcTemplate替换为hibernate的就可以了。



4.多数据库连接配置完毕,简单测试

[java] view
plain
copy

  1. public void testSave() throws Exception{
  2. jdbcContextHolder.setSlave();//设置从数据源
  3. Test test = new Test();
  4. test.setTest("www.wenhq.com.cn");
  5. mydao.save(test);//使用dao保存实体
  6. jdbcContextHolder.setMaster();//设置主数据源
  7. mydao.save(test);//使用dao保存实体到另一个库中
  8. }

5.实现读写分离,上面的测试通过了,现在就简单了我的程序是使用jdbc实现的保存数据,只是使用了c3p0的数据库连接池而已。把所有访问数据库的方法包装一下,统一调用。把执行更新的sql发送到主数据库了

[java] view
plain
copy

  1. public void execute(String sql) {
  2. JdbcContextHolder.setMaster();
  3. log.debug("execute-sql:" + sql);
  4. jdbcTemplate.execute(sql);
  5. }

把查询的发送到从数据库,需要注意的是像LAST_INSERT_ID这类的查询需要特殊处理,必须发送到主数据库,建议增加专门的方法,用于获取自增长的主键。

[java] view
plain
copy

  1. public List findObject(String queryString, Class clazz) {
  2. JdbcContextHolder.setSlave();
  3. log.debug("findObject-sql:" + queryString);
  4. List list = jdbcTemplate.queryForList(queryString);
  5. try {
  6. list = StringBase.convertList(list, clazz);// 将List转化为List<clazz>
  7. } catch (Exception e) {
  8. log.error("List convert List<Object> error:" + e);
  9. }
  10. AbstractRoutingDataSourcereturn list;
  11. }

1. 前提

好长时间不写博客了,应该吐槽,写点什么东西了!最近在研究数据库读写分离,分表分库的一些东西。其实这个问题好早之前就想好,只是以前使用hibernate,难点是不好判断什么样的sql走读库,什么样的sql走主库?用正则匹配开头或许可以,/^select 没想出什么好的解决方法,mybatis就不一样了,mappedstatement有commandtype属性,象select,update,delete等类型,为实现读写分离打下来良好的基础。

2. 解决方法

LazyConnectionProxy + RoutingDataSource +   Plugin

在SqlSessionTemplate,创建DefaultSqlSession的时候,使用connection proxy的代理,这时并没有真正的获取connection,因为我们不知道是要取读还是写的数据源。待到StatementHandler的prepare()使用connection创建PreparedStatement的时候再根据mappedstatement的commandType去路由获取真实的connection。

RoutingDataSource支持一主一从,或者一主多从并采用round robin的方式简单负载均衡,预留接口路由和负载均衡策略可自定义。

不支持事务,适合auto commit为true的场景。表述能力

applicationContext-common.xml

[html] view
plain
copy

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <beans xmlns="http://www.springframework.org/schema/beans"
  3. xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
  4. xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:context="http://www.springframework.org/schema/context"
  5. xsi:schemaLocation="http://www.springframework.org/schema/beans
  6. http://www.springframework.org/schema/beans/spring-beans-3.0.xsd
  7. http://www.springframework.org/schema/aop
  8. http://www.springframework.org/schema/aop/spring-aop-3.0.xsd
  9. http://www.springframework.org/schema/tx
  10. http://www.springframework.org/schema/tx/spring-tx-3.0.xsd
  11. http://www.springframework.org/schema/context
  12. http://www.springframework.org/schema/context/spring-context-3.0.xsd">
  13. <!-- 导入属性配置文件 -->
  14. <context:property-placeholder location="classpath*:*.properties" />
  15. <bean id="abstractDataSource" abstract="true"
  16. class="com.mchange.v2.c3p0.ComboPooledDataSource"
  17. destroy-method="close">
  18. <property name="driverClass" value="com.mysql.jdbc.Driver" />
  19. <property name="user" value="root" />
  20. <property name="password" value="" />
  21. </bean>
  22. <bean id="readDS" parent="abstractDataSource">
  23. <property name="jdbcUrl" value="jdbc:mysql://localhost:3306/test" />
  24. </bean>
  25. <bean id="writeDS" parent="abstractDataSource">
  26. <property name="jdbcUrl" value="jdbc:mysql://localhost:3306/test" />
  27. </bean>
  28. <!--简单的一个master和一个slaver 读写分离的数据源 -->
  29. <bean id="routingDS" class="com.test.rwmybatis.RoutingDataSource">
  30. <property name="targetDataSources">
  31. <map key-type="java.lang.String">
  32. <entry key="read" value-ref="readDS"></entry>
  33. <entry key="write" value-ref="writeDS"></entry>
  34. </map>
  35. </property>
  36. <property name="defaultTargetDataSource" ref="writeDS"></property>
  37. </bean>
  38. <!-- 适用于一个master和多个slaver的场景,并用roundrobin做负载均衡 -->
  39. <bean id="roundRobinDs"  class="com.test.rwmybatis.RoundRobinRWRoutingDataSource">
  40. <property name="writeDataSource"  ref="writeDS"></property>
  41. <property name="readDataSoures">
  42. <list>
  43. <ref bean="readDS"/>
  44. <ref bean="readDS"/>
  45. <ref bean="readDS"/>
  46. </list>
  47. </property>
  48. <property name="readKey" value="READ"></property>
  49. <property name="writeKey" value="WRITE"></property>
  50. </bean>
  51. <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean">
  52. <property name="dataSource" ref="routingDS" />
  53. <property name="configLocation" value="classpath:mybatis-config.xml" />
  54. <!-- mapper和resultmap配置路径 -->
  55. <property name="mapperLocations">
  56. <list>
  57. <value>classpath:com/test/rwmybatis/mapper/**/*-Mapper.xml
  58. </value>
  59. </list>
  60. </property>
  61. </bean>
  62. <bean id="sqlSessionTemplate" class="com.test.rwmybatis.RWSqlSessionTemplate">
  63. <constructor-arg ref="sqlSessionFactory" />
  64. </bean>
  65. <!-- 通过扫描的模式,扫描目录下所有的mapper, 根据对应的mapper.xml为其生成代理类-->
  66. <bean id="mapper" class="com.test.rwmybatis.RWMapperScannerConfigurer">
  67. <property name="basePackage" value="com.test.rwmybatis.mapper" />
  68. <property name="sqlSessionTemplate" ref="sqlSessionTemplate"></property>
  69. </bean>
  70. <!--    <bean id="monitor" class="org.springframework.aop.interceptor.PerformanceMonitorInterceptor"></bean> -->
  71. <!--    <aop:config> -->
  72. <!--       <aop:pointcut expression="execution(* com.taofang.smc.persistence..*.*(..))"  id="my_pc"/> -->
  73. <!--       <aop:advisor advice-ref="monitor" pointcut-ref="my_pc"/> -->
  74. <!--    </aop:config> -->
  75. </beans>

spring+mybatis利用interceptor(plugin)兑现数据库读写分离的更多相关文章

  1. 利用mycat实现mysql数据库读写分离

    1.这里是在mysql主从复制实现的基础上,利用mycat做读写分离,架构图如下: 2.Demo 2.1 在mysql master上创建数据库创建db1 2.2 在数据库db1创建表student ...

  2. Spring+MyBatis实现数据库读写分离方案

    推荐第四种:https://github.com/shawntime/shawn-rwdb 方案1 通过MyBatis配置文件创建读写分离两个DataSource,每个SqlSessionFactor ...

  3. Spring + Mybatis项目实现数据库读写分离

    主要思路:通过实现AbstractRoutingDataSource类来动态管理数据源,利用面向切面思维,每一次进入service方法前,选择数据源. 1.首先pom.xml中添加aspect依赖 & ...

  4. Spring aop应用之实现数据库读写分离

    Spring加Mybatis实现MySQL数据库主从读写分离 ,实现的原理是配置了多套数据源,相应的sqlsessionfactory,transactionmanager和事务代理各配置了一套,如果 ...

  5. 161220、使用Spring AOP实现MySQL数据库读写分离案例分析

    一.前言 分布式环境下数据库的读写分离策略是解决数据库读写性能瓶颈的一个关键解决方案,更是最大限度了提高了应用中读取 (Read)数据的速度和并发量. 在进行数据库读写分离的时候,我们首先要进行数据库 ...

  6. 170301、使用Spring AOP实现MySQL数据库读写分离案例分析

    使用Spring AOP实现MySQL数据库读写分离案例分析 原创 2016-12-29 徐刘根 Java后端技术 一.前言 分布式环境下数据库的读写分离策略是解决数据库读写性能瓶颈的一个关键解决方案 ...

  7. 使用Spring AOP实现MySQL数据库读写分离案例分析

    一.前言 分布式环境下数据库的读写分离策略是解决数据库读写性能瓶颈的一个关键解决方案,更是最大限度了提高了应用中读取 (Read)数据的速度和并发量. 在进行数据库读写分离的时候,我们首先要进行数据库 ...

  8. [转]Spring数据库读写分离

    数据库的读写分离简单的说是把对数据库的读和写操作分开对应不同的数据库服务器,这样能有效地减轻数据库压力,也能减轻io压力. 主(master)数据库提供写操作,从(slave)数据库提供读操作,其实在 ...

  9. 在应用层通过spring特性解决数据库读写分离

    如何配置mysql数据库的主从? 单机配置mysql主从:http://my.oschina.net/god/blog/496 常见的解决数据库读写分离有两种方案 1.应用层 http://neore ...

随机推荐

  1. poj 1204

    http://poj.org/problem?id=1204 大意:给出一个棋盘puzzle,,和w个模式串,,在棋盘中寻找模式串..棋盘中任意一格有8个方向可以走.. 解题思路: AC自动机 + 枚 ...

  2. django cbv

    django 提供了一系列现成的类视图,他们都继承自一个 View 基类(django.views.generic.base.View).在这个基类里实现了与 URLs 的接口(as_view).请求 ...

  3. 第三章 视图和URL配置

    在Mysite文件夹中,创建一个views.py的空文件,输入: from django.http import HttpResponse def hello(request): return Htt ...

  4. android handler工作原理

    android handler工作原理 作用 便于在子线程中更新主UI线程中的控件 这里涉及到了UI主线程和子线程 UI主线程 它很特别.通常我们会认为UI主线程将页面绘制完成,就结束了.但是它没有. ...

  5. 基于物品的协同过滤推荐算法——读“Item-Based Collaborative Filtering Recommendation Algorithms” .

    ligh@local-host$ ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.0.3 基于物品的协同过滤推荐算法--读"Item-Based ...

  6. Unity的Cover flow的实现包(2个)

    苹果的mac机上预览图片,有一个所谓的cover flow的效果,这里收集到两个,两个实现效果略有不同. 1.老外的实现 https://github.com/rakkarage/Unity3D-Co ...

  7. 用AS3清空容器下所有子显示对象

    容器中的子显示对象分为两类: 处于显示列表中的子显示对象.被numChildren所记录的. 由容器graphics对象绘制出来的矢量图.这个矢量图不属于Shape类型,不在容器的显示列表中,不被nu ...

  8. spring-mvc关键点掌握 high level

    在本例中,我们将使用Spring MVC框架构建一个入门级web应用程序.Spring MVC 是Spring框架最重要的的模块之一.它以强大的Spring IoC容器为基础,并充分利用容器的特性来简 ...

  9. tabbar动画切换

    效果1: UIViewController *vc = self.viewControllers[self.selectedIndex]; CATransition *animation =[CATr ...

  10. bootstrap scaffold框架

    这是一段典型的html typical HTML file: <!DOCTYPE html> <html> <head> <title>Bootstra ...