数据库集群会产生的问题:

自增ID问题

数据关联查询问题(水平拆分)

数据同步问题

数据库集群 自动增长id产生重复的话,解决: UUID形式  (没有排序 不是自增) 设置数据库步长

其他方案: redis  或者雪花算法

数据库分库分表的策略:

数据库分表分库策略

数据库分表分库原则遵循 垂直拆分与水平拆分
垂直拆分就是根据不同的业务,分为不同的数据库,比如会员数据库、订单数据库、支付数据库等,垂直拆分在大型电商系统中用的非常常见。
优点:
拆分后业务清晰,拆分规则明确,系统之间整合或扩展容易。
缺点:
部分业务表无法join,只能通过接口方式解决,提高了系统复杂度存在分布式事务问题。

数据库分表分库原则遵循 垂直拆分与水平拆分

垂直拆分是把不同的表拆到不同的数据库中,而水平拆分是把同一个表拆到不同的数据库中。
   相对于垂直拆分,水平拆分不是将表的数据做分类,而是按照某个字段的某种规则来分散到多个库之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据行的切分,就是将表中 的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库中,主要有分表,分库两种模式
该方式提高了系统的稳定性跟负载能力,但是跨库join性能较差。

在数据库分库分表原则中,遵循两个设计理论 垂直拆分 水平拆分

垂直拆分就是根据不同的业务,拆分成不同的数据库,比如会员数据库,订单数据库,支付数据库,消息数据库等。

垂直拆分缺点:

跨数据查询 必须采用接口形式通讯、分布式事务问题

垂直拆分把不容的表拆到不同的数据库中,而水平拆分是把同一个表拆分到不同的数据库中,或者把一张表的数据拆分n多个小表

如果一张表6条数据:

变成三个库 每个库中存放两条数据,一共三张表,三张表的结构是完全相同的。三个库进行均摊存放

在存的时候根据ID取模存放

在查询时候依然根据取模算法进行获取

拆分的好处: 如果数据量大的情况下,就算用索引也就那样。但是进行水平拆分就好了很多

水平分片策略:

MyCat支持10种分片策略
1、求模算法
2、分片枚举
3、范围约定
4、日期指定
5、固定分片hash算法
6、通配取模
7、ASCII码求模通配
8、编程指定
9、字符串拆分hash解析
详细:http://www.mycat.io/document/mycat-definitive-guide.pdf

关于分片枚举:

分片枚举这种规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国的省份区县固定的,这类业务使用这一规则。配置如下
1.案例步骤:
创建数据库userdb_1 、 userdb_2、userdb_3
2.修改partition-hash-int.txt 规则
wuhan=0
shanghai=1
suzhou=2

详细配置请参考文档

根据地区进行分库 湖北数据库、江苏数据库 山东数据库  (三张表)

分片枚举算法就是根据不同的枚举(常量),进行分类存储。

可以使用分片枚举实现根据地区分类存储到不同数据库进行存放

环境搭建:

定义枚举(地区)  每个地区指定数据库存放位置

schema.xml:

  1. <?xml version="1.0"?>
  2. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
  3. <mycat:schema xmlns:mycat="http://io.mycat/">
  4. <!-- mycat_testdb 是mycat的逻辑库名称,链接需要用的 -->
  5. <schema name="mycat_testdb" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
  6. <!-- 逻辑库里面的表 order_info 并且有三台节点做集群 规则文件是role2 -->
  7. <table name="order_info" dataNode="dn1,dn2,dn3" rule="role2" />
  8.  
  9. </schema>
  10. <!-- database 是MySQL数据库的库名 三台节点 分别对应真实的数据库 user_dbn -->
  11. <dataNode name="dn1" dataHost="localhost1" database="user_db1" />
  12. <dataNode name="dn2" dataHost="localhost1" database="user_db2" />
  13. <dataNode name="dn3" dataHost="localhost1" database="user_db3" />
  14. <!--
  15. dataNode节点中各属性说明:
  16. name:指定逻辑数据节点名称;
  17. dataHost:指定逻辑数据节点物理主机节点名称;
  18. database:指定物理主机节点上。如果一个节点上有多个库,可使用表达式db$0-99, 表示指定0-99这100个数据库;
  19.  
  20. dataHost 节点中各属性说明:
  21. name:物理主机节点名称;
  22. maxCon:指定物理主机服务最大支持1000个连接;
  23. minCon:指定物理主机服务最小保持10个连接;
  24. writeType:指定写入类型;
  25. 0,只在writeHost节点写入;
  26. 1,在所有节点都写入。慎重开启,多节点写入顺序为默认写入根据配置顺序,第一个挂掉切换另一个;
  27. dbType:指定数据库类型;
  28. dbDriver:指定数据库驱动;
  29. balance:指定物理主机服务的负载模式。
  30. 0,不开启读写分离机制;
  31. 1,全部的readHost与stand by writeHost参与select语句的负载均衡,简单的说,当双主双从模式(M1->S1,M2->S2,并且M1与 M2互为主备),正常情况下,M2,S1,S2都参与select语句的负载均衡;
  32. 2,所有的readHost与writeHost都参与select语句的负载均衡,也就是说,当系统的写操作压力不大的情况下,所有主机都可以承担负载均衡;
  33. -->
  34. <dataHost name="localhost1" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
  35. <heartbeat>select user()</heartbeat>
  36. <!-- 可以配置多个主从 -->
  37. <writeHost host="hostM1" url="192.168.91.8:3306" user="root" password="root">
  38. <!-- 可以配置多个从库 -->
  39. <readHost host="hostS2" url="192.168.91.9:3306" user="root" password="root" />
  40. </writeHost>
  41. </dataHost>
  42. </mycat:schema>

rule.xml:

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
  3. - you may not use this file except in compliance with the License. - You
  4. may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
  5. - - Unless required by applicable law or agreed to in writing, software -
  6. distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
  7. WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
  8. License for the specific language governing permissions and - limitations
  9. under the License. -->
  10. <!DOCTYPE mycat:rule SYSTEM "rule.dtd">
  11. <mycat:rule xmlns:mycat="http://io.mycat/">
  12.  
  13. <tableRule name="role2">
  14. <rule>
  15. < !-- 表示根据name字段进行分片存储的 -->
  16. <columns>name</columns>
  17. <algorithm>hash-int</algorithm>
  18. </rule>
  19. </tableRule>
  20. <!-- 与上面的hash-int对应 -->
  21. <function name="hash-int" class="io.mycat.route.function.PartitionByFileMap">
  22. <!-- 指定枚举文件 -->
  23. <property name="mapFile">partition-hash-int.txt</property>
  24. <!-- 枚举文件非数值类型要写1 -->
  25. <property name="type">1</property>
  26. <!-- 默认存放的位置 在第一个的位置存放 -->
  27. <property name="defaultNode">1</property>
  28. </function>
  29.  
  30. </mycat:rule>

注意在实际应用时候 把rule.xml的注释去除掉

server.xml:

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
  3. - you may not use this file except in compliance with the License. - You
  4. may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
  5. - - Unless required by applicable law or agreed to in writing, software -
  6. distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
  7. WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
  8. License for the specific language governing permissions and - limitations
  9. under the License. -->
  10. <!DOCTYPE mycat:server SYSTEM "server.dtd">
  11. <mycat:server xmlns:mycat="http://io.mycat/">
  12.  
  13. <!-- 读写都可用的用户 -->
  14. <user name="root" defaultAccount="true">
  15. <property name="password">123456</property>
  16. <property name="schemas">mycat_testdb</property>
  17.  
  18. <!-- 表级 DML 权限设置 -->
  19. <!--
  20. <privileges check="false">
  21. <schema name="TESTDB" dml="0110" >
  22. <table name="tb01" dml="0000"></table>
  23. <table name="tb02" dml="1111"></table>
  24. </schema>
  25. </privileges>
  26. -->
  27. </user>
  28.  
  29. <!-- 只读用户 -->
  30. <user name="user">
  31. <property name="password">user</property>
  32. <property name="schemas">mycat_testdb</property>
  33. <property name="readOnly">true</property>
  34. </user>
  35.  
  36. </mycat:server>

查询端口号被哪个进程占用:

netstat -tunlp | grep 8080

kill -9  666

分片规则:

  1. wuhan=0
  2. shanghai=1
  3. suzhou=2

启动mycat

然后navicat工具连接之:

往mycat表的虚拟表里面写数据:会映射到实际物理数据库的表里面

映射的物理数据库:

如果分片枚举没有的 根据配置会存储到 db2中!

结构图:

求模算法:根据ID去进行十进制求模运算,运算结果为分区索引

注意:数据库节点分片数量无法更改 (和ES集群非常类似)

schema.xml

  1. <?xml version="1.0"?>
  2. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
  3. <mycat:schema xmlns:mycat="http://io.mycat/">
  4. <!-- TESTDB1 是mycat的逻辑库名称,链接需要用的 -->
  5. <schema name="mycat_testdb" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
  6. <!-- 分片的算法是role1 -->
  7. <table name="user_info" dataNode="dn1,dn2,dn3" rule="role1"/>
  8.  
  9. </schema>
  10. <!-- database 是MySQL数据库的库名 -->
  11. <dataNode name="dn1" dataHost="localhost1" database="user_db1" />
  12. <dataNode name="dn2" dataHost="localhost1" database="user_db2" />
  13. <dataNode name="dn3" dataHost="localhost1" database="user_db3" />
  14. <!--
  15. dataNode节点中各属性说明:
  16. name:指定逻辑数据节点名称;
  17. dataHost:指定逻辑数据节点物理主机节点名称;
  18. database:指定物理主机节点上。如果一个节点上有多个库,可使用表达式db$0-99, 表示指定0-99这100个数据库;
  19.  
  20. dataHost 节点中各属性说明:
  21. name:物理主机节点名称;
  22. maxCon:指定物理主机服务最大支持1000个连接;
  23. minCon:指定物理主机服务最小保持10个连接;
  24. writeType:指定写入类型;
  25. 0,只在writeHost节点写入;
  26. 1,在所有节点都写入。慎重开启,多节点写入顺序为默认写入根据配置顺序,第一个挂掉切换另一个;
  27. dbType:指定数据库类型;
  28. dbDriver:指定数据库驱动;
  29. balance:指定物理主机服务的负载模式。
  30. 0,不开启读写分离机制;
  31. 1,全部的readHost与stand by writeHost参与select语句的负载均衡,简单的说,当双主双从模式(M1->S1,M2->S2,并且M1与 M2互为主备),正常情况下,M2,S1,S2都参与select语句的负载均衡;
  32. 2,所有的readHost与writeHost都参与select语句的负载均衡,也就是说,当系统的写操作压力不大的情况下,所有主机都可以承担负载均衡;
  33. -->
  34. <dataHost name="localhost1" maxCon="1000" minCon="10" balance="3" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
  35. <heartbeat>select user()</heartbeat>
  36. <!-- 可以配置多个主从 -->
  37. <writeHost host="hostM1" url="192.168.91.8:3306" user="root" password="root">
  38. <!-- 可以配置多个从库 -->
  39. <readHost host="hostS2" url="192.168.91.9:3306" user="root" password="root" />
  40. </writeHost>
  41. </dataHost>
  42. </mycat:schema>

rule.xml

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
  3. - you may not use this file except in compliance with the License. - You
  4. may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
  5. - - Unless required by applicable law or agreed to in writing, software -
  6. distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
  7. WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
  8. License for the specific language governing permissions and - limitations
  9. under the License. -->
  10. <!DOCTYPE mycat:rule SYSTEM "rule.dtd">
  11. <mycat:rule xmlns:mycat="http://io.mycat/">
  12.  
  13. <tableRule name="role1">
  14. <rule>
  15. <!-- 指定分片规则要玩儿的列名 -->
  16. <columns>id</columns>
  17. <!-- 指定下面的分片算法 -->
  18. <algorithm>mod-long</algorithm>
  19. </rule>
  20. </tableRule>
  21.  
  22. <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
  23. <!--指定分片数量,不可以被更改 count数据库的分配数量一共三台 一旦定了就不能修改了! -->
  24. <property name="count">3</property>
  25. </function>
  26.  
  27. </mycat:rule>

server.xml

  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
  3. - you may not use this file except in compliance with the License. - You
  4. may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
  5. - - Unless required by applicable law or agreed to in writing, software -
  6. distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
  7. WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
  8. License for the specific language governing permissions and - limitations
  9. under the License. -->
  10. <!DOCTYPE mycat:server SYSTEM "server.dtd">
  11. <mycat:server xmlns:mycat="http://io.mycat/">
  12.  
  13. <!-- 读写都可用的用户 -->
  14. <user name="root" defaultAccount="true">
  15. <property name="password">123456</property>
  16. <property name="schemas">mycat_testdb</property>
  17.  
  18. <!-- 表级 DML 权限设置 -->
  19. <!--
  20. <privileges check="false">
  21. <schema name="TESTDB" dml="0110" >
  22. <table name="tb01" dml="0000"></table>
  23. <table name="tb02" dml="1111"></table>
  24. </schema>
  25. </privileges>
  26. -->
  27. </user>
  28.  
  29. <!-- 只读用户 -->
  30. <user name="user">
  31. <property name="password">user</property>
  32. <property name="schemas">mycat_testdb</property>
  33. <property name="readOnly">true</property>
  34. </user>
  35.  
  36. </mycat:server>

mycat连接到读的虚拟数据库

然后在真实物理数据库上面创建 user_db1 user_db2 user_db3

在Myca的写权限的虚拟数据库创建表:

此时的其他的物理数据库里面也会刷新数同样的表

然后在write里面写入数据

会根据ID取模,分片到不同的物理数据库里面

MyCat分片集群的更多相关文章

  1. MongoDB 搭建分片集群

    在MongoDB(版本 3.2.9)中,分片是指将collection分散存储到不同的Server中,每个Server只存储collection的一部分,服务分片的所有服务器组成分片集群.分片集群(S ...

  2. MongoDB之分片集群与复制集

    分片集群 1.1.概念 分片集群是将数据存储在多台机器上的操作,主要由查询路由mongos.分片.配置服务器组成. ●查询路由根据配置服务器上的元数据将请求分发到相应的分片上,本身不存储集群的元数据, ...

  3. mongoDB研究笔记:分片集群的工作机制

    上面的(http://www.cnblogs.com/guoyuanwei/p/3565088.html)介绍了部署了一个默认的分片集群,对mongoDB的分片集群有了大概的认识,到目前为止我们还没有 ...

  4. mongoDB研究笔记:分片集群部署

    前面几篇文章的分析复制集解决了数据库的备份与自动故障转移,但是围绕数据库的业务中当前还有两个方面的问题变得越来越重要.一是海量数据如何存储?二是如何高效的读写海量数据?尽管复制集也可以实现读写分析,如 ...

  5. MongoDB分片集群还原

    从mongodb 3.0开始,mongorestore还原的时候,需要一个运行着的实例.早期的版本没有这个要求. 1.为每个分片部署一个复制集 (1)复制集中的每个成员启动一个mongod mongo ...

  6. 【MongoDB】在windows平台下mongodb的分片集群(五)

    本篇接着上面的四篇继续讲述在window平台下mongodb的分片集群搭建. 在分片集群中也照样能够创建索引,创建索引的方式与在单独数据库中创建索引的方式一样.因此这不再多说.本篇主要聚焦在分片键的选 ...

  7. 【MongoDB】在windows平台下搭建mongodb的分片集群(二)

    在上一片博客中我们讲了Mongodb数据库中分片集群的主要原理. 在本篇博客中我们主要讲描写叙述分片集群的搭建过程.配置分片集群主要有两个步骤.第一启动全部须要的mongod和mongos进程. 第二 ...

  8. MongoDB之分片集群(Sharding)

    MongoDB之分片集群(Sharding) 一.基本概念 分片(sharding)是一个通过多台机器分配数据的方法.MongoDB使用分片支持大数据集和高吞吐量的操作.大数据集和高吞吐量的数据库系统 ...

  9. MongoDB 分片集群搭建

    一.概述 分片是一种在多台机器上分配数据的方法.MongoDB使用分片来支持具有非常大的数据集和高吞吐量操作.有两种解决系统增长的方法:垂直扩展和水平扩展. 垂直扩展涉及增加单个服务器的容量,例如使用 ...

随机推荐

  1. AndroidManifest.xml文件详解(activity)(五)

    android:taskAffinity 这个属性用于跟Activity有亲缘关系的任务.带有相同亲缘关系的Activity,在概念上是属于相同任务的(从用户的角度看,它们是属于同一应用程序的).任务 ...

  2. 【BZOJ4378】[POI2015]Logistyka 树状数组

    [BZOJ4378][POI2015]Logistyka Description 维护一个长度为n的序列,一开始都是0,支持以下两种操作:1.U k a 将序列中第k个数修改为a.2.Z c s 在这 ...

  3. iOS UIModalPresentationFormSheet风格下的键盘隐藏

    1. 在UIModalPresentationFormSheet(iPad device, without a UINavigationController)下的视图中,如果使用 [inputView ...

  4. Mac中pico编辑器的使用方法

    Pico是一个由华盛顿大学(University of Washington)计算与通讯研究所(Computing and Communications Group)编写并维护的文本编辑程序,在多个版 ...

  5. 【谷歌浏览器】在任意页面运行JS

    1.使用谷歌浏览器的调试功能: 在任何页面上运行代码片段 · Chrome 开发者工具中文文档 注:比较简单,直接,不过只能本地执行,只能自己使用.且需自行保存JS文件: 2.使用油猴插件: Tamp ...

  6. CoordinatorLayout Behaviors使用说明[翻译]

    翻译与:Intercepting everything with CoordinatorLayout Behaviors 使用过Android Design Support Library的小伙伴应该 ...

  7. Audit File Delete

    OPEN 4656 ACCESS   4663 AN OBJECT WAS DELETED 4660 CLOSE 4658 1537 = Delete 1538 = Read_CONTROL 1541 ...

  8. C# 矩阵乘法实现

    矩阵乘法是一种高效的算法可以把一些一维递推优化到log( n ),还可以求路径方案等,所以更是是一种应用性极强的算法.矩阵,是线性代数中的基本概念之一.一个m×n的矩阵就是m×n个数排成m行n列的一个 ...

  9. Java 多线程通信之多生产者/多消费者

    // 以生产和消费烤鸭为例 class Resource { private String name; private int count = 1; // 记录烤鸭的编号 private boolea ...

  10. django博客项目6:Django Admin 后台发布文章

    在此之前我们完成了 Django 博客首页视图的编写,我们希望首页展示发布的博客文章列表,但是它却抱怨:暂时还没有发布的文章!如它所言,我们确实还没有发布任何文章,本节我们将使用 Django 自带的 ...