MYCAT分库分表
一、整体架构
1、192.168.189.130:mysql master服务,两个数据库db_store、db_user,db_store做了主从复制
db_user:
用户表users为分片表
数据字典表data_dictionary为全局表
用户地址表user_address为ER表和用户表有关联
db_store(做了主从复制):
门店表store、店员表employee为非分片表,就是mysql中普通的表
2、192.168.189.131:mysql slave服务,两个数据库db_store、db_user,db_store做了主从复制
同192.168.189.130
3、192.168.189.132:mycat服务
db_user:逻辑库
users、data_dictionary、user_address逻辑表
db_store:逻辑库
store、employee逻辑表
二、mycat配置 /root/data/program/mycat/conf
1、schema.xml
- <?xml version="1.0"?>
- <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
- <mycat:schema xmlns:mycat="http://io.mycat/">
- <schema name="db_store" checkSQLschema="false" sqlMaxLimit="100">
- <table name="store" dataNode="db_store_dataNode" primaryKey="storeID"/>
- <table name="employee" dataNode="db_store_dataNode" primaryKey="employeeID"/>
- </schema>
- <schema name="db_user" checkSQLschema="false" sqlMaxLimit="100">
- <table name="data_dictionary" type="global" dataNode="db_user_dataNode1,db_user_dataNode2" primaryKey="dataDictionaryID"/>
- <table name="users" dataNode="db_user_dataNode$1-2" rule="mod-userID-long" primaryKey="userID">
- <childTable name="user_address" joinKey="userID" parentKey="userID" primaryKey="addressID"/>
- </table>
- </schema>
- <!-- 节点配置 -->
- <!-- db_store -->
- <dataNode name="db_store_dataNode" dataHost="db_storeHOST" database="db_store" />
- <!-- db_user -->
- <dataNode name="db_user_dataNode1" dataHost="db_userHOST1" database="db_user" />
- <dataNode name="db_user_dataNode2" dataHost="db_userHOST2" database="db_user" />
- <!-- 节点主机配置 -->
- <!-- 配置db_store的节点主机 -->
- <dataHost name="db_storeHOST" maxCon="1000" minCon="10" balance="1"
- writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
- <heartbeat>select user()</heartbeat>
- <!-- can have multi write hosts -->
- <writeHost host="hostM1" url="192.168.189.130:3306" user="root" password="123456">
- <!-- can have multi read hosts -->
- <readHost host="hostS1" url="192.168.189.131:3306" user="root" password="123456" />
- </writeHost>
- </dataHost>
- <!-- 配置db_user的节点主机 -->
- <dataHost name="db_userHOST1" maxCon="1000" minCon="10" balance="0"
- writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
- <heartbeat>select user()</heartbeat>
- <writeHost host="userHost1" url="192.168.189.130:3306" user="root" password="123456">
- </writeHost>
- </dataHost>
- <dataHost name="db_userHOST2" maxCon="1000" minCon="10" balance="0"
- writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
- <heartbeat>select user()</heartbeat>
- <!-- can have multi write hosts -->
- <writeHost host="userHost2" url="192.168.189.131:3306" user="root" password="123456">
- </writeHost>
- </dataHost>
- </mycat:schema>
2、server.xml配置
- <?xml version="1.0" encoding="UTF-8"?>
- <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
- - you may not use this file except in compliance with the License. - You
- may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
- - - Unless required by applicable law or agreed to in writing, software -
- distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
- WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
- License for the specific language governing permissions and - limitations
- under the License. -->
- <!DOCTYPE mycat:server SYSTEM "server.dtd">
- <mycat:server xmlns:mycat="http://io.mycat/">
- <system>
- <property name="useSqlStat">0</property> <!-- 1为开启实时统计、0为关闭 -->
- <property name="useGlobleTableCheck">0</property> <!-- 1为开启全加班一致性检测、0为关闭 -->
- <property name="sequnceHandlerType">2</property>
- <!-- <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
- <!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
- <!-- <property name="processorBufferChunk">40960</property> -->
- <!--
- <property name="processors">1</property>
- <property name="processorExecutor">32</property>
- -->
- <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
- <property name="processorBufferPoolType">0</property>
- <!--默认是65535 64K 用于sql解析时最大文本长度 -->
- <!--<property name="maxStringLiteralLength">65535</property>-->
- <!--<property name="sequnceHandlerType">0</property>-->
- <!--<property name="backSocketNoDelay">1</property>-->
- <!--<property name="frontSocketNoDelay">1</property>-->
- <!--<property name="processorExecutor">16</property>-->
- <!--
- <property name="serverPort">8066</property> <property name="managerPort">9066</property>
- <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property>
- <property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> -->
- <!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志-->
- <property name="handleDistributedTransactions">0</property>
- <!--
- off heap for merge/order/group/limit 1开启 0关闭
- -->
- <property name="useOffHeapForMerge">1</property>
- <!--
- 单位为m
- -->
- <property name="memoryPageSize">1m</property>
- <!--
- 单位为k
- -->
- <property name="spillsFileBufferSize">1k</property>
- <property name="useStreamOutput">0</property>
- <!--
- 单位为m
- -->
- <property name="systemReserveMemorySize">384m</property>
- <!--是否采用zookeeper协调切换 -->
- <property name="useZKSwitch">true</property>
- </system>
- <!-- 全局SQL防火墙设置 -->
- <!--
- <firewall>
- <whitehost>
- <host host="127.0.0.1" user="mycat"/>
- <host host="127.0.0.2" user="mycat"/>
- </whitehost>
- <blacklist check="false">
- </blacklist>
- </firewall>
- -->
- <user name="root">
- <property name="password">123456</property>
- <property name="schemas">db_store,db_user</property>
- <!-- 表级 DML 权限设置 -->
- <!--
- <privileges check="false">
- <schema name="TESTDB" dml="0110" >
- <table name="tb01" dml="0000"></table>
- <table name="tb02" dml="1111"></table>
- </schema>
- </privileges>
- -->
- </user>
- </mycat:server>
3、rule.xml
- <?xml version="1.0" encoding="UTF-8"?>
- <!-- - - Licensed under the Apache License, Version 2.0 (the "License");
- - you may not use this file except in compliance with the License. - You
- may obtain a copy of the License at - - http://www.apache.org/licenses/LICENSE-2.0
- - - Unless required by applicable law or agreed to in writing, software -
- distributed under the License is distributed on an "AS IS" BASIS, - WITHOUT
- WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. - See the
- License for the specific language governing permissions and - limitations
- under the License. -->
- <!DOCTYPE mycat:rule SYSTEM "rule.dtd">
- <mycat:rule xmlns:mycat="http://io.mycat/">
- <tableRule name="rule1">
- <rule>
- <columns>id</columns>
- <algorithm>func1</algorithm>
- </rule>
- </tableRule>
- <tableRule name="rule2">
- <rule>
- <columns>user_id</columns>
- <algorithm>func1</algorithm>
- </rule>
- </tableRule>
- <tableRule name="sharding-by-intfile">
- <rule>
- <columns>sharding_id</columns>
- <algorithm>hash-int</algorithm>
- </rule>
- </tableRule>
- <tableRule name="auto-sharding-long">
- <rule>
- <columns>id</columns>
- <algorithm>rang-long</algorithm>
- </rule>
- </tableRule>
- <tableRule name="mod-long">
- <rule>
- <columns>id</columns>
- <algorithm>mod-long</algorithm>
- </rule>
- </tableRule>
- <tableRule name="mod-userID-long">
- <rule>
- <columns>userID</columns>
- <algorithm>mod-long</algorithm>
- </rule>
- </tableRule>
- <tableRule name="sharding-by-murmur">
- <rule>
- <columns>id</columns>
- <algorithm>murmur</algorithm>
- </rule>
- </tableRule>
- <tableRule name="crc32slot">
- <rule>
- <columns>id</columns>
- <algorithm>crc32slot</algorithm>
- </rule>
- </tableRule>
- <tableRule name="sharding-by-month">
- <rule>
- <columns>create_time</columns>
- <algorithm>partbymonth</algorithm>
- </rule>
- </tableRule>
- <tableRule name="latest-month-calldate">
- <rule>
- <columns>calldate</columns>
- <algorithm>latestMonth</algorithm>
- </rule>
- </tableRule>
- <tableRule name="auto-sharding-rang-mod">
- <rule>
- <columns>id</columns>
- <algorithm>rang-mod</algorithm>
- </rule>
- </tableRule>
- <tableRule name="jch">
- <rule>
- <columns>id</columns>
- <algorithm>jump-consistent-hash</algorithm>
- </rule>
- </tableRule>
- <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
- <!-- how many data nodes -->
- <property name="count">2</property>
- </function>
- <function name="murmur"
- class="io.mycat.route.function.PartitionByMurmurHash">
- <property name="seed">0</property><!-- 默认是0 -->
- <property name="count">2</property><!-- 要分片的数据库节点数量,必须指定,否则没法分片 -->
- <property name="virtualBucketTimes">160</property><!-- 一个实际的数据库节点被映射为这么多虚拟节点,默认是160倍,也就是虚拟节点数是物理节点数的160倍 -->
- <!-- <property name="weightMapFile">weightMapFile</property> 节点的权重,没有指定权重的节点默认是1。以properties文件的格式填写,以从0开始到count-1的整数值也就是节点索引为key,以节点权重值为值。所有权重值必须是正整数,否则以1代替 -->
- <!-- <property name="bucketMapPath">/etc/mycat/bucketMapPath</property>
- 用于测试时观察各物理节点与虚拟节点的分布情况,如果指定了这个属性,会把虚拟节点的murmur hash值与物理节点的映射按行输出到这个文件,没有默认值,如果不指定,就不会输出任何东西 -->
- </function>
- <function name="crc32slot"
- class="io.mycat.route.function.PartitionByCRC32PreSlot">
- <property name="count">2</property><!-- 要分片的数据库节点数量,必须指定,否则没法分片 -->
- </function>
- <function name="hash-int"
- class="io.mycat.route.function.PartitionByFileMap">
- <property name="mapFile">partition-hash-int.txt</property>
- </function>
- <function name="rang-long"
- class="io.mycat.route.function.AutoPartitionByLong">
- <property name="mapFile">autopartition-long.txt</property>
- </function>
- <function name="func1" class="io.mycat.route.function.PartitionByLong">
- <property name="partitionCount">8</property>
- <property name="partitionLength">128</property>
- </function>
- <function name="latestMonth"
- class="io.mycat.route.function.LatestMonthPartion">
- <property name="splitOneDay">24</property>
- </function>
- <function name="partbymonth"
- class="io.mycat.route.function.PartitionByMonth">
- <property name="dateFormat">yyyy-MM-dd</property>
- <property name="sBeginDate">2015-01-01</property>
- </function>
- <function name="rang-mod" class="io.mycat.route.function.PartitionByRangeMod">
- <property name="mapFile">partition-range-mod.txt</property>
- </function>
- <function name="jump-consistent-hash" class="io.mycat.route.function.PartitionByJumpConsistentHash">
- <property name="totalBuckets">3</property>
- </function>
- </mycat:rule>
三、效果
1、db_user库users表
往mycat逻辑库db_user的逻辑表users插入数据,根据分片规则,userID取模,最后数据分别存在master db_user users和slave db_user users中
分片规则:
- schema.xml:
- <schema name="db_user" checkSQLschema="false" sqlMaxLimit="100">
- <table name="data_dictionary" type="global" dataNode="db_user_dataNode1,db_user_dataNode2" primaryKey="dataDictionaryID"/>
- <table name="users" dataNode="db_user_dataNode$1-2" rule="mod-userID-long" primaryKey="userID">
- <childTable name="user_address" joinKey="userID" parentKey="userID" primaryKey="addressID"/>
- </table>
- </schema>
- rule.xml
- <tableRule name="mod-userID-long">
- <rule>
- <columns>userID</columns>
- <algorithm>mod-long</algorithm>
- </rule>
- </tableRule>
- <function name="mod-long" class="io.mycat.route.function.PartitionByMod">
- <!-- how many data nodes -->
- <property name="count">2</property>
- </function>
1、mycat逻辑库db_user中逻辑表users
2、master服务db_user库中users表
3、slave服务db_user库中users表
2、db_user库data_dictionary表
数据字典表(data_dictionary)是全局表因此master、slave都会保存完整数据
1、mycat
2、master
3、slave
3、db_user库user_address表
用户地址表(user_address)是ER表,master、slave分别保存各自users对应的地址
1、mycat
2、master
3、slave
MYCAT分库分表的更多相关文章
- MySQL+MyCat分库分表 读写分离配置
一. MySQL+MyCat分库分表 1 MyCat简介 java编写的数据库中间件 Mycat运行环境需要JDK. Mycat是中间件.运行在代码应用和MySQL数据库之间的应用. 前身 : cor ...
- 《MyCat分库分表策略详解》
在我们的项目发展到一定阶段之后,随着数据量的增大,分库分表就变成了一件非常自然的事情.常见的分库分表方式有两种:客户端模式和服务器模式,这两种的典型代表有sharding-jdbc和MyCat.所谓的 ...
- MyCat | 分库分表实践
引言 先给大家介绍2个概念:数据的切分(Sharding)根据其切分规则的类型,可以分为两种切分模式. 切分模式 一种是按照不同的表(或者Schema)来切分到不同的数据库(主机)之上,这种切可以称之 ...
- mycat 分库分表
单库分表已经在上篇写过了,这次写个分库分表,不同在于配置文件上的一点点不同 <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> &l ...
- MyCat分库分表入门
1.分区 对业务透明,分区只不过把存放数据的文件分成了许多小块,例如mysql中的一张表对应三个文件.MYD,MYI,frm. 根据一定的规则把数据文件(MYD)和索引文件(MYI)进行了分割,分区后 ...
- 3.Mysql集群------Mycat分库分表
前言: 分库分表,在本节里是水平切分,就是多个数据库里包含的表是一模一样的. 只是把字段散列的分到不同的库中. 实践: 1.修改schema.xml 这里是在同一台服务器上建立了4个数据库db1,db ...
- 分布式数据库中间件 MyCat | 分库分表实践
MyCat 简介 MyCat 是一个功能强大的分布式数据库中间件,是一个实现了 MySQL 协议的 Server,前端人员可以把它看做是一个数据库代理中间件,用 MySQL 客户端工具和命令行访问:而 ...
- Mycat分库分表(一)
随着业务变得越来越复杂,用户越来越多,集中式的架构性能会出现巨大的问题,比如系统会越来越慢,而且时不时会宕机,所以必须要解决高性能和可用性的问题.这个时候数据库的优化就显得尤为重要,在说优化方案前,先 ...
- mycat分库分表 看这一篇就够了
之前我们已经讲解过了数据的切分,主要有两种方式,分别是垂直切分和水平切分,所谓的垂直切分就是将不同的表分布在不同的数据库实例中,而水平切分指的是将一张表的数据按照不同的切分规则切分在不同实例的相同 ...
随机推荐
- Tomcat & Servlet
javaWeb javaWeb是指使用java技术实现所有web程序的技术的总称.我们称之为javaWeb. 1.请求和响应(成对出现) 2.Web资源的分类 web资源分为两大类,分别是静态资源和动 ...
- 【转】STM32和ARM的区别
转自:http://www.cnblogs.com/nuc-boy/archive/2012/09/11/2680157.html 这个问题大概2009年的时候很多人就在问,请看09年的时候大家给出的 ...
- Mock.js的简易使用
一:安装 npm install mockjs --save-dev 二:引入 在src目录下创建mock.js文件,输入以下代码: // 引入mockjs const Mock = require( ...
- ajax 异步请求 代码
<%@ page language="java" contentType="text/html; charset=UTF-8" pageEncoding= ...
- Ajax进阶 FormData对象
Ajax基础:http://www.cnblogs.com/-beyond/p/7919369.html xhr 2.0及FormData介绍 FormData对象 其实和 XMLHttpReques ...
- 【Mysql】—— 索引的分类
注意:索引是在存储引擎中实现的,也就是说不同的存储引擎,会使用不同的索引.MyISAM和InnoDB存储引擎:只支持BTREE索引,也就是说默认使用BTREE,不能够更换.MEMORY/HEAP存储引 ...
- BZOJ1827[USACO 2010 Mar Gold 1.Great Cow Gathering]——树形DP
题目描述 Bessie正在计划一年一度的奶牛大集会,来自全国各地的奶牛将来参加这一次集会.当然,她会选择最方便的地点来举办这次集会.每个奶牛居住在 N(1<=N<=100,000) 个农场 ...
- xml和对象 转换
//测试数据 static List<User> list = new List<User>() { new User(){id=1001 ,name="语文&quo ...
- Java 8新特性之 并行和并行数组(八恶人-8)
Jody Domingre 多莫歌·乔迪 “How you doing, dummy?” 你还好吗,傻瓜 一.基本介绍 Java8不仅增加了Stream,而且还增加了parallelStream(并行 ...
- bzoj 2599: [IOI2011]Race (点分治 本地过了就是过了.jpg)
题面:(复制别人的...) Description 给一棵树,每条边有权.求一条路径,权值和等于K,且边的数量最小. Input 第一行 两个整数 n, k第二..n行 每行三个整数 表示一条无向边的 ...