为什么要分库分表?
MySql是存在瓶颈的,数据量就是他最大的瓶颈,如果一张表或者一个数据库里面的数据量过大都会导致一些意料之外的问题,譬如查询过慢,难以维护等问题,这时候就要想出一个完美的解决办法。
 
1.垂直分库:垂直分库就是将一个系统里面的多个表取出放到多个数据库里面达到分库操作。
 
垂直分库的原则:保证分出来的两张表之间不能存在关联查询,因为在多个数据库里面的关联查询时不成立的。主要根据的是业务来进行划分的,如果你的业务之间耦合太大是没办法进行分库的,只有火车票订票系统和卖猪肉系统才能进行划分。
 
2.水平分表:水平分表就是按照表中的字段进行区分,譬如常见的就是用ID和创建时间进行区分。
水平将表按照ID的区间进行区分。或者时间区间进行区分。拆分的结果是多张具有相同结构的表。
  • ID分区
  • 分片枚举:定义一个地区信息表,根据地区ID和地区信息进行分表,使用hash分区
  • 范围约定:约定一个范围进行分片,使用range
  • 时间分区:根据创建时间等进行时间划分。
 
水平分表的原则:需要考虑分表后的数据库压力问题,譬如分开后一个数据库的压力很大另外一个数据库毫无压力。
 
分表后的关联查询:存在关联查询的表中根据关联的外键创建一个子表,同时定义明确外键,在分表的时候同时对子表进行分表。
 
全局表:全局表的特点就是数据量小,跟所有的表都可以进行join操作,同时必不可少。一些数据库中间件可以创建全局表类型,然后在每个节点中创建一个全局表。
 
分表后的数据迁移:一般有两种方式
  • 停机维护:不对外提供服务然后复制,这种复制不会出现数据不一致的问题,因为在数据复制期间不会出现数据更改
  • 双写操作:依然对外提供服务,所有update、insert、delete操作都对两个数据库进行操作,然后所有的select操作都是按照老库进行读取。然后新起一个事务遍历老库中的数据并且进行复制,在复制过程中需要一个时间戳来进行判断老库中的数据是否新于新库中的数据,保证不会出现旧的数据覆盖新的数据这种情况。
 
在分表之后要保证全局唯一的序列:
  • 使用数据库来存储序列:每次在数据库中取出1-100个序列然后交给数据库中间件进行派发,如果派发完成就继续去数据库里面取,如果当前数据库中间件挂掉了,备用数据库中间件上岗就会重新去数据库中就行取序列。虽然前一个中间件的序列可能没有完全分发,但是以就可以保证序列的唯一性。
  • twitter的雪花算法:雪花算法采用标志位 + 时间戳 + 机器号 + 序列号
ID总长64位,第一位标志位不可用,41位的时间戳,10位的生成机器的ID,12位序列号。
 
 
 
 
 
 
 
 
 
 
 
 
 
 

MySql分库分表以及相关问题的更多相关文章

  1. Mysql分库分表方案

    Mysql分库分表方案 1.为什么要分表: 当一张表的数据达到几千万时,你查询一次所花的时间会变多,如果有联合查询的话,我想有可能会死在那儿了.分表的目的就在于此,减小数据库的负担,缩短查询时间. m ...

  2. 【分库、分表】MySQL分库分表方案

    一.Mysql分库分表方案 1.为什么要分表: 当一张表的数据达到几千万时,你查询一次所花的时间会变多,如果有联合查询的话,我想有可能会死在那儿了.分表的目的就在于此,减小数据库的负担,缩短查询时间. ...

  3. 高可用Mysql架构_Mysql主从复制、Mysql双主热备、Mysql双主双从、Mysql读写分离(Mycat中间件)、Mysql分库分表架构(Mycat中间件)的演变

    [Mysql主从复制]解决的问题数据分布:比如一共150台机器,分别往电信.网通.移动各放50台,这样无论在哪个网络访问都很快.其次按照地域,比如国内国外,北方南方,这样地域性访问解决了.负载均衡:M ...

  4. mysql分库分表(二)

    mysql分库分表 参考: https://www.cnblogs.com/dongruiha/p/6727783.html https://www.cnblogs.com/oldUncle/p/64 ...

  5. mysql分库分表(一)

    mysql分库分表 参考: https://blog.csdn.net/xlgen157387/article/details/53976153 https://blog.csdn.net/cleve ...

  6. 思考--mysql 分库分表的思考

    查询不在分库键上怎么办,扫描所有库?由于分库了,每个库扫描很快?所以比单个表的扫描肯定快,可以这样理解吗. 多表jion怎么弄,把内层表发给每个分库吗? citus,tidb 都有这些问题,citus ...

  7. mysql 数据库 分表后 怎么进行分页查询?Mysql分库分表方案?

    Mysql分库分表方案 1.为什么要分表: 当一张表的数据达到几千万时,你查询一次所花的时间会变多,如果有联合查询的话,我想有可能会死在那儿了.分表的目的就在于此,减小数据库的负担,缩短查询时间. m ...

  8. MYSQL分库分表和不停机更改表结构

    在MYSQL分库分表中我们一般是基于数据量比较大的时间对mysql数据库一种优化的做法,下面我简单的介绍一下mysql分表与分库的简单做法. .分库分表 很明显,一个主表(也就是很重要的表,例如用户表 ...

  9. MySQL分库分表备份脚本

    MySQL分库备份脚本 #脚本详细内容 [root@db02 scripts]# cat /server/scripts/Store_backup.sh #!/bin/sh MYUSER=root M ...

  10. Java互联网架构-Mysql分库分表订单生成系统实战分析

    概述 分库分表的必要性 首先我们来了解一下为什么要做分库分表.在我们的业务(web应用)中,关系型数据库本身比较容易成为系统性能瓶颈,单机存储容量.连接数.处理能力等都很有限,数据库本身的“有状态性” ...

随机推荐

  1. SQL预编译

    1.数据库预编译起源 (1)数据库SQL语句编译特性: 数据库接受到sql语句之后,需要词法和语义解析,优化sql语句,制定执行计划.这需要花费一些时间.但是很多情况,我们的一条sql语句可能会反复执 ...

  2. 1326. 灌溉花园的最少水龙头数目 (Hard)

    问题描述 1326. 灌溉花园的最少水龙头数目 (Hard) 在 x 轴上有一个一维的花园.花园长度为 n,从点 0 开始,到点 n 结束. 花园里总共有 n + 1 个水龙头,分别位于 [0, 1, ...

  3. C - Watchmen CodeForces - 651C (使用map例题)

    #include<iostream>#include<map> using namespace std;map<int,int> x;map<int,int& ...

  4. 服务器重启后oracle监听无法打开

    我重启服务器后不知道为啥监听启动不了,试过各种办法都不行,然后把监听删了重新配置就可以了

  5. 进程间通信-信号-pipe-fifo

    一.实验截图 (一)fifo (二)pipe (三)signal 二.实验代码 fifo //consumer #include <stdio.h> #include <stdlib ...

  6. Linux基础第七章:磁盘阵列(RAID)

    一.磁盘阵列 二.磁盘阵列类型 1.RAID 0 2.RAID 1 3.RAID 5 4.RAID10 三.磁盘阵列配置 1.硬件方式 2.软件方式 一.磁盘阵列独立硬盘冗余阵列(RAID, Redu ...

  7. Hive. 函数 instr 的用法

    INSTR(C1,C2,I,J) 在一个字符串中搜索指定的字符,返回发现指定的字符的位置; C1 被搜索的字符串 C2 希望搜索的字符串 I 搜索的开始位置,默认为1 J 出现的位置,默认为1 sel ...

  8. 微信小程序开发遇到的注意事项及奇怪事

    1.wx.uploadFile上传文件时只支持本地文件(相册或者拍摄的),网络文件不可以,可以将网络文件用wx.downloadFile下载到本地在下载,下载以后会返回一个微信临时地址然后再下载 2. ...

  9. Verilog教程

    1. 简介 当用 Verilog 设计完成数字模块后进行仿真时,需要在外部添加激励,激励文件叫 testbench. Verilog 的主要特性: 可采用 3 种不同的方式进行设计建模:行为级描述-- ...

  10. Python+Django(2)——创建应用程序

    新打开一个终端窗口,切换到manage.py所在的目录 激活虚拟环境:ll_env\Scripts\activate 命令startapp appname 让Django建立创建应用程序所需的基础设施 ...