原文地址(微信):【技术文章】《Mysql集群架构》

本文地址:http://www.cnblogs.com/aiweixiao/p/7258444.html

点击关注微信公众号

1.主要内容

1)mysql的架构,锁,最佳实践,事务

2)mysql的命令行,主从复制,索引,数据备份/恢复

3)mysql的集群,mysql的负载均衡,监控,mysql proxy

4)  mysql的MMM架构,mysql 的源码,DBA

MySQL-从删除到跑路

2.具体内容

2.1)【架构】:


架构图】:

MySQL-MySQL的架构图
 

【概述】:Mysql是由SQL接口,解析器,优化器,缓存,存储引擎组成的

2.2)【】:


【概念】:为了保证数据的一致完整性,任何一个数据库都存在锁定机制。锁定机制的优劣直接应想到一个数据库系统的并发处理能力和性能,所以锁定机制的实现也就成为了各种数据库的核心技术之一。

【分类】:MySQL各存储引擎使用了三种类型(级别)的锁定机制:行级锁定,页级锁定和表级锁定

1)行级锁定:锁定对象的颗粒度很小,消耗最大,行级锁定也最容易发生死锁,但是并发好

2)表级锁定:死锁情况少,但是并发不好,

3)页级锁定:介于前两者之间。

【代码】:

1)锁定 LOCK TABLES tbl_name [AS alias]

2)解锁  UNLOCK TABLES

2.3)【最佳实践】:


【为查询缓存优化你的查询】:

【mysql强制索引和禁止某个索引】:

1) mysql强制使用索引:force index(索引名或者主键PRI):select * from table force index(PRI,ziduan1_index) limit 2;(强制使用索引”PRI和ziduan1_index”)

2) mysql禁止某个索引:ignore index(索引名或者主键PRI):select * from table ignore index(PRI,ziduan1_index) limit 2;(禁止使用索引”PRI,ziduan1_index”)

2.4)【事务】:


【概念】:事务是指逻辑上的一组操作,组成这组操作的各个单元,要不全成功要不全失败。其特点是ACID(原子性,一致性,隔离性,持久性)

【实现】:

1)事务开启:START TRANSACTION; 或者 BEGIN;

2)事务提交:COMMIT;

3)事务回滚:ROLLBACK;

2.5)【mysql 命令行】:


【命令行执行mysql】:使用mysql的-e参数可以执行各种sql的(创建,删除,增,删,改、查)等各种操作

例如:#创建数据库

create_db_sql="create database IF NOT EXISTS ${DBNAME}”

mysql -h${HOSTNAME}  -P${PORT}  -u${USERNAME} -p${PASSWORD} -e "${create_db_sql}"

2.6)【主从复制】:


【一主多从】:在一主多从的数据库体系中,多个从服务器采用异步的方式更新主数据库的变化,业务服务器在执行写或者相关修改数据库的操作是在主服务器上进行的,读操作则是在各从服务器上进行

MySQL-MySQL的主从复制
 

【原理】 :MySQL之间数据复制的基础是二进制日志文件(binary log file)。一台MySQL数据库一旦启用二进制日志后,其作为master,它的数据库中所有操作都会以“事件”的方式记录在二进制日志中,其他数据库作为slave通过一个I/O线程与主服务器保持通信,并监控master的二进制日志文件的变化,如果发现master二进制日志文件发生变化,则会把变化复制到自己的中继日志中,然后slave的一个SQL线程会把相关的“事件”执行到自己的数据库中,以此实现从数据库和主数据库的一致性,也就实现了主从复制。

2.7)【索引】:


【概述】:索引对查询的速度有着至关重要的影响,理解索引也是进行数据库性能调优的起点

【种类】:普通索引,唯一索引,全文索引,单列/多列索引,组合索引(最左前缀)

B+树】:

MySQL-索引B+树结构

1)详解B+树:浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。

2)查找B+树:如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。

2.8)【数据备份/恢复】:


【数据备份】:

1)使用mysqldump命令备份mysqldump -u username -p --databases dbname2 dbname2 > Backup.sql

2)直接复制整个数据库目录 : 需要停止服务,不支持InnoDB引擎

3)热备份:使用mysqlhotcopy工具快速备份,不用停止服务。 mysqlhotcopy [option] dbname1 dbname2 backupDir/

【数据还原】:

1)还原使用mysqldump命令备份的数据库: mysql -u root -p < C:\backup.sql

2)还原直接复制目录的备份: 必须保证两个MySQL数据库的版本号是相同的。MyISAM类型的表有效,对于InnoDB类型的表不可用

2.9)【mysql的集群】:


【概念】:MySQL 集群(MySQL Cluster )是mysql适合于分布式计算环境的高实用、高冗余版本。它采用了NDB Cluster 存储引擎,允许在1个 Cluster 中运行多个MySQL服务器。在MyQL 5.0及以上的二进制版本中、以及与最新的Linux版本兼容的RPM中提供了该存储引擎。

MySQL-MySQL集群架构图
 

【分类】:分为同步集群和异步集群。

1)同步集群:(mysql cluster)

结构:(data + sql + mgm节点)

特点:

1. 1) 内存级别的,对硬件要求较低,但是对内存要求较大。换算比例为:1:1.1;

1.2) 数据同时放在几台服务器上,冗余较好;

1.3) 速度一般;

1.4) 建表需要声明为engine=ndbcluster

1.5) 扩展性强;

1.6) 可以实现高可用性和负载均衡,实现对大型应用的支持;

1.7) 必须是特定的mysql版本,如:已经编译好的max版本;

1.8) 配置和管理方便,不会丢失数据

2)异步集群(mysql replication)

结构:(master + slave)

特点:

2.1) 主从数据库异步数据;

2.2) 数据放在几台服务器上,冗余一般;

2.3) 速度较快;

2.4) 扩展性差;

2.5) 无法实现高可用性和负载均衡(只能在程序级别实现读写分离,减轻对主数据库的压力);

2.6) 配置和管理较差,可能会丢失数据

2.10)【mysql的负载均衡】:


【定义】: 通过director,将用户的请求分发到real server服务器上,然后返回给用户。负载均衡部署灵活、能够满足各种需求。

MySQL-LVS+Keepalived实现mysql负载均衡
 

【实现方式】:

硬件:BIG/IP、Cisco、IBM(昂贵)

软件:LVS(免费)

LVS系统将用户的请求的数据包在数据层和网络层进行了封装和转发,由三种方式满足各种需求。

1) DR:直接路由

2) Tuning:tcp/ip隧道

3) NAT:网络地址转换

2.11)【mysql的监控】:


【监控内容】:监控数据库的日常会话情况。碎片、剩余表空间监控,及时了解表空间的扩展情况、以及剩余空间分布情况

代码实现】:https://github.com/wozhuzaisi/shell-work/blob/master/mysqlmonitor.sh

2.12)【mysql proxy】:


【定义】:MySQL Proxy是一个处于你的client端和MySQL server端之间的简单程序,它可以监测、分析或改变它们的通信。它使用灵活,没有限制,常见的用途包括:负载平衡,故障、查询分析,查询过滤和修改等等

【实现读写分离】:

1)安装并配置mysql proxy.

2)测试:主服务器mysql> grant all on *.* to'lin3615'@'192.168.179.142'identified by'123456’;

2.14)【mysql MMM架构】:


【概述】:是一套支持双主故障切换和双主日常管理的脚本程序。由于MMM无法完全的保证数据一致性,所以MMM适用于对数据的一致性要求不是很高,但是又想最大程度的保证业务可用性的场景。对于那些对数据的一致性要求很高的业务,非常不建议采用MMM这种高可用架构。

MySQL-MMM架构图

2.15)【mysql 源码】:


内容】:MySQL是由C++写的,入口函数main()直接调用了mysqld_main()。Server启动的代码都在这里,直到最后的 handle_connections_sockets()。

MySQL-MySQL的源码第一书
 

【资料】:

下载pdf:《深入MySQL源码

官网手册: https://dev.mysql.com/doc/internals/en/

阅读源码:https://zhuanlan.zhihu.com/p/26118810

书籍:《深入理解MySQL核心技术

2.16)【DBA】:


【职责】:

MySQL-DBA思维导图
 

1)数据库安装;

2)数据库配置和管理;

3)权限设置和安全管理;

4)监控和性能调节;

5)备份和恢复;

6)解决一般的问题;

MySQL-DBA的一天

MySQL-关注微信公众号

【MySQL大系】《Mysql集群架构》的更多相关文章

  1. 构建MHA实现MySQL高可用集群架构

    一.MHA简介 MHA(Master HighAvailability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开 ...

  2. MYSQL高可用集群架构-MHA架构

    1  MHA简介:MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司 ...

  3. LVS+Keepalived+Squid+Nginx+MySQL主从高性能集群架构部署方案

    方案一,在tomcat的workers.properties里面配置相关条件 worker.tomcat.lbfactor= worker.tomcat.cachesize= worker.tomca ...

  4. MySQL企业常用集群图解

      mysql集群架构图片 1.mysql企业常用集群架构 在中小型互联网的企业中.mysql的集群一般就是上图的架构.WEB节点读取数据库的时候读取dbproxy服务器.dbproxy服务器通过对S ...

  5. Mysql 高可用集群PXC

    PXC是percona公司的percona  xtraDB  cluster,简称PXC.它是基于Galera协议的高可用集群方案.可以实现多个节点间的数据同步复制以及读写,并且可保障数据库的服务高可 ...

  6. Linux Web集群架构详细(亲测可用!!!)

    注意:WEB服务器和数据库需要分离,同时WEB服务器也需要编译安装MySQL. 做集群架构的重要思想就是找到主干,从主干区域向外延展. WEB服务器: apache nginx  本地做三个产品 de ...

  7. MySQL集群架构:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高性能-技术流ken

    MHA简介 MHA可以自动化实现主服务器故障转移,这样就可以快速将从服务器晋级为主服务器(通常在10-30s),而不影响复制的一致性,不需要花钱买更多的新服务器,不会有性能损耗,容易安装,不必更改现有 ...

  8. Galera Cluster——一种新型的高一致性MySQL集群架构

    原文链接:https://www.sohu.com/a/147032902_505779,最近被分配定位mysql的问题,学习下. 1. 何谓Galera Cluster 何谓Galera Clust ...

  9. corosync+pacemaker and drbd实现mysql高可用集群

    DRBD:Distributed Replicated Block Device 分布式复制块设备,原理图如下 DRBD 有主双架构和双主架构的,当处于主从架构时,这个设备一定只有一个节点是可以读写的 ...

随机推荐

  1. [转]微信小程序实现图片上传功能

    本文转自:http://blog.csdn.net/feter1992/article/details/77877659 前端: 微信开发者工具 后端:.Net 服务器:阿里云 这里介绍微信小程序如何 ...

  2. Fork/Join框架详解

    Fork/Join框架是Java 7提供的一个用于并行执行任务的框架,是一个把大任务分割成若干个小任务,最终汇总每个小任务结果后得到大任务结果的框架.Fork/Join框架要完成两件事情: 1.任务分 ...

  3. 打开ubantu报错(invalid environment block. Press any key to continue)

    今天向往常一样打开ubantu ,却无法正常打开,如下图 意思是无效的环境模块,随意按键继续,按任意键后如下图 折腾了许久问题也没有得到解决,后来在某篇博客中找到了答案 https://blog.cs ...

  4. 从壹开始前后端分离 [ Vue2.0+.NET Core2.1] 十四 ║ VUE 计划书 & 我的前后端开发简史

    ---新内容开始--- 番外 大家周一好呀,又是元气满满的一个周一呀!感谢大家在周一这个着急改Bug的黄金时期,抽出时间来看我的博文哈哈哈,时间真快,已经到第十四篇博文了,也很顺顺(跌跌)利利 (撞撞 ...

  5. 使用 ASP.NET Core MVC 创建 Web API(三)

    使用 ASP.NET Core MVC 创建 Web API 使用 ASP.NET Core MVC 创建 Web API(一) 使用 ASP.NET Core MVC 创建 Web API(二) 十 ...

  6. T4模板简单了解

    T4模板基础 T4即为Text Template Transformation Toolkit,一种可以由自己去自定义规则的代码生成器.根据业务模型可生成任何形式的文本文件或供程序调用的字符串 在VS ...

  7. 面向对象之七大基本原则(javaScript)

    1. 前言 2. 单一职责 3. 开闭原则 4. 里氏替换 5. 依赖倒置 6. 接口隔离 7. 迪米特法则 8. 组合聚合复用原则 9. 总结 1. 前言 面向对象编程有自己的特性与原则,如果对于面 ...

  8. [Nodejs] node实现静态文件服务器

    node 静态文件处理 一般后端进行静态文件处理都是使用 Apache nginx 等静态 web 服务器,但是既然使用 node 了,就用 node 实现以下静态服务器吧. 之前弄了不少充满艺术的数 ...

  9. 菜鸟入门【ASP.NET Core】1:环境安装

    下载.NET Core SDK 下载地址:https://www.microsoft.com/net/download/windows https://www.microsoft.com/net/le ...

  10. 前端_Bootstrap简单使用

    首先说一下简单使用方法: 1.首先上官网下载Bootstrap(就是一些js文件和一些css文件) ,网址: https://v3.bootcss.com/getting-started/#downl ...