【MySQL大系】《Mysql集群架构》
原文地址(微信):【技术文章】《Mysql集群架构》
本文地址:http://www.cnblogs.com/aiweixiao/p/7258444.html
点击关注微信公众号
1.主要内容
1)mysql的架构,锁,最佳实践,事务
2)mysql的命令行,主从复制,索引,数据备份/恢复
3)mysql的集群,mysql的负载均衡,监控,mysql proxy
4) mysql的MMM架构,mysql 的源码,DBA

2.具体内容
2.1)【架构】:
【架构图】:

【概述】:Mysql是由SQL接口,解析器,优化器,缓存,存储引擎组成的
2.2)【锁】:
【概念】:为了保证数据的一致完整性,任何一个数据库都存在锁定机制。锁定机制的优劣直接应想到一个数据库系统的并发处理能力和性能,所以锁定机制的实现也就成为了各种数据库的核心技术之一。
【分类】:MySQL各存储引擎使用了三种类型(级别)的锁定机制:行级锁定,页级锁定和表级锁定
1)行级锁定:锁定对象的颗粒度很小,消耗最大,行级锁定也最容易发生死锁,但是并发好
2)表级锁定:死锁情况少,但是并发不好,
3)页级锁定:介于前两者之间。
【代码】:
1)锁定 LOCK TABLES tbl_name [AS alias]
2)解锁 UNLOCK TABLES
2.3)【最佳实践】:
【为查询缓存优化你的查询】:

【mysql强制索引和禁止某个索引】:
1) mysql强制使用索引:force index(索引名或者主键PRI):select * from table force index(PRI,ziduan1_index) limit 2;(强制使用索引”PRI和ziduan1_index”)
2) mysql禁止某个索引:ignore index(索引名或者主键PRI):select * from table ignore index(PRI,ziduan1_index) limit 2;(禁止使用索引”PRI,ziduan1_index”)
2.4)【事务】:
【概念】:事务是指逻辑上的一组操作,组成这组操作的各个单元,要不全成功要不全失败。其特点是ACID(原子性,一致性,隔离性,持久性)
【实现】:
1)事务开启:START TRANSACTION; 或者 BEGIN;
2)事务提交:COMMIT;
3)事务回滚:ROLLBACK;
2.5)【mysql 命令行】:
【命令行执行mysql】:使用mysql的-e参数可以执行各种sql的(创建,删除,增,删,改、查)等各种操作
例如:#创建数据库
create_db_sql="create database IF NOT EXISTS ${DBNAME}”
mysql -h${HOSTNAME} -P${PORT} -u${USERNAME} -p${PASSWORD} -e "${create_db_sql}"
2.6)【主从复制】:
【一主多从】:在一主多从的数据库体系中,多个从服务器采用异步的方式更新主数据库的变化,业务服务器在执行写或者相关修改数据库的操作是在主服务器上进行的,读操作则是在各从服务器上进行

【原理】 :MySQL之间数据复制的基础是二进制日志文件(binary log file)。一台MySQL数据库一旦启用二进制日志后,其作为master,它的数据库中所有操作都会以“事件”的方式记录在二进制日志中,其他数据库作为slave通过一个I/O线程与主服务器保持通信,并监控master的二进制日志文件的变化,如果发现master二进制日志文件发生变化,则会把变化复制到自己的中继日志中,然后slave的一个SQL线程会把相关的“事件”执行到自己的数据库中,以此实现从数据库和主数据库的一致性,也就实现了主从复制。
2.7)【索引】:
【概述】:索引对查询的速度有着至关重要的影响,理解索引也是进行数据库性能调优的起点
【种类】:普通索引,唯一索引,全文索引,单列/多列索引,组合索引(最左前缀)
【B+树】:

1)详解B+树:浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。
2)查找B+树:如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。
2.8)【数据备份/恢复】:
【数据备份】:
1)使用mysqldump命令备份mysqldump -u username -p --databases dbname2 dbname2 > Backup.sql
2)直接复制整个数据库目录 : 需要停止服务,不支持InnoDB引擎
3)热备份:使用mysqlhotcopy工具快速备份,不用停止服务。 mysqlhotcopy [option] dbname1 dbname2 backupDir/
【数据还原】:
1)还原使用mysqldump命令备份的数据库: mysql -u root -p < C:\backup.sql
2)还原直接复制目录的备份: 必须保证两个MySQL数据库的版本号是相同的。MyISAM类型的表有效,对于InnoDB类型的表不可用
2.9)【mysql的集群】:
【概念】:MySQL 集群(MySQL Cluster )是mysql适合于分布式计算环境的高实用、高冗余版本。它采用了NDB Cluster 存储引擎,允许在1个 Cluster 中运行多个MySQL服务器。在MyQL 5.0及以上的二进制版本中、以及与最新的Linux版本兼容的RPM中提供了该存储引擎。

【分类】:分为同步集群和异步集群。
1)同步集群:(mysql cluster)
结构:(data + sql + mgm节点)
特点:
1. 1) 内存级别的,对硬件要求较低,但是对内存要求较大。换算比例为:1:1.1;
1.2) 数据同时放在几台服务器上,冗余较好;
1.3) 速度一般;
1.4) 建表需要声明为engine=ndbcluster
1.5) 扩展性强;
1.6) 可以实现高可用性和负载均衡,实现对大型应用的支持;
1.7) 必须是特定的mysql版本,如:已经编译好的max版本;
1.8) 配置和管理方便,不会丢失数据
2)异步集群(mysql replication)
结构:(master + slave)
特点:
2.1) 主从数据库异步数据;
2.2) 数据放在几台服务器上,冗余一般;
2.3) 速度较快;
2.4) 扩展性差;
2.5) 无法实现高可用性和负载均衡(只能在程序级别实现读写分离,减轻对主数据库的压力);
2.6) 配置和管理较差,可能会丢失数据
2.10)【mysql的负载均衡】:
【定义】: 通过director,将用户的请求分发到real server服务器上,然后返回给用户。负载均衡部署灵活、能够满足各种需求。

【实现方式】:
硬件:BIG/IP、Cisco、IBM(昂贵)
软件:LVS(免费)
LVS系统将用户的请求的数据包在数据层和网络层进行了封装和转发,由三种方式满足各种需求。
1) DR:直接路由
2) Tuning:tcp/ip隧道
3) NAT:网络地址转换
2.11)【mysql的监控】:
【监控内容】:监控数据库的日常会话情况。碎片、剩余表空间监控,及时了解表空间的扩展情况、以及剩余空间分布情况
【代码实现】:https://github.com/wozhuzaisi/shell-work/blob/master/mysqlmonitor.sh
2.12)【mysql proxy】:
【定义】:MySQL Proxy是一个处于你的client端和MySQL server端之间的简单程序,它可以监测、分析或改变它们的通信。它使用灵活,没有限制,常见的用途包括:负载平衡,故障、查询分析,查询过滤和修改等等
【实现读写分离】:
1)安装并配置mysql proxy.
2)测试:主服务器mysql> grant all on *.* to'lin3615'@'192.168.179.142'identified by'123456’;
2.14)【mysql MMM架构】:
【概述】:是一套支持双主故障切换和双主日常管理的脚本程序。由于MMM无法完全的保证数据一致性,所以MMM适用于对数据的一致性要求不是很高,但是又想最大程度的保证业务可用性的场景。对于那些对数据的一致性要求很高的业务,非常不建议采用MMM这种高可用架构。

2.15)【mysql 源码】:
【内容】:MySQL是由C++写的,入口函数main()直接调用了mysqld_main()。Server启动的代码都在这里,直到最后的 handle_connections_sockets()。

【资料】:
下载pdf:《深入MySQL源码》
官网手册: https://dev.mysql.com/doc/internals/en/
阅读源码:https://zhuanlan.zhihu.com/p/26118810
书籍:《深入理解MySQL核心技术》
2.16)【DBA】:
【职责】:

1)数据库安装;
2)数据库配置和管理;
3)权限设置和安全管理;
4)监控和性能调节;
5)备份和恢复;
6)解决一般的问题;


【MySQL大系】《Mysql集群架构》的更多相关文章
- 构建MHA实现MySQL高可用集群架构
一.MHA简介 MHA(Master HighAvailability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开 ...
- MYSQL高可用集群架构-MHA架构
1 MHA简介:MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司 ...
- LVS+Keepalived+Squid+Nginx+MySQL主从高性能集群架构部署方案
方案一,在tomcat的workers.properties里面配置相关条件 worker.tomcat.lbfactor= worker.tomcat.cachesize= worker.tomca ...
- MySQL企业常用集群图解
mysql集群架构图片 1.mysql企业常用集群架构 在中小型互联网的企业中.mysql的集群一般就是上图的架构.WEB节点读取数据库的时候读取dbproxy服务器.dbproxy服务器通过对S ...
- Mysql 高可用集群PXC
PXC是percona公司的percona xtraDB cluster,简称PXC.它是基于Galera协议的高可用集群方案.可以实现多个节点间的数据同步复制以及读写,并且可保障数据库的服务高可 ...
- Linux Web集群架构详细(亲测可用!!!)
注意:WEB服务器和数据库需要分离,同时WEB服务器也需要编译安装MySQL. 做集群架构的重要思想就是找到主干,从主干区域向外延展. WEB服务器: apache nginx 本地做三个产品 de ...
- MySQL集群架构:MHA+MySQL-PROXY+LVS实现MySQL集群架构高可用/高性能-技术流ken
MHA简介 MHA可以自动化实现主服务器故障转移,这样就可以快速将从服务器晋级为主服务器(通常在10-30s),而不影响复制的一致性,不需要花钱买更多的新服务器,不会有性能损耗,容易安装,不必更改现有 ...
- Galera Cluster——一种新型的高一致性MySQL集群架构
原文链接:https://www.sohu.com/a/147032902_505779,最近被分配定位mysql的问题,学习下. 1. 何谓Galera Cluster 何谓Galera Clust ...
- corosync+pacemaker and drbd实现mysql高可用集群
DRBD:Distributed Replicated Block Device 分布式复制块设备,原理图如下 DRBD 有主双架构和双主架构的,当处于主从架构时,这个设备一定只有一个节点是可以读写的 ...
随机推荐
- Git原理与命令大全
Git (wiki: en chs )是一个免费开源的分布式版本控制系统,由linux内核作者linus Torvalds开发,大型开源项目linux kernel.Android.chromium ...
- pc蛋蛋app开发定制
如今的pc蛋蛋app开发和pc蛋蛋软件开发互联网已经不再是一个新兴行业,对打仗的团队也要求更加正规化.对于产品技术运营市场等角色来说,如果每个人都能有比较全面的视野,那这个产业将是一个全新的趋势,单一 ...
- pytest之收集用例规则与运行指定用例
前言 上篇文章相信大家已经了解了pytest在cmd下结合各种命令行参数如何运行测试用例,并输出我们想要看到的信息.那么今天会讲解一下pytest是如何收集我们写好的用例?我们又有哪些方式来运行单个用 ...
- Objective-C 学习 (二):Objective-C 实战之Hello World
在Objective-C 学习 (一):Objective-C 概述 学习了OC的基本知识,本节我们来实战一下: #import <Foundation/Foundation.h> // ...
- Java数据结构和算法 - OverView
Q: 为什么要学习数据结构与算法? A: 如果说Java语言是自动档轿车,C语言就是手动档吉普.数据结构呢?是变速箱的工作原理.你完全可以不知道变速箱怎样工作,就把自动档的车子从1档开到4档,而且未必 ...
- hibernate出现QueryException: could not resolve property 查询异常
可能是你的属性名写错了, 因为hibernate是面向对象和属性的.
- 开源图像标注工具labelme的安装使用及汉化
一 LabelMe简介 labelme是麻省理工(MIT)的计算机科学和人工智能实验室(CSAIL)研发的图像标注工具,人们可以使用该工具创建定制化标注任务或执行图像标注,项目源代码已经开源. 项目开 ...
- 测试输出System.err与System.out
来源:http://www.cnblogs.com/guozp/p/6099902.html 1.System.out在JVM和操作系统都具有缓存功能,输出的东西不一定实时输出,可能积累几个字符才会一 ...
- 使用.Net Core+IView+Vue集成上传图片功能
最近的项目里有上传图片的功能,当然这个功能在项目里是必须要有的,那么目前这个项目是使用完全的前后端分离,在选择文件上传的组件中还是选择了全面支持Vue的IView,任何上传图片都是通过HTTP请求,服 ...
- ASP.NET Core中使用GraphQL - 第三章 依赖注入
ASP.NET Core中使用GraphQL ASP.NET Core中使用GraphQL - 第一章 Hello World ASP.NET Core中使用GraphQL - 第二章 中间件 SOL ...