MySQL 的架构与组件
MySQL 的逻辑架构图设计图
连接/线程处理:
管理客户端连接/会话[mysql threads]
解析器:
通过检查SQL查询中的每个字符来检查SQL语法,并为每个SQL查询生成 SQL_ID。
此外,身份验证检查(用户凭据)将在此阶段发生。
优化程序:
根据存储引擎创建有效的查询执行计划。它将重写一个查询。示例:InnoDB具有共享缓冲区,因此优化器将从中获取预缓存的数据。使用表统计信息优化器将为SQL查询生成执行计划。
授权检查(用户访问权限)将在此阶段发生。
元数据缓存:
缓存对象元数据信息和统计信息。
查询缓存:
来自内存的共享相同查询。如果在查询缓存中找到来自客户端的相同查询,则MySQL服务器从查询缓存中检索结果,而不是再次解析和执行该查询。它是会话的共享缓存,因此可以发送一个客户端生成的结果集以响应另一个客户端发出的相同查询。查询缓存基于SQL_ID.SELECT数据进入视图是使用查询缓存预缓存数据的最佳示例。
密钥缓存:
缓存表索引。在 MySQL 中密钥是索引(在oracle密钥是约束),如果索引大小小,那么它将缓存索引结构和数据叶。如果索引很大,那么它将只缓存索引结构。由MyISAM 使用存储引擎。
存储引擎:
管理物理数据(文件管理)和位置的MySQL组件。存储引擎负责执行SQL语句并从数据文件中获取数据。用作插件,可以从运行MySQL服务器加载/卸载。其中一些引擎如下:
- InnoDB:
- 完全事务性的ACID。
- 为事务提供REDO和UNDO。
- 数据存储在表空间中:
- 多个数据文件
- 使用InnoDB数据和日志缓冲区的逻辑对象结构- 行级锁。
- NDB(适用于MySQL群集):
- 完全事务性和ACID存储引擎。
- 分配执行数据并使用多个mysqld。
- NDB为每个NDB引擎使用具有自己的缓冲区的逻辑数据。
- 为交易提供REDO和UNDO。
- 行级锁。
- MyISAM:
- 非事务性存储引擎
- 读取速度快(读多写少)
- 数据存储在文件中并使用密钥,元数据和查询缓存
- 表结构的FRM
- 表索引的MYI
- 表数据的MYD- 表级锁定。
- Memory:
- 非事务性存储引擎
- 除表格元数据和结构外,所有数据都存储在内存中。
- 表级锁定。
- ARCHIVE:
- 非事务性存储引擎,
- 存储大量压缩和未编制索引的数据。
- 允许INSERT,REPLACE 和 SELECT,但不允许 DELETE 或 UPDATE sql操作。
- 表级锁定。
- CSV:
- 使用逗号分隔值格式在平面文件中存储数据。
- 需要在MySQL服务器(.frm)中创建表结构
SQL执行
sql 语句查询是首先会去缓存中查找是否有相同语句的记录,没有则会检查 sql 的句法并且生成一个 sql 查询 id,然后是优化查询的 sql 并执行语句,从存储引擎中查找数据。
MySQL连接:
InnoDB 存储引擎:
- 完全事务性的ACID。
- 行级锁。
- 为事务提供REDO和UNDO。
- 表空间中的数据存储:
- 多个数据文件
- 使用InnoDB数据和日志缓冲区的逻辑对象结构
- 使用共享文件存储对象[数据和索引在同一个文件中]
- InnoDB数据是逻辑结构的100%,物理存储的数据。
- InnoDB读取物理数据并构建逻辑结构[Blocks and Rows]
- 逻辑存储称为TABLESPACE。
InnoDB 存储引擎架构:
表空间:
InnoDB 的存储分为表空间。表空间是与多个数据文件(对象)相关联的逻辑结构。每个表空间都包含页面(块),范围和段
页数(pages): InnoDB的最小数据也称为块。默认页面大小为16kb,页面可以包含一行或多行,具体取决于行大小。
可用页面大小:4kb,8kb,16kb,32kb,64kb
变量名称:innodb_page_size
需要在初始化 mysqld 服务器之前进行配置。
范围(extends): 它是一组页面。为了获得更好的 I / O 吞吐量,InnoDB 读取或写入一组页面,即一次一个范围。
对于一组默认页面大小为 16kb 的页面,范围大小最大为 1MB。
Doublewrite 缓冲区一次读取/写入/分配或释放数据到一个范围。
段(Segments): InnoDB表空间中的文件集合。段中最多使用 4个范围。
InnoDB 组件:
在内存中:
InnoDB 缓冲池:
InnoDB 存储引擎的中央缓冲区。在这个数据缓冲区中,我们加载块和缓存表和索引数据。
- InnoDB 缓存表数据和索引的主存。
- 在专用数据库服务器上调整高达80%的物理内存。
- 跨所有会话的共享缓冲区。
- InnoDB 使用 LRU(最近最少使用)页面替换算法。
- 正在重用的数据始终位于同一内存中。
- 不使用的数据最终将被淘汰。
更改缓冲区:
在内存更改缓冲区是 InnoDB 缓冲池的一部分,在磁盘上,它是系统表空间的一部分,因此即使在数据库重启后索引更改仍保持缓冲。更改缓冲区是一种特殊的数据结构,可以将更改缓存到二级索引页当受影响的页面不在缓冲池中时。
REDO 日志缓冲区:
用于 REDO 日志的缓冲区,保存数据以写入 REDO 日志。定期将数据从 REDO 日志缓冲区刷新到 REDO 日志。将数据从内存刷新到由 innodb_log_at_trx_commit 和 innodb_log_at_timeout 配置选项管理的磁盘。
- 比较大的 REDO 日志缓冲区可以在事务提交之前运行大型事务,而无需将 REDO 日志写入磁盘。
- 变量:
innodb_log_buffer_size(默认为16M)
在磁盘上:
系统表空间:
除了表数据存储之外,InnoDB 的功能还需要查找表元数据并存储和检索 MVCC 信息以支持 ACID 规范性和事务隔离。它包含 InnoDB 对象的几种类型的信息。
- 包含:
表数据页
表索引页
数据字典
MVCC 控制数据(Multi-Version Concurrency Control 多版本并发控制)
UNDO 空间
回滚段 Rollback Segments
双写缓冲区(在后台编写以避免操作系统缓存的页)
插入缓冲区(对二级索引的更改)
变量:
innodb_data_file_path = / ibdata / ibdata1:10M:autoextend
通过启用innodb_file_per_table(默认)选项,我们可以将每个新创建的表(数据和索引)存储在单独的表空间中。此存储方法的优点是磁盘数据文件中的碎片较少。
常规表空间:
用于存储多个表数据的共享表空间。在 MySQL 5.7.6 中介绍。用户必须使用 CREATE TABLESPACE 语法创建它。TABLESPACE 选项可以与 CREATE TABLE 一起使用来创建表,使用 ALTER TABLE 来移动表到常规表中。
- 内存优于 innodb_file_per_table 存储方法。
- 支持 Antelope 和 Barracuda 文件格式。
- 支持所有行格式和相关功能。
- 可以创建外部数据目录。
InnoDB 数据字典:
系统表空间中的存储区域由内部系统表组成,包含对象[表,索引,列等]的元数据信息
双写缓冲区:
系统表空间中的存储区域,InnoDB在写入数据文件中的正确位置之前从InnoDB缓冲池写入页面。
如果mysqld进程崩溃在页面中间写入,则在崩溃恢复时,InnoDB 可以从 doublewrite 缓冲区中找到页面的良好副本。
变量:inndb_doublewrite(默认启用)
REDO 日志:
用于崩溃恢复。在 mysqld 启动时,InnoDB 执行自动恢复以纠正那些不完整事务写入的数据。在 mysqld 意外关闭之前,那些没有完成数据更新的事务,将在下次mysqld 启动时,自动重做那未完成更新数据文件的事务,即使是在mysqld没有连接的情况下。。它使用 LSN(日志序列号)值。
大量数据更改无法快速写入磁盘,因此它将 REDO ,然后再转到磁盘。
为什么我们需要 REDO 以进行恢复?
让我们举一个例子,用户在 Innodb 缓冲区中更改数据并提交,在写入磁盘之前需要先去的地方。因为在崩溃缓冲区的情况下数据会丢失,这就是我们需要 REDO 日志的原因。
- 在 REDO 时,所有更改都将使用 row_id,旧列值,新列值,session_id 和时间等信息。
- 一个提交完整数据将在磁盘下的数据文件中。
- 变量:
Innodb_log_file_in_group = [ REDO 文件组的数量]
Innodb_log_file_size = [每个 REDO 文件的大小]
UNDO 表空间和日志:
UNDO 表空间包含一个或多个UNDO日志文件。
UNDO 通过保留活动事务 [MVCC] 的已修改未提交数据来管理一致读取。从该存储区域检索未修改的数据。还原日志也称为回滚段
默认情况下,UNDO 日志是系统表空间的一部分,MySQL 允许将 UNDO 日志存储在单独的表空间中 [在 MySQL 5.6 中引入]。在初始化 mysqld 服务器之前需要配置。
- 当我们配置单独的表空间时,系统表空间中的日志变为非活动状态。
- 需要在初始化 mysqld 服务器之前进行配置,之后无法更改。
- 我们截断 UNDO 日志,但不能删除。
- 变量:
innodb_undo_tablespace:撤销表空间的数量,默认为 0
innodb_undo_directory:UNDO表空间的位置,默认为 data_dir,大小为 10MB。
innodb_undo_logs:UNDO日志数量,默认值和最大值为“128”
临时表空间:
用于保存和检索临时表和相关对象的已修改未提交数据的存储。介绍 MySQL 5.7.2 并在服务器运行时用于回滚临时表更改。
- 临时表的 UNDO 日志驻留在临时表空间中。
- 在服务器启动时重新创建默认表空间文件 ibtmp1。
- 不习惯崩溃恢复。
- 优势:通过避免临时表和相关对象的 REDO 日志的 IO 来提高性能。
- 变量:
innodb_temp_data_file_path = ibtmp1:12M:autoextend(默认)
MySQL 的架构与组件的更多相关文章
- dbeaver导出MySQL的架构提示"IO Error: Utility 'mysqldump.exe' not found in client home 'MySQL Connector/Net"解决方案
今天想到用dbeaver的Dump dabase功能导出MySQL的架构脚本,到最后一步生成的时候提示以下错误信息: IO Error: Utility 'mysqldump.exe' not fou ...
- MySQL体系架构
MySQL体系架构 学习一门数据库系统首先得了解它的架构,明白它的架构原理对于后期的分析问题和性能调优都有很大的帮助,接下来就通过分析架构图来认识它. 数据库:物理操作系统文件或者其它文件的集合,在m ...
- 步步深入MySQL:架构->查询执行流程->SQL解析顺序!
一.前言 一直是想知道一条SQL语句是怎么被执行的,它执行的顺序是怎样的,然后查看总结各方资料,就有了下面这一篇博文了. 本文将从MySQL总体架构--->查询执行流程--->语句执行顺序 ...
- 洞悉MySQL底层架构:游走在缓冲与磁盘之间
提起MySQL,其实网上已经有一大把教程了,为什么我还要写这篇文章呢,大概是因为网上很多网站都是比较零散,而且描述不够直观,不能系统对MySQL相关知识有一个系统的学习,导致不能形成知识体系.为此我撰 ...
- 精通MySQL之架构篇
老刘是即将找工作的研究生,自学大数据开发,一路走来,感慨颇深,网上大数据的资料良莠不齐,于是想写一份详细的大数据开发指南.这份指南把大数据的[基础知识][框架分析][源码理解]都用自己的话描述出来,让 ...
- [数据库系列之MySQL] Mysql整体架构浅析一
一.引言 平时我们在做Java系统时,一般情况下都会连接到一个MySQL数据库上去,执行各种增删改查的语句.大部分的Java工程师对MySQL的了解和掌握程度,大致就停留在这么一个阶段:对MySQL可 ...
- MySQL高级知识- MySQL的架构介绍
[TOC] 1.MySQL 简介 概述 MySQL是一个关系型数据库管理系统,由瑞典MySQL AB公司开发,目前属于Oracle公司. MySQL是一种关联数据库管理系统,将数据保存在不同的表中,而 ...
- iOS应用架构谈 组件化方案
转载: iOS应用架构谈 组件化方案 简述 前几天的一个晚上在infoQ的微信群里,来自蘑菇街的Limboy做了一个分享,讲了蘑菇街的组件化之路.我不认为这条组件化之路蘑菇街走对了.分享后我私聊了Li ...
- MySQL 体系架构
MySQL 体系架构 本篇文章是对mysql体系结构进行了详细的分析介绍,需要的朋友参考下 上面一图是mysql的概览图,我们从上往下看, 我们把上面一图一分为二,我们可以吧它分为两个部分, 1,是c ...
随机推荐
- linux traceroute追踪路由路径
TraceRoute的工作原理 1.TraceRoute的工作原理: traceroute 有使用两种:使用ICMP的和使用UDP的.Microsoft 使用ICMP,所以win9 ...
- 可选链运算符、空值合并运算符 --应用到vue项目
1.npm安装 npm install @babel/plugin-proposal-optional-chaining // 可选链运算符 ?. npm install @babel/plugin- ...
- 内部类访问外部类成员变量,使用外部类名.this.成员变量
public class Outer { private int age = 12; class Inner { private int age = 13; public void print() { ...
- 机器学*——K*邻算法(KNN)
1 前言 Kjin邻法(k-nearest neighbors,KNN)是一种基本的机器学*方法,采用类似"物以类聚,人以群分"的思想.比如,判断一个人的人品,只需观察他来往最密切 ...
- PHP的Mcrypt加密扩展知识了解
今天我们来学习的是 PHP 中的一个过时的扩展 Mcrypt .在 PHP7 之前,这个扩展是随 PHP 安装包一起内置发布的,但是现在新版本的 PHP 中已经没有了,需要使用这个扩展的话我们需要单独 ...
- 使用metaweblog API实现通用博客发布 之 本地图片自动上传以及替换路径
使用metaweblog API实现通用博客发布 之 本地图片自动上传以及替换路径 通过metaweblog API 发布博文的时候,由于markdown中的图片路径是本地路径,将导致发布的文章图片不 ...
- Docker系列(28)- 自定义网络
自定义网络 网络模式 bridge:桥接docker(默认,自己创建也可以使用bridge模式) none:不配置网络 host:和宿主机共享网络 container:容器网络联通!(用的少!局限性大 ...
- python对象引用和垃圾回收
变量="标签" 变量a和变量b引用同一个列表: >>> a = [1, 2, 3] >>> b = a >>> a.appen ...
- P3313-[SDOI2014]旅行【树链剖分,线段树】
正题 题目链接:https://www.luogu.com.cn/problem/P3313 题目大意 \(n\)个点的一棵树,每个点有一个颜色和权值,有操作 修改一个点的权值 修改一个点的颜色 询问 ...
- Java面向对象编程(二)
关键字 -- this 一.this关键字的使用: 1.this可以用来修饰.调用:属性.方法.构造器. 2.this修饰属性和方法: this理解为:当前对象 或 当前正在创建的对象. 2.1 在类 ...