01 | 基础架构:一条SQL查询语句是如何执行的?

1. MySQL 的基本架构图:

MySQL可以分成: Server层 和 存储引擎层 两部分。

Server层:包含连接器、查询缓存、分析器、优化器、执行器等等,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(日期,时间,数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程,触发器,视图等。

存储引擎层:负责数据的存储和提取,架构模式是插件式的,支持 InnoDB(默认的存储引擎), MyISAM, Memory 等多个存储引擎。

【1】连接器

连接器负责和客户端建立连接,获取权限,维持和管理连接。

  1. mysql -h$ip -P$port -u$user -p

连接器要和服务端建立连接。

(1)TCP握手

(2)认证user身份

(3)去权限表里面查询user拥有的权限。(此后这个连接里面的权限判断逻辑,都将依赖于此时读到的权限)

这就意味着,一个用户建立成功连接之后,即使你用管理员账号对这个用户的权限做了修改,也不会影响到已经存在连接的权限。修改完成之后,只有再新建的连接才会使用新的权限设置。

MySQL查看现在所有的连接:

  1. mysql> show processlist;

command 列的 Sleep 状态表示现在系统里面有一个空闲连接。

客户端如果太长时间没有动静,连接器就会将它自动断开。时间是由 wait_time 控制的。默认 8 小时。

数据库里面,长连接是指连接成功之后,如果客户端持续有请求,则一直使用同一个连接。短连接则是指每次执行完很少的几次查询就断开连接,下次查询再重新建立一个。

作者建议要尽量减少建立连接的动作,也就是尽量使用长连接。

但是这个时候可能会碰到一个问题:如果都使用长连接之后,你可能会发现,有些时候 MySQL 占用内存长得特别快。

这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。

所以如果长连接积累下来,可能导致内存占用大,被系统强行杀掉 (OOM),从现象来看就是 MySQL 异常重启了。

如何解决这个问题有下面两个方法:

(1)定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。

(2)对于MySQL 5.7以上版本,可以在每次执行一个比较大的操作之后,通过执行 mysql_reset_connection 来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完的状态。

【2】查询缓存

select 语句在查询之前可以查询缓存。

但是大多数情况下我会建议你不要使用查询缓存,为什么呢?因为查询缓存往往弊大于利。

MySQL 8.0 以上已经把查询缓存这个功能干掉了。

【3】分析器

如果没有命中查询缓存,就要开始真正执行语句了。首先,MySQL 需要知道你要做什么,因此需要对 SQL 语句做解析。

(1)分析器会先做“词法分析”。将我们输入的一条 SQL 语句(多个字符串和空格组成),MySQL 需要识别出里面的字符串分别是什么,代表什么。

比如说识别关键词 select,表名称, 列名称。

(2)“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个 SQL 语句是否满足 MySQL 的语法。

此时如果语句不对,就会收到" You have an error in your SQL syntax" 的提示。

一般语法错误会提示第一个出现错误的位置,所以需要关注 "use near" 的内容。

【4】优化器

优化器是在表里面有多个索引的时候,决定使用哪个索引;或者在一个语句有多表关联(join)的时候,决定各个表的连接顺序。

比如你执行下面这样的语句,

  1. mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;

既可以先从表 t1 里面取出 c = 10 的记录的 ID 的值,在根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。

也可以先从表 t2 里面取出 d = 20 的记录的 ID 的值,再根据 ID 的值关联到 t1, 再判断 t1 里面的 c 是否等于 10。

这两种执行方法的逻辑结果是一样的,但是执行效率会非常不同,而优化器的作用就是决定选择使用哪一种方案。

【5】执行器

开始执行的时候,要先判断一下你对这个表 T 是否有执行查询的权限,如果没有,就会返回没有权限的错误,如下所示(在工程实现上,如果命中查询缓存,会在查询缓存返回结果的时候做权限验证。查询也会在优化器之前调用 precheck 验证权限。)

  1. mysql> select * from T where ID=10;
  2. ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有权限,就会打开表开始执行。打开表的时候,执行器就会根据表的引擎定义,取使用这个引擎提供的接口。

如果在 T 表中 id 这个字段没有索引,那么执行器的执行流程是这样的。

1. 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 10,如果不是则跳过,如果是,就将这行存在结果集当中。

2.调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行。

3. 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集合返回给客户端。

到这里,这个语句就执行完成了。

对于有索引的表,执行的逻辑也差不多。第一次调用的是"取满足条件的第一行"这个接口,之后循环取"满足条件的下一行"这个接口。这些接口都是引擎中定义好的。 

在数据库的慢查询日志中看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。

在有些场景下,执行器调用一次,在引擎内部则扫描了很多行,因此,引擎扫描行数跟 rows_examined 并不是完全相同的。

问题:如果表 T 中没有字段 k,而你执行了这个语句 select * from T where k=1, 那肯定是会报“不存在这个列”的错误:“Unknown column ‘k’ in ‘where clause'"。 你觉得这个错误是从我们上面的哪个阶段报出来的呢?

题解:优化器。分析器会分析语法,但是不会判断这个表里面是否有这个列。到了优化器才会决定执行的过程。

也不是执行器,执行器的功能是打开表获取数据,但是表的字段不是数据,是预先定义好的,可以直接读取,不需要打开表。

02 | 日志系统:一条SQL更新语句是如何执行的?

03 | 事务隔离:为什么你改了我还看不见?

04 | 深入浅出索引(上)

05 | 深入浅出索引(下)

06 | 全局锁和表锁:给表加个字段怎么有这么多阻碍?

07 | 行锁功过:怎么减少行锁对性能的影响?

08 | 事务到底是隔离的还是不隔离的?

09 | 普通索引和唯一索引,应该怎么选择?

10 | MySQL 为什么有时候会选错索引?

11 | 怎么给字符串字段加索引?

12 | 为什么我的MySQL会“抖”一下?

13 | 为什么表数据删掉一半,表文件大小不变?

14 | count(*)这么慢,我该怎么办?

15 | 答疑文章(一):日志和索引的相关问题

16 | “order by” 是怎么工作的?

【Database】MySQL实战45讲的更多相关文章

  1. 极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间

    极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间 笔记体会: 方案一,事务相 ...

  2. Mysql实战45讲 06讲全局锁和表锁:给表加个字段怎么有这么多阻碍 极客时间 读书笔记

    Mysql实战45讲 极客时间 读书笔记 Mysql实战45讲 极客时间 读书笔记 笔记体会: 根据加锁范围:MySQL里面的锁可以分为:全局锁.表级锁.行级锁 一.全局锁:对整个数据库实例加锁.My ...

  3. Mysql实战45讲 05讲深入浅出索引(下)极客时间 读书笔记

    极客时间 Mysql实战45讲 04讲深入浅出索引(下)极客时间 笔记体会: 回表:回到主键索引树搜索的过程,称为回表覆盖索引:某索引已经覆盖了查询需求,称为覆盖索引,例如:select ID fro ...

  4. Mysql实战45讲 04讲深入浅出索引(上)读书笔记 极客时间

    极客时间 Mysql实战45讲 04讲深入浅出索引 极客时间(上)读书笔记  笔记体悟 1.索引的作用:提高数据查询效率2.常见索引模型:哈希表.有序数组.搜索树3.哈希表:键 - 值(key - v ...

  5. 深挖计算机基础:MySQL实战45讲学习笔记

    参考极客时间专栏<MySQL实战45讲>学习笔记 一.基础篇(8讲) MySQL实战45讲学习笔记:第一讲 MySQL实战45讲学习笔记:第二讲 MySQL实战45讲学习笔记:第三讲 My ...

  6. MySQL实战45讲学习笔记:第三十九讲

    一.本节概况 MySQL实战45讲学习笔记:自增主键为什么不是连续的?(第39讲) 在第 4 篇文章中,我们提到过自增主键,由于自增主键可以让主键索引尽量地保持递增顺序插入,避免了页分裂,因此索引更紧 ...

  7. 《MySQL实战45讲》学习笔记1——MySQL的基础架构

    在<极客时间>订阅了<MySQL实战45讲>专栏,总觉得看完和没看一样

  8. MySQL实战45讲,丁奇带你搞懂

    之前,你大概都是通过搜索别人的经验来解决问题.如果能够理解MySQL的工作原理,那么在遇到问题的时候,是不是就能更快地直戳问题的本质? 以实战中的常见问题为切入点,带你剖析现象背后的本质原因.为你串起 ...

  9. 《MySQL实战45讲》(1-7)笔记

    <MySQL实战45讲>笔记 目录 <MySQL实战45讲>笔记 第一节: 基础架构:一条SQL查询语句是如何执行的? 连接器 查询缓存 分析器 优化器 执行器 第二节:日志系 ...

  10. 《MySQL实战45讲》(8-15)笔记

    MySQL实战45讲 目录 MySQL实战45讲 第八节: 事务到底是隔离的还是不隔离的? 在MySQL里,有两个"视图"的概念: "快照"在MVCC里是怎么工 ...

随机推荐

  1. java 计算时间差

    DateFormat df = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss"); try { Date d1 = df.parse(&quo ...

  2. jmeter 参数化4_Function Helper中的函数

    Function Helper中的函数:  可作为其他参数化方式的补充项,如:随机数生成的函数${__Random(,,)} 操作路径:操作路径:Options-->Function Helpe ...

  3. Hibernate入门核心配置文件和orm元数据配置文件详解

    框架是什么? 框架是用来提高开发效率的 封装了一些功能,我们需要使用这些功能时,调用即可,不用手动实现 所以框架可以理解为一个半成品的项目,只要懂得如何使用这些功能即可 Hibernate是完全面向对 ...

  4. 【Http2.0】Http2.0

    序言 目前HTTP/2.0(简称h2)已经在广泛使用(截止2018年8月根据Alexa流行度排名的头部1千万网站中,h2占比约29%,https://w3techs.com/technologies/ ...

  5. FMX Android ZIP解压中文乱码

    在手机上解压了一个WINDOWS上的压缩文件, 发现中文是乱码的,解决方法如下: 找到System.zip.pas文件 将E := TEncoding.GetEncoding(437);   改为 E ...

  6. Delphi 判断特定字符是为单字节还是双字节

    判断特定字符是为单字节还是双字节 // mbSingleByte 单字节字符 //mbLeadByte 双字节字符首字节 //mbTrailByte 双字节字符尾字节 Edit1.Text:='010 ...

  7. Redis的高级特性一览

    更多内容,欢迎关注微信公众号:全菜工程师小辉.公众号回复关键词,领取免费学习资料. 应用场景 缓存系统:用于缓解数据库的高并发压力 计数器:使用Redis原子操作,用于社交网络的转发数,评论数,粉丝数 ...

  8. 学习React之前你需要知道的的JavaScript基础知识

    在我的研讨会期间,更多的材料是关于JavaScript而不是React.其中大部分归结为JavaScript ES6以及功能和语法,但也包括三元运算符,语言中的简写版本,此对象,JavaScript内 ...

  9. (转)PAL制式和NTSC制式的区别

    转:https://www.cnblogs.com/nx520zj/articles/6061777.html 常见的电视信号制式是PAL和NTSC,另外还有SECAM等. NTSC即正交平衡调幅制. ...

  10. JS-iframe高度自适应内容

    iframe:https://developer.mozilla.org/zh-CN/docs/Web/HTML/Element/iframe iframe 内容加载后不改变 使用:onload=&q ...