01 | 基础架构:一条SQL查询语句是如何执行的?

1. MySQL 的基本架构图:

MySQL可以分成: Server层 和 存储引擎层 两部分。

Server层:包含连接器、查询缓存、分析器、优化器、执行器等等,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(日期,时间,数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程,触发器,视图等。

存储引擎层:负责数据的存储和提取,架构模式是插件式的,支持 InnoDB(默认的存储引擎), MyISAM, Memory 等多个存储引擎。

【1】连接器

连接器负责和客户端建立连接,获取权限,维持和管理连接。

mysql -h$ip -P$port -u$user -p

连接器要和服务端建立连接。

(1)TCP握手

(2)认证user身份

(3)去权限表里面查询user拥有的权限。(此后这个连接里面的权限判断逻辑,都将依赖于此时读到的权限)

这就意味着,一个用户建立成功连接之后,即使你用管理员账号对这个用户的权限做了修改,也不会影响到已经存在连接的权限。修改完成之后,只有再新建的连接才会使用新的权限设置。

MySQL查看现在所有的连接:

mysql> show processlist;

command 列的 Sleep 状态表示现在系统里面有一个空闲连接。

客户端如果太长时间没有动静,连接器就会将它自动断开。时间是由 wait_time 控制的。默认 8 小时。

数据库里面,长连接是指连接成功之后,如果客户端持续有请求,则一直使用同一个连接。短连接则是指每次执行完很少的几次查询就断开连接,下次查询再重新建立一个。

作者建议要尽量减少建立连接的动作,也就是尽量使用长连接。

但是这个时候可能会碰到一个问题:如果都使用长连接之后,你可能会发现,有些时候 MySQL 占用内存长得特别快。

这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。

所以如果长连接积累下来,可能导致内存占用大,被系统强行杀掉 (OOM),从现象来看就是 MySQL 异常重启了。

如何解决这个问题有下面两个方法:

(1)定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。

(2)对于MySQL 5.7以上版本,可以在每次执行一个比较大的操作之后,通过执行 mysql_reset_connection 来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完的状态。

【2】查询缓存

select 语句在查询之前可以查询缓存。

但是大多数情况下我会建议你不要使用查询缓存,为什么呢?因为查询缓存往往弊大于利。

MySQL 8.0 以上已经把查询缓存这个功能干掉了。

【3】分析器

如果没有命中查询缓存,就要开始真正执行语句了。首先,MySQL 需要知道你要做什么,因此需要对 SQL 语句做解析。

(1)分析器会先做“词法分析”。将我们输入的一条 SQL 语句(多个字符串和空格组成),MySQL 需要识别出里面的字符串分别是什么,代表什么。

比如说识别关键词 select,表名称, 列名称。

(2)“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个 SQL 语句是否满足 MySQL 的语法。

此时如果语句不对,就会收到" You have an error in your SQL syntax" 的提示。

一般语法错误会提示第一个出现错误的位置,所以需要关注 "use near" 的内容。

【4】优化器

优化器是在表里面有多个索引的时候,决定使用哪个索引;或者在一个语句有多表关联(join)的时候,决定各个表的连接顺序。

比如你执行下面这样的语句,

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;

既可以先从表 t1 里面取出 c = 10 的记录的 ID 的值,在根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。

也可以先从表 t2 里面取出 d = 20 的记录的 ID 的值,再根据 ID 的值关联到 t1, 再判断 t1 里面的 c 是否等于 10。

这两种执行方法的逻辑结果是一样的,但是执行效率会非常不同,而优化器的作用就是决定选择使用哪一种方案。

【5】执行器

开始执行的时候,要先判断一下你对这个表 T 是否有执行查询的权限,如果没有,就会返回没有权限的错误,如下所示(在工程实现上,如果命中查询缓存,会在查询缓存返回结果的时候做权限验证。查询也会在优化器之前调用 precheck 验证权限。)

mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有权限,就会打开表开始执行。打开表的时候,执行器就会根据表的引擎定义,取使用这个引擎提供的接口。

如果在 T 表中 id 这个字段没有索引,那么执行器的执行流程是这样的。

1. 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 10,如果不是则跳过,如果是,就将这行存在结果集当中。

2.调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行。

3. 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集合返回给客户端。

到这里,这个语句就执行完成了。

对于有索引的表,执行的逻辑也差不多。第一次调用的是"取满足条件的第一行"这个接口,之后循环取"满足条件的下一行"这个接口。这些接口都是引擎中定义好的。 

在数据库的慢查询日志中看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。

在有些场景下,执行器调用一次,在引擎内部则扫描了很多行,因此,引擎扫描行数跟 rows_examined 并不是完全相同的。

问题:如果表 T 中没有字段 k,而你执行了这个语句 select * from T where k=1, 那肯定是会报“不存在这个列”的错误:“Unknown column ‘k’ in ‘where clause'"。 你觉得这个错误是从我们上面的哪个阶段报出来的呢?

题解:优化器。分析器会分析语法,但是不会判断这个表里面是否有这个列。到了优化器才会决定执行的过程。

也不是执行器,执行器的功能是打开表获取数据,但是表的字段不是数据,是预先定义好的,可以直接读取,不需要打开表。

02 | 日志系统:一条SQL更新语句是如何执行的?

03 | 事务隔离:为什么你改了我还看不见?

04 | 深入浅出索引(上)

05 | 深入浅出索引(下)

06 | 全局锁和表锁:给表加个字段怎么有这么多阻碍?

07 | 行锁功过:怎么减少行锁对性能的影响?

08 | 事务到底是隔离的还是不隔离的?

09 | 普通索引和唯一索引,应该怎么选择?

10 | MySQL 为什么有时候会选错索引?

11 | 怎么给字符串字段加索引?

12 | 为什么我的MySQL会“抖”一下?

13 | 为什么表数据删掉一半,表文件大小不变?

14 | count(*)这么慢,我该怎么办?

15 | 答疑文章(一):日志和索引的相关问题

16 | “order by” 是怎么工作的?

【Database】MySQL实战45讲的更多相关文章

  1. 极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间

    极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间 笔记体会: 方案一,事务相 ...

  2. Mysql实战45讲 06讲全局锁和表锁:给表加个字段怎么有这么多阻碍 极客时间 读书笔记

    Mysql实战45讲 极客时间 读书笔记 Mysql实战45讲 极客时间 读书笔记 笔记体会: 根据加锁范围:MySQL里面的锁可以分为:全局锁.表级锁.行级锁 一.全局锁:对整个数据库实例加锁.My ...

  3. Mysql实战45讲 05讲深入浅出索引(下)极客时间 读书笔记

    极客时间 Mysql实战45讲 04讲深入浅出索引(下)极客时间 笔记体会: 回表:回到主键索引树搜索的过程,称为回表覆盖索引:某索引已经覆盖了查询需求,称为覆盖索引,例如:select ID fro ...

  4. Mysql实战45讲 04讲深入浅出索引(上)读书笔记 极客时间

    极客时间 Mysql实战45讲 04讲深入浅出索引 极客时间(上)读书笔记  笔记体悟 1.索引的作用:提高数据查询效率2.常见索引模型:哈希表.有序数组.搜索树3.哈希表:键 - 值(key - v ...

  5. 深挖计算机基础:MySQL实战45讲学习笔记

    参考极客时间专栏<MySQL实战45讲>学习笔记 一.基础篇(8讲) MySQL实战45讲学习笔记:第一讲 MySQL实战45讲学习笔记:第二讲 MySQL实战45讲学习笔记:第三讲 My ...

  6. MySQL实战45讲学习笔记:第三十九讲

    一.本节概况 MySQL实战45讲学习笔记:自增主键为什么不是连续的?(第39讲) 在第 4 篇文章中,我们提到过自增主键,由于自增主键可以让主键索引尽量地保持递增顺序插入,避免了页分裂,因此索引更紧 ...

  7. 《MySQL实战45讲》学习笔记1——MySQL的基础架构

    在<极客时间>订阅了<MySQL实战45讲>专栏,总觉得看完和没看一样

  8. MySQL实战45讲,丁奇带你搞懂

    之前,你大概都是通过搜索别人的经验来解决问题.如果能够理解MySQL的工作原理,那么在遇到问题的时候,是不是就能更快地直戳问题的本质? 以实战中的常见问题为切入点,带你剖析现象背后的本质原因.为你串起 ...

  9. 《MySQL实战45讲》(1-7)笔记

    <MySQL实战45讲>笔记 目录 <MySQL实战45讲>笔记 第一节: 基础架构:一条SQL查询语句是如何执行的? 连接器 查询缓存 分析器 优化器 执行器 第二节:日志系 ...

  10. 《MySQL实战45讲》(8-15)笔记

    MySQL实战45讲 目录 MySQL实战45讲 第八节: 事务到底是隔离的还是不隔离的? 在MySQL里,有两个"视图"的概念: "快照"在MVCC里是怎么工 ...

随机推荐

  1. 固定内网ip的方法

    ip最后一位找一个不常用的,比如200之后的,ping不通它就用它. 子网掩码,默认网关保持和原来的一样. DNS要填公司的,网上查的不能用,因为他们是互联网上的.主备:XXXXXX/XX (之前填的 ...

  2. 非阻塞套接字与IO多路复用(转,python实现版)

    非阻塞:指在不能立刻得到结果之前,该函数不会阻塞当前线程,而会立刻返回.epoll工作在非阻塞模式时,才会发挥作用. 我们了解了socket之后已经知道,普通套接字实现的服务端的缺陷:一次只能服务一个 ...

  3. 我们为什么选择Ceph来建立块存储

    我们为什么选择Ceph来建立块存储?国内知名黑客组织东方联盟是这样回答的,卷管理器的大小和增长受到管理程序的驱动器补充的限制,与其他Droplet共享.一旦Droplet被摧毁,储存就会被释放.术语“ ...

  4. shell编程基础知识2

    1.一维数组 定义:A={test1 test2 test3} 引用:echo ${A[0]} 表示引用第一个数组变量 echo ${A[1]} 表示引用第二个数组变量 显示数据参数:echo ${A ...

  5. Linux服务的安装与使用

    Spotlight on Unix 监控Linux服务器的安装与使用 详细请看:https://spotlight-on-unix.software.informer.com/download/#do ...

  6. flask02

    -web框架 -从浏览器输入一个地址,发送请求,经历了哪些过程 -反向代理,正向代理 -正向代理代理客户 -反向代理代理服务器-你用过的python中的魔法方法:https://www.cnblogs ...

  7. 2019 GNTC 阿里云参会分享:云原生SDWAN网络2.0 一站式上云服务

    本次10/22-24 南京2019 GNTC大会上,阿里云网络云原生SDWAN网络2.0 由于独特的云原生定位.创新的解决方案,及成熟的应用案例.行业用户,获得行业媒体C114中国通信网.产业专家高度 ...

  8. Asynchronous C# server[转]

    It hasn't been thoroughly tested, but seems to work OK. This should scale pretty nicely as well. Ori ...

  9. selenium2-java 浏览器下进行登录

    完整代码实现如下: package linear; import org.openqa.selenium.By;import org.openqa.selenium.WebDriver;import ...

  10. Python Django 编写一个简易的后台管理工具3-运行项目

    编写view页面 def hello(request): return render(request,'hello.html') 编写html页面 <!DOCTYPE html> < ...