01 | 基础架构:一条SQL查询语句是如何执行的?

1. MySQL 的基本架构图:

MySQL可以分成: Server层 和 存储引擎层 两部分。

Server层:包含连接器、查询缓存、分析器、优化器、执行器等等,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(日期,时间,数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程,触发器,视图等。

存储引擎层:负责数据的存储和提取,架构模式是插件式的,支持 InnoDB(默认的存储引擎), MyISAM, Memory 等多个存储引擎。

【1】连接器

连接器负责和客户端建立连接,获取权限,维持和管理连接。

mysql -h$ip -P$port -u$user -p

连接器要和服务端建立连接。

(1)TCP握手

(2)认证user身份

(3)去权限表里面查询user拥有的权限。(此后这个连接里面的权限判断逻辑,都将依赖于此时读到的权限)

这就意味着,一个用户建立成功连接之后,即使你用管理员账号对这个用户的权限做了修改,也不会影响到已经存在连接的权限。修改完成之后,只有再新建的连接才会使用新的权限设置。

MySQL查看现在所有的连接:

mysql> show processlist;

command 列的 Sleep 状态表示现在系统里面有一个空闲连接。

客户端如果太长时间没有动静,连接器就会将它自动断开。时间是由 wait_time 控制的。默认 8 小时。

数据库里面,长连接是指连接成功之后,如果客户端持续有请求,则一直使用同一个连接。短连接则是指每次执行完很少的几次查询就断开连接,下次查询再重新建立一个。

作者建议要尽量减少建立连接的动作,也就是尽量使用长连接。

但是这个时候可能会碰到一个问题:如果都使用长连接之后,你可能会发现,有些时候 MySQL 占用内存长得特别快。

这是因为 MySQL 在执行过程中临时使用的内存是管理在连接对象里面的。这些资源会在连接断开的时候才释放。

所以如果长连接积累下来,可能导致内存占用大,被系统强行杀掉 (OOM),从现象来看就是 MySQL 异常重启了。

如何解决这个问题有下面两个方法:

(1)定期断开长连接。使用一段时间,或者程序里面判断执行过一个占用内存的大查询后,断开连接,之后要查询再重连。

(2)对于MySQL 5.7以上版本,可以在每次执行一个比较大的操作之后,通过执行 mysql_reset_connection 来重新初始化连接资源。这个过程不需要重连和重新做权限验证,但是会将连接恢复到刚刚创建完的状态。

【2】查询缓存

select 语句在查询之前可以查询缓存。

但是大多数情况下我会建议你不要使用查询缓存,为什么呢?因为查询缓存往往弊大于利。

MySQL 8.0 以上已经把查询缓存这个功能干掉了。

【3】分析器

如果没有命中查询缓存,就要开始真正执行语句了。首先,MySQL 需要知道你要做什么,因此需要对 SQL 语句做解析。

(1)分析器会先做“词法分析”。将我们输入的一条 SQL 语句(多个字符串和空格组成),MySQL 需要识别出里面的字符串分别是什么,代表什么。

比如说识别关键词 select,表名称, 列名称。

(2)“语法分析”。根据词法分析的结果,语法分析器会根据语法规则,判断你输入的这个 SQL 语句是否满足 MySQL 的语法。

此时如果语句不对,就会收到" You have an error in your SQL syntax" 的提示。

一般语法错误会提示第一个出现错误的位置,所以需要关注 "use near" 的内容。

【4】优化器

优化器是在表里面有多个索引的时候,决定使用哪个索引;或者在一个语句有多表关联(join)的时候,决定各个表的连接顺序。

比如你执行下面这样的语句,

mysql> select * from t1 join t2 using(ID)  where t1.c=10 and t2.d=20;

既可以先从表 t1 里面取出 c = 10 的记录的 ID 的值,在根据 ID 值关联到表 t2,再判断 t2 里面 d 的值是否等于 20。

也可以先从表 t2 里面取出 d = 20 的记录的 ID 的值,再根据 ID 的值关联到 t1, 再判断 t1 里面的 c 是否等于 10。

这两种执行方法的逻辑结果是一样的,但是执行效率会非常不同,而优化器的作用就是决定选择使用哪一种方案。

【5】执行器

开始执行的时候,要先判断一下你对这个表 T 是否有执行查询的权限,如果没有,就会返回没有权限的错误,如下所示(在工程实现上,如果命中查询缓存,会在查询缓存返回结果的时候做权限验证。查询也会在优化器之前调用 precheck 验证权限。)

mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

如果有权限,就会打开表开始执行。打开表的时候,执行器就会根据表的引擎定义,取使用这个引擎提供的接口。

如果在 T 表中 id 这个字段没有索引,那么执行器的执行流程是这样的。

1. 调用 InnoDB 引擎接口取这个表的第一行,判断 ID 值是不是 10,如果不是则跳过,如果是,就将这行存在结果集当中。

2.调用引擎接口取“下一行”,重复相同的判断逻辑,直到取到这个表的最后一行。

3. 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果集合返回给客户端。

到这里,这个语句就执行完成了。

对于有索引的表,执行的逻辑也差不多。第一次调用的是"取满足条件的第一行"这个接口,之后循环取"满足条件的下一行"这个接口。这些接口都是引擎中定义好的。 

在数据库的慢查询日志中看到一个 rows_examined 的字段,表示这个语句执行过程中扫描了多少行。这个值就是在执行器每次调用引擎获取数据行的时候累加的。

在有些场景下,执行器调用一次,在引擎内部则扫描了很多行,因此,引擎扫描行数跟 rows_examined 并不是完全相同的。

问题:如果表 T 中没有字段 k,而你执行了这个语句 select * from T where k=1, 那肯定是会报“不存在这个列”的错误:“Unknown column ‘k’ in ‘where clause'"。 你觉得这个错误是从我们上面的哪个阶段报出来的呢?

题解:优化器。分析器会分析语法,但是不会判断这个表里面是否有这个列。到了优化器才会决定执行的过程。

也不是执行器,执行器的功能是打开表获取数据,但是表的字段不是数据,是预先定义好的,可以直接读取,不需要打开表。

02 | 日志系统:一条SQL更新语句是如何执行的?

03 | 事务隔离:为什么你改了我还看不见?

04 | 深入浅出索引(上)

05 | 深入浅出索引(下)

06 | 全局锁和表锁:给表加个字段怎么有这么多阻碍?

07 | 行锁功过:怎么减少行锁对性能的影响?

08 | 事务到底是隔离的还是不隔离的?

09 | 普通索引和唯一索引,应该怎么选择?

10 | MySQL 为什么有时候会选错索引?

11 | 怎么给字符串字段加索引?

12 | 为什么我的MySQL会“抖”一下?

13 | 为什么表数据删掉一半,表文件大小不变?

14 | count(*)这么慢,我该怎么办?

15 | 答疑文章(一):日志和索引的相关问题

16 | “order by” 是怎么工作的?

【Database】MySQL实战45讲的更多相关文章

  1. 极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间

    极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间极客时间 Mysql实战45讲 07讲行锁功过:怎么减少行锁对性能的影响笔记 极客时间 笔记体会: 方案一,事务相 ...

  2. Mysql实战45讲 06讲全局锁和表锁:给表加个字段怎么有这么多阻碍 极客时间 读书笔记

    Mysql实战45讲 极客时间 读书笔记 Mysql实战45讲 极客时间 读书笔记 笔记体会: 根据加锁范围:MySQL里面的锁可以分为:全局锁.表级锁.行级锁 一.全局锁:对整个数据库实例加锁.My ...

  3. Mysql实战45讲 05讲深入浅出索引(下)极客时间 读书笔记

    极客时间 Mysql实战45讲 04讲深入浅出索引(下)极客时间 笔记体会: 回表:回到主键索引树搜索的过程,称为回表覆盖索引:某索引已经覆盖了查询需求,称为覆盖索引,例如:select ID fro ...

  4. Mysql实战45讲 04讲深入浅出索引(上)读书笔记 极客时间

    极客时间 Mysql实战45讲 04讲深入浅出索引 极客时间(上)读书笔记  笔记体悟 1.索引的作用:提高数据查询效率2.常见索引模型:哈希表.有序数组.搜索树3.哈希表:键 - 值(key - v ...

  5. 深挖计算机基础:MySQL实战45讲学习笔记

    参考极客时间专栏<MySQL实战45讲>学习笔记 一.基础篇(8讲) MySQL实战45讲学习笔记:第一讲 MySQL实战45讲学习笔记:第二讲 MySQL实战45讲学习笔记:第三讲 My ...

  6. MySQL实战45讲学习笔记:第三十九讲

    一.本节概况 MySQL实战45讲学习笔记:自增主键为什么不是连续的?(第39讲) 在第 4 篇文章中,我们提到过自增主键,由于自增主键可以让主键索引尽量地保持递增顺序插入,避免了页分裂,因此索引更紧 ...

  7. 《MySQL实战45讲》学习笔记1——MySQL的基础架构

    在<极客时间>订阅了<MySQL实战45讲>专栏,总觉得看完和没看一样

  8. MySQL实战45讲,丁奇带你搞懂

    之前,你大概都是通过搜索别人的经验来解决问题.如果能够理解MySQL的工作原理,那么在遇到问题的时候,是不是就能更快地直戳问题的本质? 以实战中的常见问题为切入点,带你剖析现象背后的本质原因.为你串起 ...

  9. 《MySQL实战45讲》(1-7)笔记

    <MySQL实战45讲>笔记 目录 <MySQL实战45讲>笔记 第一节: 基础架构:一条SQL查询语句是如何执行的? 连接器 查询缓存 分析器 优化器 执行器 第二节:日志系 ...

  10. 《MySQL实战45讲》(8-15)笔记

    MySQL实战45讲 目录 MySQL实战45讲 第八节: 事务到底是隔离的还是不隔离的? 在MySQL里,有两个"视图"的概念: "快照"在MVCC里是怎么工 ...

随机推荐

  1. sqlserver 之 将查询结果变为json字符串

    GO /****** Object: StoredProcedure [dbo].[SerializeJSON] Script Date: 6/4/2019 3:58:23 PM 将查询结果变为jso ...

  2. Flutter-底部導航欄切換

    程序入口 import 'package:flutter/material.dart'; import 'botton_navigation_widget.dart'; void main() =&g ...

  3. bzoj2004 [Hnoi2010]Bus 公交线路 矩阵快速幂+状压DP

    题目传送门 https://lydsy.com/JudgeOnline/problem.php?id=2004 题解 如果 \(N\) 没有那么大,考虑把每一位分配给每一辆车. 假设已经分配到了第 \ ...

  4. UVA11540 Sultan's Chandelier Burnside 引理 + DP

    题目传送门 https://vjudge.net/problem/UVA-11540 https://uva.onlinejudge.org/index.php?option=com_onlineju ...

  5. python在mapreduce运行Wordcount程序

    首先脚本文件: mapper.py: #!/usr/bin/env python import sys for line in sys.stdin: line = line.strip() words ...

  6. FreeBSD虚拟机——小折腾

    最近,突然想起来Linux了,因为前段时间接触了DOS命令,提高了自己的工作效率,这会想再温习下Linux的CLI,无奈windows下unix命令,水土不服,因此想尝试虚拟机,虚拟机软件无非vmwa ...

  7. centos 6.5 解压 tar.gz

    只查看 tar.gz 文件内容而不解压 tar -tvf filename.tar.gz 解压为 tar 文件 gzip -d filename.tar.gz 解压为文件或目录 tar xvf fil ...

  8. JS中JSON.stringify()方法,将js对象(json串)转换成字符串,传入服务器

    JSON 通常用于与服务端交换数据. 在向服务器发送数据时一般是字符串. 我们可以使用 JSON.stringify() 方法将 JavaScript 对象转换为字符串. 语法 JSON.string ...

  9. 【leetcode】331. Verify Preorder Serialization of a Binary Tree

    题目如下: One way to serialize a binary tree is to use pre-order traversal. When we encounter a non-null ...

  10. 线程join方法 小demo

    1.第一个示例: package cn.threaddemo; public class T implements Runnable { public static int a = 0; @Overr ...