MySQL高级第三章——查询截取分析
一、查询分析
1.永远小表驱动大表
使用小的数据集驱动大的数据集。
//复习 EXISTS 的知识:SELECT ... FROM tb WHERE EXISTS (subquery) 是因为前后数据集不一致时EXISTS比IN性能更高。
(子查询可以改写IN的写法为SELECT 1 FROM tb WHERE ...等)
对EXISTS的理解:
将主查询的数据,放到子查询中作条件验证,根据验证结果(TRUE | FALSE)来决定主查询的数据结果是否得以保留。
2.ORDER BY排序优化
现在我们关心的的不再是是WHERE后的(之前几节已经做过分析),我们关系的是ORDER BY后的,也就是是否产生了 filesort
排序有两种情况:use index use filesort,由前面一章已经知道,最好不要有 filesort,Index的排序效率更高
ORDER BY的排序依旧是使用索引的最左前列,也就是最左前缀原则依旧适用。并且,使用WHERE 和 ORDER BY来匹配最左前缀原则。
所以说,应当尽可能的在索引列上完成排序操作,并遵循最左前缀原则。
如果需求确实使得排序不在索引列上,Mysql就要启动filesort,其中存在两种算法:双路排序和单路排序
关于排序算法,可以参见:http://www.cnblogs.com/zhoujinyi/p/5437289.html (mysql4.1之前都是需要两次IO的双路排序)
一些ORDER BY的排序优化实例,请参见:http://blog.csdn.net/z69183787/article/details/53389773
关于如何进行ORDER BY的调优:
增大sort_buffer_size参数的设置
增大max_length_for_data参数的设置
在排序时请尽量避免SELECT *,避免ASC DESC同时出现(都是ASC DESC都能用到索引,但不能同时存在升降序)
3.GROUP BY的优化
GROUP BY实质是先排序,后分组;并且遵循索引的最左前缀原则。
参数的设置与ORDER BY的调优一致。
能使用WHERE 限定就不要使用HAVING
二、慢查询日志
1.是什么?
慢查询日志是将mysql服务器中影响数据库性能的相关SQL语句记录到日志文件,通过对这些特殊的SQL语句分析,改进以达到提高数据库性能的目的。
通过使用--slow_query_log[={0|1}]选项来启用慢查询日志。所有执行时间超过long_query_time秒(可以看到,默认是10s,可自定义)的SQL语句都会被记录到慢查询日志。
缺省情况下hostname-slow.log为慢查询日志文件安名,存放到数据目录,同时缺省情况下未开启慢查询日志。
// 通过抓取慢的SQL,结合之前的起手式 EXPLAIN 就可以进行慢日志的分析
2.怎么玩?
查看是否开启:show variables like '%slow_query%'
//这里显示了位置与开启状态。
设置位置:set global slow_query_log_file="/var/lib/mysql/mysql_slow_query.log";
如何开启:set global slow_query_log=1;
//注意,这只是临时开启,并且仅仅针对本数据库有效,重启后便失效。(当然,慢日志应当是尽量避免开启,只在需要分析时开启)
若要永久开启慢日志,需要修改配置文件,请参见:https://jingyan.baidu.com/article/0aa223755476db88cc0d6492.html
查看慢查询时间:show variables like "long_query_time";
//默认为10秒,并且,是 >而非 >=
设置慢查询时间阈值:set global long_query_time=3;(设置阈值为3秒)
//神奇的发现,还是10秒。需要重新建立一次连接才能看到!或者通过查看全局变量的形式查看:
模拟慢查询的SQL:通过sleep(),类似线程
找到慢日志:
查看慢日志:
查看出现慢查询日志的累计值:
3.日志分析工具——mysqldumpslow
手工查看日志显然不科学,mysql提供了日志分析工具:mysqldumpsolw
查看帮助信息(之前命令复习):
各参数简述:
实例如下:(分析命令+日志位置)
参数使用可以参见:http://www.cnblogs.com/cyt1153/p/6569124.html
三、批量数据脚本
大致步骤如下:
(详细步骤可以参见:http://www.cnblogs.com/Onlywjy/archive/2017/08/13/7354865.html)
建表(员工部门表);
为了防止插入大数据报错,开启参数:log_bin_trust_function_creators=1;
创建产生随机字符串的函数(用于插入不重复的数据);
同理,创建产生随机部门编号的函数;
创建存储过程,调用函数插入记录(一次50W条,调用20次);
调用存储过程,插入记录;
四、show profile
1.是什么
SHOW PROFIL命令是MySQL提供可以用来分析当前会话中语句执行的资源消耗情况。可以用于SQL的调优的测量。
与之前的功能一样,mysql为了提高自身性能,很多高级功能都是关闭的,需要手动开启。
2.分析步骤:
查看是否支持
//可以看到,默认是关闭的。
开启show profile——SET profiling=1;或 SET profiling=on;
//默认保存15条
运行SQL
查看总体结果——show profiles;
//显示了详细的查询ID,持续时间,查询语句
查看详细结果——SHOW PROFILE FOR QUERY n | show profile cpu,block io fro query n;
当然除了常用的cpu block io等信息,还可以选择其它信息
//列出了完整的生命周期。(n代表query ID)
//可以看出,发送数据比执行更长等信息
以上繁杂的信息中,出现以下信息:危险!
//出现了临时表等信息,慎重!
五、全局查询日志
强烈建议:只能测试环境使用,慎用!生产环境严禁使用!
开启:
Set global general_log=1;
Set global log_output=’TABLE’;
此后,你所编写的sql语句 都会被记录到mysql 库里的general_log表,可以用以下命令查看:
Select * from mysql.general_log;
这样,就可以根据时间来定位收集发生问题的SQL
MySQL高级第三章——查询截取分析的更多相关文章
- MySQL数据库高级三:查询截取分析(了解)
- MySQL高级学习笔记(五):查询截取分析
文章目录 慢查询日志 是什么 怎么玩 说明 查看是否开启及如何开启 默认 开启 那么开启了慢查询日志后,什么样的SQL才会记录到慢查询日志里面呢? Case 配置版 日志分析工具mysqldumpsl ...
- Mysql技术内幕-笔记-第三章 查询处理
第三章 查询处理 逻辑查询处理:(8) SELECT (9) DISTINCT <select_list> (1) FROM <left_table> (3) <join ...
- 《Entity Framework 6 Recipes》中文翻译系列 (11) -----第三章 查询之异步查询
翻译的初衷以及为什么选择<Entity Framework 6 Recipes>来学习,请看本系列开篇 第三章 查询 前一章,我们展示了常见数据库场景的建模方式,本章将向你展示如何查询实体 ...
- MySQL 通用查询日志和慢查询日志分析
MySQL中的日志包括:错误日志.二进制日志.通用查询日志.慢查询日志等等.这里主要介绍下比较常用的两个功能:通用查询日志和慢查询日志. 1)通用查询日志:记录建立的客户端连接和执行的语句.2)慢查询 ...
- 关于MySQL 通用查询日志和慢查询日志分析
MySQL中的日志包括:错误日志.二进制日志.通用查询日志.慢查询日志等等.这里主要介绍下比较常用的两个功能:通用查询日志和慢查询日志. 1)通用查询日志:记录建立的客户端连接和执行的语句. 2)慢查 ...
- 关于MySQL 通用查询日志和慢查询日志分析(转)
MySQL中的日志包括:错误日志.二进制日志.通用查询日志.慢查询日志等等.这里主要介绍下比较常用的两个功能:通用查询日志和慢查询日志. 1)通用查询日志:记录建立的客户端连接和执行的语句. 2)慢查 ...
- JAVA / MySql 编程—— 第三章 高级查询(一)
1. 修改表: (1)修改表名语法: ALTER TABLE <旧表名> RENAME [ TO ] <新表名>: 注意:其中[TO]为可选参数,使用与否不影响结 ...
- 高性能MySQL笔记 第6章 查询性能优化
6.1 为什么查询速度会慢 查询的生命周期大致可按照顺序来看:从客户端,到服务器,然后在服务器上进行解析,生成执行计划,执行,并返回结果给客户端.其中“执行”可以认为是整个生命周期中最重要的阶段. ...
随机推荐
- OC基础数据类型-NSArray
1.数组的初始化 NSArray *array = [[NSArray alloc] initWithObjects:@"One", @"Two", @&quo ...
- Alpha Scrum1
Alpha Scrum1 牛肉面不要牛肉不要面 Alpha项目冲刺(团队作业5) 各个成员在 Alpha 阶段认领的任务 林志松:音乐网页前端页面编写,博客发布 吴沂章:博客编写 林锃寒:前端页面编写 ...
- mongodb 备份、还原、导入、导出
mongodump备份数据库 常用的备份命令格式 mongodump -h IP --port 端口 -u 用户名 -p 密码 -d 数据库 -o 文件存在路径 如果想导出所有数据库,可以去掉-d - ...
- (转)C++ 自由存储区是否等价于堆?
“free store” VS “heap” 当我问你C++的内存布局时,你大概会回答: “在C++中,内存区分为5个区,分别是堆.栈.自由存储区.全局/静态存储区.常量存储区”. 如果我接着问你 ...
- PhoneGap实现重力感应
<!DOCTYPE html> <html> <head> <meta charset="utf-8"> <title> ...
- Codeforces 955C - Sad powers(数论 + 二分)
链接: http://codeforces.com/problemset/problem/955/C 题意: Q次询问(1≤Q≤1e5),每次询问给出两个整数L, R(1≤L≤R≤1e18),求所有符 ...
- BZOJ5301:[CQOI2018]异或序列(莫队)
Description 已知一个长度为 n 的整数数列 a[1],a[2],…,a[n] ,给定查询参数 l.r ,问在 [l,r] 区间内,有多少连续子 序列满足异或和等于 k . 也就是说,对于所 ...
- mybaitis动态sql利用bind标签代替%拼接完成模糊查询
Oracle中使用bind的写法 <select id="selectUser" resultType="user" parameterType=&quo ...
- C# abstract,virtual 修饰符
abstract(抽象):该abstract修饰符指示要修改的东西有缺失或不完整的实现.abstract修饰符可以与类,方法,属性,索引器和事件一起使用.abstract在类声明中使用修饰符来指示类仅 ...
- idea操作 clone项目、 import项目所有注解全部报错
操作:从现有的git上边clone项目,前提是开发工具,开发环境都一样错误类型:所有的注解全部报错 原因: 是选择了Create from existing source 一路Next下去,Maven ...