19 条效率至少提高 3 倍的 MySQL 技巧
来源:https://zhuanlan.zhihu.com/p/49888088
本文我们来谈谈项目中常用的 MySQL 优化方法,共 19 条,具体如下:
1、EXPLAIN
做 MySQL 优化,我们要善用 EXPLAIN 查看 SQL 执行计划。
下面来个简单的示例,标注(1、2、3、4、5)我们要重点关注的数据:
type 列,连接类型。一个好的 SQL 语句至少要达到 range 级别。杜绝出现 all 级别。
key 列,使用到的索引名。如果没有选择索引,值是 NULL。可以采取强制索引方式。
key_len 列,索引长度。
rows 列,扫描行数。该值是个预估值。
extra 列,详细说明。注意,常见的不太友好的值,如下:Using filesort,Using temporary。
2、SQL 语句中 IN 包含的值不应过多
MySQL 对于 IN 做了相应的优化,即将 IN 中的常量全部存储在一个数组里面,而且这个数组是排好序的。
但是如果数值较多,产生的消耗也是比较大的。
再例如:select id from t where num in(1,2,3) 对于连续的数值,能用 between 就不要用 in 了;再或者使用连接来替换。
3、SELECT 语句务必指明字段名称
SELECT * 增加很多不必要的消耗(CPU、IO、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。
所以要求直接在 select 后面接上字段名。
4、当只需要一条数据的时候,使用 limit 1
这是为了使 EXPLAIN 中 type 列达到 const 类型
5、如果排序字段没有用到索引,就尽量少排序
6、如果限制条件中其他字段没有索引,尽量少用 or
or 两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。
很多时候使用 union all 或者是 union(必要的时候)的方式来代替“or”会得到更好的效果。
7、尽量用 union all 代替 union
union 和 union all 的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的 CPU 运算,加大资源消耗及延迟。
当然,union all 的前提条件是两个结果集没有重复数据。
8、不使用 ORDER BY RAND()
select id from `dynamic` order by rand() limit 1000;
上面的 SQL 语句,可优化为:
select id from `dynamic` t1 join (select rand() * (select max(id) from `dynamic`) as nid) t2 on t1.id > t2.nidlimit 1000;
9、区分 in 和 exists、not in 和 not exists
select * from 表A where id in (select id from 表B)
上面 SQL 语句相当于:
select * from 表A where exists(select * from 表B where 表B.id=表A.id)
区分 in 和 exists 主要是造成了驱动顺序的改变(这是性能变化的关键),如果是 exists,那么以外层表为驱动表,先被访问,如果是 IN,那么先执行子查询。
所以 IN 适合于外表大而内表小的情况;EXISTS 适合于外表小而内表大的情况。
关于 not in 和 not exists,推荐使用 not exists,不仅仅是效率问题,not in 可能存在逻辑问题。
如何高效的写出一个替代 not exists的 SQL 语句?
原 SQL 语句:
select colname … from A表 where a.id not in (select b.id from B表)
高效的 SQL 语句:
select colname … from A表 Left join B表 on a.id = b.id and b.id is null
取出的结果集如下图表示,A 表不在 B 表中的数据:
10、使用合理的分页方式以提高分页的效率
select id,name from product limit 866613, 20
使用上述 SQL 语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用 limit 分页查询会越来越慢。
优化的方法如下:
可以取前一页的最大行数的 id,然后根据这个最大的 id 来限制下一页的起点。比如此列中,上一页最大的 id 是 866612。
SQL 可以采用如下的写法:
select id,name from product where id> 866612 limit 20
11、分段查询
在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。
主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。
如下图这个 SQL 语句,扫描的行数成百万级以上的时候就可以使用分段查询:
12、避免在 where 子句中对字段进行 null 值判断
对于 null 的判断会导致引擎放弃使用索引而进行全表扫描。
13、不建议使用 % 前缀模糊查询
例如 LIKE“%name”或者LIKE“%name%”,这种查询会导致索引失效而进行全表扫描。
但是可以使用LIKE “name%”。
那如何查询 %name% 呢?
如下图所示,虽然给 secret 字段添加了索引,但在 explain 结果并没有使用:
那么如何解决这个问题呢,答案:使用全文索引。
在我们查询中经常会用到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。
这样的语句,普通索引是无法满足查询需求的。庆幸的是在 MySQL 中,有全文索引来帮助我们。
创建全文索引的 SQL 语法是:
ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);
使用全文索引的 SQL 语句是:
select id,fnum,fdst from dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);
注意:在需要创建全文索引之前,请联系 DBA 确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别。
14、避免在 where 子句中对字段进行表达式操作
比如:
select user_id,user_project from user_base where age*2=36;
中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成:
select user_id,user_project from user_base where age=36/2;
15、避免隐式类型转换
where 子句中出现 column 字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定 where 中的参数类型。
16、对于联合索引来说,要遵守最左前缀法则
举列来说索引含有字段 id、name、school,可以直接用 id 字段,也可以 id、name 这样的顺序,但是 name;school 都无法使用这个索引。
所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。
17、必要时可以使用 force index 来强制查询走某个索引
有的时候 MySQL 优化器采取它认为合适的索引来检索 SQL 语句,但是可能它所采用的索引并不是我们想要的。
这时就可以采用 forceindex 来强制优化器使用我们制定的索引。
18、注意范围查询语句
对于联合索引来说,如果存在范围查询,比如 between、>、< 等条件时,会造成后面的索引字段失效。
19、关于 JOIN 优化
LEFT JOIN A 表为驱动表,INNER JOIN MySQL 会自动找出那个数据少的表作用驱动表,RIGHT JOIN B 表为驱动表。
注意:
1)MySQL 中没有 full join,可以用以下方式来解决:
select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;
2)尽量使用 inner join,避免 left join:
参与联合查询的表至少为 2 张表,一般都存在大小之分。
如果连接方式是inner join,在没有其他过滤条件的情况下 MySQL 会自动选择小表作为驱动表,但是 left join 在驱动表的选择上遵循的是左边驱动右边的原则,即 left join 左边的表名为驱动表。
3)合理利用索引:
被驱动表的索引字段作为 on 的限制字段。
4)利用小表去驱动大表:
从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO 总量及 CPU 运算的次数。
5)巧用 STRAIGHT_JOIN:
inner join 是由 MySQL 选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,比如有 group by、order by 等「Using filesort」、「Using temporary」时。
STRAIGHT_JOIN 来强制连接顺序,在 STRAIGHT_JOIN 左边的表名就是驱动表,右边则是被驱动表。
在使用 STRAIGHT_JOIN 有个前提条件是该查询是内连接,也就是inner join。
其他链接不推荐使用 STRAIGHT_JOIN,否则可能造成查询结果不准确。
这个方式有时能减少 3 倍的时间。
·END·
程序员的成长之路
路虽远,行则必至
本文原发于 同名微信公众号「程序员的成长之路」,回复「1024」你懂得,给个赞呗。
回复 [ 520 ] 领取程序员最佳学习方式
回复 [ 256 ] 查看 Java 程序员成长规划
19 条效率至少提高 3 倍的 MySQL 技巧的更多相关文章
- 巧用这19条MySQL优化,效率至少提高3倍
阅读本文大概需要 3.8 分钟. 作者丨喜欢拿铁的人 https://zhuanlan.zhihu.com/p/49888088 本文我们来谈谈项目中常用的MySQL优化方法,共19条,具体如下: 1 ...
- 掌握 MySQL 这 19 个骚操作,效率至少提高3倍
本文我们来谈谈项目中常用的MySQL优化方法,共19条,利用好这19条方法,会让你的效率提升至少3倍. 1.EXPLAIN 做MySQL优化,我们要善用EXPLAIN查看SQL执行计划. 下面来个简单 ...
- 编码神器Lombok,学会后开发效率至少提高一倍!
Lombok会利用注解自动生成javaBean中的getter.setter.equals.toString等一系列方法,大大提供开发效率,本文详细介绍下Lombok的安装及使用. 本文目录 一.Lo ...
- IDEA 中用好 Lombok,撸码效率至少提升5倍!
来 源:http://t.cn/EXhxRzV 以前的Java项目中,充斥着太多不友好的代码:POJO的getter/setter/toString:异常处理:I/O流的关闭操作等等,这些样板代码既没 ...
- 推荐 10个 NB的 IDEA 插件,开发效率至少提升一倍
友情提示:插件虽好,可不要贪装哦,装多了会 卡 .卡 .卡 ~ 正经干活用的 分享一点自己工作中得心应手的IDEA插件,可不是在插件商店随随便便搜的,都经过实战检验,用过的都说好.可能有一些大家用过的 ...
- 如何用好 IDEA ,Java 撸码效率至少提升 5 倍?
以前的Java项目中,充斥着太多不友好的代码:POJO的getter/setter/toString:异常处理:I/O流的关闭操作等等,这些样板代码既没有技术含量,又影响着代码的美观,Lombok应运 ...
- 巧用这19条MySQL优化【转】
1.EXPLAIN 做MySQL优化,我们要善用EXPLAIN查看SQL执行计划. 下面来个简单的示例,标注(1.2.3.4.5)我们要重点关注的数据: type列,连接类型.一个好的SQL语句至少要 ...
- 将Web应用性能提高十倍的10条建议
导读 提高 web 应用的性能从来没有比现在更重要过.网络经济的比重一直在增长:全球经济超过 5% 的价值是在因特网上产生的(数据参见下面的资料).这个时刻在线的超连接世界意味着用户对其的期望值也处于 ...
- 将 Web 应用性能提高十倍的10条建议
提高 web 应用的性能从来没有比现在更重要过.网络经济的比重一直在增长:全球经济超过 5% 的价值是在因特网上产生的(数据参见下面的资料).这个时刻在线的超连接世界意味着用户对其的期望值也处于历史上 ...
随机推荐
- Jemeter学习环境部署。
本文档中所有软件的下载地址 链接:https://pan.baidu.com/s/1RREUwlH7GtYMUWeiRjtWVg 提取码:zmjy 一.安装jdk 下载网盘中的jdk 双击jdk-8u ...
- 2019 学而思java面试笔试题 (含面试题解析)
本人5年开发经验.18年年底开始跑路找工作,在互联网寒冬下成功拿到阿里巴巴.今日头条.学而思等公司offer,岗位是Java后端开发,因为发展原因最终选择去了学而思,入职一年时间了,也成为了面试官 ...
- WinExec, ShellExecute,CreateProcess 区别
其中以WinExec最为简单,ShellExecute比WinExec灵活一些,CreateProcess最为复杂. WinExec 有两个参数,前一个指定路径,后一个指定显示方式. ShellExe ...
- js 对象克隆方法总结(不改变原对象)
1.通用对象克隆: function clone(obj){ let temp = null; if(obj instanceof Array){ temp = obj.concat(); }else ...
- python学习之:序列类型 之列表,元组,range
列表 列表是可变序列,通常用于存放同类项目的集合(其中精确的相似程度将根据应用而变化). class list([iterable]) 可以用多种方式构建列表: 使用一对方括号来表示空列表: [ ] ...
- Spring容器的refresh()介绍
Spring容器的refresh()[创建刷新]; 1.prepareRefresh()刷新前的预处理; 1).initPropertySources()初始化一些属性设置;子类自定义个性化的属性设置 ...
- 从零开始搭建vue+element-ui后台管理系统项目到上线
前言 之前有些过移动端的项目搭建的文章,感觉不写个pc端管理系统老感觉少了点什么,最近公司项目比较多,恰巧要做一个申报系统的后台管理系统,鉴于对vue技术栈比较熟悉,所以考虑还是使用vue技术栈来做: ...
- 你遇到过哪些原因造成MySQL异步复制延迟?
master上多为并发事务,salve上则多为单线程回放(MySQL 5.7起,支持真正的并行回放,有所缓解) 异步复制,本来就是有一定延迟的(否则也不叫做异步了,介意的话可以改成半同步复制) sla ...
- 机器学习笔记6:K-Means
目录 目标函数 目标函数的表现函数 针对u和r求解: 最优解的表达式的意义: K-means聚类的形象化展示 聚类前 第一轮循环 第二轮循环 第三轮循环 最终结果 演示代码: 关于K-means的几个 ...
- python将科学计数法表示的数值的字符串转换成数值型数据
今天碰到一个问题,需要将科学计数法表示的数值的字符串转换成数值型数据参与算术运算, 然而,当使用int()方法进行转换时,直接报错了,如下: 然后在网上找转换方法,始终没有找到合适的方法,有的是自己写 ...