【真·干货】MySQL 索引及优化实战
热烈推荐:超多IT资源,尽在798资源网
声明:本文为转载文章,为防止丢失所以做此备份。
本文来自公众号:GitChat精品课
原文地址:https://mp.weixin.qq.com/s/6V7hNb9Ajf8W2ZqvMw1zBg
索引概念和作用
索引是一种使记录有序化的技术,它可以指定按某列/某几列预先排序,从而大大提高查询速度(类似于汉语词典中按照拼音或者笔画查找)。
索引的主要作用是加快数据查找速度,提高数据库的性能。
MySQL 索引类型
从物理存储角度上,索引可以分为聚集索引和非聚集索引。
1. 聚集索引(Clustered Index)
聚集索引决定数据在磁盘上的物理排序,一个表只能有一个聚集索引。
2. 非聚集索引(Non-clustered Index)
非聚集索引并不决定数据在磁盘上的物理排序,索引上只包含被建立索引的数据,以及一个行定位符 row-locator,这个行定位符,可以理解为一个聚集索引物理排序的指针,通过这个指针,可以找到行数据。
从逻辑角度,索引可以分为以下几种。
- 普通索引:最基本的索引,它没有任何限制。
- 唯一索引:与普通索引类似,不同的就是索引列的值必须唯一,但允许有空值。如果是组合索引,则列值的组合必须唯一。
- 主键索引:它是一种特殊的唯一索引,用于唯一标识数据表中的某一条记录,不允许有空值,一般用 primary key
来约束。主键和聚集索引的关系详见“问题详解”中的第4题。 - 联合索引(又叫复合索引):多个字段上建立的索引,能够加速复合查询条件的检索。
- 全文索引:老版本 MySQL 自带的全文索引只能用于数据库引擎为 MyISAM 的数据表,新版本 MySQL 5.6 的
InnoDB 支持 全文索引。默认 MySQL 不支持中文全文检索,可以通过扩展 MySQL,添加中文全文检索或为中文内容表提供一个对应的英文索引表的方式来支持中文。
MySQL索引优化规则
可以通过以下规则对 MySQL 索引进行优化。
1.前导模糊查询不能使用索引。
例如下面 SQL 语句不能使用索引。
select * fromdoc where title like '%XX'
而非前导模糊查询则可以使用索引,如下面的 SQL 语句。
select * fromdoc where title like 'XX%'
页面搜索严禁左模糊或者全模糊,如果需要可以用搜索引擎来解决。
2.union、in、or 都能够命中索引,建议使用 in。
- union:能够命中索引。示例代码如下:
select * fromdoc where status=1 unionall select * fromdoc where status=2
直接告诉 MySQL 怎么做,MySQL 耗费的 CPU 最少,但是一般不这么写 SQL。 - in:能够命中索引。示例代码如下:
select * fromdoc where status in (1, 2)
查询优化耗费的 CPU 比 union all 多,但可以忽略不计,一般情况下建议使用 in - or:新版的 MySQL 能够命中索引。示例代码如下:
select * fromdoc where status = 1 or status = 2
查询优化耗费的 CPU 比 in 多,不建议频繁用 or。
3.负向条件查询不能使用索引,可以优化为 in 查询。
负向条件有:!=、<>、not in、not exists、not like 等。例如下面代码:select * fromdoc where status != 1 and status != 2
可以优化为 in 查询: select * fromdoc where status in (0,3,4)
4.联合索引最左前缀原则(又叫最左侧查询)
如果在(a,b,c)三个字段上建立联合索引,那么它能够加快 a | (a,b) | (a,b,c) 三组查询速度。例如登录业务需求,代码如下。
selectuid, login_time from user where login_name=? andpasswd=?
可以建立(login_name, passwd)的联合索引。
因为业务上几乎没有 passwd 的单条件查询需求,而有很多 login_name 的单条件查询需求,所以可以建立(login_name, passwd)的联合索引,而不是(passwd, login_name)。
- 建联合索引的时候,区分度最高的字段在最左边。
- 如果建立了(a,b)联合索引,就不必再单独建立 a 索引。同理,如果建立了(a,b,c)联合索引,就不必再单独建立 a、(a,b) 索引。存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如 where a>? and b=?,那么即使 a 的区分度更高,也必须把 b 放在索引的最前列。
- 最左侧查询需求,并不是指 SQL 语句的 where 顺序要和联合索引一致。
下面的 SQL 语句也可以命中 (login_name, passwd) 这个联合索引。selectuid, login_time from user where passwd=? andlogin_name=?
但还是建议 where 后的顺序和联合索引一致,养成好习惯。
5.范围列可以用到索引(联合索引必须是最左前缀)。
- 范围条件有:<、<=、>、>=、between等。
- 范围列可以用到索引(联合索引必须是最左前缀),但是范围列后面的列无法用到索引,索引最多用于一个范围列,如果查询条件中有两个范围列则无法全用到索引。
假如有联合索引 (empno、title、fromdate),那么下面的 SQL 中 emp_no 可以用到索引,而 title 和 from_date 则使用不到索引。select * fromemployees.titles where emp_no < 10010' and title='Senior Engineer'and from_date between '1986-01-01' and '1986-12-31';
6.把计算放到业务层而不是数据库层。
- 在字段上进行计算不能命中索引。
例如下面的 SQL 语句。select * fromdoc where YEAR(create_time) <= '2016';
即使 date 上建立了索引,也会全表扫描,可优化为值计算,如下:select * fromdoc where create_time <= '2016-01-01';
- 把计算放到业务层。
这样做不仅可以节省数据库的 CPU,还可以起到查询缓存优化效果。
比如下面的 SQL 语句:select * fromorder where date < = CURDATE();
可以优化为:select * fromorder where date < = '2018-01-2412:00:00';
优化后的 SQL 释放了数据库的 CPU 多次调用,传入的 SQL 相同,才可以利用查询缓存。
7.强制类型转换会全表扫描
如果 phone 字段是 varchar 类型,则下面的 SQL 不能命中索引。 select * fromuser where phone=13800001234;
可以优化为:select * fromuser where phone='13800001234';
8.更新十分频繁、数据区分度不高的字段上不宜建立索引。
- 更新会变更 B+ 树,更新频繁的字段建立索引会大大降低数据库性能。
- “性别”这种区分度不大的属性,建立索引是没有什么意义的,不能有效过滤数据,性能与全表扫描类似。
- 一般区分度在80%以上的时候就可以建立索引,区分度可以使用 count(distinct(列名))/count(*) 来计算。
9.利用覆盖索引来进行查询操作,避免回表。
被查询的列,数据能从索引中取得,而不用通过行定位符 row-locator 再到 row 上获取,即“被查询列要被所建的索引覆盖”,这能够加速查询速度。
例如登录业务需求,代码如下。selectuid, login_time from user where login_name=? andpasswd=?;
可以建立(login_name, passwd, login_time)的联合索引,由于 login_time 已经建立在索引中了,被查询的 uid 和 login_time 就不用去 row 上获取数据了,从而加速查询。
10.如果有 order by、group by 的场景,请注意利用索引的有序性。
- order by 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现 file_sort
的情况,影响查询性能。 - 例如对于语句 where a=? and b=? order by c,可以建立联合索引(a,b,c)。
- 如果索引中有范围查找,那么索引有序性无法利用,如 WHERE a>10 ORDER BY b;,索引(a,b)无法排序。
11.使用短索引(又叫前缀索引)来优化索引。
前缀索引,就是用列的前缀代替整个列作为索引 key,当前缀长度合适时,可以做到既使得前缀索引的区分度接近全列索引,同时因为索引 key 变短而减少了索引文件的大小和维护开销,可以使用 count(distinct left(列名, 索引长度))/count(*) 来计算前缀索引的区分度。
前缀索引兼顾索引大小和查询速度,但是其缺点是不能用于 ORDER BY 和 GROUP BY 操作,也不能用于覆盖索引(Covering Index,即当索引本身包含查询所需全部数据时,不再访问数据文件本身),很多时候没必要对全字段建立索引,根据实际文本区分度决定索引长度即可。
例如对于下面的 SQL 语句:SELEC *FROM employees.employees WHERE first_name='Eric'AND last_name='Anido';
我们可以建立索引:(firstname, lastname(4))。
12.建立索引的列,不允许为 null。
单列索引不存 null 值,复合索引不存全为 null 的值,如果列允许为 null,可能会得到“不符合预期”的结果集,所以,请使用 not null 约束以及默认值。
13.利用延迟关联或者子查询优化超多分页场景。
MySQL 并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N 行,那当 offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行 SQL 改写。
示例如下,先快速定位需要获取的 id 段,然后再关联: selecta.* from 表1 a,(select id from 表1 where 条件 limit100000,20 ) b where a.id=b.id
14.业务上具有唯一特性的字段,即使是多个字段的组合,也必须建成唯一索引。
不要以为唯一索引影响了 insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的。另外,即使在应用层做了非常完善的校验控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。
15.超过三个表最好不要 join。
需要 join 的字段,数据类型必须一致,多表关联查询时,保证被关联的字段需要有索引。
16.如果明确知道只有一条结果返回,limit 1 能够提高效率。
比如如下 SQL 语句:select * fromuser where login_name=?;
可以优化为:select * fromuser where login_name=? limit 1;
自己明确知道只有一条结果,但数据库并不知道,明确告诉它,让它主动停止游标移动。
17.SQL 性能优化 explain 中的 type:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts 最好。
- consts:单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。
- ref:使用普通的索引(Normal Index)。
- range:对索引进行范围检索。
- 当 type=index 时,索引物理文件全扫,速度非常慢。
18.单表索引建议控制在5个以内。
19.单索引字段数不允许超过5个。
字段超过5个时,实际已经起不到有效过滤数据的作用了。
20.创建索引时避免以下错误观念
- 索引越多越好,认为一个查询就需要建一个索引。
- 宁缺勿滥,认为索引会消耗空间、严重拖慢更新和新增速度。
- 抵制惟一索引,认为业务的惟一性一律需要在应用层通过“先查后插”方式解决。
- 过早优化,在不了解系统的情况下就开始优化。
问题详解
这部分,我将列出平时会遇到的一些问题,并给予解答。
- 请问如下三条 SQL 该如何建立索引?
where a=1and b=1
where b=1
where b=1order by time desc
MySQL 的查询优化器会自动调整 where 子句的条件顺序以使用适合的索引吗?
回答:
第一问:建议建立两个索引,即 idxab(a,b) 和 idxbtime(b,time)。
第二问:MySQL 的查询优化器会自动调整 where 子句的条件顺序以使用适合的索引,对于上面的第一条 SQL,如果建立索引为 idxba(b,a) 也是可以用到索引的,不过建议 where 后的字段顺序和联合索引保持一致,养成好习惯。
- 2.假如有联合索引(empno、title、fromdate),下面的 SQL 是否可以用到索引,如果可以的话,会使用几个列?
SELECT
* fromemployees.titles
WHERE
emp_no BETWEEN '10001'
AND '10010'
AND title = 'Senior Engineer'
AND from_date BETWEEN '1986-01-01'
AND '1986-12-31';
回答:可以使用索引,可以用到索引全部三个列,这个 SQL 看起来是用了两个范围查询,但作用于 empno 上的“between”实际上相当于“in”,也就是说 empno 实际是多值精确匹配,在 MySQL 中要谨慎地区分多值匹配和范围匹配,否则会对 MySQL 的行为产生困惑。
- 3.既然索引可以加快查询速度,那么是不是只要是查询语句需要,就建上索引?
回答:不是,因为索引虽然加快了查询速度,但索引也是有代价的。索引文件本身要消耗存储空间,同时索引会加重插入、删除和修改记录时的负担。另外,MySQL 在运行时也要消耗资源维护索引,因此索引并不是越多越好。一般两种情况下不建议建索引。第一种情况是表记录比较少,例如一两千条甚至只有几百条记录的表,没必要建索引,另一种是数据的区分度比较低,可以使用 count(distinct(列名))/count(*) 来计算区分度。
- 4.主键和聚集索引的关系?
回答:在 MySQL 中,InnoDB 引擎表是(聚集)索引组织表(Clustered IndexOrganize Table),它会先按照主键进行聚集,如果没有定义主键,InnoDB 会试着使用唯一的非空索引来代替,如果没有这种索引,InnoDB 就会定义隐藏的主键然后在上面进行聚集。由此可见,在 InnoDB 表中,主键必然是聚集索引,而聚集索引则未必是主键。MyISAM 引擎表是堆组织表(Heap Organize Table),它没有聚集索引的概念。
- 5.一个6亿的表 a,一个3亿的表 b,通过外键 tid 关联,如何最快的查询出满足条件的第50000到第50200中的这200条数据记录?
回答:方法一:如果 a 表 tid 是自增长,并且是连续的,b表的id为索引。SQL语句如下。
select * froma,b where a.tid = b.id and a.tid>500000 limit200;
方法二:如果 a 表的 tid 不是连续的,那么就需要使用覆盖索引,tid 要么是主键,要么是辅助索引,b 表 id 也需要有索引。SQL语句如下。
select * fromb, (select tid from a limit 50000,200) awhere b.id = a.tid;
- 6.假如建立联合索引(a,b,c),下列语句是否可以使用索引,如果可以,使用了那几列?(考察联合索引最左前缀原则)
where a= 3
答:是,使用了 a 列。
where a= 3 and b = 5
答:是,使用了 a,b 列。
where a = 3 and c = 4 and b = 5
答:是,使用了 a,b,c 列。
where b= 3
答:否。
where a= 3 and c = 4
答:是,使用了 a 列。
where a = 3 and b > 10 andc = 7
答:是,使用了 a,b 列。
where a = 3 and b like ‘xx%’ andc = 7
答:是,使用了 a,b 列。
- 7.文章表的表结构如下:
CREATE TABLEIF NOT EXISTS `article` (
`id` INT (10) UNSIGNED NOT NULLAUTO_INCREMENT,
`author_id` INT (10) unsignedNOT NULL,
`category_id` INT (10) UNSIGNED NOT NULL,
`views` INT (10) unsignedNOT NULL,
`comments` INT (10) unsignedNOT NULL,
`title` VARBINARY (255) NOT NULL,
`content` text NOTNULL,
PRIMARY KEY (`id`)
);
下面语句应该如何建立索引?
selectauthor_id,
title,
content
FROM
`article` wherecategory_id = 1
AND comments > 1 ORDER byviews DESC
LIMIT 1;
回答:
没有联合索引时,explain显示,如下图所示:
创建 idxcategoryidcommentsviews(category_id,comments, views) 联合索引时,explain显示,如下图所示:
创建 idxcategoryidviews(categoryid,views) 联合索引,explain 显示,如下图所示:
由此可见,可以创建 idxcategoryidviews(categoryid,views) 联合索引。
结语
对于大数据量的业务,应该时刻考虑到性能,本文只是从使用层面提供了一些优化的思路,由于业务和数据的复杂性,需要具体问题具体分析,对于数据量比较大的业务,最好自己使用 explain 具体分析一下,同时,知其然知其所以然,有时间大家可以看看索引的底层实现原理。欢迎各路大神拍砖,共同学习。
【真·干货】MySQL 索引及优化实战的更多相关文章
- MySQL 索引及优化实战
https://blog.csdn.net/qq_21987433/article/details/79753551 https://tech.meituan.com/mysql_index.html ...
- 理解MySQL——索引与优化
转自:理解MySQL——索引与优化 写在前面:索引对查询的速度有着至关重要的影响,理解索引也是进行数据库性能调优的起点.考虑如下情况,假设数据库中一个表有10^6条记录,DBMS的页面大小为4K,并存 ...
- [纯干货] MySQL索引背后的数据结构及算法原理
摘要 本文以MySQL数据库为研究对象,讨论与数据库索引相关的一些话题.特别需要说明的是,MySQL支持诸多存储引擎,而各种存储引擎对索引的支持也各不相同,因此MySQL数据库支持多种索引类型,如BT ...
- mysql索引与优化
mysql 索引与优化 http://www.cnblogs.com/hustcat/archive/2009/10/28/1591648.html
- mysql索引的优化
MySQL索引的优化 上面都在说使用索引的好处,但过多的使用索引将会造成滥用.因此索引也会有它的缺点:虽然索引大大提高了查询速度,同时却会降低更新表的速度,如对表进行INSERT.UPDATE和DEL ...
- MySQL数据库索引类型、MySQL索引的优化及MySQL索引案例
关于MySQL索引的好处,如果正确合理设计并且使用索引的MySQL是一辆兰博基尼的话,那么没有设计和使用索引的MySQL就是一个人力三轮车.对于没有索引的表,单表查询可能几十万数据就是瓶颈,而通常大型 ...
- MySQL索引及优化(1)存储引擎和底层数据结构
在昨天的面试中问到了MySQL索引怎么优化(查询很慢怎么办),回答的很不理想,所以今天来总结几篇关于MySQL索引的知识. 1.什么是索引? 首先我们一定要明确什么是索引?我自己的总结就是索引是一种数 ...
- 讲真,MySQL索引优化看这篇文章就够了
本文主要讨论MySQL索引的部分知识.将会从MySQL索引基础.索引优化实战和数据库索引背后的数据结构三部分相关内容,下面一一展开. 一.MySQL——索引基础 首先,我们将从索引基础开始介绍一下什么 ...
- (转)理解MySQL——索引与优化
参考资料:http://www.cnblogs.com/hustcat/archive/2009/10/28/1591648.html ———————————— 全文: 写在前面:索引对查询的速度有着 ...
随机推荐
- 学习EXTJS6(5)基本功能-进度条组件
Ext.ProgressBar有二种模式:手动和自动:手动:自己控制显示.进度.更新.清除.自动只需要调用Wait方法即可. 配置项: 配置项 类型 说明 renderTo String 指定页面 ...
- hibernate4.3版本构造SessionFactory方法
hibernate3.X构造SessionFactory方法 //读取hibernate.cfg.xml文件 Configuration cfg = new Configuration().confi ...
- FZU Problem 2082 过路费
Problem 2082 过路费 Accept: 875 Submit: 2839Time Limit: 1000 mSec Memory Limit : 32768 KB Problem ...
- [jQuery]jQuery获取URL参数
// jQuery url get parameters function [获取URL的GET参数值]// <code>// var GET = $.urlGet(); //获取URL的 ...
- 3D语音天气球(源代码分享)——通过天气服务动态创建3D球
转载请注明本文出自大苞米的博客(http://blog.csdn.net/a396901990),谢谢支持! 开篇废话: 这个项目准备分四部分介绍: 一:创建可旋转的"3D球":3 ...
- [Sencha ExtJS & Touch] 在Sencha(Extjs/Touch)应用程序中使用plugins(插件)和mixins(混入)
原文链接:http://blog.csdn.net/lovelyelfpop/article/details/50853591 英文原文:Using Plugins and Mixins in You ...
- iOS模仿微信的那个视频眼睛动画
咳咳,费死老劲把这个动画搞出来了. 欢迎批评指正 github URL: https://git.oschina.net/momochao/WeChatEyeDemo
- ListView模拟微信好友功能
ListView模拟微信好友功能 效果图: 分析: 1.创建listView 2.创建数据 3.创建适配器 将数据放到呈现数据的容器里面. 将这个容器(带数据)连接适配器. 其实是直接在我们自己写的a ...
- navicat数据库同步
10.168.95.246
- 配置Windows群集
故障转移群集 l 一个群集支持8个节点,(64位操作系统支持16个节点) l 可以使用故障转移群集的服务:SQL Server(数据库), Exchange(邮件),文件和打印服务,DHCP服务等 ...