来源:阿里云RDS - 数据库内核组

链接:http://mysql.taobao.org/monthly/2016/06/07/

外部临时表

通过CREATE TEMPORARY TABLE 创建的临时表,这种临时表称为外部临时表。这种临时表只对当前用户可见,当前会话结束的时候,该临时表会自动关闭。这种临时表的命名与非临时表可以同名(同名后非临时表将对当前会话不可见,直到临时表被删除)。

内部临时表

内部临时表是一种特殊轻量级的临时表,用来进行性能优化。这种临时表会被MySQL自动创建并用来存储某些操作的中间结果。这些操作可能包括在优化阶段或者执行阶段。这种内部表对用户来说是不可见的,但是通过EXPLAIN或者SHOW STATUS可以查看MYSQL是否使用了内部临时表用来帮助完成某个操作。内部临时表在SQL语句的优化过程中扮演着非常重要的角色, MySQL中的很多操作都要依赖于内部临时表来进行优化。但是使用内部临时表需要创建表以及中间数据的存取代价,所以用户在写SQL语句的时候应该尽量的去避免使用临时表。

内部临时表有两种类型:一种是HEAP临时表,这种临时表的所有数据都会存在内存中,对于这种表的操作不需要IO操作。另一种是OnDisk临时表,顾名思义,这种临时表会将数据存储在磁盘上。OnDisk临时表用来处理中间结果比较大的操作。如果HEAP临时表存储的数据大于MAX_HEAP_TABLE_SIZE(详情请参考MySQL手册中系统变量部分),HEAP临时表将会被自动转换成OnDisk临时表。OnDisk临时表在5.7中可以通过INTERNAL_TMP_DISK_STORAGE_ENGINE系统变量选择使用MyISAM引擎或者InnoDB引擎。

本篇文章主要介绍哪些操作可能会利用到内部临时表。如果用户在书写SQL语句的时候能够尽量少的使用内部临时表进行查询优化,将有效的提高查询执行的效率。

首先我们定义一个表t1,

CREATE TABLE t1( a int, b int); INSERT INTO t1 VALUES(1,2),(3,4);

下面所有的操作都是基于表t1进行举例的。

  • 在SQL语句中使用SQL_BUFFER_RESULT hint

SQL_BUFFER_RESULT主要用来让MySQL尽早的释放表上的锁。因为如果数据量很大的话,需要较长时间将数据发送到客户端,通过将数据缓冲到临时表中可以有效的减少读锁对表的占用时间。

例如:

mysql> explain format=json select SQL_BUFFER_RESULT * from t1;

EXPLAIN

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "2.00"

},

"buffer_result": {

"using_temporary_table": true,

"table": {

"table_name": "t1",

"access_type": "ALL",

...

  • 如果SQL语句中包含了DERIVED_TABLE。

在5.7中,由于采用了新的优化方式,我们需要使用 set optimizer_switch=’derived_merge=off’来禁止derived table合并到外层的Query中。

例如:

mysql> explain format=json select * from (select * from t1) as tt;

EXPLAIN

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "2.40"

},

"table": {

"table_name": "tt",

"access_type": "ALL",

...

"materialized_from_subquery": {

"using_temporary_table": true,

...

  • 如果我们查询系统表的话,系统表的数据将被存储到内部临时表中。

我们当前不能使用EXPLAIN来查看是否读取系统表数据需要利用到内部临时表,但是可以通过SHOW STATUS来查看是否利用到了内部临时表。

例如:

mysql> select * from information_schema.character_sets;

mysql> show status like 'CREATE%';

  • 如果DISTINCT语句没有被优化掉,即DISTINCT语句被优化转换为GROUP BY操作或者利用UNIQUE INDEX消除DISTINCT, 内部临时表将会被使用。

mysql> explain format=json select distinct a from t1;

EXPLAIN

{

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "1.60"

},

"duplicates_removal": {

"using_temporary_table": true,

...

  • 如果查询带有ORDER BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行排序。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)
例如:

1))BNL默认是打开的

mysql> explain format=json select * from t1, t1 as t2 order by t1.a;

EXPLAIN

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "22.00"

},

"ordering_operation": {

"using_temporary_table": true,

...

2))关掉BNL后,ORDER BY将直接使用filesort。

mysql> set optimizer_switch='block_nested_loop=off';

Query OK, 0 rows affected (0.00 sec)

mysql> explain format=json select * from t1, t1 as t2 order by t1.a;

EXPLAIN

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "25.00"

},

"ordering_operation": {

"using_filesort": true,

...

2)ORDER BY的列不属于执行计划中第一个连接表的列。

例如:

mysql> explain format=json select * from t as t1, t as t2 order by t2.a;

EXPLAIN

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "25.00"

},

"ordering_operation": {

"using_temporary_table": true,

...

3)如果ORDER BY的表达式是个复杂表达式。

那么什么样的ORDER BY表达式,MySQL认为是复杂表达式呢?

1))如果排序表达式是SP或者UDF。

例如:

drop function if exists func1;

delimiter |

create function func1(x int)

returns int deterministic

begin

declare z1, z2 int;

set z1 = x;

set z2 = z1+2;

return z2;

end|

delimiter ;

explain format=json select * from t1 order by func1(a);

{

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "2.20"

},

"ordering_operation": {

"using_temporary_table": true,

...

2))ORDER BY的列包含聚集函数

为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

例如:

create index idx1 on t1(a);

explain format=json SELECt a FROM t1 group by a order by sum(a);

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "1.20"

},

"ordering_operation": {

"using_temporary_table": true,

"using_filesort": true,

"grouping_operation": {

"using_filesort": false,

...

drop index idx1 on t1;

3))ORDER BY的列中包含有SCALAR SUBQUERY,当然该SCALAR SUBQUERY没有被优化掉。

例如:

explain format=json select (select rand() from t1 limit 1) as a from t1 order by a;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "1.20"

},

"ordering_operation": {

"using_temporary_table": true,

"using_filesort": true,

...

4) 如果查询既带有ORDER BY同时也有GROUP BY语句,但是两个语句使用的列不相同。

注意: 如果是5.7,我们需要将sql_mode设置为非only_full_group_by模式,否则会报错。

同样为了简化执行计划,我们利用INDEX来优化GROUP BY语句。

例如:

set sql_mode='';

create index idx1 on t1(b);

explain format=json select t1.a from t1 group by t1.b order by 1;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "1.40"

},

"ordering_operation": {

"using_temporary_table": true,

"using_filesort": true,

"grouping_operation": {

"using_filesort": false,

...

drop index idx1 on t1;

  • 如果查询带有GROUP BY语句,并且不能被优化掉。下面几种情况会利用到内部临时表缓存中间数据,然后对中间数据进行GROUP BY。

1)如果连接表使用BNL(Batched Nestloop)/BKA(Batched Key Access)。
例如:

explain format=json select t2.a from t1, t1 as t2 group by t1.a;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "8.20"

},

"grouping_operation": {

"using_temporary_table": true,

"using_filesort": true,

"cost_info": {

"sort_cost": "4.00"

...

2) 如果GROUP BY的列不属于执行计划中的第一个连接表。

例如:

explain format=json select t2.a from t1, t1 as t2 group by t2.a;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "8.20"

},

"grouping_operation": {

"using_temporary_table": true,

"using_filesort": true,

"nested_loop": [

...

3) 如果GROUP BY语句使用的列与ORDER BY语句使用的列不同。

例如:

set sql_mode='';

explain format=json select t1.a from t1 group by t1.b order by t1.a;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "1.40"

},

"ordering_operation": {

"using_filesort": true,

"grouping_operation": {

"using_temporary_table": true,

"using_filesort": false,

...

4) 如果GROUP BY带有ROLLUP并且是基于多表外连接。

例如:

explain format=json select sum(t1.a) from t1 left join t1 as t2 on true group by t1.a with rollup;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "7.20"

},

"grouping_operation": {

"using_temporary_table": true,

"using_filesort": true,

"cost_info": {

"sort_cost": "4.00"

},

...

5) 如果GROUP BY语句使用的列来自于SCALAR SUBQUERY,并且没有被优化掉。

例如:

explain format=json select (select avg(a) from t1) as a from t1 group by a;

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "3.40"

},

"grouping_operation": {

"using_temporary_table": true,

"using_filesort": true,

"cost_info": {

"sort_cost": "2.00"

},

...

  • IN表达式转换为semi-join进行优化

1) 如果semi-join执行方式为Materialization

例如:

set optimizer_switch='firstmatch=off,duplicateweedout=off';

explain format=json select * from t1 where a in (select b from t1);

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "5.60"

},

"nested_loop": [

{

"rows_examined_per_scan": 1,

"materialized_from_subquery": {

"using_temporary_table": true,

"query_block": {

"table": {

"table_name": "t1",

"access_type": "ALL",

...

2) 如果semi-join执行方式为Duplicate Weedout

例如:

set optimizer_switch='firstmatch=off';

explain format=json select * from t1 where a in (select b from t1);

| {

"query_block": {

"select_id": 1,

"cost_info": {

"query_cost": "4.80"

},

"duplicates_removal": {

"using_temporary_table": true,

"nested_loop": [

{

...

  • 如果查询语句带有UNION,MySQL将利用内部临时表帮助UNION操作消除重复。

例如:

explain format=json select * from t1 union select * from t1;

| {

"query_block": {

"union_result": {

"using_temporary_table": true,

"table_name": "",

...

  • 如果查询语句使用多表更新。

这里Explain不能看到内部临时表被利用,所以需要查看status。

例如:

update t1, t1 as t2 set t1.a=3;

show status like 'CREATE%';

  • 如果聚集函数中包含如下函数,内部临时表也会被利用。

1) count(distinct *)

例如:

explain format=json select count(distinct a) from t1;

2) group_concat

例如:

explain format=json select group_concat(b) from t1;

总之,上面列出了10种情况,MySQL将利用内部临时表进行中间结果缓存,如果数据量比较大的话,内部临时表将会把数据存储在磁盘上,这样显然会对性能有所影响。为了尽可能的减少性能损失,我们需要尽量避免上述情况的出现。

MySQL 中的两种临时表的更多相关文章

  1. MySQL中的两种临时表

    MySQL中的两种临时表 伯乐在线2016-07-06 05:16:52阅读(4556)评论(3) 声明:本文由入驻搜狐公众平台的作者撰写,除搜狐官方账号外,观点仅代表作者本人,不代表搜狐立场.举报 ...

  2. PHP中实现MySQL嵌套事务的两种解决方案

    PHP中实现MySQL嵌套事务的两种解决方案 一.问题起源 在MySQL的官方文档中有明确的说明不支持嵌套事务: Transactions cannot be nested. This is a co ...

  3. C++连接mysql数据库的两种方法

    本文主要介绍了C++连接mysql数据库的两种方法,希望通过本文,能对你有所帮助,一起来看. 现在正做一个接口,通过不同的连接字符串操作不同的数据库.要用到mysql数据库,以前没用过这个数据库,用a ...

  4. ORACLE 查询一个数据表后通过遍历再插入另一个表中的两种写法

    ORACLE 查询一个数据表后通过遍历再插入另一个表中的两种写法 语法 第一种: 通过使用Oracle语句块  --指定文档所有部门都能查看 declare cursor TABLE_DEPT and ...

  5. Linux中的两种守护进程stand alone和xinetd

    Linux中的两种守护进程stand alone和xinetd --http://www.cnblogs.com/itech/archive/2010/12/27/1914846.html#top 一 ...

  6. validate插件:验证密码没有空格 用户名是5-10位 至少包含数字和大小写字母中的两种字符

    //校验密码是否含有空格 jQuery.validator.addMethod("notblank", function(value, element) { var pwdblan ...

  7. Crystal Report在.net中的两种显示方式

    Crystal Report在.net中的两种显示方式 编写人:CC阿爸 2014-7-29 近来在完成深圳一公司的项目,对方对各方面要求相当严格,一不满意就拒绝签收,为了对修正水晶报表显示及导出的一 ...

  8. C#中的两种debug方法

    这篇文章主要介绍了C#中的两种debug方法介绍,本文讲解了代码用 #if DEBUG 包裹.利用宏定义两种方法,需要的朋友可以参考下   第一种:需要把调试方法改成debug代码用 #if DEBU ...

  9. eclipse中的两种Jre 及 Jre与Jdk的区别

    分类: ——————————区分eclipse中的两种Jre———————- (Eclipse也是一个普通的Java程序,因此必须有一个JRE做为运行环境.如果你的机器上没有安装任何JRE(或者JDK ...

随机推荐

  1. c语言中较常见的由内存分配引起的错误_内存越界_内存未初始化_内存太小_结构体隐含指针

    1.指针没有指向一块合法的内存 定义了指针变量,但是没有为指针分配内存,即指针没有指向一块合法的内浅显的例子就不举了,这里举几个比较隐蔽的例子. 1.1结构体成员指针未初始化 struct stude ...

  2. Mysql加密方式

    MySQL数据库的认证密码有两种方式, MySQL 4.1版本之前是MySQL323加密,MySQL 4.1和之后的版本都是MySQLSHA1加密, MySQL数据库中自带Old_Password(s ...

  3. [JS前端开发] js/jquery控制页面动态加载数据 滑动滚动条自动加载事件

    页面滚动动态加载数据,页面下拉自动加载内容 相信很多人都见过瀑布流图片布局,那些图片是动态加载出来的,效果很好,对服务器的压力相对来说也小了很多 有手机的相信都见过这样的效果:进入qq空间,向下拉动空 ...

  4. postInvalidate、removeAllViewsInLayout、refreshDrawableState用法

    postInvalidate.invalidate:会调用控件的onDraw()重绘控件 refreshDrawableState:当控件在使用一个对控件状态敏感的Drawable对象时使用,如一个B ...

  5. 刑事案件的构成要素 zt

    论刑事案件的构成要素   马忠红 2013-03-22 14:05:33 来源:<中国人民公安大学学报:社会科学版>(京)2012年5期 [内容提要]刑事案件是由诸多要素构成的一个系 统. ...

  6. 第一个App“今日材料报价”上架,记录一下【原】

    App Store地址:https://itunes.apple.com/us/app/jin-ri-cai-liao-bao-jia/id967274552?l=zh&ls=1&mt ...

  7. STM32之CAN ---CAN ID过滤器分析

      1 前言 在CAN协议里,报文的标识符不代表节点的地址,而是跟报文的内容相关的.因此,发送者以广播的形式把报文发送给所有的接收者.节点在接收报文时,根据标识符(CAN ID)的值决定软件是否需要该 ...

  8. 京东拍拍网 笔试 搞java的去考C++ 苦逼

    1.用C实现数字逆转,用递归实现,很简单. package 京东; public class Main { private static int a=0; public static void fun ...

  9. NOIP2010 机器翻译

    1机器翻译 题目背景 小晨的电脑上安装了一个机器翻译软件,他经常用这个软件来翻译英语文章. 题目描述 这个翻译软件的原理很简单,它只是从头到尾,依次将每个英文单词用对应的中文含义来替换.对于每个英文单 ...

  10. position属性

    所有主流浏览器支持position属性: 任何版本的ie浏览器都不支持属性值“inherit”. position属性规定元素的定位类型,任何元素都可以定位,不过绝对定位或固定元素会生成一个块级框,不 ...