本文我们来谈谈项目中常用的MySQL优化方法,共19条,利用好这19条方法,会让你的效率提升至少3倍。
  
  1、EXPLAIN
  
  做MySQL优化,我们要善用EXPLAIN查看SQL执行计划。
  
  下面来个简单的示例,标注(1、2、3、4、5)我们要重点关注的数据:
  
  type列,连接类型。一个好的SQL语句至少要达到range级别。杜绝出现all级别。
  
  key列,使用到的索引名。如果没有选择索引,值是NULL。可以采取强制索引方式。
  
  key_len列,索引长度。
  
  rows列,扫描行数。该值是个预估值。
  
  extra列,详细说明。注意,常见的不太友好的值,如下:Using filesort,Using temporary。
  
  2、SQL语句中IN包含的值不应过多
  
  MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能用between就不要用in了;再或者使用连接来替换。
  
  3、SELECT语句务必指明字段名称
  
  SELECT*增加很多不必要的消耗(CPU、IO、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。
  
  4、当只需要一条数据的时候,使用limit 1
  
  这是为了使EXPLAIN中type列达到const类型
  
  5、如果排序字段没有用到索引,就尽量少排序
  
  6、如果限制条件中其他字段没有索引,尽量少用or
  
  or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用union all或者是union(必要的时候)的方式来代替“or”会得到更好的效果。
  
  7、尽量用union all代替union
  
  union和union all的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。
  
  8、不使用ORDER BY RAND()
  
  select id from `dynamic` order by rand() limit 1000;
  
  上面的SQL语句,可优化为:
  
  select id from `dynamic` t1 join (select rand() * (select max(id) from `dynamic`) as nid) t2 on t1.id > t2.nidlimit 1000;
  
  9、区分in和exists、not in和not exists
  
  select * from 表A where id in (select id from 表B)
  
  上面SQL语句相当于
  
  select * from 表A where exists(select * from 表B where 表B.id=表A.id)
  
  区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。
  
  关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的SQL语句?
  
  原SQL语句:
  
  select colname … from A表 where a.id not in (select b.id from B表)
  
  高效的SQL语句:
  
  select colname … from A表 Left join B表 on where a.id = b.id where b.id is null
  
  取出的结果集如下图表示,A表不在B表中的数据:
  
  10、使用合理的分页方式以提高分页的效率
  
  select id,name from product limit 866613, 20
  
  使用上述SQL语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。
  
  优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。SQL可以采用如下的写法:
  
  select id,name from product where id> 866612 limit 20
  
  11、分段查询
  
  在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。
  
  如下图这个SQL语句,扫描的行数成百万级以上的时候就可以使用分段查询:
  
  12、避免在where子句中对字段进行null值判断
  
  对于null的判断会导致引擎放弃使用索引而进行全表扫描。
  
  13、不建议使用%前缀模糊查询
  
  例如LIKE“%name”或者LIKE“%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。
  
  那如何查询%name%?
  
  如下图所示,虽然给secret字段添加了索引,但在explain结果并没有使用:
  
  那么如何解决这个问题呢,答案:使用全文索引。
  
  在我们查询中经常会用到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。这样的语句,普通索引是无法满足查询需求的。庆幸的是在MySQL中,有全文索引来帮助我们。
  
  创建全文索引的SQL语法是:
  
  ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);
  
  使用全文索引的SQL语句是:
  
  select id,fnum,fdst from dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);
  
  注意:在需要创建全文索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别。
  
  14、避免在where子句中对字段进行表达式操作
  
  比如:
  
  select user_id,user_project from user_base where age*2=36;
  
  中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成:
  
  select user_id,user_project from user_base where age=36/2;
  
  15、避免隐式类型转换
  
  where子句中出现column字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型。
  
  16、对于联合索引来说,要遵守最左前缀法则
  
  举列来说索引含有字段id、name、school,可以直接用id字段,也可以id、name这样的顺序,但是name;school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。
  
  17、必要时可以使用force index来强制查询走某个索引
  
  有的时候MySQL优化器采取它认为合适的索引来检索SQL语句,但是可能它所采用的索引并不是我们想要的。这时就可以采用forceindex来强制优化器使用我们制定的索引。
  
  18、注意范围查询语句
  
  对于联合索引来说,如果存在范围查询,比如between、>、<等条件时,会造成后面的索引字段失效。
  
  19、关于JOIN优化
  
  LEFT JOIN A表为驱动表,INNER JOIN MySQL会自动找出那个数据少的表作用驱动表,RIGHT JOIN B表为驱动表。
  
  注意:
  
  1)MySQL中没有full join,可以用以下方式来解决:
  
  select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;
  
  2)尽量使用inner join,避免left join:
  
  参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是inner join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。
  
  3)合理利用索引:
  
  被驱动表的索引字段作为on的限制字段。
  
  4)利用小表去驱动大表:
  
  从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO总量及CPU运算的次数。
  
  5)巧用STRAIGHT_JOIN:
  
  inner join是由MySQL选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,比如有group by、order by等「Using filesort」、「Using temporary」时。STRAIGHT_JOIN来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使用STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是inner join。其他链接不推荐使用STRAIGHT_JOIN,否则可能造成查询结果不准确。
  
  public static boolean isTableExistOldAPI(String tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException {
  
  // HBase配置文件
  
  @SuppressWarnings(www.jiahuayulpt.com"deprecation")
  
  HBaseConfiguration conf = new HBaseConfiguration();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.www.taoyang2vip.com zookeeper.property.clientPort", "2181");
  
  // 获取HBase管理员对象
  
  @SuppressWarnings(www.zhengxianzaixian.cn"deprecation")
  
  HBaseAdmin hBaseAdmin = www.yongshiyule178.com new HBaseAdmin(conf);
  
  boolean tableExists = hBaseAdmin.tableExists(tableName);
  
  // 关闭
  
  hBaseAdmin.close();
  
  return tableExists;
  
  }
  
  新API
  
  // 判断表是否存在-新API
  
  public static boolean isTableExistNewAPI(String www.dfgjpt.com tableName) throws MasterNotRunningException, ZooKeeperConnectionException, IOException {
  
  // HBase配置文件
  
  Configuration conf = HBaseConfiguration.create();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.www.yongshi123.cn zookeeper.property.clientPort", "2181");
  
  // 获取连接对象,执行
  
  Connection connection = ConnectionFactory.createConnection(conf);
  
  Admin admin = connection.getAdmin();
  
  boolean tableExists = admin.tableExists(TableName.valueOf(tableName));
  
  // 关闭资源
  
  admin.close();
  
  return tableExists;
  
  }
  
  6.2.2 抽取获取 Configuration、Connection、Admin 对象的方法以及关闭资源的方法
  
  static Admin admin = null;
  
  static Connection conn = null;
  
  static Configuration conf = null;
  
  static {
  
  // HBase配置文件
  
  conf = HBaseConfiguration.create();
  
  // 设置zookeeper地址
  
  conf.set("hbase.zookeeper.quorum", "192.168.25.102");
  
  conf.set("hbase.zookeeper.property.clientPort", "2181");
  
  try {
  
  // 获取连接对象,执行
  
  conn = ConnectionFactory.createConnection(conf);
  
  admin = conn.getAdmin();
  
  } catch (IOException e) {
  
  e.printStackTrace();
  
  private static void close(Connection conn, Admin admin) {
  
  if (conn != null) {
  
  try {
  
  conn.close();
  
  } catch (IOException www.myzx1.com e) {
  
  e.printStackTrace();
  
  if (admin != null) {
  
  try {
  
  admin.close();
  
  } catch (IOException e) {
  
  e.printStackTrace();
  
  注意:以下演示均使用新API!
  
  6.2.3 创建表(admin)
  
  // 创建表
  
  public static void createTable(String www.mhylpt.com tableName, String... columnFamily) throws IOException {
  
  if (isTableExistNewAPI(tableName)) {
  
  System.out.println("表" + tableName + "已存在!");
  
  return;
  
  }
  
  // 创建表描述器
  
  HTableDescriptor hTableDescriptor = new HTableDescriptor(TableName.valueOf(tableName));
  
  // 添加列族
  
  for (String cf : columnFamily) {
  
  // 创建列描述器
  
  HColumnDescriptor HColumnDescriptor = new HColumnDescriptor(cf);
  
  // 指定列族的版本个数,默认个数是一个
  
  // HColumnDescriptor.setMaxVersions(www.68076.cn);
  
  hTableDescriptor.addFamily(HColumnDescriptor);
  
  }
  
  // 创建表操作
  
  admin.createTable(hTableDescriptor);
  
  System.out.println("表" + tableName + "创建成功!");
  
  }
  
  6.2.4 删除表(admin)
  
  // 删除表
  
  public static void deleteTable(String tableName) throws IOException {
  
  if (isTableExistNewAPI(tableName)www.68079.cn) {
  
  // 删除表之前先使表不可用(下线)
  
  admin.disableTable(TableName.valueOf(tableName));
  
  // 执行删除操作
  
  admin.deleteTable(TableName.valueOf(tableName));
  
  System.out.println("表" + tableName + "删除成功!");
  
  } else {
  
  System.out.println("表" + tableName + "不存在!");
  
  注意:truncate,清空表数据,实际底层操作是先使表不可用(下线),然后删除表,最后根据表信息重新创建一张新表。
  
  6.2.5 向表中插入数据(put)
  
  // 向表中插入数据(或修改)
  
  public static void putRowData(www.yongxin7.com String tableName, String rowKey, String columnFamily, String column, String value) throws IOException {
  
  // 创建HTable对象
  
  // 旧API
  
  // HTable hTable = new HTable(conf, TableName.valueOf(tableName));
  
  // 获取Table对象
  
  // 新API
  
  Table table = conn.getTable(TableName.valueOf(tableName));
  
  Put put = new Put(Bytes.toBytes(rowKey));
  
  // 向Put对象中组装数据
  
  put.addColumn(Bytes.toBytes(www.078881.cn columnFamily), Bytes.toBytes(www.thd178.com column), Bytes.toBytes(value));
  
  // 执行向表中插入数据的操作
  
  table.put(put);
  
  System.out.println("插入数据成功");
  
  table.close();
  
  // 批量插入数据提示:1、同一个RowKey下添加不同的列;2、不同的RowKey,可以将RowKey(Put)放到List集合。
  
  这个方式有时能减少3倍的时间。
  
  以上19条MySQL优化方法希望对大家有所帮助~呐,如果觉得有帮助的话,欢迎转发分享哦~

掌握 MySQL 这 19 个骚操作,效率至少提高3倍的更多相关文章

  1. 巧用这19条MySQL优化,效率至少提高3倍

    阅读本文大概需要 3.8 分钟. 作者丨喜欢拿铁的人 https://zhuanlan.zhihu.com/p/49888088 本文我们来谈谈项目中常用的MySQL优化方法,共19条,具体如下: 1 ...

  2. 19 条效率至少提高 3 倍的 MySQL 技巧

    阅读本文大概需要 4 分钟. 来源:https://zhuanlan.zhihu.com/p/49888088 本文我们来谈谈项目中常用的 MySQL 优化方法,共 19 条,具体如下: 1.EXPL ...

  3. 编码神器Lombok,学会后开发效率至少提高一倍!

    Lombok会利用注解自动生成javaBean中的getter.setter.equals.toString等一系列方法,大大提供开发效率,本文详细介绍下Lombok的安装及使用. 本文目录 一.Lo ...

  4. IDEA 中用好 Lombok,撸码效率至少提升5倍!

    来 源:http://t.cn/EXhxRzV 以前的Java项目中,充斥着太多不友好的代码:POJO的getter/setter/toString:异常处理:I/O流的关闭操作等等,这些样板代码既没 ...

  5. 如何用好 IDEA ,Java 撸码效率至少提升 5 倍?

    以前的Java项目中,充斥着太多不友好的代码:POJO的getter/setter/toString:异常处理:I/O流的关闭操作等等,这些样板代码既没有技术含量,又影响着代码的美观,Lombok应运 ...

  6. 推荐 10个 NB的 IDEA 插件,开发效率至少提升一倍

    友情提示:插件虽好,可不要贪装哦,装多了会 卡 .卡 .卡 ~ 正经干活用的 分享一点自己工作中得心应手的IDEA插件,可不是在插件商店随随便便搜的,都经过实战检验,用过的都说好.可能有一些大家用过的 ...

  7. 一个使用xlwings操作excel数据优化60倍处理效率的案例

    ☞ ░ 前往老猿Python博文目录 ░ 一.引言 老猿在将自己的博文数据(包括url地址.标题和阅读数量)从博客中获取后,使用xlwings保存到excel对象时发现,不同的处理方法性能相差非常大. ...

  8. 关于MySQL的一些骚操作——提升正确性,抠点性能

    概要 回顾以前写的项目,发现在规范的时候,还是可以做点骚操作的. 假使以后还有新的项目用到了MySQL,那么肯定是要实践一番的. 为了准备,创建测试数据表(建表语句中默认使用utf8mb4以及utf8 ...

  9. 如何在命令长度受限的情况下成功get到webshell(函数参数受限突破、mysql的骚操作)

    0x01 问题提出 还记得上篇文章记一次拿webshell踩过的坑(如何用PHP编写一个不包含数字和字母的后门),我们讲到了一些PHP的一些如何巧妙地绕过数字和字母受限的技巧,今天我要给大家分享的是如 ...

随机推荐

  1. visual studio Web发布至 IIS WebDeploy出错(未能创建SSL/TLS安全通道)Could not create SSL/TLS secure channel

    问题发生的原因是VS 15.9尝试使用系统默认值进行TLS握手,但是要在VS内的某处设置为TLS1.2. 此问题的解决方法是在部署项目的IIS服务器上启用TLS 1.2.例如,请按照此文章中的说明操作

  2. 请允许我转载一篇关于套接字的博客:Socket

    这一篇文章,我将图文并茂地介绍Socket编程的基础知识,我相信,如果你按照步骤做完实验,一定可以对Socket编程有更好地理解. 本文源代码,可以通过这里下载 http://files.cnblog ...

  3. Scala学习(五)练习

    Scala中的类&练习 1. 改进Counter类,让它不要在Int.MaxValue时变成负数 程序代码: class Counter { private var value=100 def ...

  4. C# 大型电商项目性能优化(一)

    经过几个月的忙碌,我厂最近的电商平台项目终于上线,期间遇到的问题以及解决方案,也可以拿来和大家多做交流了. 我厂的项目大多采用C#.net,使用逐渐发展并流行起来的EF(Entity Framewor ...

  5. Windows 10 中 VMware 要求禁用 Device Guard 问题

    今天在打开虚拟机的时候,突然出现下面这个错误.网上给了很多教程,基本上都是禁用 Device Guard 和关闭 Hyper-v,博主按照其方法操作,依旧出现下面错误.后来经过不懈努力,终于找到解决办 ...

  6. 第三次作业(1) Visual Studio程序安装过程和练习过程

    Visual Studio程序安装过程和练习过程 第一步 首先要在网上找一个VS2013的安装包,之后我安装在D盘上,C盘上也需要有5.2G空间,勾选相应的选项,才能继续安装. 安装的过程很漫长,接近 ...

  7. 使用Junit进行单元测试

    使用Junit进行单元测试 一.目的和要求 JUnit是一款由Erich Gamma(<设计模式>的作者)和Kent Beck(极限编程的提出者)编写的开源的回归测试框架,供Java编码人 ...

  8. 小学四则运算APP 第二次冲刺-第二天

    团队成员:陈淑筠.杨家安.陈曦 团队选题:小学四则运算APP 第二次冲刺阶段时间:11.29~12.09 本次发布的判断题功能界面的设置: activity_panduan_set.xml: < ...

  9. centos7编译安装zabbix(附带编译安装lnmp)

    先把防火墙和selinux关闭: sytemctl stop firewalld setenforce 0 1.yum安装依赖: yum -y install wget openssl* gcc gc ...

  10. CRM 数据查重

    2.8 小工具 · 纷享销客产品手册https://www.fxiaoke.com/mob/guide/crmdoc/src/2-8%E5%B0%8F%E5%B7%A5%E5%85%B7.html C ...