一、前言

MySQL调优对于很多程序员而言,都是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行MySQL的优化之前必须要了解的就是MySQL的查询过程,很多的查询优化工作实际上就是遵循一些原则让MySQL的优化器能够按照预想的合理方式运行而已。

今天给大家讲解MySQL的优化实战,助你高薪之路顺畅!

图 - MySQL查询过程

二、优化的哲学

注意:优化有风险,涉足需谨慎!

2.1、优化可能带来的问题

1、优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统。

2、优化手段本来就有很大的风险,只不过你没能力意识到和预见到!

3、任何的技术可以解决一个问题,但必然存在带来一个问题的风险!

4、对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果。

5、保持现状或出现更差的情况都是失败!

2.2、优化的需求

1、稳定性和业务可持续性,通常比性能更重要!

2、优化不可避免涉及到变更,变更就有风险!

3、优化使性能变好,维持和变差是等概率事件!

4、切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化!

5、所以优化工作,是由业务需要驱使的!!!

2.3、优化由谁参与

在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与 。 整编:微信公众号,搜云库技术团队,ID:souyunku

三、优化思路

3.1、优化什么

在数据库优化上有两个主要方面:即安全与性能。

1、安全 ---> 数据可持续性 2、性能 ---> 数据的高性能访问

3.2、优化的范围有哪些

存储、主机和操作系统方面:

1、主机架构稳定性2、I/O规划及配置 3、Swap交换分区 4、OS内核参数和网络问题

应用程序方面:

1、应用程序稳定性 2、SQL语句性能 3、串行访问资源 4、性能欠佳会话管理 5、这个应用适不适合用MySQL

数据库优化方面:

1、内存 2、数据库结构(物理&逻辑) 3、实例配置

说明:不管是在,设计系统,定位问题还是优化,都可以按照这个顺序执行。

3.3、优化维度

数据库优化维度有四个:

硬件、系统配置、数据库表结构、SQL及索引。

优化选择:

1、优化成本: 硬件>系统配置>数据库表结构>SQL及索引

2、优化效果: 硬件<系统配置<数据库表结构<SQL及索引

四、优化工具有啥?

4.1、数据库层面

检查问题常用工具:

不常用但好用的工具:

4.2、数据库层面问题解决思路

一般应急调优的思路:

针对突然的业务办理卡顿,无法进行正常的业务处理!需要立马解决的场景!

常规调优思路:

针对业务周期性的卡顿,例如在每天10-11点业务特别慢,但是还能够使用,过了这段时间就好了。

1、查看slowlog,分析slowlog,分析出查询慢的语句。

2、按照一定优先级,进行一个一个的排查所有慢语句。

3、分析top sql,进行explain调试,查看语句执行时间。

4、调整索引或语句本身 。 整编:微信公众号,搜云库技术团队,ID:souyunku

4.3、系统层面

cpu方面:

vmstat、sar top、htop、nmon、mpstat

内存:

free 、ps -aux 、

IO设备(磁盘、网络):

iostat 、 ss 、 netstat 、 iptraf、iftop、lsof、

vmstat 命令说明:

Procs: r显示有多少进程正在等待CPU时间。b显示处于不可中断的休眠的进程数量。在等待I/O Memory: swpd显示被交换到磁盘的数据块的数量。未被使用的数据块,用户缓冲数据块,用于操作系统的数据块的数量 Swap: 操作系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1和s0最好是0 Io: 每秒从设备中读入b1的写入到设备b0的数据块的数量。反映了磁盘I/O System: 显示了每秒发生中断的数量(in)和上下文交换(cs)的数量 Cpu: 显示用于运行用户代码,系统代码,空闲,等待I/O的CPU时间

iostat命令说明

实例命令:iostat -dk 1 5

iostat -d -k -x 5 (查看设备使用率(%util)和响应时间(await))

1、tps:该设备每秒的传输次数。“一次传输”意思是“一次I/O请求”。多个逻辑请求可能会被合并为“一次I/O请求”。

2、iops :硬件出厂的时候,厂家定义的一个每秒最大的IO次数,"一次传输"请求的大小是未知的。

3、kBread/s:每秒从设备(drive expressed)读取的数据量;

4、KBwrtn/s:每秒向设备(drive expressed)写入的数据量;

5、kBread:读取的总数据量;7、kBwrtn:写入的总数量数据量;这些单位都为Kilobytes。

4.4、系统层面问题解决办法

你认为到底负载高好,还是低好呢?

在实际的生产中,一般认为 cpu只要不超过90%都没什么问题 。

当然不排除下面这些特殊情况:

问题一:cpu负载高,IO负载低

1、内存不够 2、磁盘性能差 3、SQL问题 ------>去数据库层,进一步排查sql问题 4、IO出问题了(磁盘到临界了、raid设计不好、raid降级、锁、在单位时间内tps过高) 5、tps过高: 大量的小数据IO、大量的全表扫描

问题二:IO负载高,cpu负载低

1、大量小的IO 写操作:2、autocommit ,产生大量小IO 3、IO/PS,磁盘的一个定值,硬件出厂的时候,厂家定义的一个每秒最大的IO次数。4、大量大的IO 写操作 5、SQL问题的几率比较大

问题三:IO和cpu负载都很高

硬件不够了或sql存在问题

五、基础优化

5.1、优化思路

定位问题点:

硬件 --> 系统 --> 应用 --> 数据库 --> 架构(高可用、读写分离、分库分表)

处理方向:

明确优化目标、性能和安全的折中、防患未然

5.2、硬件优化

主机方面:

1、根据数据库类型,主机CPU选择、内存容量选择、磁盘选择 2、平衡内存和磁盘资源 3、随机的I/O和顺序的I/O 4、主机 RAID卡的BBU(Battery Backup Unit)关闭

cpu的选择:

1、cpu的两个关键因素:核数、主频 2、根据不同的业务类型进行选择:3、cpu密集型:计算比较多,OLTP 主频很高的cpu、核数还要多 4、IO密集型:查询比较,OLAP 核数要多,主频不一定高的

内存的选择:

1、OLAP类型数据库,需要更多内存,和数据获取量级有关。2、OLTP类型数据一般内存是cpu核心数量的2倍到4倍,没有最佳实践。

存储方面:

1、根据存储数据种类的不同,选择不同的存储设备 2、配置合理的RAID级别(raid5、raid10、热备盘) 3、对与操作系统来讲,不需要太特殊的选择,最好做好冗余(raid1)(ssd、sas 、sata)

raid卡:主机raid卡选择:

1、实现操作系统磁盘的冗余(raid1) 2、平衡内存和磁盘资源 3、随机的I/O和顺序的I/O 4、主机 RAID卡的BBU(Battery Backup Unit)要关闭。

网络设备方面:

使用流量支持更高的网络设备(交换机、路由器、网线、网卡、HBA卡)

注意:以上这些规划应该在初始设计系统时就应该考虑好。

5.3、服务器硬件优化

1、物理状态灯:

2、自带管理设备:远程控制卡(FENCE设备:ipmi ilo idarc),开关机、硬件监控。

3、第三方的监控软件、设备(snmp、agent)对物理设施进行监控

4、存储设备:自带的监控平台。EMC2(hp收购了), 日立(hds),IBM低端OEM hds,高端存储是自己技术,华为存储

5.4、系统优化

Cpu:

基本不需要调整,在硬件选择方面下功夫即可。

内存:

基本不需要调整,在硬件选择方面下功夫即可。

SWAP:

MySQL尽量避免使用swap。阿里云的服务器中默认swap为0

IO :

1、raid、no lvm、 ext4或xfs、ssd、IO调度策略 1、Swap调整(不使用swap分区)

这个参数决定了Linux是倾向于使用swap,还是倾向于释放文件系统cache。在内存紧张的情况下,数值越低越倾向于释放文件系统cache。当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。修改MySQL的配置参数innodbflushmethod,开启O_DIRECT模式。这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多 。 整编:微信公众号,搜云库技术团队,ID:souyunku

IO调度策略:

5.5、系统参数调整

Linux系统内核参数优化:

用户限制参数(mysql可以不设置以下配置):

* hard nofile65535

5.6、应用优化

业务应用和数据库应用独立,防火墙:iptables、selinux等其他无用服务(关闭):

安装图形界面的服务器不要启动图形界面 runlevel 3,另外,思考将来我们的业务是否真的需要MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。

六、数据库优化

SQL优化方向:

执行计划、索引、SQL改写

架构优化方向:

高可用架构、高性能架构、分库分表

6.1、数据库参数优化

调整:

实例整体(高级优化,扩展)

连接层(基础优化)

设置合理的连接客户和连接方式

SQL层(基础优化)

querycachesize:查询缓存-->>>OLAP类型数据库,需要重点加大此内存缓存.

1、但是一般不会超过GB.

2、对于经常被修改的数据,缓存会立马失效。

3、我们可以实用内存数据库(redis、memecache),替代他的功能。

6.2、存储引擎层(innodb基础优化参数)

敬请关注,微信公众号「搜云库技术团队」获取最新文章

版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知我们,我们会立即删除并表示歉意。谢谢!

作者:惨绿少年
来源:clsn.io/clsn/lx287.html
整编:搜云库技术团队,欢迎广大技术人员投稿
投稿邮箱:admin@souyunku.com

如何通过调优攻破 MySQL 数据库性能瓶颈?的更多相关文章

  1. 性能调优 | 如何通过性能调优突破 MySQL 数据库性能瓶颈?

    本文出自头条号老王谈运维,转载请说明出处. MySQL 数据库瓶颈对 DBA 程序员而言,是非常棘手的问题.要正确的优化SQL,我们需要快速定位能性的瓶颈点,也就是说快速找到我们SQL主要的开销在哪里 ...

  2. MySQL性能调优与架构设计——第8章 MySQL数据库Query的优化

    第8章 MySQL数据库Query的优化 前言: 在之前“影响 MySQL 应用系统性能的相关因素”一章中我们就已经分析过了Query语句对数据库性能的影响非常大,所以本章将专门针对 MySQL 的 ...

  3. Mysql数据库调优和性能优化

    1. 简介 在Web应用程序体系架构中,数据持久层(通常是一个关系数据库)是关键的核心部分,它对系统的性能有非常重要的影响.MySQL是目前使用最多的开源数据库,但是mysql数据库的默认设置性能非常 ...

  4. Mysql数据库调优和性能优化的21条最佳实践

    Mysql数据库调优和性能优化的21条最佳实践 1. 简介 在Web应用程序体系架构中,数据持久层(通常是一个关系数据库)是关键的核心部分,它对系统的性能有非常重要的影响.MySQL是目前使用最多的开 ...

  5. mysql数据库性能调优总结积累

    mysql数据库的调优大概可以分为四大块 0 架构调优 ---根据业务 读写分库分表   ---主从 读写分离 1 配置的调优 ---开启缓存查询  设置缓存大小 ---最大连接数设置 ---数据库引 ...

  6. mysql数据库索引调优

    一.mysql索引 1.磁盘文件结构 innodb引擎:frm格式文件存储表结构,ibd格式文件存储索引和数据. MyISAM引擎:frm格式文件存储表结构,MYI格式文件存储索引,MYD格式文件存储 ...

  7. MySQL 数据库规范--调优篇(终结篇)

    前言 这篇是MySQL 数据库规范的最后一篇--调优篇,旨在提供我们发现系统性能变弱.MySQL系统参数调优,SQL脚本出现问题的精准定位与调优方法. 目录 1.MySQL 调优金字塔理论 2.MyS ...

  8. MySQL性能调优的10个方法 - mysql数据库栏目

    摘要: https://edu.aliyun.com/a/29036?spm=5176.11182482.related_article.1.hbeZbF 摘要: MYSQL 应该是最流行了 WEB ...

  9. MySQL性能调优与架构设计——第9章 MySQL数据库Schema设计的性能优化

    第9章 MySQL数据库Schema设计的性能优化 前言: 很多人都认为性能是在通过编写代码(程序代码或者是数据库代码)的过程中优化出来的,其实这是一个非常大的误区.真正影响性能最大的部分是在设计中就 ...

随机推荐

  1. JAVA----HelloWorld

    1.步骤 将java代码编写到扩展名为.java的文件中(扩展名的查看) 新建文本文档,重命名为Test.java. 以记事本方式打开. 写入代码. public class Test{       ...

  2. 马蜂窝 iOS App 启动治理:回归用户体验

    增长.活跃.留存是移动 App 的常见核心指标,直接反映一款 App 甚至一个互联网公司运行的健康程度和发展动能.启动流程的体验决定了用户的第一印象,在一定程度上影响了用户活跃度和留存率.因此,确保启 ...

  3. 用canvas画一个时钟

    <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8&quo ...

  4. Android 蓝牙开发(1)

    普通蓝牙设备官方文档 Android 平台包含蓝牙网络堆栈支持,凭借此支持,设备能以无线方式与其他蓝牙设备交换数据.应用框架提供了通过 Android Bluetooth API 访问蓝牙功能的途径. ...

  5. iOS UIPopoverView的使用

    UIViewController *contentViewController = [[UIViewController alloc] init]; contentViewController.vie ...

  6. Vue.js+cube-ui(Scroll组件)实现类似头条效果的横向滚动导航条

    本博主在一次个人移动端项目中,遇到这么一个需求:希望自己的项目中,头部导航条的效果可以像今日头条那样,横向滚动! 对于这样的效果,在各大移动端项目中几乎是随处可见,为什么呢? 我们都知道,对于移动端也 ...

  7. C++ class内的=重载,拷贝赋值函数copy op=,重载示例。必须是class内

    #include <iostream> // overloading "operator = " inside class // = 是一元操作符.不写,编译器会提供 ...

  8. 用scanf清空缓冲区 对比fflush

    fflush会将缓冲数据打印到屏幕或者输出磁盘,scanf将丢弃. 如上图.

  9. Redis与python

    一.Redis介绍 Redis是完全开源免费的,遵守BSD协议,是一个高性能的key-value数据库(非关系型数据库). 本质:将数据保存在内存中. 用途:缓存.消息队列. 1.Redis的特点 R ...

  10. 洛谷P4015 运输问题 网络流24题

    看了下SPFA题解,一个一个太麻烦了,另一个写的很不清楚,而且注释都变成了"????"不知道怎么过的,于是自己来一发SPFA算法. Part 1.题意 M 个仓库,卖给 N 个商店 ...