如何通过调优攻破 MySQL 数据库性能瓶颈?
一、前言
MySQL调优对于很多程序员而言,都是一个非常棘手的问题,多数情况都是因为对数据库出现问题的情况和处理思路不清晰。在进行MySQL的优化之前必须要了解的就是MySQL的查询过程,很多的查询优化工作实际上就是遵循一些原则让MySQL的优化器能够按照预想的合理方式运行而已。
今天给大家讲解MySQL的优化实战,助你高薪之路顺畅!
图 - MySQL查询过程
二、优化的哲学
注意:优化有风险,涉足需谨慎!
2.1、优化可能带来的问题
1、优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统。
2、优化手段本来就有很大的风险,只不过你没能力意识到和预见到!
3、任何的技术可以解决一个问题,但必然存在带来一个问题的风险!
4、对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果。
5、保持现状或出现更差的情况都是失败!
2.2、优化的需求
1、稳定性和业务可持续性,通常比性能更重要!
2、优化不可避免涉及到变更,变更就有风险!
3、优化使性能变好,维持和变差是等概率事件!
4、切记优化,应该是各部门协同,共同参与的工作,任何单一部门都不能对数据库进行优化!
5、所以优化工作,是由业务需要驱使的!!!
2.3、优化由谁参与
在进行数据库优化时,应由数据库管理员、业务部门代表、应用程序架构师、应用程序设计人员、应用程序开发人员、硬件及系统管理员、存储管理员等,业务相关人员共同参与 。 整编:微信公众号,搜云库技术团队,ID:souyunku
三、优化思路
3.1、优化什么
在数据库优化上有两个主要方面:即安全与性能。
1、安全 ---> 数据可持续性 2、性能 ---> 数据的高性能访问
3.2、优化的范围有哪些
存储、主机和操作系统方面:
1、主机架构稳定性2、I/O规划及配置 3、Swap交换分区 4、OS内核参数和网络问题
应用程序方面:
1、应用程序稳定性 2、SQL语句性能 3、串行访问资源 4、性能欠佳会话管理 5、这个应用适不适合用MySQL
数据库优化方面:
1、内存 2、数据库结构(物理&逻辑) 3、实例配置
说明:不管是在,设计系统,定位问题还是优化,都可以按照这个顺序执行。
3.3、优化维度
数据库优化维度有四个:
硬件、系统配置、数据库表结构、SQL及索引。
优化选择:
1、优化成本: 硬件>系统配置>数据库表结构>SQL及索引
2、优化效果: 硬件<系统配置<数据库表结构<SQL及索引
四、优化工具有啥?
4.1、数据库层面
检查问题常用工具:
不常用但好用的工具:
4.2、数据库层面问题解决思路
一般应急调优的思路:
针对突然的业务办理卡顿,无法进行正常的业务处理!需要立马解决的场景!
常规调优思路:
针对业务周期性的卡顿,例如在每天10-11点业务特别慢,但是还能够使用,过了这段时间就好了。
1、查看slowlog,分析slowlog,分析出查询慢的语句。
2、按照一定优先级,进行一个一个的排查所有慢语句。
3、分析top sql,进行explain调试,查看语句执行时间。
4、调整索引或语句本身 。 整编:微信公众号,搜云库技术团队,ID:souyunku
4.3、系统层面
cpu方面:
vmstat、sar top、htop、nmon、mpstat
内存:
free 、ps -aux 、
IO设备(磁盘、网络):
iostat 、 ss 、 netstat 、 iptraf、iftop、lsof、
vmstat 命令说明:
Procs: r显示有多少进程正在等待CPU时间。b显示处于不可中断的休眠的进程数量。在等待I/O Memory: swpd显示被交换到磁盘的数据块的数量。未被使用的数据块,用户缓冲数据块,用于操作系统的数据块的数量 Swap: 操作系统每秒从磁盘上交换到内存和从内存交换到磁盘的数据块的数量。s1和s0最好是0 Io: 每秒从设备中读入b1的写入到设备b0的数据块的数量。反映了磁盘I/O System: 显示了每秒发生中断的数量(in)和上下文交换(cs)的数量 Cpu: 显示用于运行用户代码,系统代码,空闲,等待I/O的CPU时间
iostat命令说明
实例命令:iostat -dk 1 5
iostat -d -k -x 5 (查看设备使用率(%util)和响应时间(await))
1、tps:该设备每秒的传输次数。“一次传输”意思是“一次I/O请求”。多个逻辑请求可能会被合并为“一次I/O请求”。
2、iops :硬件出厂的时候,厂家定义的一个每秒最大的IO次数,"一次传输"请求的大小是未知的。
3、kBread/s:每秒从设备(drive expressed)读取的数据量;
4、KBwrtn/s:每秒向设备(drive expressed)写入的数据量;
5、kBread:读取的总数据量;7、kBwrtn:写入的总数量数据量;这些单位都为Kilobytes。
4.4、系统层面问题解决办法
你认为到底负载高好,还是低好呢?
在实际的生产中,一般认为 cpu只要不超过90%都没什么问题 。
当然不排除下面这些特殊情况:
问题一:cpu负载高,IO负载低
1、内存不够 2、磁盘性能差 3、SQL问题 ------>去数据库层,进一步排查sql问题 4、IO出问题了(磁盘到临界了、raid设计不好、raid降级、锁、在单位时间内tps过高) 5、tps过高: 大量的小数据IO、大量的全表扫描
问题二:IO负载高,cpu负载低
1、大量小的IO 写操作:2、autocommit ,产生大量小IO 3、IO/PS,磁盘的一个定值,硬件出厂的时候,厂家定义的一个每秒最大的IO次数。4、大量大的IO 写操作 5、SQL问题的几率比较大
问题三:IO和cpu负载都很高
硬件不够了或sql存在问题
五、基础优化
5.1、优化思路
定位问题点:
硬件 --> 系统 --> 应用 --> 数据库 --> 架构(高可用、读写分离、分库分表)
处理方向:
明确优化目标、性能和安全的折中、防患未然
5.2、硬件优化
主机方面:
1、根据数据库类型,主机CPU选择、内存容量选择、磁盘选择 2、平衡内存和磁盘资源 3、随机的I/O和顺序的I/O 4、主机 RAID卡的BBU(Battery Backup Unit)关闭
cpu的选择:
1、cpu的两个关键因素:核数、主频 2、根据不同的业务类型进行选择:3、cpu密集型:计算比较多,OLTP 主频很高的cpu、核数还要多 4、IO密集型:查询比较,OLAP 核数要多,主频不一定高的
内存的选择:
1、OLAP类型数据库,需要更多内存,和数据获取量级有关。2、OLTP类型数据一般内存是cpu核心数量的2倍到4倍,没有最佳实践。
存储方面:
1、根据存储数据种类的不同,选择不同的存储设备 2、配置合理的RAID级别(raid5、raid10、热备盘) 3、对与操作系统来讲,不需要太特殊的选择,最好做好冗余(raid1)(ssd、sas 、sata)
raid卡:主机raid卡选择:
1、实现操作系统磁盘的冗余(raid1) 2、平衡内存和磁盘资源 3、随机的I/O和顺序的I/O 4、主机 RAID卡的BBU(Battery Backup Unit)要关闭。
网络设备方面:
使用流量支持更高的网络设备(交换机、路由器、网线、网卡、HBA卡)
注意:以上这些规划应该在初始设计系统时就应该考虑好。
5.3、服务器硬件优化
1、物理状态灯:
2、自带管理设备:远程控制卡(FENCE设备:ipmi ilo idarc),开关机、硬件监控。
3、第三方的监控软件、设备(snmp、agent)对物理设施进行监控
4、存储设备:自带的监控平台。EMC2(hp收购了), 日立(hds),IBM低端OEM hds,高端存储是自己技术,华为存储
5.4、系统优化
Cpu:
基本不需要调整,在硬件选择方面下功夫即可。
内存:
基本不需要调整,在硬件选择方面下功夫即可。
SWAP:
MySQL尽量避免使用swap。阿里云的服务器中默认swap为0
IO :
1、raid、no lvm、 ext4或xfs、ssd、IO调度策略 1、Swap调整(不使用swap分区)
这个参数决定了Linux是倾向于使用swap,还是倾向于释放文件系统cache。在内存紧张的情况下,数值越低越倾向于释放文件系统cache。当然,这个参数只能减少使用swap的概率,并不能避免Linux使用swap。修改MySQL的配置参数innodbflushmethod,开启O_DIRECT模式。这种情况下,InnoDB的buffer pool会直接绕过文件系统cache来访问磁盘,但是redo log依旧会使用文件系统cache。值得注意的是,Redo log是覆写模式的,即使使用了文件系统的cache,也不会占用太多 。 整编:微信公众号,搜云库技术团队,ID:souyunku
IO调度策略:
5.5、系统参数调整
Linux系统内核参数优化:
用户限制参数(mysql可以不设置以下配置):
* hard nofile65535
5.6、应用优化
业务应用和数据库应用独立,防火墙:iptables、selinux等其他无用服务(关闭):
安装图形界面的服务器不要启动图形界面 runlevel 3,另外,思考将来我们的业务是否真的需要MySQL,还是使用其他种类的数据库。用数据库的最高境界就是不用数据库。
六、数据库优化
SQL优化方向:
执行计划、索引、SQL改写
架构优化方向:
高可用架构、高性能架构、分库分表
6.1、数据库参数优化
调整:
实例整体(高级优化,扩展)
连接层(基础优化)
设置合理的连接客户和连接方式
SQL层(基础优化)
querycachesize:查询缓存-->>>OLAP类型数据库,需要重点加大此内存缓存.
1、但是一般不会超过GB.
2、对于经常被修改的数据,缓存会立马失效。
3、我们可以实用内存数据库(redis、memecache),替代他的功能。
6.2、存储引擎层(innodb基础优化参数)
敬请关注,微信公众号「搜云库技术团队」获取最新文章
版权申明:内容来源网络,版权归原创者所有。除非无法确认,我们都会标明作者及出处,如有侵权烦请告知我们,我们会立即删除并表示歉意。谢谢!
作者:惨绿少年
来源:clsn.io/clsn/lx287.html
整编:搜云库技术团队,欢迎广大技术人员投稿
投稿邮箱:admin@souyunku.com
如何通过调优攻破 MySQL 数据库性能瓶颈?的更多相关文章
- 性能调优 | 如何通过性能调优突破 MySQL 数据库性能瓶颈?
本文出自头条号老王谈运维,转载请说明出处. MySQL 数据库瓶颈对 DBA 程序员而言,是非常棘手的问题.要正确的优化SQL,我们需要快速定位能性的瓶颈点,也就是说快速找到我们SQL主要的开销在哪里 ...
- MySQL性能调优与架构设计——第8章 MySQL数据库Query的优化
第8章 MySQL数据库Query的优化 前言: 在之前“影响 MySQL 应用系统性能的相关因素”一章中我们就已经分析过了Query语句对数据库性能的影响非常大,所以本章将专门针对 MySQL 的 ...
- Mysql数据库调优和性能优化
1. 简介 在Web应用程序体系架构中,数据持久层(通常是一个关系数据库)是关键的核心部分,它对系统的性能有非常重要的影响.MySQL是目前使用最多的开源数据库,但是mysql数据库的默认设置性能非常 ...
- Mysql数据库调优和性能优化的21条最佳实践
Mysql数据库调优和性能优化的21条最佳实践 1. 简介 在Web应用程序体系架构中,数据持久层(通常是一个关系数据库)是关键的核心部分,它对系统的性能有非常重要的影响.MySQL是目前使用最多的开 ...
- mysql数据库性能调优总结积累
mysql数据库的调优大概可以分为四大块 0 架构调优 ---根据业务 读写分库分表 ---主从 读写分离 1 配置的调优 ---开启缓存查询 设置缓存大小 ---最大连接数设置 ---数据库引 ...
- mysql数据库索引调优
一.mysql索引 1.磁盘文件结构 innodb引擎:frm格式文件存储表结构,ibd格式文件存储索引和数据. MyISAM引擎:frm格式文件存储表结构,MYI格式文件存储索引,MYD格式文件存储 ...
- MySQL 数据库规范--调优篇(终结篇)
前言 这篇是MySQL 数据库规范的最后一篇--调优篇,旨在提供我们发现系统性能变弱.MySQL系统参数调优,SQL脚本出现问题的精准定位与调优方法. 目录 1.MySQL 调优金字塔理论 2.MyS ...
- MySQL性能调优的10个方法 - mysql数据库栏目
摘要: https://edu.aliyun.com/a/29036?spm=5176.11182482.related_article.1.hbeZbF 摘要: MYSQL 应该是最流行了 WEB ...
- MySQL性能调优与架构设计——第9章 MySQL数据库Schema设计的性能优化
第9章 MySQL数据库Schema设计的性能优化 前言: 很多人都认为性能是在通过编写代码(程序代码或者是数据库代码)的过程中优化出来的,其实这是一个非常大的误区.真正影响性能最大的部分是在设计中就 ...
随机推荐
- MySQL的5大引擎及优劣之分
MySQL提供了多个不同的存储引擎,其中5大引擎有:innodb,myisam,memory,merge,csv. 其中优点有:灾难恢复性好.支持事务.使用行级锁.支持外键关联.支持热备份 缺点如下: ...
- SpringBoot(二):SpringBoot 热部署
1.配置pom: <dependency> <groupId>org.springframework.boot</groupId> <artifactId&g ...
- 顺F分享,你是在裸奔吗?
" 对顺F旗下各APP顺藤摸瓜分析--顺F分享." 前文对顺F速运和顺F速运国际版进行了分析,二者使用同一套接口,虽然保护强度不高,但对代码和数据的保护却区别对待,实在让人诧异. ...
- TCP/IP:完全弄清OSI七层模型
OSI七层背景概述 诞生于1983年,iso(国际标准委员会)设计并推出. 目的:实现网络行业的兼容性 OSI七层模型与TCP/IP相对应的层次: 一般来说,我们把上三层被称为应用层,下四层被称为数据 ...
- jQuery Migrate 插件用法
jQuery Migrate是应用迁移辅助插件,是用于高级版本兼容低级版本辅助插件.例如jQuery版本用的是1.x,计划升级到3.x,就可以在页面删除1.x版本,换成3.x版本,如果有脚本错误,就引 ...
- 深入理解JVM虚拟机(二):JDK 内存类的异常分析
JVM数据存储 堆存储(Heap):对象存储,实际上就是JAVA的数据存储 方法堆栈(Method Stack):存储方法调用的关系. 永久代(Perm):在JDK1.6及之前,常量数据存储于此区域 ...
- Mysql—常见查询命令
查询mysql的日志 -- 查找错误日志文件路径 mysql> show variables like "log_error"; -- 查找通用日志文件路径 mysql> ...
- 如何让table中td与四周有间距
如何让table中td与四周有间距 方法一 在td下再添加一个会计元素 <tr> <td>第2节</td> <td>语文</td> < ...
- 谈谈你对OOM的理解?
(1)整体架构 (1)ByteBuffer使用native方法,直接在堆外分配内存. 当堆外内存(也即本地物理内存)不够时,就会抛出这个异常 ----GC Direct buffer memo ...
- 再次体会wireshark的威力!
今天一位同学给我打电话,说是重启了客户机房里的一台服务器A,重启之后此台服务器不能与B服务器通信了,要命的是A台服务器上有关键数据需要与B服务器进行通信交互.客户大发雷霆,同学的老板也发火一再催促要尽 ...