[转载]腾讯专家:论高级DBA的自我修养
作者介绍:
张秀云:2007年开始从事运维方面的工作,经历过网络管理员、linux运维工程师、DBA、分布式存储运维等多个IT职位。对linux运维、mysql数据库、分布式存储有丰富的经验。2012年加盟腾讯,目前在腾讯负责腾讯云数据库平台和分布式存储运维平台的运维规划工作。 微信:feihongwuhen
前言
专职做DBA已经6年多的事件了,看同行、同事犯了太多的错误,自己也犯了非常多的错误。一路走来,感触非常深。然而绝大多数的错误其实都是很低级的错误。
有的是因为不了解某个引擎的特性导致;有的是因为对线上环境不了解导致;有的是因为经验不足导致;一路上,跌跌撞撞,从小公司DBA,到腾讯高级DBA,再到现在的金融数据库DBA。
不由得想起5年前的我,刚进入DBA行业,缺乏经验,经常犯错误,不是我不够努力,更多的是初来咋到的我根本不知道应该在哪方面下功夫。
本文就是基于这方面的考虑,根据自己在DBA这个职业上走过的弯路,总结一些方法给DBA的同行。希望本文能给同行DBA或者运维的朋友们带来一些改变,让大家知道作为一个DBA需要在哪些方面下功夫。
下面主要从环境、数据安全、常规操作、预案、架构、心态等层面,同时也会介绍一些实用的经验。
<1> 环境篇
毫无疑问,DBA是需要综合技能最多的一个职业,需要你有网络、操作系统、文件系统、数据库、安全、编程等知识。
作为DBA,为了少犯错误,你首先得非常熟悉你负责的数据库环境,大到网络环境、系统环境、数据库环境(这里主要以mysql为例)。
如果不熟悉环境,很容易因为自身操作考虑不周而导致线上的故障。想想就知道,有多少DBA因为alter操作导致的线上故障?有多少DBA忽略了字符集的问题导致了线上的乱码?又有多少DBA由于迁移的时候没有备份触发器或者event导致的故障?太多的教训足以让我们所有的DBA认识到熟悉环境的重要性。
另外DBA对线上环境如果足够了解,在处理故障、讨论处理方案等,都能极大地增强我们的自信,更好地提升自己的影响力。我们可以说不熟悉环境的DBA不是好DBA。下面来介绍环境部分我们DBA应该注意的问题:
1、软件环境
1.1 操作系统环境
针对操作系统部分,你可能需要了解的是使用的操作系统类型,linux or windows,该系统做了哪些内核的优化,尤其是针对数据库,比如文件描述符、配置ntp、raid的写cache模式等,另外你还要对系统的运行状态有大致的了解,CPU使用、内存使用、IO使用以及网络带宽和包量的情况。
1.2 数据库环境
数据库环境包含的内容就非常多了,这里只介绍如果不了解比较容易造成误操作的部分:
1.3 部署方式
对于数据库的部署,我们需要了解数据库是如何部署的,部署在了什么目录,可执行文件、数据文件、log文件、配置文件等的存放路径,数据库如何启动和停止等
1.4 使用引擎
了解目前数据库默认使用的引擎,以及现有的表使用的引擎,提前清楚地了解各个引擎的特点和使用,避免在出现数据迁移、表损坏以及启动问题手忙脚乱导致误操作。(我们的技术就像武器库,都是靠平时闲淡中的积累和打造,在出问题的时候直接从武器库拿来使用,因此要经常丰富我们的“武器库”)
备注:虽然现在基本使用的都是innodb引擎,但是,你也同样可以发现有的还用了Myisam,甚至还有的用到了memory、merge、spider、tokuDB等。
1.5 同步方式
目前mysql基本都会配置同步(如果没有一定要加上,除非是数据丢了或者长时间故障也没关系的库),既然涉及到同步就会有多种不同的方式。比如常见的分类:
基于binlog和pos的同步
基于GTID的同步
异步
半同步
单线程同步
多线程同步
针对这些同步,都有一些不同的特点,比如出现问题了,需要跳过某个位置,gtid的同步和基于pos的同步操作就不一样,同步方式也是你必须掌握的技巧。
1.6 版本
在维护数据库的时候,还需要了解当前数据库使用的大版本。因为数据库的大版本的功能会有很大的差异,有很多特性是只存在某个大版本的,因此了解使用的版本能让你大致知道当前数据库支持哪些特性。在涉及到迁移、同步、数据库升级等操作的时候,能从容应对。
1.7 存储过程(procedure)、事件(event)
了解当前数据库是否存在存储过程和事件,在数据备份、数据迁移的时候,需要将对应的存储过程和事件的参数添加进去,另外如果存在事件,在迁移的时候会有特殊的操作,在迁移的目标机器要现将事件关闭,切换后再打开。防止事件导致数据不一致。
1.8 关键配置
mysql有几项非常关键的配置,需要了解清楚,避免由于配置没搞清楚导致误操作,总结关键配置如下:
innodb_buffer_pool_size
#对innodb生效,对性能影响非常大,一般可以设置内存的50~80%
key_buffer_size
#对Myisam生效,建议修改成innodb
innodb_flush_log_at_trx_commit
#innodb的redo日志刷新方式,对innodb的影响会很大,一般设置为2log
-bin
#是否开始binlog,如果没有开启,一定要开启
sync_binlog
#刷binlog的方式,一般设置为0,如果对数据需要强一致的,可以将sync_binlog设置为大于1的数,兼顾安全和性能
innodb_file_per_table
#采用独立表空间,建议都设置成独立表空间,不然后面磁盘空间满了,删除表空间也无法释放,必须做数据迁移
lower_case_table_names
#表明区分大小写
character_set_server
#字符集在迁移、数据库变更、数据导入等都是必须要注意的,不然数据乱码了就会很麻烦
max_connections
#最大连接数不能设置太大,要计算一下session内存*max_connections + 固定内存 < 总内存-2G(这2G用来做系统内存,留给系统的内存可以再设大一点)
transaction_isolation
#设置隔离级别,默认是Repeatable Read,如果是binlog是row模式,也经常设置为Read Committed级别
所有上面说的参数,都需要深入了解和熟悉,当我们在做数据迁移的时候或者搭建mysql的时候,一定要比对一下和源实例的配置(比对工具可以参考pt-config-diff工具),以免迁移完成后由于参数不一致,中途要重启实例的情况。在这个问题上,我见过太多的教训,希望大家能吸取教训,减少故障和问题的发生。
1.9 数据库环境收集工具介绍
前面我们介绍了数据库的相关的环境,对于那么多的环境变量,我们如何更好的去收集,这里给大家介绍一个工具
pt-mysql-summary
这个工具的具体用法可以google了解,也可以访问如下链接了解,不在本文的论述范围:
https://www.percona.com/doc/percona-toolkit/2.1/pt-mysql-summary.html
2、硬件
硬件相关的信息也是我们需要关注的,针对每种硬件我们都会有大致的QPS、TPS等指标,这个对于新上业务的评估以及评估现在数据库的瓶颈很有帮助,对于硬件你需要了结CPU核数、内存的大小、硬盘的介质(SAS? PCIE SSD ?NVME SSD?),最好对线上的常见机型都有详细的压测数据。
了解每一种机型在mysql中的表现,也是体现DBA专业度的一个指标。
经常有DBA由于不了解各个机型大致能支撑的性能 ,在方案选型和设备选型讨论中,无法肯定地确认具体需要什么设备,当前的设备配置是否能抗住对应的访问量,导致领导和开发对该DBA的专业度大打折扣。
如果大家在日常工作中有空闲的机器,不妨使用sysbench、mysqlslap、fio等工具捣鼓一下。
3、运行状态
作为DBA,我们还需要了解现在的实例的运行状态,如下几个指标都是我们需要了解的:
数据库数据量和表的数据量
数据量到多少G,尤其是单表的数据量
实例负载情况(CPU负载、IO负载、系统负载)
慢查询情况
SQL延迟情况
锁情况
脏页情况
访问模型
访问模型就是这数据库承担的是读多写少还是读少写多,以及是否是高并发等等
针对上述问题,可以采用pt-mysql-summary工具获取,再加以分析,也可以通过如下两个工具来实时查看innotop
orzdba
<2> 数据安全篇
针对数据安全,主要包含如下几个部分
1、权限安全
在权限方面,我们经常会看到有很多的数据库根本就没有密码,或者给业务的用户使用完全的权限(all privileges),或者是给某个帐号可以从任何地方登录的权限,这些都是非常致命的。建议在授予权限的时候注意如下几点:
数据库一定设置符合密码复杂度的用户密码
禁止给用户设置%的登录机器
只给业务最小权限的帐号,并限制登录的机器
2、数据一致性
目前一般都是主从架构,主从的数据是否一致?90%以上的主从架构都缺乏数据一致性校验,之前遇到主从切换后数据不一致的情况,导致线上故障。
为了保证数据的一致性,记得周期性地使用pt-table-checksum来检查主从数据是否一致,如果不一致,可以使用pt-table-sync进行修复。
3、数据安全
做为DBA,经常要思考,如果数据被误删,在现有的环境下是否会导致数据丢失。如果会,那就是你DBA工作没有做到位。主要考虑的指标为:
备份策略(数据库备份、binlog备份)
这里主要考虑3件事情:
3.1 数据备份策略是否合理
备份策略至少包含全量备份,和binlog增量备份,由于有从机,基本binlog都会比较安全
3.2 备份数据是否安全
备份数据是否安全,比如备份机器挂掉,是否所有的备份数据都会丢失,可以采用分布式文件系统或者在服务器中交错存放来规避。
3.3 备份数据是否可用
常常问自己,我们的备份数据都是有效的吗?周期性做备份数据还原的演练是必要的,确保备份数据的有效性。
<3> 常规操作篇
在操作数据库的时候,首先我们需要熟练常规的操作,常规的操作又分为两部分,一个是线上数据库的常规操作,一个是针对常见故障的预案的常规操作。熟练了操作和预案,才能在线上出问题的时候不至于手忙脚乱。
1、常规操作
常规的操作一般包含如下几项
启动停止
数据库常规变更
索引优化
配置修改
数据库的备份
数据的迁移
切换
以上这些操作,包含的内容太多,DBA们可以自行google。总之要达到非常熟练的地步。如果命令记不住,建议将常规的操作通过关键字标记,并记录到类似印象笔记的文档中,要急用的时候可以快速搜索到。也可以写成工具脚本,随时调用。
2、常见故障的预案
作为DBA,经常要面对各种突发的故障。大家要先搞清楚,不是遇到了故障我们才去找解决办法,而是在没有遇到故障之前就应该想到某一部分可能会出现问题,如果出现问题,我们应该当如何来应对。
比如master出现故障,我们当如何处理?当你想到某个地方可能出现问题,那么就先将解决方案写出来。然后再找环境测试解决方案的可行性。验证了方案可行性之后,最好在线上安排对应的案例演习,确保解决方案可靠的。最终达到的效果是任何团队的任何一个成员对照文档都能处理类似的故障。
3、极端情况下的预案
除了常见故障的预案,我们还应当思考极端情况下可能出现的故障(虽然可能永远都用不上),比如数据库主从都挂掉的情况。最好能拉上业务和开发的同学一起讨论,得出可行性的解决办法,然后找环境验证。当问题真的出现后,你会比没有预案的时候镇定很多,不至于一脸懵B。
4、定期演习
预案做好以后最好能定期安排演习,开始搞互联网金融后有更深的体会,这边基本每个月都会有常规的演习。定期演习非常必要,通过演习,将演习过程中发现的问题都梳理出来,进行各个击破,确保各个预案都能正常工作。
<4> 架构篇
1、你是一个合格DBA吗?
作为运维DBA,肯定会接触到数据库的架构和业务架构,之前我们总监要求新入职的员工必须对你所要负责的数据库架构进行串讲,将不清楚的,不能直接上岗做线上操作。
这个无疑是非常正确的,尤其是在腾讯这种公司,很多后端的逻辑都通过OSS进行封装,导致你能看到的只是web页面上的各个功能简单的按钮。只要轻轻一点,就能将很复杂的功能完成。这个对于后端逻辑没有好奇心的人是非常致命的。
出了问题就找开发,导致自己的能力没有任何的提升,甚至还会在这种点鼠标的工作中日益退化。因此在架构篇部分其实想和大家聊的是在我们点鼠标的同时,还是要深入地去了解点鼠标背后发生的事情,知道异常如何分析和排查。
甚至要再大胆一点,你也可以尝试着通过python或者go等语言去实现那些背后的逻辑,不要把自己局限在只是一个OP。因此我们在做运维的时候,不妨好好的问自己几个问题:
我点了鼠标之后,后端都干了什么事情? 需要和哪些服务交互 ?
如果点完鼠标以后,报错了,需要如何进行排查?需要到哪里看日志?需要如何处理?
问完这两个问题,更次一点的是找研发详细了解里面的运行逻辑,以及部署详情,日志存放,出现问题如何排查等。更好的办法,是找研发要代码,然后自己去看对应按钮后面代码的逻辑。
有的同学会说,我编码能力差,看不懂。这个不用担心,相信我,要基本看懂研发写的代码其实并没有那么难。践行一下你就会知道。等你看完研发的代码,估计很快就可以自己写一个类似的功能出来。
2、你真的了解线上的架构吗?
现在数据库高可用架构比较多,不管是单纯地使用主从架构、MHA、MMM、ndbcluster或是集成了LVS、keepalived等组件,我们都不应该仅仅停留在正常情况下会搭建、操作和使用对应的架构。
更多的是,我们需要更深入的去了解里面运作的机理。就以MHA为例,它是如何检测某一个实例异常的?各个组件之间如何配合?当做切换的时候,MHA是如何保证数据的一致性?如果后端有多台slave,它是如何选择哪一台从机做切换,并且,其他从机如何处理?
只有深入了解了逻辑之后,在遇到故障和问题,你就能更快速的进行定位,减少对业务的影响。此外你还能有针对性的做自动化,让自己工作更轻松。这么好的事情,为什么不践行一下?
3、了解业务
还有一个问题,就是作为DBA要尽可能的去了解业务,了解业务的读写模型,了解业务相关架构,了解业务如何使用数据库。这样做的好处是你能针对业务的场景给出更好的优化建议,出了问题也能快速判断对业务的影响情况。
<5> 线上操作篇(经验)
DBA面对线上复杂的环境,尤其是面对高并发的环境,很容易导致线上故障,下面是整理的一些容易导致线上故障的操作以及规避误操作的技巧,希望能对各位DBA有所帮助:
修改或删除数据前先备份,先备份,先备份(重要事情说三遍)
线上变更一定要有回退方案
批量操作中间添加sleep
DDL操作要谨慎,对于大表的alter操作最好使用pt-online-schema-change
变更操作先在测试环境测试
重启数据库前先刷脏页
禁止批量删除大量的binlog
对于变更操作一定要写详细的操作步骤,并review
按enter之前再进行一次环境确认
如果你的操作可能会使状况变得更糟,请停止操作
快速处理磁盘满,使用tune2fs释放文件系统保留块
连接数满先修改内存变量,而不是重启,修改方式如下:
gdb -p pid -ex "set max_connections=1000" -batch #pid是mysqld的对应的pid
<6> 心态篇
1、心细胆大
从某种意义上讲,DBA是一个高危的行业,不是开玩笑,看看下面的截图就知道:
风险本身是个伪命题,对于某些人来说是风险,但是对于某些人来说其实没有风险。就像医生做手术一样,我们常人看来就是个非常危险的事情,但是对于医生来讲,其实并没有什么风险(大部分的手术)。
因此风险在于你是否已经了解深入,并且做足了功课。这就要求我们在做线上操作之前要心细,有详细的操作步骤,有想尽的回滚方案,做完备的测试。这些做完了以后,你的胆子才能”大“起来,胆大是因为你心中有底,心中有自信。这些自信都是前面你做功课带给你的。
2、勇于担当
出现问题本身并不可怕,可怕的是选择逃避。我们要做的就是正视问题,吸取教训,勇于担当。做好case study,防止团队在同一个地方跌倒两次。
3、工匠精神
今天看到同事发的一个朋友圈很有感触,在没有人注意的地方也不懈怠、不偷懒的精神,才是真正的工匠精神。做为DBA也同样非常需要这种精神,对于遗留问题的跟进不能偷懒;对于备份异常的巡检不能偷懒;对于技术的积累不能偷懒;工匠精神是我们DBA在做日常管理工作不可缺少的精神。
有句话说的是:”我们之所以经常犯错,就是因为我们做的功课不够“。如果你有很多功课拉下了,请安排事件逐步补上,要坚信一切都是闲淡中求来,热闹中使用。有的事情知道了本身并没有什么了不起,了不起的是那些坚持践行的人。践行起来,你会发现你的人生从此不同。
文章转载自 chinaunix
http://blog.chinaunix.net/uid-20639775-id-5765237.html
[转载]腾讯专家:论高级DBA的自我修养的更多相关文章
- 展讯NAND Flash高级教程【转】
转自:http://wenku.baidu.com/view/d236e6727fd5360cba1adb9e.html 展讯NAND Flash高级教程
- MySQL DBA的个人修养
做为一个MySQL DBA,必须具有以下的素质: 一, 身体素质 DBA必须接收和处理各种报警,不论是中午在吃饭或者凌晨三点已经进入深度睡眠.接到报警需要立即进入应急状态,找到电脑,联上网络,快速定位 ...
- 【转】2012年7月12 – 腾讯公司 WEB高级应用开发工程师 最新面试题
腾讯面试(WEB高级应用开发工程师<PHP>)非答案啊!!! 开始正题之前,容博主啰嗦两句吧,呵呵.(你也可跳过直接到红色字体看题!) 腾讯一直是我很敬重的企业,尽管小企鹅在战略上饱受争议 ...
- 腾讯面试Android高级岗,居然被一个多线程基础面倒了?
前言 一个在深圳从事开发五年的老友一个月前从原公司辞职后,昨天去腾讯总部面试Android高级岗,一面的时候,自我介绍后,陆陆续续问了很多问题,有着五年的从业经验很多项目开发的技术问题都回答的很通顺, ...
- https大势已来?看腾讯专家如何在高并发压测中支持https
WeTest 导读 用epoll编写一个高并发网络程序是很常见的任务,但在epoll中加入ssl层的支持则是一个不常见的场景.腾讯WeTest服务器压力测产品,在用户反馈中收到了不少支持https协议 ...
- [转载]斐讯K2 A2版免TTL刷BREED不死Bootloader
1:路由器能正常上网,登陆进路由器 (默认密码admin) 2:用浏览器打开这个网址,如果默认ip不是192.168.2.1修改一下.打开后等待即可自动刷入breed. http://192.168. ...
- 2012年7月12 – 腾讯公司 WEB高级应用开发工程师 最新面试题 [转]
笔试(45 minute):(本来是四张纸,被我弄丢了一张!无伤大雅,难度级别不会有出入) 注意:由于时间紧迫和水平有限,难免有不足或错误,请指证,虚心学习! [PHP] 写出PHP中至少5个全局变量 ...
- 《Web全栈工程师的自我修养》读书笔记(转载)
[声明] 欢迎转载,但请保留文章原始出处→_→ 生命壹号:http://www.cnblogs.com/smyhvae/ 文章来源:http://www.cnblogs.com/smyhvae/p/5 ...
- 腾讯DBA官方博客开通了,欢迎交流
腾讯DBA官方博客开通了,欢迎交流哈..麻烦给放到首页一下 http://tencentdba.com 腾讯互娱游戏DBA团队一直致力于为游戏提供稳定.高效的DB运营服务,这是我们团队的使 ...
随机推荐
- 摹客 iDoc 12月上半月新功能点评
转眼就到了2018年的最后一个月,小伙伴们是不是都在奋力拼搏做年底的冲刺呢?摹客也没有放慢脚步,不断地优化,给大家带来一个又一个的惊喜.那么,让小摹来带大家看看12月摹客iDoc更新了哪些特色功能: ...
- UI设计初学者必看,这款设计神器教你快速入门
网络时代,网页和手机App已经深入到人们生活的方方面面.这也使得App界面设计越来越受青年求职者们的青睐,并纷纷投入这个行业.但是,作为UI设计初学者,究竟如何才能快速的入门?当今市场上,是否有那么一 ...
- 对象回收过程?线程池执行过程? map原理?集合类关系?synchronized 和 volatile ? 同一个类的方法事务传播控制还有作用吗?java 锁
1. 对象回收过程? 可达性分析算法: 如果一个对象从 GC Roots 不可达时,则证明此对象不可用. 通过一系列称为GC ROOTS的对象作为起点,从这些起点往下搜索,搜索走过的路径 称为引用链 ...
- Spring整合jedis 集群模式
引入jedis依赖 <dependency> <groupId>redis.clients</groupId> <artifactId>jedis< ...
- 解决IDEA、Pycharm连接数据库乱码的问题
一.IDEA. 使用IDEA连接数据库: import java.sql.Connection;import java.sql.DriverManager;import java.sql.Result ...
- Hibernate 的Configuration、sessionFactory和session和transaction对象解释
1.Configuration对象: Configuration conf=new Configuration(); conf.configure(); 1.1 到 src下面找到名称hibernat ...
- flask框架基础
一 web的一些框架介绍 Flask:短小精悍,内部没有包含多少组件,但是第三方的组件是非常丰富的. Django:django是一个重武器,内部包含了非常多的组件:orm,form,modelFor ...
- 爬虫之mongodb数据库
一 mongodb的介绍 1.易用性:mongodb是一款强大.灵活并且易扩展的数据库.他面向于文档的数据库,而不是关系性数据库.不采用关系型主要是为了获得更好的扩展性.还有一个好处就是面向文档的数据 ...
- [转]MySQL索引原理及慢查询优化
MySQL凭借着出色的性能.低廉的成本.丰富的资源,已经成为绝大多数互联网公司的首选关系型数据库.虽然性能出色,但所谓“好马配好鞍”,如何能够更好的使用它,已经成为开发工程师的必修课,我们经常会从职位 ...
- poj-1328(贪心+思维)
题目链接:传送门 思路:找最少有几个点,先求出每个点的覆盖范围,就是一个点最大可以到达的地方是y相同的地方而且直线距离是d, 所以x范围在[x-sqrt(d*d-y*y),x+sqrt(d*d-y*y ...