mydumper是一个针对MySQL和Drizzle的高性能多线程的备份和恢复工具。此工具的开发人员分别来自MySQL、Fackbook、SkySQL公司,目前已经有一些大型产品业务测试并使用了该工具。我们在恢复数据库时也可以使用myloader工具。

Mydumper的主要特性包括:

一、采用了轻量级C语言写的代码。

二、相比于mysqldump,其速度快了近10倍(有待测试)

三、具有事务性和非事务性表一致的快照(应用于0.2.2+)

四、可以快速进行文件压缩(File compression on-the-fly)

五、支持导出binlog

六、可以多线程恢复(适用于0.2.1+)

七、可以用守护进程的工作方式,定时扫描和输出连续的二进制日志

测试环境:6核、6G内存,备份数据里为1.5G左右。

安装mydumper,到官网下载mydumper包:https://launchpad.net/mydumper/

[root@localhost ~]# yum install glib2-devel mysql-devel zlib-devel pcre-devel cmake -y
[root@localhost ~]# tar zxvf mydumper-0.6..tar.gz
[root@localhost ~]# cd mydumper-0.6.
[root@localhost mydumper-0.6.]# cmake .
[root@localhost mydumper-0.6.]# make && make install

mydumper中主要参数说明:(mydumper --help)

--host, -h:                 连接的MySQL服务器。
--user, -u: 用户备份的链接用户。
--password, -p: 用户的密码。
--port, -P: 连接端口。
--socket, -S: 连接socket文件。
--database, -B: 需要备份的数据库。
--table-list, -T: 需要备份的表,用逗号(,)分隔。
--outputdir, -o:       输入的目录。
--built-empty-files, -e: 默认无数据则有表结构文件。
--regex, -x: 支持正则表达式,如mydumper -regex '^(?!(mysql|test))'。
--ignore-engines, -i: 忽略的存储引擎。
--no-schemas, -m: 不导出表结构。
--long-query-guard: 长查询,默认60s。
--kill-long-queries, -k: 可以设置kill长查询。
--verbose, -v:=silent, =errors, =warnings, =info 默认是2。
--binlogs, -b: 导出binlog。
--daemon, -D: 启用守护进程模式。
--snapshot-interval, -I: dump快照间隔时间,默认60s。
--logfile, -L: mysqldumper的日志输出,一般在Daemon模式下使用。

myloader的大多数参数和mydumper一样,如下:

-d, --directory                   备份文件的文件夹
-q, --queries-per-transaction 每次事物执行的查询数量,默认是1000
-o, --overwrite-tables 如果要恢复的表存在,则先drop掉该表,使用该参数,需要备份时候要备份表结构
-B, --database 需要还原的数据库
-e, --enable-binlog 启用还原数据的二进制日志
-h, --host 主机
-u, --user 还原的用户
-p, --pass<a href="http://www.it165.net/edu/ebg/" target="_blank" class="keylink">word</a> 密码
-P, --port 端口
-S, --socket socket文件
-t, --threads 还原所使用的线程数,默认是4
-C, --compress-protocol 压缩协议
-V, --version 显示版本
-v, --verbose 输出模式, = silent, = errors, = warnings, = info, 默认为2

下面分别使用mydumper和mysqldump备份,看备份时间,如下:

[root@localhost tpcc-mysql]# time mydumper -u root -p  -S /data/mysql-5.5./mysql.sock -B tpcctest -o /root/tpcctest

real    0m16.463s
user 0m16.436s
sys 0m2.205s
[root@localhost tpcc-mysql]# time /usr/local/mysql-5.5./bin/mysqldump -uroot -p123456 -S /data/mysql-5.5./mysql.sock tpcctest > /root/tpcctest2.sql real 0m37.875s
user 0m28.847s
sys 0m3.701s
[root@localhost tpcc-mysql]#

mydumper备份出来的是一个文件夹,mysqldump备份出来的是一个.sql文件,大小如下:

[root@localhost tpcctest]# cd ..
[root@localhost ~]# du -sh tpcctest
.5G tpcctest
[root@localhost ~]# du -sh tpcctest2.sql
.5G tpcctest2.sql

mydumper是多线程的,默认4个线程,可以用-t选项可以指定线程数,下面分别对不同线程进行了测试的结果:

[root@localhost tpcc-mysql]# time mydumper -u root -p  -S /data/mysql-5.5./mysql.sock -B tpcctest -o -t  /root/tpcctest                       

real    0m16.014s
user 0m16.671s
sys 0m2.083s
[root@localhost tpcc-mysql]# time mydumper -u root -p -S /data/mysql-5.5./mysql.sock -B tpcctest -o -t /root/tpcctest real 0m17.494s
user 0m16.283s
sys 0m2.771s
[root@localhost tpcc-mysql]# time mydumper -u root -p -S /data/mysql-5.5./mysql.sock -B tpcctest -o -t /root/tpcctest real 0m14.774s
user 0m16.662s
sys 0m2.814s
[root@localhost tpcc-mysql]# time mydumper -u root -p -S /data/mysql-5.5./mysql.sock -B tpcctest -o -t /root/tpcctest real 0m16.382s
user 0m16.603s
sys 0m2.692s

可以看到,并不是线程数多,备份的速度就会快。

还原速度对比:

下面分别是myloader和mysql直接还原的速度对比:

[root@localhost ~]# time myloader -u root -p  -h localhost -S /data/mysql-5.5./mysql.sock -B tpcctest -d /root/tpcctest   

real    4m55.778s
user 0m3.733s
sys 0m1.075s
[root@localhost ~]# time mysql -uroot -p123456 -S /data/mysql-5.5./mysql.sock tpcctest < /root/tpcctest2.sql     

real    7m35.524s
user 0m34.156s
sys 0m2.032s

用mydumper备份单个表的例子:

[root@localhost ~]# mydumper -u root -p  -h localhost -S /data/mysql-5.5./mysql.sock -B tpcctest -T customer -o /root/customer
[root@localhost ~]# cd customer/
[root@localhost customer]# ls
metadata tpcctest.customer-schema.sql tpcctest.customer.sql

mydumper还有很多功能,有兴趣的朋友,可以自己研究下^.^

有一个朋友说他线上用mydumper备份176G的数据,大概用了21分钟,但他是用最大系统资源来备份的(服务器配置:raid 10 raid卡没有缓存 Intel(R) Xeon(R) CPU E5-2670 0 @ 2.60GHz 32核  32G内存)

总结:

一、mydumper的备份速度比mysqldump快上不少,因为mydumper支持多线程备份和恢复

二、虽然可以支持多线程备份,但并不是线程越多,速度就越快

三、mydumper的功能也比较强大,参数比较多,可以根据需求,灵活配置

四、mydumper备份和恢复的快慢,和服务器硬件配置有很大的关系,本实验测试只是举例子。

参考书籍:《MySQL管理之道:性能调优、高可用与监控》

作者:陆炫志

出处:xuanzhi的博客 http://www.cnblogs.com/xuanzhi201111

您的支持是对博主最大的鼓励,感谢您的认真阅读。本文版权归作者所有,欢迎转载,但请保留该声明。

MySQL多线程备份工具mydumper的更多相关文章

  1. MySQL多线程备份工具:mydumper

    MySQL多线程备份工具:mydumper http://www.orczhou.com/index.php/2011/12/how-to-split-mysqldump-file/ Mydumper ...

  2. MySQL多线程备份工具mydumper 之 RDS外部实例迁移平台

    此文已由作者温正湖授权网易云社区发布. 欢迎访问网易云社区,了解更多网易技术产品运营经验. 1.Format_description_event问题: BINLOG ' kTXkUxMKAAAALQA ...

  3. MySQL数据库之多线程备份工具mydumper

    Mydumper介绍: 1)Mydumper是一个针对MySQL和Drizzle的高性能多线程备份和恢复工具 2)特性: 轻量级C语言编写 执行速度比mysqldump快10倍 快速的文件压缩 支持导 ...

  4. MySQL 逻辑备份工具

    简介: Mydumper.Myloader 是一个第三方的.开源的 MySQL 逻辑备份工具. 支持多线程,比起 mysqldump 要快很多,也能解决 innobackupex 备份工具对 MyIS ...

  5. Mysql自动备份工具1.0(2013年11月15日更新)

    Mysql自动备份工具1.0 下载地址 2013-11-15 1.解决日历控件在Windows7/8/8.1环境下遮挡按钮问题:2.解决按月备份当月没有该日期问题: 2013-11-13 1.Mysq ...

  6. mysql多线程备份与还原工具mydumper

    (一)mydumper介绍 之前我们已经学过如何使用mysqldump备份恢复数据库:<mysql逻辑备份与还原工具mysqldump>,就目前来说,mysqldump是使用最广泛的MyS ...

  7. MySQL逻辑备份利器-mydumper

    关于mydumper的简介和下载请访问:https://launchpad.net/mydumper 简言之,mydumper是多线程逻辑备份,对于表和数据量很大的情况下,建议使用mydumper提高 ...

  8. mysql innobackupex备份工具

    先简单介绍一下这个工具:innobackupexinnobackupex比xtarbackup有更强的功能,它整合了xtrabackup和其他的一些功能,他不但可以全量备份/恢复,还可以基于时间的增量 ...

  9. Mysql多线程性能测试工具sysbench 安装、使用和测试

    From:http://www.cnblogs.com/zhoujinyi/archive/2013/04/19/3029134.html 摘要:      sysbench是一个开源的.模块化的.跨 ...

随机推荐

  1. day1——js方法关键字的问题(onclick点了没反应)

    <a href="javascript:void(0);"   onclick="search();" >提交</a> js代码: fu ...

  2. 学习 TTreeView [3] - Add、AddChild、AddFirst、AddChildFirst、Parent

    本例效果图: unit Unit1; interface uses   Windows, Messages, SysUtils, Variants, Classes, Graphics, Contro ...

  3. Python day7之mysql

    写在前面: 由于毕业论文撰写和答辩耽搁了几个月,但是在这几个月没有放弃学习Python,就是没有时间写博客.进行我们主要对数据库mysql的操作指令集的学习. 一.mysql术语 Mysql是最流行的 ...

  4. BZOJ2458 Beijing2011最小三角形(分治)

    类似于平面最近点对,考虑分治,即分别计算分割线两侧的最小三角形再考虑跨过线的三角形. 复杂度证明也是类似的,对于某一个点,在另一侧可能与其构成最小三角形的点在一个d*d/2的矩形内(两边之和大于第三边 ...

  5. Winform Treeview 排序及图标处理

      一.排序 1. 继承 IComparer 2.  treeView1.TreeViewNodeSorter = this; 3. 实现IComparer public int Compare(ob ...

  6. A guess 解题报告

    A guess 题意 选一个\([1,n](n\le 500)\)的整数,可以询问数是否属于区间\([l,r]\),多次询问一起回答,统计有多少种询问区间集合(无序)满足可以猜出这个数,对\(p(2^ ...

  7. 洛谷 P2047 [NOI2007]社交网络 解题报告

    P2047 [NOI2007]社交网络 题目描述 在社交网络(\(social\) \(network\))的研究中,我们常常使用图论概念去解释一些社会现象.不妨看这样的一个问题.在一个社交圈子里有\ ...

  8. hdu5449 Robot Dog (树形dp+倍增lca)

    (警告:本篇博客包含大量人类本质内容) 先处理出来lca,然后就只需要知道从每个点到他的父亲.和从他的父亲到这个点的期望时间就可以了 我们设f[x]为x到他父亲的期望时间:g[x]为从x的父亲到x的期 ...

  9. LANMP环境编译参数查看方法

    nginx编译参数查看:/usr/local/nginx/sbin/nginx -V apache编译参数查看:cat /usr/local/apache2/build/config.nice mys ...

  10. 【bzoj3132】 Sdoi2013—森林

    http://www.lydsy.com/JudgeOnline/problem.php?id=3123 (题目链接) 题意 给出$n$个点的森林,每个点有一个非负点权,$m$个操作.连接两个点,查询 ...