binlogserver搭建
在MySQL 5.7.x版本中,mysqlbinlog工具解析任何一个本地的binlog或relay log时,都不会在mysqlbinlog命令执行结束时追加rollback语句,
其实官方mysqlbinlog自带这个功能。
MySQL Binlog Server:是利用某个工具,把线上活跃的库的日志拉取到本地进行备份。在MySQL 5.6以后,可以利用mysqlbinlog这个命令去把远程机器的日志备份到本地目录,从而达到增量或是日志安全方面的备份。
-R | --read-from-remote-server 表示开启binlog备份,在对应的主节点上请求binlog到本地。
--raw 被复制过来的binlog以二进制的格式存放,如果不加该参数则为text格式。
-r | --result-file 指定目录或文件名:若指定了--raw参数,-r的值指定binlog的存放目录和文件名前缀;若没有指定--raw参数,-r的值指定文本存放的目录和文件名。
-t 这个选项代表从指定的binlog开始拉取,直到当前主节点上binlog的最后一个。
--stop-never 持续连续从主节点拉取binlog,持续备份到当前最后一个,并继续下去。该参数包含-t
--stop-never-slave-server-id 默认值65535,用于在多个mysqlbinlog进程或者从服务器的情况下,避免ID冲突。
可通过ps查看到已经开启的备份进程。
用法示例:完整并保持原样的将远程server的binlog拉到本地,并存放在/data/backup_binlog目录中。
注意,-r指定的目录必须写完整,否则会被放在/data目录下,并以"backup_binlog"为前缀命名binlog
如:-r /data/backup_binlog 则会显示为 /data/backup_binlog/mysql-bin.000008
mysqlbinlog -h$ip -P$port -u$user -p$password -R --raw --stop-never mysql-bin.000008 -r /data/backup_binlog/ &
#!/bin/bash
MBL=/usr/local/mysql/bin/mysqlbinlog
MYB=/usr/local/mysql/bin/mysql
MYSQLHOST=192.168.1.101
MYSQLPORT=3306
MYSQLUSER=dba_user
MYSQLPASS=msds007
BACKUPDIR=/data/backup_binlog/$MYSQLHOST/
RESPAWN=10
FIRSTBINLOG=`$MYB -u$MYSQLUSER -p$MYSQLPASS -h$MYSQLHOST -P$MYSQLPORT -e "show master status;" | grep bin | awk '{print $1}'`
mkdir -p $BACKUPDIR
while :
do
if [ `ls -A "$BACKUPDIR" | wc -l` -eq 0 ];then
LASTFILE=$FIRSTBINLOG
else
LASTFILE=`ls -al "$BACKUPDIR" | tail -n 1 | awk '{print $9}'`
fi
echo 'Starting live binlog backup'
$MBL -h$MYSQLHOST -P$MYSQLPORT -u$MYSQLUSER -p$MYSQLPASS -R --raw --stop-never $LASTFILE -r $BACKUPDIR
echo 'mysqlbinlog exited with $? trying to reconnect in $RESPAWN seconds'
sleep $RESPAWN
done
用Python开发MySQL增强半同步BinlogServer
项目地址为:
https://github.com/alvinzane/py-mysql-binlogserver
主要特性如下:
全Python标准模块开发,无第三方库依赖,减少学习成本
独立Dumper进程,用于同步保存Binlog event
支持半同步协议,数据零丢失
独立Server进程,支持Failover时Change master to来补数据
支持GTID,方便切换Master
暂不支持级联复制模式
仅在MySQL官方版5.7+下测试通过
仅支持Python3, 不兼容Python2
目录结构:
py-mysql-binlogserver
├── README.doc
├── doc
│ ├── T1基础篇-用Python开发MySQL增强半同步BinlogServer.md
│ ├── T2通信篇-用Python开发MySQL增强半同步BinlogServer.md
│ ├── T3实战篇-用Python开发MySQL增强半同步BinlogServer.md
│ ├── T4架构篇-用Python开发MySQL增强半同步BinlogServer.md
│ └── readme.md
└── py_mysql_binlogserver
├── __init__.py
├── _playground # 练习场,随便玩
│ ├── __init__.py
│ ├── socket_client.py
│ ├── socket_client_semi-repl.py
│ └── test_slave.py
├── _tutorial # 教程实例代码
│ ├── __init__.py
│ ├── learn_bin1_charset.py
│ ├── learn_bin2_binlog.py
│ ├── learn_packet1_greeting.py
│ ├── learn_packet2_auth.py
│ ├── learn_packet3_query.py
│ ├── learn_packet4_dump.py
│ ├── learn_packet4_dump2.py
│ ├── learn_packet5_dump_with_semi_ack.py
│ ├── learn_socket1_client.py
│ ├── learn_socket2_server.py
│ ├── learn_socket3_server_mulit_thread.py
│ └── learn_socket4_server_mulit_thread.py
├── binlogs # Binlog文件保存目录
│ ├── mysql-bin.000014
│ ├── mysql-bin.gtid.index
│ └── mysql-bin.index
├── cap
├── constants
│ ├── EVENT_TYPE.py
│ └── FIELD_TYPE.py
├── dump
│ └── readme.md
├── packet
│ ├── __init__.py
│ ├── binlog_event.py
│ ├── challenge.py
│ ├── dump_gtid.py
│ ├── dump_pos.py
│ ├── event_header.py
│ ├── gtid_event.py
│ ├── query.py
│ ├── response.py
│ ├── semiack.py
│ └── slave.py
├── protocol
│ ├── Flags.py
│ ├── __init__.py
│ ├── err.py
│ ├── gtid.py
│ ├── ok.py
│ ├── packet.py
│ └── proto.py
└── tests # 单元测试
│ ├── __init__.py
│ └── test_packet.py
├── proxy.py # 简单代理,用于观察和保存MySQL Packet
├── server.py # 实现Master协议
├── dumper.py # Binlog Dumper,相当于IO Thread
├── example.conf # 配置文件
└─── example.py # 同时启动 Server&Dumper
binlogserver搭建的更多相关文章
- MySQL binlog-server搭建
MySQL binlog-server搭建 binlog在备份中起着至关重要的作用,备份binlog文件时,只能先在本地备份,然后才能传送到远程服务器上.从MySQL5.6版本后,可以利用mysqlb ...
- 利用binlogserver恢复单表实验【转】
使用场景 每次开启binlogserver 指定了mysql-bin.0000XX 后都会从该点从头进行传输一次 创建binlogserver [root@mysql-zst3 binlogserve ...
- Online Judge(OJ)搭建(第一版)
搭建 OJ 需要的知识(重要性排序): Java SE(Basic Knowledge, String, FileWriter, JavaCompiler, URLClassLoader, Secur ...
- Angular2入门系列教程1-使用Angular-cli搭建Angular2开发环境
一直在学Angular2,百忙之中抽点时间来写个简单的教程. 2016年是前端飞速发展的一年,前端越来越形成了(web component)组件化的编程模式:以前Jquery通吃一切的田园时代一去不复 ...
- 总结:Mac前端开发环境的搭建(配置)
新年新气象,在2016年的第一天,我入手了人生中第一台自己的电脑(大一时好友赠送的电脑在一次无意中烧坏了主板,此后便不断借用别人的或者网站的).macbook air,身上已无分文...接下来半年的房 ...
- Angular企业级开发(5)-项目框架搭建
1.AngularJS Seed项目目录结构 AngularJS官方网站提供了一个angular-phonecat项目,另外一个就是Angular-Seed项目.所以大多数团队会基于Angular-S ...
- 【分享】标准springMVC+mybatis项目maven搭建最精简教程
文章由来:公司有个实习同学需要做毕业设计,不会搭建环境,我就代劳了,顺便分享给刚入门的小伙伴,我是自学的JAVA,所以我懂的.... (大图直接观看显示很模糊,请在图片上点击右键然后在新窗口打开看) ...
- 一起学微软Power BI系列-使用技巧(4)Power BI中国版企业环境搭建和帐号问题
千呼万唤的Power BI中国版终于落地了,相信12月初的微软技术大会之后已经铺天盖地的新闻出现了,不错,Power BI中国版真的来了,但还有些遗憾,国际版的一些重量级服务如power bi emb ...
- 从0开始搭建SQL Server AlwaysOn 第一篇(配置域控)
从0开始搭建SQL Server AlwaysOn 第一篇(配置域控) 第一篇http://www.cnblogs.com/lyhabc/p/4678330.html第二篇http://www.cnb ...
随机推荐
- 优化Unity游戏项目的脚本(下)
金秋9月,我们祝所有的老师们:教师节快乐 ! 今天,我们继续分享来自捷克的开发工程师Ondřej Kofroň,分享C#脚本的一系列优化方法. 在优化Unity游戏项目的脚本(上)中,我们介绍了如何查 ...
- Nginx-实践篇(重要)
原文链接:https://blog.csdn.net/Fe_cow/article/details/84672361
- orchestrator的安装和配置
介绍 在MySQL高可用架构中,目前使用比较多的是Percona的PXC,Galera以及MySQL 5.7之后的MGR等,其他的还有的MHA,今天介绍另一个比较好用的MySQL高可用复制管理工具:O ...
- jqGrid怎样冻结指定的列
第一步设置colModel 列内的 frozen: true: 第二步设置表格初始时宽度 shrinkToFit: false, 第三步设置 $gridTable.jqGrid('setFroze ...
- Tomcat清理无用应用防止漏洞
/webapps/host-manager /home/renguoqiang /webapps/manager /home/renguoqiang /webapps/host-manager rm ...
- Win10 x64 pnglib Release
Win10 x64 pnglib Release >------ 已启动生成: 项目: ZERO_CHECK, 配置: Release x64 ------ > Checking Buil ...
- linux删除用户报错:userdel: user prize is currently used by process 28021
之前创建了一个普通用户prize,现在想删掉它: [root@VM_0_14_centos /]# userdel prize userdel: user prize 发现原来我克隆了一个会话,另一个 ...
- idea中copyright使用
1,在idea中找到settings->Editor->copyright->copyright profiles,然后点击+,输入名字,在copyright text中输入模板.然 ...
- Spring Boot与ActiveMQ的集成
Spring Boot对JMS(Java Message Service,Java消息服务)也提供了自动配置的支持,其主要支持的JMS实现有ActiveMQ.Artemis等.本节中,将以Active ...
- 如何发布自定义的UI 组件库到 npmjs.com 并且编写 UI组件说明文档
记录基于 antd 封装业务组件并发布到npm 上的过程:(TS + React + Sass) 初始化项目: 1.yarn create react-app winyhui --typescript ...