处理 MySQL 因为 SLAVE 崩溃导致需要手动跳过 GTID 的问题 | 关于 GTID
今天发生了与之前某篇博客相似的问题,有同学在不同步的 binlog 库中使用语句 database.table 命令对表进行 drop 导致 master 丢弃该表但是从库并未能同步到该操作。并且后续又实用 use xxxx 对该表进行增删字段,由于salve 并未建立此表于是 slave 崩溃的情况。
slave 崩溃信息通过查看 MySQL 错误日志差不多是这样
- -- :: [ERROR] Slave SQL: Error 'Table 'api.ring_king_record' doesn't exist' on query. Default database: 'api'. Query: 'ALTER TABLE `api`.`ring_king_record`
- CHANGE COLUMN `course_id` `course_id` VARCHAR() NULL DEFAULT '' AFTER `id`,
- CHANGE COLUMN `title` `title` VARCHAR() NULL DEFAULT '' AFTER `course_id`,
- CHANGE COLUMN `serialNumber` `serial_number` VARCHAR() CHARACTER SET 'latin1' NULL DEFAULT '' COMMENT '唯一标示码' ,
- CHANGE COLUMN `tsaCount` `tsa_count` VARCHAR() CHARACTER SET 'latin1' NULL DEFAULT '' COMMENT '剩余确权次数'', Error_code: 1146
- -- :: [Warning] Slave: Table 'api.ring_king_record' doesn't exist Error_code: 1146
- -- :: [ERROR] Error running query, slave SQL thread aborted. Fix the problem, and restart the slave SQL thread with "SLAVE START". We stopped at log 'mysql-bin.000762' position .
- -- :: [Note] Slave I/O thread: connected to master 'xxxx',replication started in log 'mysql-bin.000763' at position
可以很清晰的看到错误的原因是 api.ring_king_record 这个表根本不存在,但是却尝试去操作 change column 的操作。所以 slave 直接崩溃了, MySQL 提示我们数据库已经停止同步希望我们修复了这个问题之后再使用 SLAVE START 来启动 slave 的同步跟上 master.
这里只需要关注两个地方
1. mysql-bin.000762 可以让我们定位到发生问题是哪个 binlog。
2. position 可以让我们定位到发生的位置是在哪儿。
通过 position 16412435 如果你可以访问 master 物理机,那么可以通过访问 binlog 所在目录使用命令
- mysqlbinlog mysql-bin. | grep -C
去查看相关的信息,包括前后是什么语句,之类的。
如果类似于使用了 rds 这样的 MySQL 服务,可以去 master 所在的 rds 并使用 MySQL Client 上执行语句
- show binlog events in 'mysql-bin.000762' from limit \G;
我们可以得到从崩溃该语句开始的一些信息
- mysql> show binlog events in 'mysql-bin.000762' from limit \G;
- *************************** . row ***************************
- Log_name: mysql-bin.
- Pos:
- Event_type: Gtid
- Server_id:
- End_log_pos:
- Info: SET @@SESSION.GTID_NEXT= '8dcfd361-10cb-11e9-9060-506b4b2ac23e:30038123'
- *************************** . row ***************************
- Log_name: mysql-bin.
- Pos:
- Event_type: Query
- Server_id:
- End_log_pos:
- Info: use `api`; ALTER TABLE `api`.`ring_king_record`
- CHANGE COLUMN `course_id` `course_id` VARCHAR() NULL DEFAULT '' AFTER `id`,
- CHANGE COLUMN `title` `title` VARCHAR() NULL DEFAULT '' AFTER `course_id`,
- CHANGE COLUMN `serialNumber` `serial_number` VARCHAR() CHARACTER SET 'latin1' NULL DEFAULT '' COMMENT '唯一标示码' ,
- CHANGE COLUMN `tsaCount` `tsa_count` VARCHAR() CHARACTER SET 'latin1' NULL DEFAULT '' COMMENT '剩余确权次数'
- *************************** . row ***************************
- Log_name: mysql-bin.
- Pos:
- Event_type: Gtid
- Server_id:
- End_log_pos:
- Info: SET @@SESSION.GTID_NEXT= '8dcfd361-10cb-11e9-9060-506b4b2ac23e:30038124'
- *************************** . row ***************************
- Log_name: mysql-bin.
- Pos:
- Event_type: Query
- Server_id:
- End_log_pos:
- Info: /* rds internal mark */ CREATE TABLE IF NOT EXISTS mysql.ha_health_check (
- id BIGINT DEFAULT ,
- type CHAR() DEFAULT '',
- PRIMARY KEY (type)
这里可以很清楚的看到崩溃位置 16412436 GTID: 8dcfd361-10cb-11e9-9060-506b4b2ac23e:30038123 执行了 change column 的操作导致了崩溃。
现在我们要恢复 slave 就需要跳过这个报错的语句。因为全局开启了 GTID 的关系我们无法使用传统的
- root@(none) >stop slave;
- Query OK, rows affected (0.00 sec)
- root@(none) >SET GLOBAL SQL_SLAVE_SKIP_COUNTER = N; #跳过N个事务
- Query OK, rows affected (0.00 sec)
- root@(none) >start slave;
- Query OK, rows affected, warning (0.03 sec)
- 来恢复 会报错
- ERROR (HY000): sql_slave_skip_counter can not be set when the server is running with @@GLOBAL.GTID_MODE = ON. Instead, for each transaction that you want to skip, generate an empty transaction with the same GTID as the transaction
我在网上查了不少资料,但是感觉大部分都是互相 copy xjb 扯淡,也根本使用不了。
下面是我结合几个靠谱博客和官方文档写的一个配置
- stop slave;
- reset master;
- reset slave;
- CHANGE MASTER TO MASTER_HOST='master_address',MASTER_USER='xxx', MASTER_PASSWORD='xxx';
- set global gtid_purged = '8dcfd361-10cb-11e9-9060-506b4b2ac23e:30038123';
SET @@SESSION.GTID_NEXT= '8dcfd361-10cb-11e9-9060-506b4b2ac23e:30038124';
begin;
commit;
SET GTID_NEXT="AUTOMATIC";
start slave;
下面我会依次介绍这些命令是用来干嘛的。
首先我们所有现在针对去恢复的 slave 操作都需要先停止 slave.
reset master 这一步我不是很确定是否真的可以不做,reset master 会将 slave 机器的所有 binlog 都清空。比如之前我们可能是 mysql-bin.000023 这样子,如果使用了 reset master 会重新从 mysql-bin.000001 开始记录 binlog。我因为清理了也没关系,因为我会要显示的指定我从 master 机器的什么位置开始消费并且追上 master 所以就设置了。
reset slave 将让 slave 忘记主从复制的关系的位置信息,它会删除 master.info 和 relay-log.iinfo 文件重置 relaylog 信息。我们知道 relay-log 其实就是用于记录 slave 复制 master 信息复制到哪里来了这里会重置这些信息。
然后我哦们指定 change master 重新指定我们要跟随的 master 地址。
设置全局的 gtid_purged 这里注意 这个 gtid_purged 用于告诉你的 slave 无视哪些 gtid 的记录段,就是我们会无视掉所有之前我们消费过的记录段直到到达我们报错的位置。这个可以跟下面的参数联动。从上面的图我们看到我们只需要跳过 change column 那条语句所在的 GTID 重新从
- 8dcfd361-10cb-11e9--506b4b2ac23e:
开始消费即可跳过,所以上面我们使用 30038124-1 来表示我们需要 purged 的部分。
最后我们通过提交一个空事务并指定自动位移 GTID 来恢复我们的 slave。
一切完成之后我们启动 slave 使用 start slave
这个时候我们的 slave 从库会从我们指定的位置开始追上 master 只需要等待一段时间即可,那么如何判断已经追上了 master 呢?
- 我们在从库上执行
- show slave status
- mysql> show slave status\G;
- *************************** . row ***************************
- Slave_IO_State: Waiting for master to send event
- Master_Host: xxxxxxxxxxxx
- Master_User: xxxx
- Master_Port:
- Connect_Retry:
- Master_Log_File: mysql-bin.
- Read_Master_Log_Pos:
- Relay_Log_File: mysqld-relay-bin.
- Relay_Log_Pos:
- Relay_Master_Log_File: mysql-bin.
- Slave_IO_Running: Yes
- Slave_SQL_Running: Yes
- Replicate_Do_DB: xxxxxxxxxxxx
- Replicate_Ignore_DB: mysql
- Replicate_Do_Table:
- Replicate_Ignore_Table:
- Replicate_Wild_Do_Table:
- Replicate_Wild_Ignore_Table:
- Last_Errno:
- Last_Error:
- Skip_Counter:
- Exec_Master_Log_Pos:
- Relay_Log_Space:
- Until_Condition: None
- Until_Log_File:
- Until_Log_Pos:
- Master_SSL_Allowed: No
- Master_SSL_CA_File:
- Master_SSL_CA_Path:
- Master_SSL_Cert:
- Master_SSL_Cipher:
- Master_SSL_Key:
- Seconds_Behind_Master:
- Master_SSL_Verify_Server_Cert: No
- Last_IO_Errno:
- Last_IO_Error:
- Last_SQL_Errno:
- Last_SQL_Error:
- Replicate_Ignore_Server_Ids:
- Master_Server_Id:
- Master_UUID: 8dcfd361-10cb-11e9--506b4b2ac23e
- Master_Info_File: /var/lib/mysql/master.info
- SQL_Delay:
- SQL_Remaining_Delay: NULL
- Slave_SQL_Running_State: Slave has read all relay log; waiting for the slave I/O thread to update it
- Master_Retry_Count:
- Master_Bind:
- Last_IO_Error_Timestamp:
- Last_SQL_Error_Timestamp:
- Master_SSL_Crl:
- Master_SSL_Crlpath:
- Retrieved_Gtid_Set: 8dcfd361-10cb-11e9--506b4b2ac23e:-
- Executed_Gtid_Set: 0cf0e744-f9f6-11e8-bb7a-00163e302177:-,
- 8dcfd361-10cb-11e9--506b4b2ac23e:-
- Auto_Position:
比较 Read_Master_Log_Pos 和 Exec_Master_Log_Pos 差不多就说明已经追上了 master。
Relay_Log_Pos 和他们差不多能说明 io 线程也能拉到最新的数据。
当我们有错误的时候 show slave status 也可以给我们提供非常多的信息,例如最后出错的信息是啥。为什么报错都有显示,如果没有第一时间去看错误日志,使用命令在这里看错误信息也不错。
另外使用 show variables like '%gtid%'; 也可以给我们提供一些基于 gtid 的信息。
唔。。。又是修数据跑监控的一天=。=
---------------------------------分割线---------------------------------
关于 GTID 昨晚回去 我重新翻看了一些资料觉得还是有必要多说两句。
可以说 GTID 的出现解决了之前完全依赖 master 文件和 pos 的来切换主从的问题得到了解决。
MySQL 版本5.6 引入了 GTID 解决主从同步位点问题。GTID 的全称是 Global Transaction Identifier 也就是全局事务 ID,是一个事务在提交的时候生成的,是这个事务的唯一标识。它由两部分组成:
- GTID=server_uuid:gno
其中 server_uuid 是一个实例第一次启动时自动生成的,可以通过我们上面介绍的命令 show master/slave status 看到该机器的 UUID
gno 是一个整数,初始化是1,每次提交事务的时候分配给这个事务,并加 1。
GTIO 模式的启动配置:
- #GTID
- gtid_mode=on
- enforce_gtid_consistency=on
- log-slave-updates=
GTID_mode 开启的参数相关的是前两个参数, log-slave-updates = 1 是开启连贯复制 log
本身 slave 同步 master 的日志是不会再放入自己的 binlog 中的,如果我们还有机器在监听 slave 的 binlog 日志就需要开启 log-slave-updates 参数。
在 GTID 模式下,每个事务都会跟一个 GTID 一一对应。这个 GTID 有两种生成方式,而使用哪种取决于 session 变量 gtid_next 的值。
可以看到上面我们在跳过事务的时候是直接指定了一个 GTID_NEXT 的位置从这个位置开始。
然后指定下面的偏移规则是 gtid_next=automatic 使用默认值每执行一个事务就 +1
这样每个 MySQL 实例都维护了一个 GTID 集合,用来对应“这个实例执行过的所有事务”。
因为这个集合的存在,所以我们在重制 slave 和 master 的进度的时候,如果 slave 并没有通过 gtid_purged 或者通过指定 GTID_NEXT 跳过已经执行的事务 slave 会尝试去执行这些事务,并且因为主键冲突等原因报错崩溃。
所以现在回头过来看这几条命令
- set gtid_next='aaaaaaaa-cccc-dddd-eeee-ffffffffffff:10';
- begin;
- commit;
- set gtid_next=automatic;
- start slave;
其实它的意义是 首先 :10 这个gtid 是有问题那个 GTID 就是执行了会崩溃的那个 GTID 。
然后这个时候我们对其替换成一个空事务。
再设置之后都正常加一偏移数据。
最后启动 slave 。这样的话当我们的 slave 运行到这里的时候会因为已经因为这个 GTID 执行了空事务,而无视跳过 master 传递过来的有问题的 binlog 从而达到跳过有问题事务的目的。
由于没有实操过主备切换,这里注意到资料大部分都提到 GTID 模式下只需要指定 change master to 新的机器即可。新的 master 会自动计算相关的位点。
- CHANGE MASTER TO MASTER_HOST='xxxx',MASTER_USER='xxx', MASTER_PASSWORD='xxx';
- master_auto_position=
Reference:
https://yq.aliyun.com/articles/155827 MySQL GTID 主从复制错误修复方法
https://www.douban.com/note/446551760/ RESET MASTER 和RESET SLAVE 命令的使用方法 注意事项
https://www.cnblogs.com/zhoujinyi/p/4717951.html MySQL5.6 新特性之GTID
处理 MySQL 因为 SLAVE 崩溃导致需要手动跳过 GTID 的问题 | 关于 GTID的更多相关文章
- (转)mysql自增列导致主键重复问题分析
mysql自增列导致主键重复问题分析... 原文:http://www.cnblogs.com/cchust/p/3914935.html 前几天开发童鞋反馈一个利用load data infile ...
- MySQL主库异常,从库手动切换为主库方案
主库异常,从库手动切换为主库方案 1.登录从服务器,确认从服务器已经完成所有同步操作: mysql> stop slave io_thread mysql> show processlis ...
- Windows下搭建MySQL Master Slave
一.背景 服务器上放了很多MySQL数据库,为了安全,现在需要做Master/Slave方案,因为操作系统是Window的,所以没有办法使用keepalived这个HA工具,但是我们可以接受人工进行切 ...
- Mysql复制-Slave库设置复制延迟
mysql> stop slave; mysql> change master to master_delay=10;#单位是秒 mysql> start slave; mysql& ...
- MYSQL 配置slave故障
之前为主从配置,后来分割成2个单实例.现在环境需要,重新配置为主从,之前参数都已配置好,直接启动,如下: mysql> change master to master_host='192.168 ...
- Windows下搭建MySQL Master Slave[转]
Windows下搭建MySQL Master Slave 一.背景 服务器上放了很多MySQL数据库,为了安全,现在需要做Master/Slave方案,因为操作系统是Window的,所以没有办法使用k ...
- MySQL show slave status命令参数
? Slave_IO_State SHOW PROCESSLIST输出的State字段的拷贝.SHOW PROCESSLIST用于从属I/O线程.如果线程正在试图连接到主服务器,正在等待来自主服务器的 ...
- MySQL master/slave 模式
1 .复制 Mysql内建的复制功能是构建大型,高性能应用程序的基础.将Mysql的数据分布到多个系统上去,这种分布的机制,是通过将Mysql的某一台主机的 数据复制到其它主机(slaves)上,并重 ...
- MySQL更改relay-bin名称导致同步停止的解决办法
今天在优化io的时候,移动了从库relay-bin的位置,并将hostname部分去掉了,启动后,从库slave状态如下: mysql> show slave status\G; ******* ...
随机推荐
- 记CentOS 发布.NET Core 2.0
centos 7.x sudo rpm --import https://packages.microsoft.com/keys/microsoft.asc sudo sh -c 'echo -e & ...
- .net core 读取、修改配置文件appsettings.json
.net core 设置读取JSON配置文件 appsettings.json Startup.cs 中 public class Startup { public Startup(IHostingE ...
- Spring-Cloud之Hystrix熔断器-5
一.在分布式系统中,服务与服务之间的依赖错综复杂,一种不可避免的情况就是某些服务会出现故障,导致依赖于它们的其他服务出现远程调度的线程阻塞 Hystrix是Netflix 公司开源的一个项目,它提供了 ...
- java基础 构造方法
/** * 继承关系中,父子类构造方法的访问特点 * * 1.子类构造方法中有一个默认隐含的"super()"调用,所以一定是先调用父类构造,后执行的子类构造 * 2.子类构造可以 ...
- js继承(十)
一.原型链继承[子构造函数的原型对象是父构造函数的实例][对原型属性和方法的继承]1.每个构造函数[prototype]都有一个原型对象,原型对象中都包含一个指向构造函数的指针[constructor ...
- 对JS事件机制的深入理解
一.发生一个事件时,事件及事件处理程序会被放入浏览器的事件队列,事件可归为以下几类: 浏览器事件:window.load.document.DomContentLoaded等 网络请求事件:ajax. ...
- 常用模块 - configparse模块
一.简介 configparser模块在Python中是用来读取配置文件的,配置文件的格式跟windows下的ini配置文件相似,可以包含一个或多个节点(section),每个节可以有多个参数(键=值 ...
- Redis安装、主从配置及两种高可用集群搭建
Redis安装.主从配置及两种高可用集群搭建 一. 准备 Kali Linux虚拟机 三台:192.168.154.129.192.168.154.130.192.168.154 ...
- java requestmapping中关于路径的问题
需要这种url写的方式才能映射
- sphinx中文版Coreseek中文检索引擎安装和使用方法(Linux)
sphinx中文版Coreseek中文检索引擎安装和使用方法(Linux) 众所周知,在MYSQL数据库中,如果你在百万级别数据库中使用 like 的话那你一定在那骂娘,coreseek是一个 ...