因生产环境mysql中有较多复杂sql且运行效率低,因此采用tidb作为生产环境的从库进行部分慢sql及报表的读写分离。其中MySQL至TIDB采用Syncer工具同步。
关于TIDB的安装及Syncer可参照官网指引进行,搭建的主从复制架构如下:

因该方式中TiDB的数据是通过Syncer同步的,且TIDB无show slave status命令查看复制情况,故自己开发脚本对MySQL至TIDB的复制延迟进行监控,并且将结果进行图形化展示以便于直观分析,而且此方法也可以监控MySQL主从延迟,类似于percona toolkit的pt-heartbeat 。

一、 准备工作
1. 监控所需工具
监控:Python 2.7及以上,安装pymysql(或MySQLdb),其中linux升级python及pip安装可参考之前的博文

Python升级:https://www.cnblogs.com/gjc592/p/9223005.html

pip安装: https://www.cnblogs.com/gjc592/p/9272209.html

图形化展示:Python plotly、matplotlib或pandas包

2. 监控延迟思路
1)创建监控数据库(monitor)及相关表(monitor_time,monitor_result)
2)每隔固定时间(看监控精确度,如0.5s)将当期时间或时间戳的结果更新到mysql的监控表中
3)对比mysql与tidb对应的监控库(monitor库)中的monitor_time表的时间差,并将结果记录在monitor_result里

3. 可视化展示结果
用Python 的plotly、matplotlib或pandas等展示监控结果

二、延时监控实施步骤

1. 创建数据库及相关表,并将其加入Syncer同步中

-- 创建监控数据库monitor;
CREATE DATABASE `monitor`; USE `monitor`; -- 创建监控时间表monitor_time;
CREATE TABLE `monitor_time` (
`t` bigint(20) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8; -- 初始化数据,因后面监控程序定时更新该条记录
insert into monitor_time select 1; -- 创建监控结果表monitor_result;
CREATE TABLE `monitor_result` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`t` int(11) DEFAULT NULL COMMENT '延迟时间',
`add_time` timestamp NULL DEFAULT CURRENT_TIMESTAMP COMMENT '监控记录生成时间',
`t_mysql` int(11) DEFAULT NULL COMMENT 'mysql主从延迟时长', PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;

2. 创建监控账号并授权
单独创建一个用于监控该延迟的账号,并添加相应的权限。

CREATE USER monitor@'192.168.3.42' IDENTIFIED BY 'monitor';
GRANT SELECT ,INSERT ,UPDATE ON monitor.* TO monitor@'192.168.3.42';

3. 监控脚本

每隔0.5s更新一次monitor_time 表,自定义时间(如例子中10s)获取一次监控结果,并将记录写入数据库中

import os,time
import pymysql while True:
t = time.time()
t1= int(round(t * 1000))
conn = pymysql.connect(host='*.*.*.*',port=3306,user='monitor',passwd='monitor')
cur = conn.cursor()
sql_update = "update monitor.monitor_time set t="+str(t1)
cur.execute(sql_update)
conn.commit()
conn.close()
time.sleep(0.5)
import os,time
import pymysql while True:
conn_sor = pymysql.connect(host='*.*.*.*',port=3306,user='monitor',passwd='monitor')
cur_sor = conn_sor.cursor()
conn_138 = pymysql.connect(host='*.*.*.*',port=3306,user='monitor',passwd='monitor')
cur_138 = conn_138.cursor()
conn_des = pymysql.connect(host='*.*.*.*',port=4000,user='monitor',passwd='monitor')
cur_des = conn_des.cursor()
sql_get_time = "select t from monitor.monitor_time " cur_sor.execute(sql_get_time)
v_src_tuple=cur_sor.fetchone()
t_sor=v_src_tuple[0] cur_des.execute(sql_get_time)
v_des_tuple=cur_des.fetchone()
t_des=v_des_tuple[0] cur_138.execute(sql_get_time)
v_138_tuple=cur_138.fetchone()
t_138=v_138_tuple[0] t1 = t_sor/1000 - t_des/1000
t2 = t_sor/1000 - t_138/1000
sql_insert = "insert into monitor.monitor_result(t,t_mysql) select "+str(t1)+","+str(t2)
cur_sor.execute(sql_insert)
conn_sor.commit() conn_sor.close()
conn_des.close()
time.sleep(10)

将2个脚本放在监控服务器上运行

python monitor_tidb.py  &
python get_tidb_delay.py &

三 可视化展示

以下是其中一种实现方式,其他如折线图方式可执行修改

# __author__ : 'GJC'
# __created__ : '2018/9/17'
# coding=utf-8 import pymysql
import plotly.plotly
from plotly.graph_objs import *
import plotly.graph_objs as abc
import matplotlib.pyplot as plt host = "*.*.*.*"
user = "monitor"
passwd = "monitor"
db = "monitor"
port = 3306
charset = "utf8" conn = pymysql.connect(
host=host,
port=port,
user=user,
passwd=passwd,
db=db,
charset=charset,
) cur = conn.cursor() re = cur.execute("SELECT add_time,t,t_mysql FROM monitor.monitor_result_t ") dfs = cur.fetchall()
listx = []
listy = []
listy2 = []
for row in dfs:
listx.append(row[0])
listy.append(row[1])
listy2.append(row[2]) cur.close()
conn.commit()
conn.close() length = listy.__len__() data_1 = abc.Scatter(
x=listx,
y=listy,
name='syncer_delay_time_tidb',
mode='markers',
marker=dict(
size=10,
color="rgba(255,47,167,.9)",
line=dict(
width=2,
color='rgb(2,2,2)'
)
)
) data_2 = abc.Scatter(
x=listx,
y=listy2,
name='syncer_delay_time_mysql',
mode='markers',
marker=dict(
size=10,
color="rgba(255,47,167,.9)",
line=dict(
width=2,
color='rgb(3,3,3)'
)
)
)
data1 = Data([data_1])
plotly.offline.plot(data1) data2 = Data([data_2])
plotly.offline.plot(data2)

部分时间段效果如下:

耿小厨已开通个人微信公众号,想进一步沟通或想了解其他文章的同学可以关注我

MySQL至TiDB复制延迟监控的更多相关文章

  1. mysql复制延迟监控脚本

    #!/bin/sh #ocpyang@126.com #repdelay.sh #查看复制延迟详细多少event #####1.juede the rep slave status export bl ...

  2. MySQL 5.7--复制延迟监控

    ========================================== SHOW PROCESSLIST方式 为保证二进制日志在从库的执行时间和顺序的正确性,二进制日志中的每个语句都设置 ...

  3. MySQL之 从复制延迟问题排查

    一.从库复制延迟问题 1.可能的原因如下(1)主从服务器处于不同的网络之中,由于网络延迟导致:(2)主从服务器的硬件配置不同,从服务器的硬件配置(包括内存,CPU,网卡等)远低于主服务器:(3)主库上 ...

  4. MySQL复制中slave延迟监控

    在MySQL复制环境中,我们通常只根据 Seconds_Behind_Master 的值来判断SLAVE的延迟.这么做大部分情况下尚可接受,但并不够准确,而应该考虑更多因素. 首先,我们先看下SLAV ...

  5. mysql主从同步(3)-percona-toolkit工具(数据一致性监测、延迟监控)使用梳理

    转自:http://www.cnblogs.com/kevingrace/p/6261091.html 在mysql工作中接触最多的就是mysql replication mysql在复制方面还是会有 ...

  6. MySQL 5.7并发复制和mysqldump相互阻塞引起的复制延迟

    本来MySQL BINLOG和mysqldump命令属于八竿子打不着的两个事物,但在最近故障排查中,发现主库和从库已经存在很严重的复制延迟,但从库上显示slave_behind_master值为0,复 ...

  7. [MySQL] 号称永久解决了复制延迟问题的并行复制,MySQL5.7

    一.缘由: 某天看到主从复制延时的告警有点频繁,就想着是不是彻底可以解决一下. 一般主从复制,有三个线程参与,都是单线程:Binlog Dump(主) ----->IO Thread (从) - ...

  8. MySQL 主从同步延迟监控

    MySQL5.7和8.0支持通过 replication_applier_status 表获同步延迟时间,当从库出现延迟后,该表中的字段 REMAINING_DELAY 记录延迟秒数,当没有延迟时,该 ...

  9. MySQL半同步复制

    从MySQL5.5开始,MySQL以插件的形式支持半同步复制.如何理解半同步呢?首先我们来看看异步,全同步的概念 异步复制(Asynchronous replication) MySQL默认的复制即是 ...

随机推荐

  1. 什么是git subcommand,如何创建git子命令?

    大多数git用户知道如何在git中创建一个alias以便更便利地使用相关命令.很少有人知道至少不会好好利用的是:你实际上可以为Git创建扩展或者plugin,以便上git完成任何你希望完成的工作.这就 ...

  2. python接口自动化4-绕过验证码登录(cookie) (转载)

    前言 有些登录的接口会有验证码:短信验证码,图形验证码等,这种登录的话验证码参数可以从后台获取的(或者查数据库最直接). 获取不到也没关系,可以通过添加cookie的方式绕过验证码. 一.抓登录coo ...

  3. Http协议和web本职【转自丁码农】

    当你在浏览器地址栏敲入“http://www.cnblogs.com/”,然后猛按回车,呈现在你面前的,将是博客园的首页了(这真是废话,你会认为这是理所当然的).作为一个开发者,尤其是web开发人员, ...

  4. phpstorm2017使用快捷键

    切换到的是NetBeans的皮肤: 1.在行添加一个书签, ctrl+鼠标左键 2.查找添加的书签, ctrl+shift+M 3.关闭项目 选择file->close project

  5. C# 解决组合优化问题

    Google Optimization Tools介绍 Google Optimization Tools(OR-Tools)是一款专门快速而便携地解决组合优化问题的套件.它包含了: 约束编程求解器. ...

  6. html基值 仿淘宝

    $(function(){ var scale = 1 / devicePixelRatio; document.querySelector('meta[name="viewport&quo ...

  7. 关于Hibernate的报错org.hibernate.MappingException: Unknown entity

    部分异常,如下 org.hibernate.MappingException: Unknown entity: com.zcd.hibernate.oneToMany.Teamat org.hiber ...

  8. UVA10820 Send a Table

    嘟嘟嘟 [欧拉函数] 大致题意:如果知道f(a, b),就可以求出f(a * k, b * k).现给出一个n,求至少需要知道几个二元组(a, b),使所有的f(x, y)都能求出来.(1 <= ...

  9. 如何选择PHP项目的开发方案?

    我说的项目开发方案并不是谈论到底用不用PHP去开发的问题,而是当你遇到一个项目,已经决定了用PHP,然后才来看的问题:用PHP的什么开发方案. 基本上有这么几种方案.各有各的说法,良莠不齐,我就谈谈我 ...

  10. MSF入侵安卓手机

    MSF是Metasploit的简称,Metasploit是一款开源的安全漏洞检测工具,非常强大,分别有Windows版和Linux版,工具里集成了许多微软公布的漏洞(0day). 我这里做测试的系统是 ...