最全mysql的复制和读写分离
mysql的复制和mysql的读写分离从来就不是一个简单的话题,今天笔者就详细来记录一下我学习的mysql。
mysql日至类型有:二进制日志,事务日志,错误日志,一般查询日志,中继日志,慢查询日志。
二进制日志一般放在数据目录,一般文件名叫mysql-bin.xxxx,当数据大到我们设定的最大大小的时候就会滚动,还有类似flush ,logs,服务器重启都会引起滚动,在mysql下删除日志一般我们不实用rm来删除,而是在mysql命令下使用PURGE来清除
二进制记录的格式有基于语句的,有基于行的,有混合的。除了mysql-bin-xxx外还有一些mysql-bin-index的文件,这是msyql二进制日志文件的缩影
文件。想查看当前mysql使用的二进制文件我们在mysql>下使用SHOW MASTER STATUS;
SHOW查看mysql二进制日志中的相关内容,mysql> SHOW BINLOG EVENTS IN "file";
查看当前mysql上存在二进制日志文件的列表。mysql> SHOW BINARY LOGS;
一个日志一般会记录:产生时间(timestamp); 位置(position) 时间本身(offset),
二进制日志记录日志并不完善,所以如果不备份数据库,仅仅靠二进制文件恢复数据可能不完善。所以最好的办法就是把数据库备份一边
由于主服务器允许并行执行,例如拥有多颗CPU就能同时执行多个写操作,但是向二进制日志中写入的话只允许一个一个写入,所以向从服务器传输的时候也只能一个一个传输,所以从服务器会比主管服务器慢,甚至有可能慢很多。
如果MYSQL的复制是同步的话,用户就需要等待主服务器上的二进制文件完全传输到从服务器的时候才能执行下一个操作,而这时不科学的,所以MYSQL上的复制都是异步的,半同步就是只要数据发送到从服务器的tcp/ip的缓存中就OK了,但是对于MYSQL来说这个不实用,因为mysql还需要将他们保存到中继日志中去,一个一个去读的。所以半同步和异步是差不多的,所以mysql一般使用异步。mysql和drbd最大的不同就是mysql支持一主多从。
看下图一,就是mysql的基本原理图
在一主多从的模式下,只要有一个从服务器返回以及保存成功的信息,我们就不再去管其他的从服务器,这种方式我们叫做半同步。
mysql在5.5之前是不支持半同步的,
从服务器的所有数据都是从主服务器上复制过来的,因为从服务器是备份用的,所以我们需要保存和主服务器一模一样的数据,如果从服务器的数据和主服务器的数据不一样,我们就失去了从服务器的意义,所以我们不容许从服务器写操作和向主服务器传送东西。
热备份很复杂,而且容易产生数据不一致的情况,有了从服务器我们可以在从服务器上停止Mysql的服务,然后进行冷备份,这样安全多了。
从服务器不需要二进制日志,没什么作用,还拖延从服务器的速度
mysql还有多级辅助
为了让我们的读写速度加快,我们可以给他们分配任务,只在主服务器上写,只在从服务器上读。但是那么多从服务器呢,我们在在那个上边读呢,简单,负载均衡器。在前边找一个MYsql路由,如果我们想发起Mysql读写的时候,我i们需要联系这个Mysql代理,它可以判断我们执行是什么操作,读的话就联系从服务器,写的话就联系主服务器,这就叫做Mysql的读写分离。如果我们的读操作非常多,那样我们怎么能尽可能的让我们的读速度变快呢,我们怎么才能知道我的读操作是那个从服务器响应我们呢?简单,添加一个LVS就行了。在前端添加一个directory就行了
如果directory坏掉了怎么办?MYSQL代理坏掉怎么办?好办,都做成高可用,如下图三为了加快速度,我们可以加上个共享缓存,无论那个服务器的查询都可以暂时缓存到memcnche,以后无论那个服务器查询先到 memcnche查询。
为了增加我们的读写速度我们添加了很多的从服务器,但是这么多从服务器难道每次我们都要从主服务器启动一个线程把日志从二进制日志发送到从服务器的中继日志么?这就会产生大量的IO,那样速度还会快么?基于这样的情况,就产生了多级复制的办法
多级复制,就是从从服务器中选出一个专门负责中转主服务器的日志发总给别的从服务器。
PHP不需要和Mysql发生关系,发生关系的是PHP语言开发的程序。
我们可以让开发语言,我们在配置时候自己来解决读写的程序,只不过开发程序比较麻烦。
如果既不想让前端程序变得复杂,又不想提供读写分离,这就是主主模式,但是我们并不建议使用。
如图四,黑线代表我们开始的时候的顺序,产生的数据,我们保存在二进制日志里,二进制日志通过传送到另一个服务器中的中继日志中,中继日志在通过本地服务器读出保存在数据库,并储存在二进制日志中,然后开始红线的部分,和这样一样的进程,复制到第一个进程中。但是这样大家发现没有,这样会陷入一个循环中,尴尬,那我们需要做的就是给进程添加一个编号,这样我们不再本地运行相同ID的server,这样就不会再二进制日志中发送了。
双主模型,其实无法实现平均负载写操作的,因为两个节点上的数据必须一模一样,不然会出错的。双主模型还容易产生爽肤数据不一致导致崩溃的情况。
对于MYSQL来说一个主服务器可以带多个从服务器,但是一个从不能带多个主,如果各个主服务器都写入不同的数据,从服务器完全复制过来会到时数据不一致或者冲突之类的。
配置MySQL复制基本步骤:
简单的下载解压就不说了,我们直接从配置开始把。
一,先配置主服务器
复制配置文件到/etc/my.cof
复制脚本到/etc/rc.d/in.d/mysqld
chkconfig -add mysqld
vim /etc/my.cnf
我们所有的和复制有关的配置都在mysqld这里边
我们需要把log-bin=master-bin这一项启动起来
2、选择一个惟一server-id =1
server-id = {0-2^32}
innodb_file_per_table = 1
datedir = /mydata/data
然后service mysqld start
然后把该文件配置到从服务器上去
3、创建具有复制权限的用户
REPLICATION SLAVE
REPLICATION CLIENT
二、配置从服务器
1、启用中继日志
添加relay-log = relay-log
添加relay-log-index = relay-log.index
2、选择一个惟一的server-id = (一定不能等于主服务器)
server-id = {0-2^32}
3、连接至主服务器,并开始复制数据;
mysql> CHANGER MASTER TO MASTER_HOST='',MASTER_PORT='',MASTER_LOG_FILE='',MASTER_LOG_FIEL_POS='',MASTER_USER='',MASTER_PASSWORD='';
mysql>SHOW SLAVE STATUS\G(查看当前状态
)
mysql> START SLAVE;(启动服务)
mysql> START SLAVE IO_Thread; (YES为正常)
mysql> START SLAVE SQL_Thread; (YES为正常)
复制线程:
master: dump
slave: IO_Thread, SQL_Thread
怎么把从服务器设置成只读
在配置文件中添加
read-only = YES 重启服务有效
但是对于拥有管理员身份的人无效
sync-binlog = ON
在主服务器上设定,用于事务安全;
所有的从服务器上的信息都会被保存在/mydata/daya/node2.magedu.com.err下边
如何让mysql实现半同步呢,这需要一个插件
这个插件在 /usr/local/mysql/lib/plugin里边有两个文件 semisync_slave.so 和semisync_maste.so。一主一从
设置半同步步骤:
在Master和Slave的mysql命令行运行如下代码:
# On Master
mysql> INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';
mysql> SET GLOBAL rpl_semi_sync_master_enabled = 1;
mysql> SET GLOBAL rpl_semi_sync_master_timeout = 1000;
设置是否启用和超时时间
# On Slave
mysql> INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';
mysql> SET GLOBAL rpl_semi_sync_slave_enabled = 1;
mysql> STOP SLAVE IO_THREAD; START SLAVE IO_THREAD;
在Master和Slave的my.cnf中编辑:
# On Master
[mysqld]
rpl_semi_sync_master_enabled=1
rpl_semi_sync_master_timeout=1000 # 1 second
# On Slave
[mysqld]
rpl_semi_sync_slave_enabled=1
# 也可通过设置全局变量的方式来设置,如下:
set global rpl_semi_sync_master_enabled=1
# 取消加载插件
mysql> UNINSTALL PLUGIN rpl_semi_sync_master;
设置主-主复制:
1、在两台服务器上各自建立一个具有复制权限的用户;
2、修改配置文件:
# 主服务器上
[mysqld]
server-id = 10
log-bin = mysql-bin
relay-log = relay-mysql
relay-log-index = relay-mysql.index
auto-increment-increment = 2
auto-increment-offset = 1
# 从服务器上
[mysqld]
server-id = 20
log-bin = mysql-bin
relay-log = relay-mysql
relay-log-index = relay-mysql.index
auto-increment-increment = 2
auto-increment-offset = 2
3、如果此时两台服务器均为新建立,且无其它写入操作,各服务器只需记录当前自己二进制日志文件及事件位置,以之作为另外的服务器复制起始位置即可
server1|mysql> SHOW MASTER STATUS\G
************************** 1. row ***************************
File: mysql-bin.000001
Position: 710
Binlog_Do_DB:
Binlog_Ignore_DB:
1 row in set (0.00 sec)
server2|mysql> SHOW MASTER STATUS\G
mysql> SHOW MASTER STATUS\G
*************************** 1. row ***************************
File: mysql-bin.000003
Position: 811
Binlog_Do_DB:
Binlog_Ignore_DB:
1 row in set (0.00 sec)
4、各服务器接下来指定对另一台服务器为自己的主服务器即可:
server1|mysql> CHANGE MASTER TO ...,MASTER_LOG_FILE='mysql-bin.000003', MASTER_LOG_POS=811
server2|mysql> CHANGE MASTER TO ...,MASTER_LOG_FILE='mysql-bin.000001', MASTER_LOG_POS=710
最全mysql的复制和读写分离的更多相关文章
- MySQL主存复制与读写分离的感悟
1.主存复制: 就是实现数据拷贝,有点实时的感觉,完成数据同步,存储两份数据. 项目开发中,类似场景许多,尤其是异构系统之间的交互,协作.-------------------场景目的:为了安全,各自 ...
- mysql+mycat搭建稳定高可用集群,负载均衡,主备复制,读写分离
数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境. 主要思路 简单说,实现mysql主备复制-->利用mycat实现负载均衡. 比较了 ...
- MySQL主从同步、读写分离配置步骤、问题解决笔记
MySQL主从同步.读写分离配置步骤.问题解决笔记 根据要求配置MySQL主从备份.读写分离,结合网上的文档,对搭建的步骤和出现的问题以及解决的过程做了如下笔记: 现在使用的两台服务器已经 ...
- MySql的主从复制以及读写分离详解
MySQL主从复制(Master-Slave)与读写分离(MySQL-Proxy)实践 Mysql作为目前世界上使用最广泛的免费数据库,相信所有从事系统运维的工程师都一定接触过.但在实际的生产环境中, ...
- mysql数据库主从同步读写分离(一)主从同步
1.mysql数据库主从同步读写分离 1.1.主要解决的生产问题 1.2.原理 a.为什么需要读写分离? 一台服务器满足不了访问需要.数据的访问基本都是2-8原则. b.怎么做? 不往从服务器去写了 ...
- Mysql 高可用(MHA)-读写分离(Atlas)-分布式架构(Mycat)
Mysql 高可用(MHA)-读写分离(Atlas) 1. 搭建主从复制(一主两从) 1.1 准备环境 1 主库:10.0.0.51/db01 2 从库:10.0.0.52/db02,10.0.0.5 ...
- 基于Mysql-Proxy实现Mysql的主从复制以及读写分离(下)
基于Mysql-Proxy实现Mysql的主从复制以及读写分离(下) 昨天谈到了Mysql实现主从复制,但由于时间原因并未讲有关读写分离的实现,之所以有读写分离,是为了使数据库拥有双机热备功能,至于双 ...
- 基于Mysql-Proxy实现Mysql的主从复制以及读写分离(上)
基于Mysql-Proxy实现Mysql的主从复制以及读写分离(上) 上周BOSS给分配任务让实现一下Mysql数据库的主从复制以及读写分离,然后花了一盏茶的功夫进行了调研,发现主从复制数据库进行一番 ...
- MySQL主从复制技术与读写分离技术amoeba应用
MySQL主从复制技术与读写分离技术amoeba应用 前言:眼下在搭建一个人才站点,估计流量会非常大,须要用到分布式数据库技术,MySQL的主从复制+读写分离技术.读写分离技术有官方的MySQL-pr ...
随机推荐
- 2015 Multi-University Training Contest 10 hdu 5412 CRB and Queries
CRB and Queries Time Limit: 12000/6000 MS (Java/Others) Memory Limit: 131072/131072 K (Java/Other ...
- <constant name="struts.devMode" value="true" />
<constant name="struts.devMode" value="true" /> 当vlaue为true,表示struts处于开发模式 ...
- STL之效率比較
1.vector 变长一维数组,连续存放的内存块,有保留内存.堆中分配内存: 支持[]操作,高效率的随机訪问: 在最后添加元素时,一般不须要分配内存空间,速度快:在中间或開始操作元素时要进行内存拷贝效 ...
- Manarcher 求 字符串 的最长回文子串 【记录】
声明:这里仅仅写出了实现过程.想学习Manacher的能够看下这里给出的实现过程,算法涉及的一些原理推荐个博客. 给个链接 感觉讲的非常细 引子:给定一个字符串s,让你求出最长的回文子串的长度. 算法 ...
- 初次使用Android Studio时的配置
一.第一次安装: Android Studio安装完毕后,第一次启动AS前.为了避免又一次下载新版本号的SDK.操作例如以下: AS启动前.请先将bin文件夹的idea.properties文件里添加 ...
- Drupal 自己定义主题实体 Theming Custom Entities
在自己定义主题中输出结果时,有三个部分或很多其它特殊的函数.如 hook_menu,Page Callback.MODULE_theme 钩子 1.hook_menu 为了使用自己定义的实体.像创建. ...
- UVA - 1471 Defense Lines 树状数组/二分
Defense Lines After the last war devastated your country, you - as the ...
- SAN和NAS
SAN针对海量.面向数据块的数据传输,而NAS则提供文件级的数据访问功能. SAN和NAS都基于开放的.业界标准的网络协议:用于SAN的光纤通道协议和用于NAS的网络协议(如TCP/IP). SAN的 ...
- 杂项-快捷键:Google浏览器常用快捷键
ylbtech-杂项-快捷键:Google浏览器常用快捷键 1.返回顶部 1. Google浏览器,是一个由Google(谷歌)公司开发的开放原始码网页浏览器.该浏览器是基于其他开放原始码软件所撰写, ...
- js 预加载图片image()函数
创建一个Image对象:var a=new Image(); 定义Image对象的src: a.src=”xxx.gif”; 这样做就相当于给浏览器缓存了一张图片. 图像对象: 建立图像对 ...