数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境。

主要思路

简单说,实现mysql主备复制-->利用mycat实现负载均衡。

比较了常用的读写分离方式,推荐mycat,社区活跃,性能稳定。

测试环境

MYSQL版本:Server version: 5.5.53,到官网可以下载WINDWOS安装包。

注意:确保mysql版本为5.5以后,以前版本主备同步配置方式不同。

linux实现思路类似,修改my.cnf即可。

  • A主mysql。192.168.110.1:3306, 用户root,密码root。操作系统:win7 x64,内存:4g

安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

  • B备mysql。192.168.110.2:3306, 用户root,密码root。操作系统:win2003 x64,内存:1g

安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

  • A主、B备的mysql中创建sync_test数据库

实现mysql主备复制

主要思路:A主mysql开启日志,B备mysql读取操作日志,同步执行。

一般为主备同步,主主同步不推荐使用。

配置A主mysql

1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。

  1. [mysqld]
  2. server-id= #主机标示,整数
  3. port=
  4. log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log" #确保此文件可写
  5. read-only= #主机,读写都可以
  6. binlog-do-db=sync_test #需要备份数据库,多个写多行
  7. binlog-ignore-db=mysql #不需要备份的数据库,多个写多行

2)允许MYSQL远程访问

  1. #登录mysql console
  2. 进入%home%/bin,执行mysql -uroot -proot
  3. #授权。允许root用户,从192.168.110.*的IP范围 远程访问A主mysql
  4. mysql>GRANT ALL PRIVILEGES ON *.* TO 'root'@'192.168.110.*' IDENTIFIED BY 'root' WITH GRANT OPTION;
  5. #生效。该操作很重要!
  6. mysql>FLUSH PRIVILEGES;

3)重启A主mysql数据库

  1. 进入%home%/bin,执行mysql -uroot -proot
  2. mysql>net stop mysql;
  3. mysql>net start mysql;

4)查看主mysql日志状态

  1. mysql> show master status\G;
  2. *************************** . row ***************************
  3. File: mysql-bin.
  4. Position:
  5. Binlog_Do_DB: sync_test
  6. Binlog_Ignore_DB: mysql
  7. row in set (0.00 sec)
  8.  
  9. ERROR:
  10. No query specified

配置B备mysql

1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。

  1. [mysqld]
  2. # add for sycn test
  3. server-id= #从机标识
  4. log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log" #确保此文件可写
  5. #master-host="192.168.110.1" #主机Ip
  6. #master-user=root #数据库访问用户名
  7. #master-pass=root #数据库访问密码
  8. #master-port= #主机端口
  9. #master-connect-retry= #如果从服务器发现主服务器断掉,重新连接的时间差(秒)
  10. replicate-do-db=sync_test #只复制某个库
  11. replicate-ignore-db=mysql #不复制某个库

2)重启B备mysql数据库

  1. 进入%home%/bin,执行mysql -uroot -proot
  2. mysql>net stop mysql;
  3. mysql>net start mysql;

3)配置B备数据库的数据来源,核实高亮处的状态是否正常。

  1. mysql>change master to master_host='192.168.110.1',master_port='',master_user='root',master_password='root';
  2. mysql>slave start;
  3. mysql>show slave status\G;
  4. *************************** . row ***************************
  5. Slave_IO_State: Waiting for master to send even
  6. Master_Host: 192.168.110.1
  7. Master_User: root
  8. Master_Port:
  9. Connect_Retry:
  10. Master_Log_File: mysql-bin.
  11. Read_Master_Log_Pos:
  12. Relay_Log_File: wjt-1c698d8a032-relay-bin.
  13. Relay_Log_Pos:
  14. Relay_Master_Log_File: mysql-bin.
  15. Slave_IO_Running: Yes
  16. Slave_SQL_Running: Yes
  17. Replicate_Do_DB: sync_test
  18. Replicate_Ignore_DB: mysql
  19. Replicate_Do_Table:
  20. Replicate_Ignore_Table:
  21. Replicate_Wild_Do_Table:
  22. Replicate_Wild_Ignore_Table:
  23. Last_Errno:
  24. Last_Error:
  25. Skip_Counter:
  26. Exec_Master_Log_Pos:
  27. Relay_Log_Space:
  28. Until_Condition: None
  29. Until_Log_File:
  30. Until_Log_Pos:
  31. Master_SSL_Allowed: No
  32. Master_SSL_CA_File:
  33. Master_SSL_CA_Path:
  34. Master_SSL_Cert:
  35. Master_SSL_Cipher:
  36. Master_SSL_Key:
  37. Seconds_Behind_Master:
  38. Master_SSL_Verify_Server_Cert: No
  39. Last_IO_Errno:
  40. Last_IO_Error:
  41. Last_SQL_Errno:
  42. Last_SQL_Error:
  43. Replicate_Ignore_Server_Ids:
  44. Master_Server_Id:
  45. row in set (0.00 sec)
  46.  
  47. ERROR:
  48. No query specified

验证同步配置结果

  • A主mysql:使用navicat工具,在sync_test库中创建sync_table表,并添加一些数据
  • B备mysql:使用navicat工具,查看sync_test库,可以看到sync_table表和数据已被同步

实现读写分离

主要思路:使用mycat中间件,转发sql指令到后端mysql节点。mycat不负责数据库同步。

安装mycat

mycat是什么?可以认为它是一个数据库访问中间件,但更像f5、ngnix等产品,具备访问路由、多表分表分片操作等功能。总之很强大。

  • 下载:http://www.mycat.io/ ,本文使用的是:1.6-RELEASE
  • 解压Mycat-server-1.6-RELEASE-20161012170031-win.tar,到D:\dev-bin\mycat目录
  • 确保java环境为jdk1.7以上,否则mycat将不支持

安装完毕

配置mycat

1)server.xml。配置访问用户及权限。修改高亮处信息,其中admin、user为访问mycat的用户,TESTDB为mycat虚拟的数据库,供上层应用访问。

  1. <user name="admin">
  2. <property name="password">admin</property>
  3. <property name="schemas">TESTDB</property>
  4. <!-- 表级 DML 权限设置 -->
  5. <!--
  6. <privileges check="false">
  7. <schema name="TESTDB" dml="" >
  8. <table name="tb01" dml=""></table>
  9. <table name="tb02" dml=""></table>
  10. </schema>
  11. </privileges>
  12. -->
  13. </user>
  14. <user name="user">
  15. <property name="password">user</property>
  16. <property name="schemas">TESTDB</property>
  17. <property name="readOnly">true</property>
  18. </user>

2)schema.xml。这部分不太好理解,精简了一下,主要分schema、dataNode、dataHost三个主要配置。

<scheme>节点定义了mycat的虚拟数据库为TESTDB, balance="1":write操作路由到A机,读操作路由到B。

  1. <?xml version="1.0"?>
  2. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
  3. <mycat:schema xmlns:mycat="http://io.mycat/">
  4. <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="" dataNode="dn1">
  5. <!-- 这里不配置,代表所有的表分片到dn1节点-->
  6. </schema>
  7. <dataNode name="dn1" dataHost="localhost1" database="sync_test" />
  8. <dataHost name="localhost1" maxCon="" minCon="" balance=""
  9. writeType="" dbType="mysql" dbDriver="native" switchType="" slaveThreshold="">
  10. <heartbeat>select user()</heartbeat>
  11. <!-- can have multi write hosts -->
  12. <writeHost host="hostM1" url="192.168.110.1:3306" user="root" password="root">
  13. <!-- can have multi read hosts -->
  14. <readHost host="hostS2" url="192.168.110.2:3306" user="root" password="root" />
  15. </writeHost>
  16. </dataHost>
  17. </mycat:schema>

启动mycat

1)启动mycat

  1. D:\dev-bin\mycat\bin>startup_nowrap.bat

后台信息如下:

  1. D:\dev-bin\mycat\bin>startup_nowrap.bat
  2. D:\dev-bin\mycat\bin>REM check JAVA_HOME & java
  3. D:\dev-bin\mycat\bin>set "JAVA_CMD=C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java"
  4. D:\dev-bin\mycat\bin>if "C:\Program Files (x86)\Java\jdk1.7.0_13" == "" goto noJavaHome
  5. D:\dev-bin\mycat\bin>if exist "C:\Program Files (x86)\Java\jdk1.7.0_13\bin\java.exe" goto mainEntry
  6. D:\dev-bin\mycat\bin>REM set HOME_DIR
  7. D:\dev-bin\mycat\bin>set "CURR_DIR=D:\dev-bin\mycat\bin"
  8. D:\dev-bin\mycat\bin>cd ..
  9. D:\dev-bin\mycat>set "MYCAT_HOME=D:\dev-bin\mycat"
  10. D:\dev-bin\mycat>cd D:\dev-bin\mycat\bin
  11. #如果启动失败,请修改D:\dev-bin\mycat\bin\startup_nowrap.bat文件中的以下参数。默认占用内存为2G
  12. D:\dev-bin\mycat\bin>"C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java" -server -Xms512m -Xmx512m -XX:MaxPermSize=64M -XX:+AggressiveOpts -XX:MaxDirectMemorySize=768m -DMYCAT_HOME=D:\
  13. p "..\conf;..\lib\*" io.mycat.MycatStartup
  14. MyCAT Server startup successfully. see logs in logs/mycat.log #启动成功将看到如下信息。

注意:如日志中出现192.168.110.2 not connected 等信息,请允许B备mysql远程访问。

  1. #登录mysql console
  2. 进入%home%/bin,执行mysql -uroot -proot
  3. #授权。允许root用户,从192.168.110.*的IP范围 远程访问Bmysql
  4. mysql>GRANT ALL PRIVILEGES ON *.* TO 'root'@'192.168.110.*' IDENTIFIED BY 'root' WITH GRANT OPTION;
  5. #生效,该操作很重要!
  6. mysql>FLUSH PRIVILEGES;

测试读写分离

验证是否同步

  • 使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066
  • 在TESTDB虚拟库中,创建新表test2,增加一些数据
  • 查看A节点、B节点数据已同步

关闭B备mysql的同步,验证读写分离

  1. mysql> slave stop;
  2. Query OK, rows affected (0.00 sec)
  3.  
  4. mysql> show slave status\G;
  5. *************************** . row ***************************
  6. Slave_IO_State:
  7. Master_Host: 192.168.110.1
  8. Master_User: root
  9. Master_Port:
  10. Connect_Retry:
  11. Master_Log_File: mysql-bin.
  12. Read_Master_Log_Pos:
  13. Relay_Log_File: wjt-1c698d8a032-relay-bin.
  14. Relay_Log_Pos:
  15. Relay_Master_Log_File: mysql-bin.
  16. Slave_IO_Running: No
  17. Slave_SQL_Running: No
  18. Replicate_Do_DB: sync_test
  19. Replicate_Ignore_DB: mysql
  20. Replicate_Do_Table:
  21. Replicate_Ignore_Table:
  22. Replicate_Wild_Do_Table:
  23. Replicate_Wild_Ignore_Table:
  24. Last_Errno:
  25. Last_Error:
  26. Skip_Counter:
  27. Exec_Master_Log_Pos:
  28. Relay_Log_Space:
  29. Until_Condition: None
  30. Until_Log_File:
  31. Until_Log_Pos:
  32. Master_SSL_Allowed: No
  33. Master_SSL_CA_File:
  34. Master_SSL_CA_Path:
  35. Master_SSL_Cert:
  36. Master_SSL_Cipher:
  37. Master_SSL_Key:
  38. Seconds_Behind_Master: NULL
  39. Master_SSL_Verify_Server_Cert: No
  40. Last_IO_Errno:
  41. Last_IO_Error:
  42. Last_SQL_Errno:
  43. Last_SQL_Error:
  44. Replicate_Ignore_Server_Ids:
  45. Master_Server_Id:
  46. row in set (0.00 sec)
  47.  
  48. ERROR:
  49. No query specified

3)使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066

  • 连接成功后,将看到TESTDB数据库和test数据表
  • 在test表中添加一些数据,保存
  • 执行select * from test查看test操作,将看到数据未更新

原因:mycat将查询sq路由到B,因此读取的结果集不一致。

最后,mycat使用可以参见官网的权威指南学习。双主双备架构待后续更新。

mysql+mycat搭建稳定高可用集群,负载均衡,主备复制,读写分离的更多相关文章

  1. 搭建 Kubernetes 高可用集群

    使用 3 台阿里云服务器(k8s-master0, k8s-master1, k8s-master2)作为 master 节点搭建高可用集群,负载均衡用的是阿里云 SLB ,需要注意的是由于阿里云负载 ...

  2. 阿里云搭建k8s高可用集群(1.17.3)

    首先准备5台centos7 ecs实例最低要求2c4G 开启SLB(私网) 这里我们采用堆叠拓扑的方式构建高可用集群,因为k8s 集群etcd采用了raft算法保证集群一致性,所以高可用必须保证至少3 ...

  3. Flume-ng高可用集群负载安装与配置

    1. 写在前面 flume-ng高可用长在大数据处理环节第一个出现,对于处理日志文件有很好的作用,本篇博客将详细介绍flume-ng的高可用负载均衡搭建 2. flume-ng高可用负载均衡描述 在一 ...

  4. 基于 ZooKeeper 搭建 Spark 高可用集群

    一.集群规划 二.前置条件 三.Spark集群搭建         3.1 下载解压         3.2 配置环境变量         3.3 集群配置         3.4 安装包分发 四.启 ...

  5. Spark学习之路(七)—— 基于ZooKeeper搭建Spark高可用集群

    一.集群规划 这里搭建一个3节点的Spark集群,其中三台主机上均部署Worker服务.同时为了保证高可用,除了在hadoop001上部署主Master服务外,还在hadoop002和hadoop00 ...

  6. Spark 系列(七)—— 基于 ZooKeeper 搭建 Spark 高可用集群

    一.集群规划 这里搭建一个 3 节点的 Spark 集群,其中三台主机上均部署 Worker 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop0 ...

  7. 入门大数据---基于Zookeeper搭建Spark高可用集群

    一.集群规划 这里搭建一个 3 节点的 Spark 集群,其中三台主机上均部署 Worker 服务.同时为了保证高可用,除了在 hadoop001 上部署主 Master 服务外,还在 hadoop0 ...

  8. 使用 Load Balancer,Corosync,Pacemaker 搭建 Linux 高可用集群

    由于网络架构的原因,在一般虚拟机或物理环境中常见的用 VIP 来实现双机高可用方案,无法照搬到 Azure 平台.但利用 Azure 平台提供的负载均衡或者内部负载均衡功能,可以达到类似的效果. 本文 ...

  9. docker~swarm搭建docker高可用集群

    回到目录 Swarm概念 Swarm是Docker公司推出的用来管理docker集群,它将一群Docker宿主机变成一个单一的,虚拟的主机.Swarm使用标准的Docker API接口作为其前端访问入 ...

随机推荐

  1. 使用SwingBench 对Oracle RAC DB性能 压力测试

    我们可以使用swingbench这个工具对数据库性能进行压力测试,得到一些性能指标作为参考. SwingBench下载: http://www.dominicgiles.com/downloads.h ...

  2. TYPESDK手游聚合SDK服务端设计思路与架构之二:服务端设计

    在前一篇文中,我们对一个聚合SDK服务端所需要实现的功能作了简单的分析.通过两个主要场景的功能流程图,我们可以看到,作为多款游戏要适配多个渠道的统一请求转发中心,TYPESDK服务端主要需要实现的功能 ...

  3. angularjs 1 开发简单案例(包含common.js,service.js,controller.js,page)

    common.js var app = angular.module('app', ['ngFileUpload']) .factory('SV_Common', function ($http) { ...

  4. 转: 如何高效利用GitHub

    注:写了很多使用哲学,有意思 from: http://www.yangzhiping.com/tech/github.html

  5. TypeScript

    TypeScript: Angular 2 的秘密武器(译)   本文整理自Dan Wahlin在ng-conf上的talk.原视频地址: https://www.youtube.com/watch? ...

  6. clang_intprt_t类型探究

    作者:玄魂工作室-钱海龙 问题 这篇手把手教你构建 C 语言编译器,里面有着这样的代码 void eval() { int op, *tmp; while (1) { if (op == IMM) { ...

  7. Web API 入门指南 - 闲话安全

    Web API入门指南有些朋友回复问了些安全方面的问题,安全方面可以写的东西实在太多了,这里尽量围绕着Web API的安全性来展开,介绍一些安全的基本概念,常见安全隐患.相关的防御技巧以及Web AP ...

  8. 1、利用蓝牙定位及姿态识别实现一个智能篮球场套件(一)——用重写CC2541透传模块做成智能手环

    一.预言 要实现一个智能篮球场套件,需要设计一个佩戴在篮球运动员手臂上的可以检测投篮.记步的手环,以及一套可以根据RSSI定位运动员的蓝牙定位装置.下面是大致需要的步骤: 首先,需要用CC2541透传 ...

  9. ABP框架搭建项目系列教程基础版完结篇

    返回总目录<一步一步使用ABP框架搭建正式项目系列教程> 经过前面十二篇的基础教程,现在终于该做个总结了. 回顾 第一篇,我们建议新手朋友们先通过ABP官网的启动模板生成解决方案,因为这样 ...

  10. ABP源码分析十四:Entity的设计

    IEntity<TPrimaryKey>: 封装了PrimaryKey:Id,这是一个泛型类型 IEntity: 封装了PrimaryKey:Id,这是一个int类型 Entity< ...