Rsync+Sersync实时同步数据目录

第1章 Rsync简介

1.1 Rsync基本概述

rsync是一款开源的备份工具，可以在不同主机之间进行同步，可实现全量备份与增量备份

全量：将全部数据，进行传输覆盖

增量：只传输差异部分的数据

1.2 实现增量复制的原理

Rsync通过其独特的“quick check”算法，实现增量传输数据

在同步备份数据时，默认情况下，Rsync通过其独特的“quick check”算法，它仅同步大小或者最后修改时间发生变化的文件或目录，当然也可根据权限，属主等属性的变化同步，但需要指定相应的参数，甚至可以实现只同步一个文件里有变化的内容部分，所以，可以实现快速的同步备份数据。

1.3 Rsync软件功能介绍

类似于 cp 命令 -- 实现本地备份传输数据
类似于scp 命令 -- 远程备份传输数据
类似于 rm 命令 -- 实现无差异同步备份
类似于 ls 命令 -- 本地文件信息查看
rsync 命令属于1 v 4 的命令

1.4 远程拷贝

#使用rsync拷贝41主机上/root目录下的oldboyedu.com文件，拷贝至本地当前目录
 rsync -avz root@172.16.1.41:/root/oldboyedu.com ./    #拷贝文件
 rsync -avz root@172.16.1.41:/root/ /backup/   #拉取远程目录下的所有文件
 rsync -avz root@172.16.1.41:/root /backup/    #拉取远程目录以及目录下的所有文件

注意：远程拷贝目录需要注意 /

# 将本地/backup/2018-07-23这个目录以及目录下的内容，推送至于41服务器的/tmp目录下
rsync -avz /backup/2018-07-23 root@172.16.1.41:/tmp/

问题：

1.使用的ssh系统用户，不安全

2.必须通过ssh协议才可以传输

1.5 守护进程拷贝

守护进程拷贝很安全，是使用虚拟用户

//将本地数据推送至backup服务器

rsync -avz /mnt/ rsync_backup@172.16.56.11::backup/

//将backup服务器数据拉至本地服务器

rsync -avz rsync_backup@172.16.56.11::backup/ /mnt/

第2章 Rsync服务器端安装

2.1 系统环境

[root@rsync-server ~]# cat /etc/redhat-release
CentOS Linux release 7.1.1503 (Core)
[root@rsync-server ~]# uname -r
3.10.0-229.el7.x86_64
[root@rsync-server ~]# systemctl status firewalld
firewalld.service - firewalld - dynamic firewall daemon
   Loaded: loaded (/usr/lib/systemd/system/firewalld.service; disabled)
   Active: inactive (dead)
[root@rsync-server ~]# getenforce
Disabled

2.2 安装rsync

2.2.1 检查和安装

$ rpm -qa|grep rsync   #检查是否安装，如安装请忽略下面步骤，没有则安装
rsync-3.1.2-4.el7.x86_64
$ yum -y install rsync

2.2.2 添加配置文件

$ vim /etc/rsyncd.conf
uid = rsync            #不一定是rsync，可以是www等，设置和你站点目录一样的属主最合适
gid = rsync
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24  #修改一下允许访问的网段，根据实际情况填写
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
log file = /var/log/rsyncd.log
#####################################
[backup]                      #模块名称
comment = welcome to oldboyedu backup!
path = /backup                #备份目录

2.2.3 创建虚拟用户

$ useradd -M -s /sbin/nologin rsync

2.2.4 建立虚拟账户对应的用户名与密码(用于客户端连接的账户和密码)

$ vim /etc/rsync.password
rsync_backup:123456
$ chmod 600 /etc/rsync.password

2.2.5 创建仓库目录，授权属主和属组

$ mkdir /backup
$ chown -R rsync.rsync /backup/

2.2.6 启动

$ systemctl start rsyncd   #启动
$ systemctl enable rsyncd  #开机自启动
#检查端口是否已经启动
$ netstat -lntup|grep 873
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      1861/rsync
tcp6       0      0 :::873                  :::*                    LISTEN      1861/rsync

第3章 客户端配置

3.1 客户端配置，实现无密码推送或拉去数据

$ echo "123456" > /etc/rsync.password
$ chmod 600 /etc/rsync.password

客户端测试推送文件

$ rsync -avz /etc/hosts rsync_backup@10.0.0.10::backup
Password:            #密码是文件里面的密码，不是linux服务器的密码，我这里是123456
sending incremental file list
 
sent 42 bytes  received 20 bytes  17.71 bytes/sec
total size is 158  speedup is 2.55
#这个就代表已经传过去了，可以去服务器目录查看是否有这个文件了

第4章 安装Sersync实时监控并同步

4.1 安装

4.1.1 sersync安装在你需要监控的服务器上，如这个目录经常变动（客户端）

$ mkdir /server/tools –p
$ cd /server/tools
$ wget https://raw.githubusercontent.com/wsgzao/sersync/master/sersync2.5.4_64bit_binary_stable_final.tar.gz   #下载sersync
$ tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
$ mv GNU-Linux-x86/ /usr/local/sersync
$ cd /usr/local/sersync/
$ cp confxml.xml confxml.bak         #x修改前备份配置文件

4.1.2 配置

$ vim confxml.xml
  5     <fileSystem xfs="true"/>  <!-- 文件系统 -->
  6     <filter start="false">  <!-- 排除不想同步的文件-->
  7         <exclude expression="(.*)\.svn"></exclude>
  8         <exclude expression="(.*)\.gz"></exclude>
  9         <exclude expression="^info/*"></exclude>
 10         <exclude expression="^static/*"></exclude>
 11     </filter>
 
 12     <inotify> <!-- 监控的事件类型 -->
 13         <delete start="true"/>
 14         <createFolder start="true"/>
 15         <createFile start="true"/>
 16         <closeWrite start="true"/>
 17         <moveFrom start="true"/>
 18         <moveTo start="true"/>
 19         <attrib start="false"/>
 20         <modify start="false"/>
 21     </inotify>
 
 23     <sersync>
 24         <localpath watch="/var/www"> <!-- 监控的目录 -->
 25             <remote ip="10.0.0.10" name="backup"/>  <!-- backup的IP以及模块 -->
 26             <!--<remote ip="192.168.8.39" name="tongbu"/>-->
 27             <!--<remote ip="192.168.8.40" name="tongbu"/>-->
 28         </localpath>
 
 29         <rsync> <!-- rsync的选项 -->
 30             <commonParams params="-az"/>
 31             <auth start="true" users="rsync_backup" passwordfile="/etc/rsync.password"/>
 32             <userDefinedPort start="false" port="874"/><!-- port=874 -->
 33             <timeout start="true" time="100"/><!-- timeout=100 -->
 34             <ssh start="false"/>
 35         </rsync>
 
			<!-- 每60分钟执行一次同步-->
  36         <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--def
ault every 60mins execute once-->

4.1.3 启动

$ ./sersync2 –h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启用守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送一遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml文件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
 
$ /usr/local/sersync/sersync2 -dro /usr/local/sersync/confxml.xml    #启动命令
可以查看监控目录的文件是否和另一台服务器目录的文件一样了。