sersync + rsync 实现文件的实时同步
这里有一点要特别注意了,就是在你完成备份之后,先不要把本地的文件都给删除了,先把服务停了之后再删除文件,
因为你已删除,检查到两边不一致,他又会把备份端给删除了。所以特别得注意了。这里吃过一次亏。
还有在生产的过程当中我遇到一个问题,就是我的源文件端朝所有的服务器端都可以同步文件,唯有一台不行,那台服务器的系统是centos 7 的网段是10.23.24的,我的源文件有两个网段,一个是192.168.220还有个一个10.23.24的(但是这两个网段都是可以互通的),当时我在centos 7服务器上设置hosts allow 的时候一开始设置的是192.168.220的,但是我不管怎么传。就是传不过来,我捯饬了半天,我也不知道怎么回事脑子一转去看centos 7的rsync的日志了,一看上面显示的是
“2016/07/28 11:29:06 [122354] rsync denied on module web_log from unknown (10.23.24.xx)”
一看这个就赶紧把host allow给改成10.23.24的了,就行了,但是我现在还是不知道原因是什么,按理说两个网段都是通的啊,应该可以啊,不管了,希望哪位朋友看到后留个言,给我解惑一下。
这里我想说的是一定要看日志,一定要看日志,一定要看日志!!!!!!!(不然真的是浪费时间啊)
前面我们说过rsync + inotify 的方式来实时的同步文件
今天来记录一下一项新的东西来实现文件的实时同步
那就是sersync + rsync
实验环境:
192.168.220.99 源文件
192.168.220.98 备份文件
sersync的介绍
sersync主要用于服务器同步,web镜像等功能。基于boost1.43.0,inotify api,rsync command.开发。目前使用的比较多的同步解决方案是inotify-tools+rsync ,另外一个是google开源项目Openduckbill(依赖于inotify- tools),这两个都是基于脚本语言编写的。相比较上面两个项目,本项目优点是:
sersync是使用c++编写,而且对linux系统文件系统产生的临时文件和重复的文件操作进行过滤(详细见附录,这个过滤脚本程序没有实现),所以在结合rsync同步的时候,节省了运行时耗和网络资源。因此更快。
首先在两台机器都安装上rsync
yum -y install rsync
在备份机上操作详情参考:http://www.cnblogs.com/post/readauth?url=/smail-bao/p/5667287.html
手动创建一个rsync的配置文件
[root@zabbix logs]# cat /etc/rsyncd.conf
uid = root
gid = root
usechroot = no
max connections = 20
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
[web_log]
path = /data/web_log/
ignore errors
read only = false
writeonly = false
list = false
hosts allow = 192.168.220.99
auth users = backuser
secrets file = /etc/rsync.pass
~
创建如上的配置文件之后,再手动输入一个密码
从配置文件当中,我们可以看到我们的密码文件是/etc/rsync.pass,连接模块的用户名是backuser
vim /etc/rsync.pass
文件内容格式如下
backuser:123
然后给这个文件的权限设为600,不然会报错
chmod 600 /etc/rsync.pass
然后我们就去手动创建备份目录
mkdir /data/web_log
最后就是启动rsync,并且设置为开机自动启动
/usr/bin/rsync --daemon &
echo "/usr/bin/rsync --daemon" >>/etc/rc.local
服务端我们可以给rsync 开一个端口,然后再防火墙上允许该端口
在rsyncd.conf文件中添加
port=55223
然后设置iptables,允许客户端连接
-A INPUT -s 192.168.220.99/32 -p tcp -m tcp --dport 55873 -j ACCEPT
现在就来说源文件端(即客户端,也就是说你需要同步文件到其他地方的机器,别弄反了)
第一步永远是安装软件
cd /usr/local/src
wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz
mkdir /usr/serync
[root@zabbix src]# tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/sersync/
[root@zabbix src]# cd /usr/sersync/GNU-Linux-x86
# cp confxml.xml /usr/local/sersync/conf
# cp sersync2 /usr/local/sersync/bin
echo "123" >> /etc/rsync.pass
这个123密码是要好服务端的rsync的密码要相同
chmod 600 /etc/rsync.pass
配置sersync,配置文件就是上第二步复制的confxml.xml这个文中,路径在/usr/local/sersync/conf中
<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
# 设置本地IP和端口
<host hostip="localhost" port="8008"></host>
# 开启DUBUG模式
<debug start="false"/>
# 开启xfs文件系统
<fileSystem xfs="false"/>
# 同步时忽略推送的文件(正则表达式),默认关闭
<filter start="false">
<exclude expression="(.*)\.svn"></exclude>
<exclude expression="(.*)\.gz"></exclude>
<exclude expression="^info/*"></exclude>
<exclude expression="^static/*"></exclude>
</filter>
<inotify>
# 设置要监控的事件
<delete start="true"/>##这个最好还是给改成false吧,不然的话,他会删除远程服务器上比自己多的文件,但是你要是想两边保持实时同步的话就要开启了
<createFolder start="true"/>
<createFile start="true"/>
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="true"/>
<modify start="true"/>
</inotify>
<sersync>
# 本地同步的目录路径
<localpath watch="/usr/local/nginx/logs">
# 远程IP和rsync模块名
<remote ip="192.168.220.98" name="web_log"/>
<!--<remote ip="192.168.8.39" name="tongbu"/>-->
<!--<remote ip="192.168.8.40" name="tongbu"/>-->
</localpath>
<rsync>
# rsync指令参数
<commonParams params="-auvzP"/>
# rsync同步认证
<auth start="true" users="backuser" passwordfile="/etc/rsync.pass"/>
# 设置rsync远程服务端口,远程非默认端口则需打开自定义,这里可以给他改掉,都不要用默认的,在远程服务器的rsyncd.conf里面进行修改,添加port=34875,自己定义
<userDefinedPort start="false" port="873"/><!-- port=874 -->
# 设置超时时间
<timeout start="true" time="100"/><!-- timeout=100 -->
# 设置rsync+ssh加密传输模式,默认关闭,开启需设置SSH加密证书
<ssh start="false"/>
</rsync>
# sersync传输失败日志脚本路径,每隔60会重新执行该脚本,执行完毕会自动清空。
<failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
# 设置rsync+crontab定时传输,默认关闭
<crontab start="false" schedule="600"><!--600mins-->
<crontabfilter start="false">
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
# 设置sersync传输后调用name指定的插件脚本,默认关闭
<plugin start="false" name="command"/>
</sersync>
# 插件脚本范例
<plugin name="command">
<param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
<filter start="false">
<include expression="(.*)\.php"/>
<include expression="(.*)\.sh"/>
</filter>
</plugin>
# 插件脚本范例
<plugin name="socket">
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>
</head>
然后就是设置环境变量了
# echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile
# source /etc/profile
现在就是启动sersync
sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml
这里也仅仅配置了一个模块的sersync的自动同步。sersync的多实例和nginx,Apache类似,需要多个不同的配置文件,来做相应的修改就可以了,例如
#因为我有3个模块所以需要3份配置文件。一一做相应的修改就可以
cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/www_conxml.xml
cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/bbs_conxml.xml
cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/blog_conxml.xml
启动多实例sersync的命令
#直接终端运行,配置文件就可以
/usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/www_conxml.xml
/usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/bbs_conxml.xml
/usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/blog_conxml.xml
#会显示类似的结果,只要没有error一切都OK
#重启操作如下:
# killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml
设置其开机启动
# echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.local
摘自:
http://www.fzb.me/2015-6-15-rsync-sersync-install-and-configuration.html
http://blog.csdn.net/orangleliu/article/details/46699147
https://www.centos.bz/2012/01/real-time-rsync-file-with-sersync/
注:当我们的接收端把文件删除之后,是不会对传送端有什么影响的!
还有要注意的就是,在我们使用过程当中,sersync脚本会自动关掉,因此需写一个脚本去检测该进程是不是存在,不存在就启动
脚本内容为:
#!/usr/bin/bash
sersync="/usr/local/sersync/bin/sersync2"
conf_file="/usr/loca/sersync/conf/confxml.xml"
status=$(ps -aux | grep 'sersync2' | grep -v 'grep' | wc -l)
if [ $status -eq 0]:
then
$sersync -d -r -o $conf_file &
else
exit 0;
fi
然后再弄一个计划任务,每隔五分钟就执行一下这个脚本
文章参考:
http://blog.chinaunix.net/uid-20639775-id-3011124.html
http://www.cnblogs.com/wjoyxt/p/4581410.html
https://www.cnhzz.com/rsync_sersync/ 这篇文章介绍的比较详细 (企业级案例:通过 rsync sersync 实现高效的数据实时同步架构)
sersync + rsync 实现文件的实时同步的更多相关文章
- sersync基于rsync+inotify实现数据实时同步
一.环境描述 需求:服务器A与服务器B为主备服务模式,需要保持文件一致性,现采用sersync基于rsync+inotify实现数据实时同步 主服务器A:192.168.1.23 从服务器B:192. ...
- rsync + inotify-tools实现文件的实时同步
文章摘自:http://lxw66.blog.51cto.com/5547576/1331048 rsync 帮助文档:http://man.linuxde.net/rsync 最近有个想法就是部署一 ...
- Linux下Rsync+Inotify-tools实现数据实时同步
Linux下Rsync+Inotify-tools实现数据实时同步 注意:下面的三个案例都是rsync 每次都是全量的同步(这就坑爹了),而且 file列表是循环形式触发rsync ,等于有10个文件 ...
- Rsync+Inotify-tools实现数据实时同步
inotify是一种强大的,细粒度的,异步文件系统时间监控机制,它可以替代crond实现与rsync的触发式文件同步,从而监控文件系统中添加,删除,修改,移动等细粒事件,从LINUX 2.6.13起, ...
- CentOS 6.5 rsync+inotify实现数据实时同步备份
CentOS 6.5 rsync+inotify实现数据实时同步备份 rsync remote sync 远程同步,同步是把数据从缓冲区同步到磁盘上去的.数据在内存缓存区完成之后还没有写入到磁盘 ...
- centos 6.9使用Rsync+Inotify-tools实现数据实时同步
centos 6.9使用Rsync+Inotify-tools实现数据实时同步 说明: 操作系统:CentOS 6.9 源服务器:192.168.1.222 备份服务器:192.168.1.1.233 ...
- rsync 守护进程及实时同步
目录 rsync 守护进程及实时同步 rsync简介 rsync特性 rsync应用场景 cp命令 scp命令 rsync的传输方式 rsync的传输模式 rsync实际使用 rsync命令 案例 r ...
- rsync+inotify安装配置 实时同步文件
安装 #安装inotify 工具 [root@localhost ~]# yum install inotify-tools -y 常用命令 [root@localhost ~]# inotifywa ...
- day10、nfs+rsync全网备份及实时同步
题目要求 注意:博主使用的系统为: [root@web01 ~]# uname -a Linux web01 2.6.32-696.el6.x86_64 #1 SMP Tue Mar 21 19:29 ...
随机推荐
- 分享十二个有用的jQuery代码
分享7个有用的jQuery代码 这篇文章主要介绍了7个有用的jQuery技巧分享,本文给出了在新窗口打开链接.设置等高的列.jQuery预加载图像.禁用鼠标右键.设定计时器等实用代码片段,需要的朋友可 ...
- 谷歌开源项目Google Preview Image Extractor(PIEX) (附上完整demo代码)
前天偶然看到谷歌开源项目中有一个近乎无人问津的项目Google Preview Image Extractor(PIEX) . 项目地址: https://github.com/google/piex ...
- [转载]ExtJs4 笔记(9) Ext.Panel 面板控件、 Ext.window.Window 窗口控件、 Ext.container.Viewport 布局控件
作者:李盼(Lipan)出处:[Lipan] (http://www.cnblogs.com/lipan/)版权声明:本文的版权归作者与博客园共有.转载时须注明本文的详细链接,否则作者将保留追究其法律 ...
- Windows环境中Openfire与Spark安装与配置指南
安装软件: openfire3.9.3 spark2.6.3 安装环境: WindowsXP JDK1.6.0_21 Oracle 一.openfire安装 1.安装openfire3.9.3,下载地 ...
- Mac快捷键、命令行
睡眠:option + command + 电源键 立即关机:Cmd-Opt-Ctrl-Eject 立即重启:Cmd-Ctrl-Eject 弹出关机提示 :Ctrl + 关机 正常关机快捷键 : C ...
- Oracle Update
在表的更新操作中,在很多情况下需要在表达式中引用要更新的表以外的数据.象sql server提供了update的from 子句,可以将要更新的表与其它的数据源连接起来.虽然只能对一个表进行更新,但是通 ...
- Linux网络共享管理(ssh,nfs,samba)
OpenSSH服务器: ssh协议:提供安全的ssh环境用于远程管理,默认端口:22: 服务名称:sshd openssh-server包的安装文件: 使用ssh客户端程序: 连接目标主机: ssh ...
- Apache Thrift
Baidu Thrift Google Thrift Apache Thrift - 可伸缩的跨语言服务开发框架
- MySQL初始化简单优化
1,yum 2,源码 3,二进制 4,源码+yum 不管哪种方式装完成数据库,都需要对数据库做一些优化. 优化数据库 mysql> select host,user from mysql.us ...
- js计算两个日期相隔几小时几分钟?
var dt1 = "2009-11-5 10:30" var dt2 = "2009-11-8 9:20" function ge ...