lsyncd+rsync配置图片资源双向同步
需求:为保证国内外图片加载速度,国内请求上传图片资源地址阿里云服务器,国外请求上传图片资源地址aws ,为保证图片资源的一致性,需定时进行aws和阿里云图片双向同步
调研方案:由于之前配置过inotify+rsync,计划通过该方案解决,但这种方案在图片资源量级较大时,并不能做到实时同步,而且inotify 存在性能问题,参考网上几种方案对比,故决定采用lsyncd+rsync。
lsyncd简介:
Lsyncd watches a local directory trees event monitor interface (inotify or fsevents). It aggregates and combines events for a few seconds and then spawns one (or more) process(es) to synchronize the changes. By default this is rsync.
Lsyncd is thus a light-weight live mirror solution that is comparatively easy to install not requiring new filesystems or block devices and does not hamper local filesystem performance. Lsyncd监听本地文件系统事件监控接口(inotify或fsevents)。它将若干秒内的事件聚合,然后触发一个或多个进程以同步变更。默认的同步手段是rsync。
Lysncd是一个轻量级、易安装的同步方案,它不需要新的文件系统或块设备,也不会影响本地文件系统性能。
lsyncd的安装配置:
源端配置:
rpm -ivh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm # 安装 epel 源
yum -y install lsyncd rsync # 安装
mkdir /etc/lsyncd ; vim /etc/lsyncd/lsyncd.conf #配置
settings {
-- 日志文件存放位置
logfile ="/var/log/lsyncd/lsyncd.log",
-- 监控目录状态文件的存放位置
statusFile ="/var/log/lsyncd/lsyncd.status",
-- 指定要监控的事件,如,CloseWrite,Modify,CloseWrite or Modify
inotifyMode = "CloseWrite or Modify",
-- 指定同步时进程的最大个数
maxProcesses = 10,
-- 隔多少秒记录一次被监控目录的状态
statusInterval = 10,
-- false=启用守护模式
nodaemon = false,
-- 当事件被命中累计多少次后才进行一次同步(即使间隔低于statusInterval)
maxDelays = 20
}
sync {
-- lsyncd运行模式
-- default.direct=本地目录间同步
-- default.rsync=使用rsync
-- default.rsyncssh=使用rsync的ssh模式
default.rsync,
-- 同步的源目录
source = "/test",
-- 同步的目标目录
target = "rsync://rsync@x.x.x.x:873/rsync_test0",
-- 是否同步删除 true=同步删除 false=增量备份
delete = false,
-- 排除同步文件
exclude = { "dir*" },
-- 等待rsync同步延时时间(秒)
delay = 10,
-- init=false则只同步lsyncd启动后变更,不设置则lsyncd启动后进行全量的同步
--init = True,
rsync = {
-- 单位kb
bwlimit=1000,
binary = "/usr/bin/rsync",
archive = true,
compress = true,
verbose = true,
perms = true,
-- rsync的用户密码,不是Linux系统的用户密码
password_file = "/etc/lsyncd/rsync.passwd"
}
}
创建秘钥文件:
echo "4V6bXyY7MCchEZ2hRq" > /etc/lsyncd/rsync.passwd ; chmod 600 /etc/lsyncd/rsync.passwd
编辑/etc/init.d/lsyncd ,将该文件中的/etc/lsyncd.conf替换成/etc/lsyncd/lsyncd.conf,不要有遗漏。
目标端配置:
yum -y install rsync #安装rsync
mkdir /var/rsync && mkdir /etc/rsync && mkdir /opt/rsync
vim /etc/rsync/rsync.conf
######### 全局配置参数 ##########
#rsync端口 默认873
port=873
#rsync服务的运行用户,默认是nobody,文件传输成功后属主将是这个uid
uid = 0
# rsync服务的运行组,默认是nobody,文件传输成功后属组将是这个gid
gid = 0
#rsync daemon在传输前是否切换到指定的path目录下,并将其监禁在内
use chroot = no
#最大连接数量,0表示没有限制
max connections = 30
#确保rsync服务器不会永远等待一个崩溃的客户端,0表示永远等待
timeout = 300
#客户端连接过来显示的消息
motd file = /var/rsync/rsync.motd
#rsync daemon的pid文件
pid file = /var/run/rsync.pid
#指定锁文件
lock file = /var/run/rsync.lock
#指定rsync的日志文件,而不把日志发送给syslog
log file = /var/log/rsync/rsync.log
#指定哪些文件不用进行压缩传输
dont compress = *.gz *.tgz *.zip *.z *.Z *.rpm *.deb *.bz2
###########下面指定模块,并设定模块配置参数,可以创建多个模块###########
[rsync_test0] # 第一个模块的ID
#文件路径
path = /test/
#忽略某些IO错误信息
ignore errors
#只读
read only = false
#不隐藏该模板
list = true
#允许IP
hosts allow = x.x.x.x/32
#不允许IP
hosts deny = 0.0.0.0/32
#指定连接到该模块的用户列表,只有列表里的用户才能连接到模块,用户名和对应密码保存在secrts file中
#这里使用的不是系统用户,而是虚拟用户。不设置时,默认所有用户都能连接,但使用的是匿名连接
auth users = rsync
#保存auth users用户列表的用户名和密码,每行包含一个username:passwd。
#由于"strict modes"默认为true,所以此文件要求非rsync daemon用户不可读写。只有启用了auth users该选项才有效。
secrets file = /etc/rsync/rsync.passwd
将rsync用户认证信息写入到密码文件中
echo 'rsync:4V6bXyY7MCchEZ2hRq' >> /etc/rsync/rsync.passwd 其中rsync是用户名,需要和rsync.conf文件中的auth users保持一致,冒号后面的是该用户的密码。注意:该用户为虚拟用户,与Linux系统中的用户无关。
创建rsync启动脚本
#!/bin/bash
#rsync启动脚本,注意这里的pid文件路径,conf文件路径一定要和自己的配置保持一致。
status1=$(ps -ef | egrep "rsync --daemon.*rsync.conf" | grep -v 'grep')
pidfile="/var/run/rsync.pid"
start_rsync="rsync --daemon --config=/etc/rsync/rsync.conf" function rsyncstart() {
if [ "${status1}X" == "X" ];then
rm -f $pidfile
$start_rsync
status2=$(ps -ef | egrep "rsync --daemon.*rsync.conf" | grep -v 'grep')
if [ "${status2}X" != "X" ];then
echo "rsync service start.......OK"
fi
else
echo "rsync service is running !"
fi
}
function rsyncstop() {
if [ "${status1}X" != "X" ];then
kill -9 $(cat $pidfile)
status2=$(ps -ef | egrep "rsync --daemon.*rsync.conf" | grep -v 'grep')
if [ "${statusw2}X" == "X" ];then
echo "rsync service stop.......OK"
fi
else
echo "rsync service is not running !"
fi
}
function rsyncstatus() {
if [ "${status1}X" != "X" ];then
echo "rsync service is running !"
else
echo "rsync service is not running !"
fi
}
function rsyncrestart() {
if [ "${status1}X" == "X" ];then
echo "rsync service is not running..."
rsyncstart
else
rsyncstop
rsyncstart
fi
}
case $1 in
"start")
rsyncstart
;;
"stop")
rsyncstop
;;
"status")
rsyncstatus
;;
"restart")
rsyncrestart
;;
*)
echo
echo "Usage: $0 start|stop|restart|status"
echo
esac
chmod +x /opt/rsync/rsync.sh
编辑/etc/init.d/lsyncd 将所有 /etc/lsyncd.conf 替换成 /etc/lsyncd/lsyncd.conf
源端启动lsyncd: service lsyncd start 目标端:/opt/rsync/rsync.sh start
测试rsync配置: rsync -r /test/ rsync://rsync@x.x.x.x:873/rsync_test0/ --password-file=/etc/lsyncd/rsync.passwd
由于配置的是双向同步,所以两边都需要进行源端和目标端配置。
分别在两边的/test 目录创建文件,观察同步情况,验证配置是否正常。
参考链接:
http://www.devisaac.com/2018/07/26/remote-realtime-backup-using-lsyncd-and-rsync.html
lsyncd+rsync配置图片资源双向同步的更多相关文章
- rsync+inotify 实时双向同步
前言 在遇到需要 nginx 负载均衡,承受较高并发的情况,同时会有双机相同目录内容须保持一致的需求 rsync+inotify 是一个不错的解决方案,相较于 rsync+sersync 在处理大量文 ...
- redhat 7.6 rsync 配置,实时同步脚本
1.查看rsync,并安装 yum install rsync -y 2.配置/etc/rsyncd.conf文件 建议cp一份作为备份,清空内容复制以下配置 [服务端配置]log file = /v ...
- rsync unison+inotify双向实时同步
rsync多线程同步 A:文件服务器 ip:10.10.1.10 B:备份服务器 ip:10.10.1.11 1.在B服务器上安装rsync软件 tar xzvf rsync-3.1.0.tar.gz ...
- Oracle主从同步、双向同步的配置
(本教程展示了Windows环境的oracle数据库主从同步,Linux环境一样也可以) (把主数据库obpm 和从数据库orcl 用实际的数据库名给替换掉) (配置主从同步后,再配置双向同步,可能会 ...
- Linux下 Unison 实现文件双向同步
原创作品,允许转载,转载时请务必以超链接形式标明文章 原始出处 .作者信息和本声明.否则将追究法律责任.http://hx100.blog.51cto.com/44326/612301 一.Uniso ...
- CentOS 7.2 Ubuntu 18部署Rsync + Lsyncd服务实现文件实时同步/备份
发送端配置: 一.配置密钥 1. 主/从服务器之间启用基于密钥的身份验证.登录发送端服务器并用 " ssh-keygen " 命令生成公共或私有的密钥. 2. 使用 " ...
- Rsync + Lsyncd服务实现文件实时同步/备份
1.接受端安装rsync yum -y install rsync 2.配置同步模块 vim /etc/rsyncd.conf # any name you like [backup] # desti ...
- 通过 lsyncd + rsync 同步文件
通过rsyncd实现将源服务器上的文件同步到目标服务器,通过lsyncd监控源服务器上的文件是否有变动,若有变动调用rsyncd服务对差异的文件进行同步. 0. lsyncd有三种同步文件的方式: ( ...
- lsyncd + rsync 实时同步搭建
一.inotify和lsync inotify和lsyncd对比一下,发现虽然lsyncd没有inotify那么真正的实时同步,但是lsyncd的同步基本上可以满足基本实时同步的要求,而且lsyncd ...
随机推荐
- linux之间免密操作
为了方便分布式集群操作,主机master需要免密操作两个节点slave1和slave2(slave1和slave2在对应机器已经修改hosts文件) 操作步骤: 首先测试连接slave1操作: [ro ...
- MySQL执行计划复习
MySQL执行计划分析 Ⅰ.认识执行计划的每个字段 (root@localhost) [(none)]> desc select 1; +----+-------------+-------+- ...
- PHP 简易聊天室 利用redis的订阅发布功能
demo:http://www.200ok.fun:8083/api/chat/list 前言:这个种方式太耗redis连接数,每次订阅都会新起一个进程,仅供练手使用,切勿用于生产环境. 原理:1.P ...
- [dev] udp socket的read长度问题
场景描述 我的两个程序需要彼此通信.采用unix socket来实现. 并为了简单起见使用了DGRAM,也就是udp通信. 问题描述 1. 用法是这样的 收包的一端使用epoll监听,发包端发送一个2 ...
- weakhashmap简单理解
map中的key(注意String,和元数据作key有特殊性),gc后会被立马干掉, key被干掉后,其对应的entry将被存入queue中 /** * Reference queue for cle ...
- spring注解简单记录
@Autowired 自动匹配,按类型 @qualifiter("beanname") 当有多个bean匹配时,可指定bean名称 @Resource byname优先匹配,然后b ...
- webpack常见问题 收藏
一:webpack认识 本质上,webpack 是一个现代 JavaScript 应用程序的静态模块打包器(module bundler).当 webpack 处理应用程序时,它会递归地构建一个依赖关 ...
- LAYUI layedit 富文本框内容的取值
js 1.第一种方法 2.第二种方法
- 关于网站的一些js和css常见问题的记录
1. 文字超过宽度,给这个后面超过的文字用...来表示 white-space: nowrap;
- 004-CSS怎样让背景充满整个屏幕
<!doctype html><html><body> ...Your content goes here...</body></html> ...