rsync同步(winxdows到linux/linux到linxu同步)
1.什么是rsync?
-rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步。
-第一次同步时rsync会复制全部内容,但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。
-安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
-支持匿名传输,以方便进行网站镜象。
2.服务器端和客户端
1).一对一,客户端和服务端和都可以相互同步,可以不区分,一般是服务端同步到客户端。
2).一对多,一个服务端,多个客户端,客户端从服务端拷贝数据,保持数据一致。
3.windows(服务端配置)
首先要下载windows版的rsync
rsync分为服务器端和客户端,以A(服务器端),B(客户端)2台服务器为例 A的IP地址为192.168.1.111 B的ip地址为192.168.1.123
1,先配置服务器端,在服务器上安装cwRsyncServer_4.0.5_Installer.exe,安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装过程中rsync会自动建立一个叫做rsync的用户名,并且提示你输入这个用户的密码,这里很关键,这个密码一定要是你系统用户即adminstrator的密码,如果怕出错就不用管他直接点下一步,值得完成安装,这时打开你的服务检查下有没有一个RsyncServer的服务,如果没有的话就是那个用户密码的地方弄错了,建议卸载重新安装,如果有那就OK,最后检查下你的防火墙是否打开873端口
上面的用户名和密码就是下面客户端所用到的账户,密码,以上就是服务器端的安装了,然后就是配置,找到你rsync的安装目录点击进去里面会有个rsyncd.conf的配置文件,用记事本的方式打开他,在文件最前面追加"uid = 0" "gid = 0" 2行,然后修改 "[]" 的内容,这里小编直接上图,有图更容易看懂
怎么样,从图上来看很清楚把,然后在在服务里面找到 "RsyncServer" 修改为"自动开启" 并且将服务"启动".
2,接下来是客户端,首先客户端先安装cwRsync_4.0.5_Install.exe,同样安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装完成后,新建一个txt文本文档,这里小编还是上图来说明
--timeout参数,这个是一个超时设定,在服务器忙或者网络忙的时候rsync会出现同步到一半不动的情况,用了这个参数的话就可以设定他在你指定的时间内rsync没有进行操作则取消命令,这个在多台服务器同步的时候非常有用
--exclude参数,排除你指定某个文件或者目录,这个不用多介绍了
--delete参数,这个的意思是服务器端与客户端保持完全一致,客户段与服务端不同的文件客户端会进行删除操作,这里小编建议新手不要加上这个参数,如果服务端误操作删掉了文件那你所有的机器都会删掉这个文件,就会很麻烦,所以先可以不加这个参数
4.linux(服务端)
4.1 安装Rsync
[root@localhost /]# cd /opt/install
[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz
[root@localhost install]# cd rsync-3.0.7
[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync
[root@localhost rsync-3.0.7]# make
[root@localhost rsync-3.0.7]# make install
安装完成后,在/opt/software/rsync中包含了安装的所有文件
4.2 修改配置文件
在/opt/software/rsync目录中增加conf目录,然后在此目录中增加rsyncd.conf文件,文件内容如下:
uid = 0
gid = 0
#监听端口(缺省为873,可以不用修改)
port = 52326
# 允许连接的客户端IP
#hosts allow=192.168.0.0/24
# 拒绝访问的客户端IP
#hosts deny=0.0.0.0/32
# 不使用chroot
use chroot=no
# 最大连接数为100
max connections=100
# 欢迎信息文件名称和存放位置(此文件没有,可以自行添加)
#motd file=/opt/software/rsync/conf/rsyncd.motd
# 指定rsync的pid文件
pid file=/var/run/rsyncd.pid
# 指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock
lock file=/var/run/rsync.lock
# 指定rsync的日志文件,而不将日志发送给syslog
log file=/var/log/rsyncd.log
#下面就是每个需要同步的模块的配置
#需要同步的模块名称,在客户端同步时需要指定,根据实际需要进行修改
[main]
# 需要同步的目录(根据实际情况进行修改,此处只是示例)
path=/srv/www/app/cms/main
comment=rsync files
# 忽略无关的IO错误
ignore errors
# 只读
read only=yes
# 不允许列文件
list=no
# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔
#auth users=thinkive
# 认证用户文件名
secrets file=/opt/software/rsync/conf/rsyncd.pas
#同步的第二个模块名称,在客户端同步时需要指定,根据实际需要进行修改
[upload]
# 需要同步的目录(根据实际情况进行修改,此处只是示例)
path=/srv/www/app/cms/upload
comment=rsync files
# 忽略无关的IO错误
ignore errors
# 只读
read only=yes
# 不允许列文件
list=no
# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔
#auth users=thinkive
# 认证用户文件名
secrets file=/opt/software/rsync/conf/rsyncd.pas
4.3 配置密码认证文件
在/opt/software/rsync/conf目录中创建rsyncd.pas文件
然后在文件中加入如下内容:
thinkive:thinkive
4.4 启动服务器
[root@localhost /]# cd /opt/software/rsync/bin/
[root@localhost bin]# ./rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf
[root@localhost bin]# ps –ef | grep rsync
检查服务是否已经启动
以服务器方式启动在52326端口(缺省为873端口,若不指定配置文件路径,则缺省配置文件从/etc/rsyncd.conf读取)
如果要在一台机器上启动多个同步服务进程,可给定不同的--config --port。
若要随机启动,则可以把此代码加入到/etc/rc.local中
/opt/software/rsync/bin/rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf
5.linux(客户端)
5.1 安装Rsync
[root@localhost /]# cd /opt/install
[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz
[root@localhost install]# cd rsync-3.0.7
[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync
[root@localhost rsync-3.0.7]# make
[root@localhost rsync-3.0.7]# make install
安装完成后,在/opt/software/rsync中包含了安装的所有文件
5.2 配置密码认证文件
在/opt目录中创建文件名为/rsync.pas 的密码认证文件(密码文件路径和文件名称可自行修改),然后在此文件中添加如下用户密码(必须和服务器端配置的用户密码一致):
thinkive
修改该文件的权限
chmod 600 rsync.pas
5.3 执行同步命令
[root@localhost /]# cd /opt/software/rsync/bin
[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main
[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload
详细参数说明:
z是压缩传输,
r是递归同步,
topg都是保持文件原有属性如属主、时间的参数。
u是只同步已经更新的文件,避免没有更新的文件被重复更新一次,不过要注意两者机器的时钟的同步。
–progress是指显示出详细的进度情况,
–delete是指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致。
--port 指定访问的端口
后面的thinkive@192.168.1.108::data中,之后的data是模块名,也就是在rsyncd.conf中自定义的名称,thinkive是指定模块中指定的可以同步的用户名。
–password-file=/opt/rsync.pas指定密码文件,这样就可以在脚本中使用而无需交互式地输入验证密码了,这里需要注意的是这份密码文件权限属性要设得只有属主可读。
/opt/install_bak是备份到本地的目录名,根据具体的需求填写。
5.4 生成同步的脚本
脚本文件位置可以自定,此处假设在/opt/rsync.sh
DATE=`date +%Y%m%d`
cd /opt/software/rsync/bin
./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main >> /opt/software/rsync/log/rsync_main.$DATE.log
./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload >> /opt/software/rsync/log/rsync_upload.$DATE.log
上面每天会生成一个日志
赋予权限 chmod 777 /opt/rsync.sh
5.5 加入到定时器中
把
*/1 * * * * root /opt/rsync.sh
加入到/etc/crontab中,然后使用如下命令重新启动crond
service crond restart
上面定时任务表示每分钟增量同步一次数据。
具体可以参见linux添加定时任务crond
6.注意问题
数据同步软件主要是根据时间进行数据的增量同步,所以必须主服务器和客户端之间的机器的时间不能相差太远,否则可能导致数据不能正确的同步。
7.Rsync命令参数详解
rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。Rsync的命令格式可以为以下六种:
rsync [OPTION]... SRC DEST
rsync [OPTION]... SRC [USER@]HOST:DEST
rsync [OPTION]... [USER@]HOST:SRC DEST
rsync [OPTION]... [USER@]HOST::SRC DEST
rsync [OPTION]... SRC [USER@]HOST::DEST
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
对应于以上六种命令格式,rsync有六种不同的工作模式:
1)拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup
2)使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src
3)使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data
4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack
5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www
6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www
rsync参数的具体解释如下:
-v, --verbose 详细模式输出
-q, --quiet 精简输出模式
-c, --checksum 打开校验开关,强制对文件传输进行校验
-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r, --recursive 对子目录以递归模式处理
-R, --relative 使用相对路径信息
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结 -p, --perms 保持文件权限
-o, --owner 保持文件属主信息 -g, --group 保持文件属组信息
-D, --devices 保持设备文件信息 -t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件,不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
-e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force 强制删除目录,即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间,单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示备份过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
-stats 给出某些文件的传输状态
--progress 在传输时现实传输过程
--log-format=formAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽,KBytes per second -h, --help 显示帮助信息
rsync同步(winxdows到linux/linux到linxu同步)的更多相关文章
- rsync (windows 服务端,linux客户端)将windows上的数据同步到linux服务器,反之也可
一:总体概述. 1.windows上面首先装CW_rsync_Server.4.1.0_installer,安装时要输入的用户名密码要记住哦!接下来就是找到rsyncd.conf进入配置细节 2.li ...
- Linux系统实时数据同步inotify+rsync
一.inotify简介 inotify是Linux内核的一个功能,它能监控文件系统的变化,比如删除.读.写和卸载等操作.它监控到这些事件的发生后会默认往标准输出打印事件信息.要使用inotify,Li ...
- centos shell编程4【分发系统】 服务器标准化 mkpasswd 生成密码的工具 expect讲解 expect传递参数 expect自动同步文件 expect指定host和要同步的文件 expect文件分发系统 expect自动发送密钥脚本 Linux脚本执行方式 第三十八节课
centos shell编程4[分发系统] 服务器标准化 mkpasswd 生成密码的工具 expect讲解 expect传递参数 expect自动同步文件 expect指定host和要 ...
- Linux与Windows文件同步
Linux与Windows文件同步 本次采用的同步方式是rsync,Rsync是一款免费且强大的同步软件,可以镜像保存整个目录树和文件系统,同时保持原来文件的权限.时间.软硬链接.第一次同步时会复制全 ...
- Linux的原子操作与同步机制
Linux的原子操作与同步机制 .进程1执行完“mov eax, [count]”后,寄存器eax内保存了count的值0.此时,进程2被调度执行,抢占了进程1的CPU的控制权.进程2执行“cou ...
- Linux下进程的同步相互排斥实例——生产者消费者
linux下的同步和相互排斥 Linux sync_mutex 看的更舒服点的版本号= = https://github.com/Svtter/MyBlog/blob/master/Linux/pth ...
- Linux和Windows数据同步
正在做一个小项目,关于Linux和Windows数据同步,新知识很兴奋,比赛很有信心,加油吧少年 项目进行中:今晚实验室包宿开整.
- Linux centos 时间不同步 date 和 hwclock 时间不一致
Linux centos 时间不同步 date 和 hwclock 网站有两台服务器,date 查看差3分钟 在应用 APP倒计时 与 直播,时时性较强的功能应用中 请求服务器后返回的服务器时间与数据 ...
- 同步windows时间到linux服务器
输入date -R 查看系统时间 输入命令 ntpdate time.windows.com 同步windows时间到linux
随机推荐
- 教你如何开启/关闭ubuntu防火墙
目录 [隐藏] 1 安装方法 2 使用方法 3 推荐设置 4 详细使用说明 安装方法 sudo apt-get install ufw 当然,这是有图形界面的(比较简陋),在新立得里搜索gufw试 ...
- 修复Mysql主从不同步shell
使用第三方工具MySQL Enterprise Monitor,MySQL企业版监控工具.MONyog – MySQL Monior and Advisor,MONyog大家都不陌生,windows下 ...
- Spring实现文件的上传下载
背景:之前一直做的是数据库的增删改查工作,对于文件的上传下载比较排斥,今天研究了下具体的实现,发现其实是很简单.此处不仅要实现单文件的上传,还要实现多文件的上传. 单文件的下载知道了,多文件的下载呢? ...
- csp20170304地铁修建_Solution
ccf20170304地铁修建_Solution 这里最短路为所以从点1到点n的路径中最长的道路的长度. 因为1 ≤ n ≤ 100000,1 ≤ m ≤ 200000,属于稀疏图,所以使用Spfa( ...
- 利用千人基因组数据库查看SNP在不同地区、国家、洲的频率及个数
首先,进入千人基因组数据库的网站:https://www.ncbi.nlm.nih.gov/variation/tools/1000genomes/ 如下图所示,在数据库的框框里输入我们感兴趣的SNP ...
- Java + 腾讯邮箱 SSL加密问题 重要通知
原来的jdk8版本如果不替换jce就会在发邮件的过程中报错,而此次使用的jdk1.8.0_131,并没有出现问题,也就是说,如果你使用的版本是 就不用考虑发邮件因为加密算法而导致的错误了
- @Value加载classpath下的文件
maven工程中,要加载classpath下的文件并以InputStream的形式返回,通常使用的方法是 InputStream inputStream = Test.class.getClassLo ...
- MySQL索引原理及慢查询优化-来自美团网的技术blog(写的深入浅出)
MySQL索引原理及慢查询优化 转:http://tech.meituan.com/mysql-index.html MySQL凭借着出色的性能.低廉的成本.丰富的资源,已经成为绝大多数互联网公司的首 ...
- Hadoop基础-网络拓扑机架感知及其实现
Hadoop基础-网络拓扑机架感知及其实现 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.网络拓扑结构 在本地网络中,两个节点被称为“彼此近邻”是什么意思?在海量数据处理中,其 ...
- JavaSE学习总结(四)——Java面向对象十分钟入门
面向对象编程(Object Oriented Programming,OOP)是一种计算机模拟人类的自然思维方式的编程架构技术,解决了传统结构化开发方法中客观世界描述工具与软件结构的不一致性问题.Ja ...