linux rsync同步工具

1、rsync介绍
rsync是一款开源的、快速的、多功能的、可实现全量及增量的本地或远程数据同步备份的优秀工具。rsync软件适用于unix/linux/windows等多种操作系统平台。

rsync和ssh带的scp命令比较相似,但又优于scp命令的功能,scp每次都是全量拷贝,而rsync可以进行增量拷贝。当然,rsync还可以在本地主机的不同分区或目录之间全量及增量的复制数据,这又类似cp命令,但同样也优于cp命令,cp每次都是全量拷贝,而rsync可以增量拷贝.利用rsync还可以实现删除文件和目录功能,这又相当于rm命令。

2、rsync特性
支持拷贝特殊文件如链接文件,设备等。
可以有排除指定文件或目录同步的功能,相当于打包命令tar的排除功能。
可以做到保持原文件或目录的权限、时间、软硬链接、属主、组等所有属性均不改变。
可实现增量同步,即可同步发生变化的数据,因此数据传输效率很高。
可以使用rcp,rsh,ssh等方式来配合传输文件(rsync本身不对数据加密)。
可以通过socket传输文件和数据。
支持匿名的或认证(无需系统用户)的进程模式传输,可实现方便安全的进行数据备份及镜像。
3、rsync工作场景
两台服务器之间数据同步。
把所有客户服务器数据同步到备份服务器,生产场景集群架构服务器备份方案。
rsync结合inotify的功能做实时的数据同步。
4、rsync命令同步参数选项
常用参数选项说明:

参数 完整参数 说明
-v --verbose 详细模式输出,传输时的进度信息
-z --compress 传输时进行压缩以提高传输效率, --compress-level=NUM可按级别压缩
-a --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rtopgDl
-r --recursive 对子目录以递归模式,即目录下的所有目录都同样传输,注意是小写r
-t --times 保持文件时间信息
-o --owner 保持文件属主信息
-p --perms 保持文件权限
-g --group 保持文件属组信息
-P --progress 显示同步的过程及传输时的进度等信息
-D --devices 保持设备文件信息
-l --links 保持软链接
-e --rsh=COMMAND 使用的信道协议,指定替代rsh的shell程序,例如ssh
--exclude=PATTERN 指定排除不需要传输的文件模式
--exclude-from=FILE 从文件中读取指定排除不需要传输的文件模式
以上参数为在生产环境中的常用参数,基本使用已足够,相关的参数还有非常多,了解更多可以man rsync。最常用的参数avz相当于vzrtopgDl,生产参数-avz或者用-vzrtopg
5、rsync工作方式
一般来说,rsync大致使用三种主要的传输数据的方式,分别为:

5.1 本地数据传输模式(local-only mode),单个主机本地之间的数据传输(此时类似于cp命令的功能)。
rsync本地传输模式的语法为:

rsync [OPTION...] SRC... [DEST]
语法说明:

rsync为同步的命令
[OPTION]为同步时的参数选项
SRC为源,即待同步的分区、文件或目录等
[DEST]为目的分区、文件或目录
实例,将/etc/hosts 同步至/tmp

MacBook-Pro:tmp maxincai$ rsync /etc/hosts /tmp
MacBook-Pro:tmp maxincai$ ll
total 4
drwxrwxrwt 9 root wheel 306 1 14 15:04 ./
drwxr-xr-x@ 6 root wheel 204 6 26 2015 ../
drwxrwxrwt 3 maxincai wheel 102 12 31 10:46 .pd/
-rw-r--r-- 1 maxincai wheel 737 1 14 15:04 hosts
5.2 远程传输,借助rcp,ssh等通道来传输数据(此时类似于scp命令的功能)。
远程传输模式的语法为:

拉取: rsync [OPTION...] [USER@]HOST:SRC... [DEST]
推送: rsync [OPTION...] SRC... [USER@]HOST:DEST
语法说明:

rsync为同步的命令
[OPTION]为同步时的参数选项
[USER@]HOST: 远程用户名及host
SRC为源,即待同步的分区、文件或目录等
[DEST]为目的分区、文件或目录
推送实例

[root@vagrant-centos65 ~]# mkdir data
[root@vagrant-centos65 ~]# ll
total 8
drwxr-xr-x 2 root root 4096 Jan 14 07:26 data
drwxr-xr-x 3 root root 4096 Jan 11 11:08 workspace
[root@vagrant-centos65 ~]# cd data
[root@vagrant-centos65 data]# ll
total 0
[root@vagrant-centos65 data]# ll
total 0
[root@vagrant-centos65 data]# vim 1.txt
[root@vagrant-centos65 data]# rsync -avzP -e 'ssh -p 22' /root/data root@192.168.35.2:/root
The authenticity of host '192.168.35.2 (192.168.35.2)' can't be established.
RSA key fingerprint is 0c:5f:f6:c7:a6:27:4e:a0:e6:7c:99:8a:db:2e:41:df.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '192.168.35.2' (RSA) to the list of known hosts.
root@192.168.35.2's password:
sending incremental file list
data/
data/1.txt
4 100% 0.00kB/s 0:00:00 (xfer#1, to-check=0/2)

sent 104 bytes received 35 bytes 25.27 bytes/sec
total size is 4 speedup is 0.03
[root@vagrant-centos65 data]#
拉取实例

[root@vagrant-centos65 data]# rsync -avzP -e 'ssh -p 22' root@192.168.35.2:/root/data1 /root
root@192.168.35.2's password:
receiving incremental file list
data1/
data1/2.txt
4 100% 3.91kB/s 0:00:00 (xfer#1, to-check=0/2)

sent 34 bytes received 106 bytes 56.00 bytes/sec
total size is 4 speedup is 0.03
[root@vagrant-centos65 data]# ll
total 4
-rw-r--r-- 1 root root 4 Jan 14 07:26 1.txt
[root@vagrant-centos65 data]# cd ..
[root@vagrant-centos65 ~]# ll
total 12
drwxr-xr-x 2 root root 4096 Jan 14 07:27 data
drwxr-xr-x 2 root root 4096 Jan 14 07:30 data1
drwxr-xr-x 3 root root 4096 Jan 11 11:08 workspace
[root@vagrant-centos65 ~]#
5.3 以守护进程(socket)的方式传输数据,这个是rsync自身的重要功能。
我们实验的机器如下:

server: 192.168.35.2

client: 192.168.36.2

先新建配置文件,请注意rsyncd.conf配置文件只用在服务端新建就好。

vim /etc/rsyncd.conf
以下只是配置文件中最常用的部份,更多的请使用命令man rsyncd.conf查看。

# 运行rsync的用户和组id
uid = rsync
gid = rsync
# bug信息的处理,一种安全方式
use chroot = no
# 最大的连接数
max connections = 200
# 超时时间
timeout = 300
# pid文件
pid file = /var/run/rsyncd.pid
# 锁文件
lock file = /var/run/rsync.lock
# 日志文件
log file = /var/log/rsyncd.log
# 需要同步的模块,这是其中一个,可以有多个
[data1]
# 同步的根目录
path = /data1/
# 忽略错误
ignore errors
# 只读falsh 表示可读可写
read only = false
# 不可列表
list = false
# 允许访问的网段
hosts allow = 10.0.0.0/24
# 拒绝访问的网段
hosts deny = 0.0.0.0/32
# 用户名
auth users = rsync_backup
# 密码文件路径
secrets file = /etc/rsync.password
以守护进程的方式启动rsync

[root@vagrant-centos65 data1]# rsync --daemon
如果需要了解启动更详情的信息,建议查看帮助,这里就不具体列出来了

[root@vagrant-centos65 data1]# rsync --daemon --help
查看是否启动成功,rsyncd的默认端口是873

[root@vagrant-centos65 data1]# netstat -lntup | grep 873
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 2580/rsync
tcp 0 0 :::873 :::* LISTEN 2580/rsync
[root@vagrant-centos65 data1]# ps -ef | grep rsync
root 2580 1 0 08:19 ? 00:00:00 rsync --daemon
root 2585 2116 0 08:30 pts/0 00:00:00 grep rsync
如果启动出错,我们就需要查看一下系统日志,我们这里日志显示正常启动

[root@vagrant-centos65 data1]# cat /var/log/rsyncd.log
2016/01/15 08:19:12 [2580] rsyncd version 3.0.6 starting, listening on port 873
下面我们创建需要同步的目录,并给予相应的权限

[root@vagrant-centos65 /]# mkdir -p /data1
[root@vagrant-centos65 /]# chown -R rsync.rsync /data1
# 这里报错了,因为没有相应的用户,我们需要创建
chown: invalid user: `rsync.rsync'
# 创建一个不需要登录的系统用户
[root@vagrant-centos65 /]# useradd rsync -s /sbin/nologin
[root@vagrant-centos65 /]# chown -R rsync.rsync /data1
将用户名和密码重定义输出到我们的密码存放文件

# rsync_backup是用户名,maxincai是密码
[root@vagrant-centos65 /]# echo "rsync_backup:maxincai" >/etc/rsync.password
[root@vagrant-centos65 /]# cat /etc/rsync.password
rsync_backup:maxincai
# 由于我们存放的是密码文件,为了安全,修改权限为600,同时这也是rsync本身的要求
root@vagrant-centos65 /]# chmod 600 /etc/rsync.password
# 同时我们需要关闭防火樯
[root@vagrant-centos65 /]# /etc/init.d/iptabls stop
-bash: /etc/init.d/iptabls: No such file or directory
[root@vagrant-centos65 /]# getenforce
Disabled
下面配置客户端,将密码保存在密码配置文件,同是为了与服务端统一,我们使用相当的文件名,注意这里我们只需要放入密码即可

[root@vagrant-centos65 ~]# echo "maxincai" >/etc/rsync.password
[root@vagrant-centos65 ~]# chmod 600 /etc/rsync.password
[root@vagrant-centos65 ~]# cat /etc/rsync.password
maxincai
通过daemon方式远程传输的语法为:

Access via rsync daemon:
Pull: rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
在客户端进行拉取实例:

先看看server端的目录结构

[root@vagrant-centos65 data1]# pwd
/data1
[root@vagrant-centos65 data1]# tree
.
├── dir1
│ └── test3
├── dir2
├── test1
└── test2

3 directories, 2 files
[root@vagrant-centos65 data1]#
开始拉取

[root@vagrant-centos65 ~]# rsync -avz rsync_backup@192.168.35.2::data1 /data1
Password:
# 需要输入密码,输入之前的定义的密码maxincai
receiving incremental file list
created directory /data1
./
test1
test2
dir1/
dir1/test3/
dir2/

sent 116 bytes received 289 bytes 90.00 bytes/sec
total size is 0 speedup is 0.00
# 可以看到通过成功,看看同步之后的目录结构
[root@vagrant-centos65 ~]# cd /data1
[root@vagrant-centos65 data1]# ll
total 8
drwxr-xr-x 3 root root 4096 Jan 15 09:11 dir1
drwxr-xr-x 2 root root 4096 Jan 15 09:11 dir2
-rw-r--r-- 1 root root 0 Jan 15 09:10 test1
-rw-r--r-- 1 root root 0 Jan 15 09:11 test2
[root@vagrant-centos65 data1]# tree
.
├── dir1
│ └── test3
├── dir2
├── test1
└── test2

3 directories, 2 files
在看看拉取的时候需要输入密码,不方便我们在rcontab中进行定义,所以我们需要让他自动读取密码,参数--password-file=/etc/rsync.password

[root@vagrant-centos65 data1]# rsync -avz rsync_backup@192.168.35.2::data1 /data1 --password-file=/etc/rsync.password
receiving incremental file list

sent 66 bytes received 205 bytes 108.40 bytes/sec
total size is 0 speedup is 0.00
在客户端进行推送实例

# 创建10个文件
[root@vagrant-centos65 data1]# touch {1..10}
[root@vagrant-centos65 data1]# ll
total 8
-rw-r--r-- 1 root root 0 Jan 15 09:25 1
-rw-r--r-- 1 root root 0 Jan 15 09:25 10
-rw-r--r-- 1 root root 0 Jan 15 09:25 2
-rw-r--r-- 1 root root 0 Jan 15 09:25 3
-rw-r--r-- 1 root root 0 Jan 15 09:25 4
-rw-r--r-- 1 root root 0 Jan 15 09:25 5
-rw-r--r-- 1 root root 0 Jan 15 09:25 6
-rw-r--r-- 1 root root 0 Jan 15 09:25 7
-rw-r--r-- 1 root root 0 Jan 15 09:25 8
-rw-r--r-- 1 root root 0 Jan 15 09:25 9
drwxr-xr-x 3 root root 4096 Jan 15 09:11 dir1
drwxr-xr-x 2 root root 4096 Jan 15 09:11 dir2
-rw-r--r-- 1 root root 0 Jan 15 09:10 test1
-rw-r--r-- 1 root root 0 Jan 15 09:11 test2

# 开始推送
[root@vagrant-centos65 data1]# rsync -avz /data1/ rsync_backup@192.168.35.2::data1 --password-file=/etc/rsync.password
sending incremental file list
./
1
10
2
3
4
5
6
7
8
9

sent 558 bytes received 204 bytes 1524.00 bytes/sec
total size is 0 speedup is 0.00

# 查看服务端的同步情况
[root@vagrant-centos65 data1]# tree
.
├── 1
├── 10
├── 2
├── 3
├── 4
├── 5
├── 6
├── 7
├── 8
├── 9
├── dir1
│ └── test3
├── dir2
├── test1
└── test2

3 directories, 12 files
其他的语法

# 推送
[root@vagrant-centos65 data1]# rsync -avz /data1/ rsync://rsync_backup@192.168.35.2/data1 --password-file=/etc/rsync.password
sending incremental file list

sent 195 bytes received 11 bytes 412.00 bytes/sec
total size is 0 speedup is 0.00
# 拉取][]
[root@vagrant-centos65 data1]# rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --password-file=/etc/rsync.password
receiving incremental file list

sent 96 bytes received 317 bytes 826.00 bytes/sec
total size is 0 speedup is 0.00
小结:

rsync server:

vim /etc/rsyncd.conf(用户,目录,模块,虚拟用户及密码文件)
创建共享目录 /data1
创建rsync用户,并且授权访问/data1
创建密码文件,复制配置文件里的路径,然后添加密码内容,内容虚拟用户名:密码
密码文件权限600
rsync --daemon然后放入/etc/rc.local
tail /var/log/rsyncd.log
rsync client(多个)

密码文件和服务端没任何关系,命令时 --password-file=/etc/rsync.password 内容:密码
/etc/rsync.password 600
同步:
推、拉
排错:

防火墙和selinux
/var/log/rsyncd.log
整个部署流程整体考虑排查
操作习惯当作一个大事
排除单个文件

[root@vagrant-centos65 data1]# rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --exclude=1 --password-file=/etc/rsync.password
排除多个文件

rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --exclude={1,2} --password-file=/etc/rsync.password

rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --exclude=a --exclude=b --password-file=/etc/rsync.password

# 排除连续的
rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --exclude={a..g} --password-file=/etc/rsync.password

# 从文件中读取排除规则
rsync -avz rsync://rsync_backup@192.168.35.2/data1 /data1/ --exclude-from=paichu.log --password-file=/etc/rsync.password
服务端排除参数,在/etc/rsyncd.conf中修改:

# 注意是用空格去分隔
exclude=a b test/1.txt

linux rsync同步工具的更多相关文章

  1. rsync同步工具学习笔记

    rsync同步工具 1.rsync介绍 rsync是一款开源的.快速的.多功能的.可实现全量及增量的本地或远程数据同步备份的优秀工具.rsync软件适用于unix/linux/windows等多种操作 ...

  2. Linux下同步工具inotify+rsync使用详解

    1. rsync 1.1 什么是rsync rsync是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件.它使用所谓的“Rsync演算法”来使本地和远程两个主机之间的文件达到同步,这 ...

  3. (转)Linux下同步工具inotify+rsync使用详解

    原文:https://segmentfault.com/a/1190000002427568 1. rsync 1.1 什么是rsync rsync是一个远程数据同步工具,可通过LAN/WAN快速同步 ...

  4. Linux文件同步工具之rsync

    学习背景 1.最近公司的项目在使用jenkins做自动化构建,因为jenkins在构建时是比较耗性能的,便单独使用了一台服务器做构建服务器.但是个人觉得这样成本过高,单独拿一台服务器来构建并且该服务器 ...

  5. Linux rsync 同步实践

    目录[-] 1. rsync 同步的大致思路 2. rsync的安装 3. rsync的配置 4. rsync的基本操作 服务器端启动 注2. 实时同步 注3. rsync通过linux防火墙 公司网 ...

  6. RSYNC 同步工具

    Rsync 数据同步工具 一.Rsync简介 1.检测一下你的机器上是否已经安装  --->可以通过yum安装  或者  源码 Server  192.168.201.151 Client    ...

  7. Linux rsync同步

    rsync介绍 rsync命令是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件.rsync使用所谓的“rsync算法”来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文 ...

  8. 日常运维--rsync同步工具

    rsync命令是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件.rsync使用所谓的“rsync算法”来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而 ...

  9. Linux之rsync同步工具介绍+inotify同步

    1.rsync介绍 Rsync是一款开源的.快速的.多功能的.可实现全量及增量的本地或远程数据同步备份的优秀工具.Rsync软件适用于unix/linux/windows等多种操作平台. rsync, ...

随机推荐

  1. backbone.js之Model篇 简单总结和深入(2)

    一.模型属性的一些操作方法 1.mmodel.get()  获取属性的值 2.mmodel.set('age',5) 更新单个属性的值  mmodel.set({name:'aaa',age:6}) ...

  2. OpenCV Create Circular Mask 圆形遮罩

    在OpenCV中,比较常见的是矩形遮罩CvRect,没有专门提供圆形的mask,那么我们只能自己写一个来模拟圆形mask的函数,需要提供的参数为原图的大小,以及圆形mask的圆心位置和半径即可,返回一 ...

  3. easyui-datagrid个人实例

    这个实例数据表格的功能,可以实现分页,增删改查功能 1.user.jsp <%@ page language="java" contentType="text/ht ...

  4. Java Hash Collision之数据生产

    上一篇文章一种高级的DoS攻击-Hash碰撞攻击我通过伪造Hash Collision数据实现了对Java的DoS攻击,下面说说如何生产大量的攻击数据. HashTable是一种非常常用的数据结构.它 ...

  5. nginx的一些基本功能

    1.静态HTTP服务器 首先,Nginx是一个HTTP服务器,可以将服务器上的静态文件(如HTML.图片)通过HTTP协议展现给客户端. 配置:[plain] view plain copy serv ...

  6. JMeter(十)-正则表达式关联

    jmeter中,接口自动化的关键在于参数关联.比如需要登录的接口,如何调用登录口令?一个增删改查的闭环,如何将接口参数上下传递?下面就以实际的例子来仔细说一说 1:登录接口 这里有一个实际的登录接口, ...

  7. Django ORM之QuerySet

    Django ORM用到三个类:Manager.QuerySet.Model.Manager定义表级方法(表级方法就是影响一条或多条记录的方法),我们可以以models.Manager为父类,定义自己 ...

  8. 一次性从git远程仓库中克隆到本地。

    自动化工具 一次性从git远程仓库中克隆到本地. import os # git操作 将远程repo克隆到本地 def git_clone_cd_pull(url): # 获取仓库名称 如fullsp ...

  9. BUG笔记:Android原生浏览器不认负百分数margin致Foundation Orbit往右滑动动画出错

    一看这标题就知道无比蛋疼了是不?至少我从来不用安卓自带的浏览器... 发现这个bug的场景:万恶的Foundation,它的滚动图片插件Orbit在安卓自带浏览器下手指从左往右滑动时动画仍旧表现为从右 ...

  10. 仿照hibernate封装的一个对数据库操作的jdbc工具类

    package project02_Order_management.util; import java.io.IOException; import java.lang.reflect.Field; ...