备份用户nfs共享文件系统,存储单点解决方案inotify+rsync(增量,无差异备份),inotify是单线程,

inotify是一种强大的,细粒度的,异步的文件系统事件监控机制,通过加入了inotify可以实时监控文件

系统中添加,删除,修改,移动等各种事件 ,sersync比inotify有更多功能;

6.1、实现从nfs(rsync)存储端到rsync(rsync --daemon)服务器的数据传送 :

6.2、在nfs服务器上安装inotify服务,实现nfs客户端对nfs目录文件系统事件的实时监控:

1、查看nfs服务器是否支持inotify

ls -l /proc/sys/fs/inotify/

2、安装inotify包

wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo #安装第三方源

yum -y install inotify-tools

[root@nfs01 ~]# rpm -qa inotify-tools

inotify-tools-3.14-1.el6.x86_64

3、工具介绍

inotifywait:在被监控的文件或目录上等待待定文件系统事件(open,close,delete等)发生,

执行后处于阻塞状态,适用在shell脚本中使用;

-r#递归查询目录

-q#打印很少的信息,仅仅打印监控事件的信息

-m#始终保持事件监听状态

--excludei#排除文件或目录时不区分大小写

--timefmt#指定时间输出的格式

--format#打印使用指定的输出类似格式的字符串

-e#通过此参数可以指定需要监控的事件

access#文件或目录被读取

modify#文件或目录内容被修改

close_write:修改

inotifywatch:收集被监视的文件系统,使用统计数据,指文件系统时间发生的次数;

举例:

[root@nfs01 ~]# inotifywait -mrq --timefmt '%F %H:%M' --format '%T %w%f' -e close_write,create,delete /tmp

2018-10-14 15:47 /tmp/a

--timefmt:时间的格式;

--format:对设置的格式进行执行,%T代表时间,%w%f代表目录和文件;

4、当客户端监控到nfs共享文件系统事件变化后,触发rsync推送数据:

vim /server/scripts/inotify.sh

#!/bin/sh

export PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin:/root/bin

Path=/data

Ip=172.16.1.41

/usr/bin/inotifywait -mrq --format '%w%f' -e close_write,create,delete $Path/ \

|while read file;do

if [ -f $file ];then #$file读取的是‘%w%f’的地址格式

rsync -az $file --delete rsync_backup@$Ip::nfsbackup/ --password-file=/etc/rsync.password >/dev/null 2>&1 &

else

rsync -az $Path/ --delete rsync_backup@$Ip::nfsbackup/ --password-file=/etc/rsync.password >/dev/null 2>&1 &

fi

done

#/usr/bin/inotifywait -mrq --timefmt '%F %H%M' --format '%T %w%f' -e close_write,create,delete $Path/ \

chown u+x inotify.sh

4、启动脚本:

sh inotify.sh

[root@nfs01 ~]# ps -ef | grep inotify

root 2034 1972 0 13:25 pts/0 00:00:00 sh /server/scripts/inotify.sh

root 2035 2034 0 13:25 pts/0 00:00:00 /usr/bin/inotifywait -mrq --format %w%f -e close_write,create,delete /data/

root 2036 2034 0 13:25 pts/0 00:00:00 sh /server/scripts/inotify.sh

root 2063 2039 0 13:25 pts/1 00:00:00 grep inotify

4、加入到 开机自启动中:

echo “/bin/sh /server/scripts/inotify.sh”>/etc/rc.local

5、在backup服务器上进行查看watch ls 每两秒刷新一次

6.3、inotify系统调优:

1、在/proc/sys/fs/inotify 目录下有三个文件,对inotify机制有一定的限制:

[root@nfs01 inotify]# ls -l /proc/sys/fs/inotify/

总用量 0

-rw-r--r-- 1 root root 0 10月 15 13:13 max_queued_events #默认是16334

-rw-r--r-- 1 root root 0 10月 15 13:13 max_user_instances #128

-rw-r--r-- 1 root root 0 10月 15 13:13 max_user_watches #8192

max_queued_events:设置inotify实例事件(event)队列可容纳的事件数量

max_user_watches:设置inotifywait或inotifywatch命令可以监视的文件数量

max_user_instance:设置每个用户可以运行的inotifywait或intoifywait命令的进程数

2、最好写入到/etc/rc.local自启文件中,防止重启后失效:

echo '655350'> /proc/sys/fs/inotify/max_queued_events

echo '655350' > /proc/sys/fs/inotify/max_user_watches

6、inotify实时备份的更多相关文章

  1. sersync+inotify实时备份数据

    Sersync项目简介与框架 简介 Sersync项目利用inotify与rsync技术实现对服务器数据实时同步的解决方案,其中inotify用于监控sersync所在服务器上文件系统的事件变化,rs ...

  2. 实时备份工具之inotify+rsync

    1.inotify简介 inotify 是一个从 2.6.13 内核开始,对 Linux 文件系统进行高效率.细粒度.异步地监控机制, 用于通知用户空间程序的文件系统变化.可利用它对用户空间进行安全. ...

  3. 通过rsync+inotify实现数据的实时备份

    我讲到过利用rsync实现数据的镜像和备份,但是要实现数据的实时备份,单独靠rsync还不能实现,本文就讲述下如何实现数据的实时备份. 一.rsync的优点与不足 与传统的cp.tar备份方式相比,r ...

  4. rsync+inotify实现数据的实时备份

    一.rsync概述 1.1.rsync的优点与不足 rsync与传统的cp.tar备份方式相比,rsync具有安全性高.备份迅速.支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需 ...

  5. 通过rsync+inotify实现数据的实时备份(多台备份机)

    在前面的博文中,我讲到过利用rsync实现数据的镜像和备份,但是要实现数据的实时备份,单独靠rsync还不能实现,本文就讲述下如何实现数据的实时备份. 一.rsync的优点与不足  与传统的cp.ta ...

  6. 通过rsync+inotify实现数据的实时备份 【转载】

       在前面的博文中,我讲到过利用rsync实现数据的镜像和备份,但是要实现数据的实时备份,单独靠rsync还不能实现,本文就讲述下如何实现数据的实时备份. 一.rsync的优点与不足  与传统的cp ...

  7. 搭建rsync+inotify实现实时备份

    一.环境搭建说明 系统环境 CentOS7.5 备份节点 主机名:backup01 IP地址:172.16.2.41 数据节点 主机名:nfs-master IP地址:172.16.2.31 二.在备 ...

  8. rsync+inotify实时同步环境部署记录

    随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足.首先,rsync在同步数据时,需要扫描所有文件后进行比对,进行差量传输.如果文件 ...

  9. CentOS6.5实现rsync+inotify实时同步

    参考博文: 参考1:CentOS6.5实现rsync+inotify实时同步 参考2:inotify-tools+rsync实时同步文件安装和配置 CentOS 6.3下rsync服务器的安装与配置  ...

随机推荐

  1. [Python] 微信公众号开发 Python3

    搭建服务 开通一个阿里云ecs,安装python3及需要的包(参考下方官方文档) 将py文件保存在ecs上,运行 在本地访问阿里云的IP地址 能完成这步说明网络没问题 server.py 1 # -* ...

  2. K8S的资源管理

    K8S的资源管理 管理K8S资源的三种基本方法: 陈述式资源管理方法-使用cli工具进行管理. 声明式资源管理方式-主要依耐资源配置清单. GUI式资源管理方法-主要依耐图形界面. 陈述式资源管理方法 ...

  3. cat ~/.bash_history

    7.history命令 history命令用于显示历史执行过的命令,格式为"history [-c]". history命令应该是作者最喜欢的命令.执行history命令能显示出当 ...

  4. 使用nmcli命令配置网络

    !!!前言 nmcli是redhat7或者centos7之后的命令该命令可以完成网卡上所有的配置工作,并且可以写入配置文件,永久生效 1.NetworkManager NetworkManager是管 ...

  5. shell基础之pxe批量部署

    通过安装及配置DHCP,tftp-server,xinetd,httpd,syslinux来实现批量安装Linux系统 #!/bin/bash #检查环境 se_state=`getenforce` ...

  6. shell应用之cobbler批量部署

    如果使用的是原始源,可直接使用该脚本,如果是用的其它源且有cobbler安装包的可删除脚本中的配置yum源步骤.批量部署使用的软件有:cobbler dhcp httpd tftp-server xi ...

  7. STM32 keil中编译遇到的问题

    发现 移植的SPI程序 说里面的 SPI_InitTypeDef 所有有关  SPI库函数的都找不到 这是因为 用的是  原子的程序   在 config函数中  把这个注释了

  8. 第三方跨平台进程和系统监控库gopsutil

    gopsutil psutil是一个跨平台进程和系统监控的Python库,而gopsutil是其Go语言版本的实现.本文介绍了它的基本使用. Go语言部署简单.性能好的特点非常适合做一些诸如采集系统信 ...

  9. YOLOV4各个创新功能模块技术分析(三)

    YOLOV4各个创新功能模块技术分析(三)  八.数据增强相关-Stylized-ImageNet 论文名称:ImageNet-trained cnns are biased towards text ...

  10. Java设计模式(4:里氏替换原则和合成复用原则详解

    一.里氏替换原则 如果说实现开闭原则的关键步骤就是抽象化,那么基类(父类)和子类的继承关系就是抽象化的具体实现,所以里氏替换原则就是对实现抽象化的具体步骤的规范.即:子类可以扩展基类(父类)的功能,但 ...