w7 全网架构-rsync-备份

准备

1.从安装系统开始准备

安装过程中添加网卡
eth0
ip 10.0.0.210
netmask 24
gateway 10.0.0.254
eth1
ip 172.16.1.210
netmask 24
2.统一网络环境
网关都是 10.0.0.254
电脑===>网络连接
2.服务器ip地址规划

服务器说明 外网IP（ NAT） 内网IP（ LAN区段/Host-only） 主机名规划
A1-nginx负载服务器 01 10.0.0.5/24 172.16.1.5/24 lb01
A1-nginx负载服务器 02 10.0.0.6/24 172.16.1.6/24 lb02
B2-nginx web服务器 10.0.0.7/24 172.16.1.7/24 web02
B2-nginx web服务器 10.0.0.8/24 172.16.1.8/24 web01
C3-mysql数据库服务器 10.0.0.51/24 172.16.1.51/24 db01
C1-NFS存储服务器 10.0.0.31/24 172.16.1.31/24 nfs01
C2-rsync存储服务器 10.0.0.41/24 172.16.1.41/24 backup
X-管理服务器 10.0.0.61/24 172.16.1.61/24 m01

系统准备

系统优化

#所有服务器模板机的基本优化
\cp /etc/hosts{,.bak}
cat >/etc/hosts<<EOF
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
172.16.1.5 lb01
172.16.1.6 lb02
172.16.1.7 web02
172.16.1.8 web01
172.16.1.51 db01 db01.etiantian.org
172.16.1.31 nfs01
172.16.1.41 backup
172.16.1.61 m01
EOF
#0、更改yum源

mv /etc/yum.repos.d/CentOS-Base.repo /etc/yum.repos.d/CentOS-Base.repo.backup
mv /etc/yum.repos.d/epel.repo /etc/yum.repos.d/epel.repo.backup
mv /etc/yum.repos.d/epel-testing.repo /etc/yum.repos.d/epel-testing.repo.backup
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-6.repo
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
yum makecache
#1、关闭selinux

sed -i.bak 's/SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config
grep SELINUX=disabled /etc/selinux/config
setenforce 0
getenforce
#2、关闭iptables

/etc/init.d/iptables stop
/etc/init.d/iptables stop
chkconfig iptables off
#3、精简开机自启动服务

export LANG=en
chkconfig|egrep -v "crond|sshd|network|rsyslog|sysstat"|awk '{print "chkconfig",$1,"off"}'|bash
chkconfig --list|grep 3:on
#4、提权oldboy可以sudo

useradd oldboy
echo 123456|passwd --stdin oldboy
\cp /etc/sudoers /etc/sudoers.ori
echo "oldboy ALL=(ALL) NOPASSWD: ALL " >>/etc/sudoers
visudo -c
#5、英文字符集

cp /etc/sysconfig/i18n /etc/sysconfig/i18n.ori
echo 'LANG="en_US.UTF-8"' >/etc/sysconfig/i18n
source /etc/sysconfig/i18n
echo $LANG
#6、时间同步

echo '#time sync by lidao at 2017-03-08' >>/var/spool/cron/root
echo '*/5 * * * * /usr/sbin/ntpdate ntp1.aliyun.com >/dev/null 2>&1' >>/var/spool/cron/root
crontab -l
#8、加大文件描述

echo '* - nofile 65535 ' >>/etc/security/limits.conf
tail -1 /etc/security/limits.conf
#9、内核优化

cat >>/etc/sysctl.conf<<EOF
net.ipv4.tcp_fin_timeout = 2
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_keepalive_time = 600
net.ipv4.ip_local_port_range = 4000 65000
net.ipv4.tcp_max_syn_backlog = 16384
net.ipv4.tcp_max_tw_buckets = 36000
net.ipv4.route.gc_timeout = 100
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_synack_retries = 1
net.core.somaxconn = 16384
net.core.netdev_max_backlog = 16384
net.ipv4.tcp_max_orphans = 16384
#以下参数是对iptables防火墙的优化，防火墙不开会提示，可以忽略不理。
net.nf_conntrack_max = 25000000
net.netfilter.nf_conntrack_max = 25000000
net.netfilter.nf_conntrack_tcp_timeout_established = 180
net.netfilter.nf_conntrack_tcp_timeout_time_wait = 120
net.netfilter.nf_conntrack_tcp_timeout_close_wait = 60
net.netfilter.nf_conntrack_tcp_timeout_fin_wait = 120
EOF
sysctl -p
#10、安装其他小软件

yum install lrzsz nmap tree dos2unix nc telnet sl -y
#11、 ssh连接速度慢优化

sed -i.bak 's@#UseDNS yes@UseDNS no@g;s@^GSSAPIAuthentication yes@GSSAPIAuthentication no@g' /etc/ssh/sshd_config
/etc/init.d/sshd reload

系统优化

克隆虚拟机

克隆前准备
1清2删
1清

>/etc/udev/rules.d/70-persistent-net.rules
2删

sed -ri '/UUID|HWADDR/d' /etc/sysconfig/network-scripts/ifcfg-eth*
sed -i '/IPADDR/s#210$#31#g' /etc/sysconfig/network-scripts/ifcfg-eth*

克隆

rsync 命令

rsync [OPTION]... 

SRC DEST

rsync [OPTION]... SRC [USER@]host:DEST
rsync [OPTION]... [USER@]HOST:SRC DEST
rsync [OPTION]... [USER@]HOST::SRC DEST
rsync [OPTION]... SRC [USER@]HOST::DEST
rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD。
    -r, --recursive 对子目录以递归模式处理。
    -l, --links 保留软链结。
    -p, --perms 保持文件权限。
    -t, --times 保持文件时间信息。
    -g, --group 保持文件属组信息。
    -o, --owner 保持文件属主信息。
    -D, --devices 保持设备文件信息。

-P

 等同于 --partial。   -P, --partial保留那些因故没有完全传输的文件，以加快随后的再次传输
   显示同步过程及及传输过程进度信息

-e, --rsh=command 指定使用rsh、ssh方式进行数据同步。
-v, --verbose 详细模式输出。
-z, --compress 对备份的文件在传输时进行压缩处理。
--delete 删除那些DST中SRC没有的文件。
--exclude=PATTERN 指定排除不需要传输的文件模式。

--bwlimit=KBPS 限制I/O带宽，KBytes per second。单位是1KB

scp 全量复制

    -P：指定远程主机的端口号；
    -r：以递归方式复制。
[root@backup ~]# scp -P 22 /etc/hosts 172.16.1.31:/tmp

[root@backup ~]# scp -Pr 22 /etc/ 172.16.1.31:/opt
Bad port 'r'
lost connection
[root@backup ~]# scp -rP 22 /etc/ 172.16.1.31:/opt

scp 全量复制

Rsync的应用场景说明

1.定时备份

1.1.生产场景集群架构服务器备份方案项目

借助cron+rsync把所有客户服务器数据同步到备份服务器

案列、全网服务器数据备份解决方案提出及负责实施 200x.03 – 200x.09

1.针对公司重要数据备份混乱状况和领导提出备份全网数据的解决方案。

2.通过本地打包备份，然后rsync 结合inotify应用把全网数据统一备份到一个固定存储服务器，然后在存储

服务器上通过脚本检查并报警管理员备份结果。

3.定期将IDC机房的数据备份公司的内部服务器，防止机房地震及火灾问题导致数据丢失。

2.实时复制

本地数据传输模式（ local-only mode）
/oldboy/ 与 /oldboy        【仅限rsync 命令】
/oldboy 表示oldboy目录及oldboy目录下面的内容
/oldboy/ 只表示oldboy目录下面的内容
#/tmp/oldboy.txt /opt/

rsync /etc/hosts /opt/        复制文件
rsync -avz /etc /opt/        复制目录
    -a 保持属性不变，所有者不变，递归复制目录
    -v 显示过程
    -z 压缩

--delete 复制的时候保持目标与源目录的内容 一模一样    目标目录多余的会被删除
        一般用不到

view more

过远程shell进行数据传输

[root@backup ~]# scp -rP 22 /etc/ 172.16.1.31:/tmp
rsync -avz /etc/sysconfig 172.16.1.31:/tmp/
--bwlimit=RATE limit socket I/O bandwidth
（案例：某DBA做数据同步，带宽占满，导致用户无法访问网站）

view more

rsync配置

创建目录和文件

[root@backup ~]# mkdir /backup
[root@backup ~]# useradd -s /sbin/nologin -M rsync

[root@backup ~]# chown -R rsync.rsync /backup
[root@backup ~]# ls -ld /backup
drwxr-xr-x 2 rsync rsync 4096 Jan 18 23:18 /backup

[root@backup ~]# echo 'rsync_backup:123456' >/etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:123456
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# ll /etc/rsync.password
-rw------- 1 root root 20 Jan 18 23:32 /etc/rsync.password

view more

rsync backup 服务器配置

[root@backup ~]# cat /etc/rsyncd.conf
######rsync_config_______________start
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 300
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log

[backup]
path = /backup/
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
#rsync_config_______________end

view more

配置文件详解

[root@backup ~]# ps -ef |grep rsync
root 24946 1 0 23:34 ? 00:00:00 rsync --daemon
root 24948 1787 0 23:34 pts/1 00:00:00 grep rsync
[root@backup ~]# ss -lntup |grep rsync
tcp LISTEN 0 5 :::873 :::*
users:(("rsync",24946,5))
tcp LISTEN 0 5 *:873 *:*
users:(("rsync",24946,4))

[root@backup ~]# tail -f /var/log/rsyncd.log
2018/07/25 07:45:15 [2014] rsyncd version 3.0.6 starting, listening on port 873

rsync客户端

客户端密码配置

[root@nfs01 tmp]# echo '' > /etc/rsync.password
[root@nfs01 tmp]# chmod 600 /etc/rsync.password
[root@nfs01 tmp]# rsync -avzP /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
sending incremental file list
sent 26 bytes received 8 bytes 68.00 bytes/sec
total size is 349 speedup is 10.26

rsync配置多个模块

[root@backup ~]# cat /etc/rsyncd.conf
######rsync_config_______________start
uid = rsync
gid = rsync
use chroot = no
max connections = 200
timeout = 300
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
#hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
path = /backup/
[nfsbackup]
path = /nfsbackup/

模块要写在最下面

要更改 备份文件夹的权限为rsync

案例

某公司里有一台Web服务器，里面的数据很重要，但是如果硬盘坏了，数据就会丢失，现在领导要求你把数
据在其他机器上做一个周期性定时备份。要求如下：
每天晚上00点整在Web服务器A(web01)上打包备份网站程序目录并通过rsync命令推送到服务器B(backup)上备份保留
（备份思路可以是先在本地按日期打包，然后再利用rsync推到备份服务器上）。
具体要求如下：
1)Web服务器A和备份服务器B的备份目录必须都为/backup。
2)Web服务器站点目录假定为(/var/www/html)。
3)Web服务器本地仅保留7天内的备份。
4)备份服务器上每周六的数据都保留，其他备份仅保留180天备份。
5)备份服务器上检查备份结果是否正常，并将每天的备份结果发给管理员信箱。

需求

web01脚本

#!/bin/bash
#desc: backup html && conf
Date=$(date +%F_%w)
#backup file && conf
cd / && \
tar zchf /backup/web01-${Date}.tar.gz var/www/html/ etc/rc.local var/spool/cron/
#make md5sum
cd /backup/ && \
md5sum web01-${Date}.tar.gz >check.log
#rsync file to backup
rsync -az /backup/ rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password
#delete 7 day ago
find /backup/ -type f -name "*.tar.gz" -mtime +7|xargs rm

view

backup 脚本
[root@backup backup]# cat /server/scripts/check.sh
#!/bin/bash
#del 180 day file keep every 6
find /backup/ -type f -name "*.tar.gz" -mtime +180 ! -name "*_6.tar.gz"|xargs rm
#check
cd /backup/ && md5sum -c check.log >/backup/result.log
if [ $? -ne 0 ];then
mail -s "md5sum wrong" 918391635@qq.com </backup/result.log
fi

backup 脚本

#需要开启postfix
[root@backup backup]# /etc/init.d/postfix start
Starting postfix: [ OK ]
[root@backup backup]# chkconfig postfix on
mail -s "md5sum wrong" 918391635@qq.com </etc/hosts
[root@backup backup]# crontab -l |tail -2
#check & send result lee at 2017-01-01
00 03 * * * /bin/sh /server/scripts/check.sh >/dev/null 2>&1

backup 需要开启postfix

添加到定时任务

[root@backup backup]# crontab -l |tail -2
#check & send result
00 03 * * * /bin/sh /server/scripts/check.sh >/dev/null 2>&1

rsync 报错总结

回答：
1）Failed to parse config file: /etc/rsyncd.conf
rsync --daemon
Failed to parse config file: /etc/rsyncd.conf
原因：没有默认的配置文件
解决：生成rsyncd.conf配置文件

2）@ERROR: Unknown module 'backup'
rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.200::backup
@ERROR: Unknown module 'backup'
rsync error: error starting client-server protocol (code 5) at main.c(1657) [sender=3.1.3]
原因：设置hosts allow = 172.16.1.0/24的网段，跟连接的网段10.0.0.220不一样
解决：把hosts allow网段改为 hosts allow = 10.0.0.0/24

3）@ERROR: invalid uid rsync
rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::backup --password-file=/etc/rsync.password
@ERROR: invalid uid rsync
rsync error: error starting client-server protocol (code 5) at main.c(1657) [sender=3.1.3]
原因：rsync用户被删除
解决：添加rsync用户

4）@ERROR: chdir failed
rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::backup --password-file=/etc/rsync.password
@ERROR: chdir failed
rsync error: error starting client-server protocol (code 5) at main.c(1657) [sender=3.1.3]
原因：没有创建backup目录
解决：创建/backup目录,并设置用户和用户组

5）rsync: recv_generator: mkdir "rsync-3.1.3" (in backup) failed: Permission denied (13)
[root@oldboyedu-01 ~]# rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::backup --password-file=/etc/rsync.password
sending incremental file list
rsync: recv_generator: mkdir "rsync-3.1.3" (in backup) failed: Permission denied (13)
*** Skipping any contents from this failed directory ***
rsync-3.1.3/

sent 7,318 bytes  received 192 bytes  715.24 bytes/sec
total size is 7,488,150  speedup is 997.09
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1189) [sender=3.1.3]
原因：服务器端/bakcup的用户和用户组不对
解决：修改服务器端/backup的 所属用户和用户组

6）@ERROR: auth failed on module backup
[root@oldboyedu-01 ~]# rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::backup --password-file=/etc/rsync.password
@ERROR: auth failed on module backup
rsync error: error starting client-server protocol (code 5) at main.c(1657) [sender=3.1.3]
原因：1，服务器端的密码文件的权限不对
解决：修改密码文件权限
原因：2，客户端密码文件不存在
解决：创建客户端密码文件
原因：3，用户名密码不对
解决：把客户端使用的用户名的密码修改正确

7）ERROR: password file must not be other-accessible
 [root@oldboyedu-01 ~]# rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::backup --password-file=/etc/rsync.password
ERROR: password file must not be other-accessible
rsync error: syntax or usage error (code 1) at authenticate.c(196) [sender=3.1.3]
原因：客户端密码文件权限不对
解决：修改客户端密码文件权限

8）@ERROR: Unknown module 'bbackup'
[root@oldboyedu-01 ~]# rsync -avz ./rsync-3.1.3 rsync_backup@10.0.0.222::bbackup --password-file=/etc/rsync.password
@ERROR: Unknown module 'bbackup'
rsync error: error starting client-server protocol (code 5) at main.c(1657) [sender=3.1.3]
[root@oldboyedu-01 ~]#
原因：没有bbackup模块
解决：把推送命令中的模块名称修改正确

9)rsync: failed to connect to 172.16.1.41: No route to host (113)
[root@nfs01 ~]# rsync -avz /root/ backup_rsync@172.16.1.41::backup --password-file=/etc/rsync.password
rsync: failed to connect to 172.16.1.41: No route to host (113)
rsync error: error in socket IO (code 10) at clientserver.c(124) [sender=3.0.6]
原因：被服务器端防火墙阻挡
解决：关闭服务器端防火墙
原因：服务器端IP写错了
解决：修改正确的服务器端IP

rsync 报错总结