linux实现多台服务器文件同步

时间:2023-03-08 20:34:23

inotify-tools+rsync实时同步文件安装和配置

Linux+Nginx+PHP+MySQL+MemCached+eaccelerator安装优化记录(见 http://www.linuxidc.com/Linux/2012-06/63622.htm ).服务器A:论坛的主服务器,运行DZ X2论坛程序;服务器B:论坛从服务器,需要把X2的图片附件和MySQL数据实时从A主服务器实时同步到B服务器.MySQL同步设置会在下一编中说到.以下是用于实时同步两台服务器的图片.

因为一般的RSYNC需要CRON来定期运行SH脚本来实现同步,这样会带来一些问题.比如用户从主服务器上传上一个图片,需要最少一分钟才能从从服务器显示出来.自从Linux 2.6内核后,支持了inotify机制,当某些文件或文件夹有改变时,发出相应的事件,这样,第三方程序只要订阅这些事件,就可以处理相应的操作了.这时,只要有文件被修改,就执行一次RSNYN,把修改的文件主动地上传到另一台服务器上就可以了.

我使用的是google的inotify-tools,比较简单.国内有功能很强大的类似的程序,但是好复杂.另外需要注意的是:如果使用inotify-tools来实现实时同步,我们的主服务器--源文件服务器(也就是服务器A)实现是RSYNC的从服务器,我们的从服务器--目标同步的服务器(服务器B)才是RSYNC的主服务器.不要搞混了哦.

好了,开始吧!

首先从主服务器A开始,

需要确定你的系统是否支持inotify:

 ll /proc/sys/fs/inotify
total
-rw-r--r-- root root Jan : max_queued_events
-rw-r--r-- root root Jan : max_user_instances
-rw-r--r-- root root Jan : max_user_watches

能输出这样的结果表示支持.

linux实现多台服务器文件同步

下载并安装inotify-tools:

这样就完成了inotify-tools的当然.

接下来需要写两个SH脚本,inotify_init.sh和inotify_monitor.sh:

inotify_init.sh 用于第一次初始化,也就是运行一次完整的RSYNC同步.

1 vi /root/inotify_init.sh
 vi /root/inotify_init.sh

内容如下:

1 #!/bin/sh
2 SRC=/主服务器A需要同步的目录/ #记得在最后面加/不然RYNC会自动增加一层目录
3
4 DES=bbsatt
5 IP=从服务器B的IP
6 USER=rsync
7 #DST=/etc/rsyncd 远程rsync模块下的目录
8 INWT=/usr/bin/inotifywait
9 RSYNC=/usr/bin/rsync
10
11 $RSYNC -zahqt --password-file=/root/rsync.pwd $SRC $USER@$IP::$DES
 #!/bin/sh
SRC=/主服务器A需要同步的目录/ #记得在最后面加/不然RYNC会自动增加一层目录
3
DES=bbsatt
IP=从服务器B的IP
USER=rsync
#DST=/etc/rsyncd 远程rsync模块下的目录
INWT=/usr/bin/inotifywait
RSYNC=/usr/bin/rsync
10
$RSYNC -zahqt --password-file=/root/rsync.pwd $SRC $USER@$IP::$DES

保存退出.

设置可执行权限:

1 chmod +x /root/inotify_init.sh
 chmod +x /root/inotify_init.sh

接下是inotify_monitor.sh,用于订阅文件修改事件.注意,因为特别原因,我在这里做的是增量备份+实时同步,也就是说,当主服务器A上的图片被删除是,从服务器B是不会删除图片的.

1 vi /root/inotify_monitor.sh
1 #!/bin/bash
2
3 ###########################
4 sync[0]='/主服务器需要同步的目录/,从服务器B的IP,bbsatt,rsync' # localdir,host,rsync_module,auth_user
5
6 INWT=/usr/bin/inotifywait
7 RSYNC=/usr/bin/rsync
8 PASS=/root/rsync.pwd
9 ###########################
10
11 for item in ${sync[@]}; do
12
13 dir=`echo $item | awk -F"," '{print $1}'`
14 host=`echo $item | awk -F"," '{print $2}'`
15 module=`echo $item | awk -F"," '{print $3}'`
16 user=`echo $item | awk -F"," '{print $4}'`
17
18 $INWT -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f %e' \
19 --event CLOSE_WRITE,create,move $dir | while read date time file 21 event
20 do
21 #echo $event'-'$file
22 case $event in
23 MODIFY|CREATE|MOVE|MODIFY,ISDIR|CREATE,ISDIR|MODIFY,ISDIR)
24 if [ "${file: -4}" != '4913' ] && [ "${file: -1}" != '~' ]; then
25 cmd="$RSYNC -zahqzt --exclude='*' --password-file=$PASS \
26 --include=$file $dir $user@$host::$module > /dev/null 2>1&"
27 echo $cmd
28 $cmd
29 fi
30 ;;
31
32 MOVED_FROM|MOVED_FROM,ISDIR|DELETE,ISDIR)
33 if [ "${file: -4}" != '4913' ] && [ "${file: -1}" != '~' ]; then
34 cmd="$RSYNC -zahqzt --password-file=$PASS --exclude=$file \
35 $dir $user@$host::$module > /dev/null 2>1&"
36 echo $cmd
37 $cmd
38 fi
39 ;;
40 esac
41 done &
42 done
1 chmod +x /root/inotify_monitor.sh
 vi /root/inotify_monitor.sh
 #!/bin/bash

 ###########################
sync[]='/主服务器需要同步的目录/,从服务器B的IP,bbsatt,rsync' # localdir,host,rsync_module,auth_user INWT=/usr/bin/inotifywait
RSYNC=/usr/bin/rsync
PASS=/root/rsync.pwd
########################### for item in ${sync[@]}; do dir=`echo $item | awk -F"," '{print $1}'`
host=`echo $item | awk -F"," '{print $2}'`
module=`echo $item | awk -F"," '{print $3}'`
user=`echo $item | awk -F"," '{print $4}'` $INWT -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f %e' \
--event CLOSE_WRITE,create,move $dir | while read date time file event
do
#echo $event'-'$file
case $event in
MODIFY|CREATE|MOVE|MODIFY,ISDIR|CREATE,ISDIR|MODIFY,ISDIR)
if [ "${file: -4}" != '' ] && [ "${file: -1}" != '~' ]; then
cmd="$RSYNC -zahqzt --exclude='*' --password-file=$PASS \
--include=$file $dir $user@$host::$module > /dev/null >&"
echo $cmd
$cmd
fi
;; MOVED_FROM|MOVED_FROM,ISDIR|DELETE,ISDIR)
if [ "${file: -4}" != '' ] && [ "${file: -1}" != '~' ]; then
cmd="$RSYNC -zahqzt --password-file=$PASS --exclude=$file \
$dir $user@$host::$module > /dev/null >&"
echo $cmd
$cmd
fi
;;
esac
done &
done
 chmod +x /root/inotify_monitor.sh

设置RSYNC自动登录验证密码

1 vi /root/rsync.pwd
2 xxxxxx
 vi /root/rsync.pwd
xxxxxx

保存,退出

设置只有ROOT才可以查看的权限.

1 chmod 0600 /root/rsync.pwd
 chmod  /root/rsync.pwd

以下是备从务器B的配置:

安装RSYNC

1 yum rsync -y

配置RSNYD服务:

1 vi /etc/rsyncd.conf

内容如下,需要把Apache修改成你运行网站的用户名,我的是因为原来使用apache,虽然现在用Nginx,也一直没改用户名:

1 uid = apache
2 gid = apache
3 use chroot = no
4 max connections = 4
5 pid file = /var/run/rsyncd.pid
6 lock file = /var/run/rsync.lock
7 log file = /var/log/rsyncd.log
8
9 [bbsatt]
10 path = /从服务器B本地用于存放备份的目录
11 ignore errors
12 read only = no
13 list = false
14 hosts allow = 主服务器A的IP
15 auth users = rsync
16 secrets file = /etc/rsync.pas
1 vi /etc/rsync.pas
2 rsync:xxxxxx
1 chmod 0600 /etc/rsync.pas
 uid = apache
gid = apache
use chroot = no
max connections =
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log [bbsatt]
path = /从服务器B本地用于存放备份的目录
ignore errors
read only = no
list = false
hosts allow = 主服务器A的IP
auth users = rsync
secrets file = /etc/rsync.pas
 vi /etc/rsync.pas
rsync:xxxxxx
 chmod  /etc/rsync.pas

启动RSYNCD

1 rsync --daemon
 rsync --daemon

添加开机自动启动服务:

1 vi /etc/rc.local
 vi /etc/rc.local

添加以下内容:

1 rsync --daemon
 rsync --daemon

linux实现多台服务器文件同步

回到主服务器A,

1 vi /etc/rc.local
 vi /etc/rc.local

添加以下内容,实时开机自动同步:

1 /root/inotify_init.sh
2 /root/inotify_monitor.sh
 /root/inotify_init.sh
/root/inotify_monitor.sh

linux实现多台服务器文件同步

保存退出

运行

/root/inotify_init.sh
1 /root/inotify_monitor.sh

 /root/inotify_monitor.sh

好了,这样就能实现实时同步图片文件了.随便在主服务器A的同步目录下新建一个文件试试吧.

注:转载https://www.linuxidc.com/Linux/2012-06/63624.htm