inotify-tools+rsync实时同步文件安装和配置
Linux+Nginx+PHP+MySQL+MemCached+eaccelerator安装优化记录(见 http://www.linuxidc.com/Linux/2012-06/63622.htm ).服务器A:论坛的主服务器,运行DZ X2论坛程序;服务器B:论坛从服务器,需要把X2的图片附件和MySQL数据实时从A主服务器实时同步到B服务器.MySQL同步设置会在下一编中说到.以下是用于实时同步两台服务器的图片.
因为一般的RSYNC需要CRON来定期运行SH脚本来实现同步,这样会带来一些问题.比如用户从主服务器上传上一个图片,需要最少一分钟才能从从服务器显示出来.自从Linux 2.6内核后,支持了inotify机制,当某些文件或文件夹有改变时,发出相应的事件,这样,第三方程序只要订阅这些事件,就可以处理相应的操作了.这时,只要有文件被修改,就执行一次RSNYN,把修改的文件主动地上传到另一台服务器上就可以了.
我使用的是google的inotify-tools,比较简单.国内有功能很强大的类似的程序,但是好复杂.另外需要注意的是:如果使用inotify-tools来实现实时同步,我们的主服务器--源文件服务器(也就是服务器A)实现是RSYNC的从服务器,我们的从服务器--目标同步的服务器(服务器B)才是RSYNC的主服务器.不要搞混了哦.
好了,开始吧!
首先从主服务器A开始,
需要确定你的系统是否支持inotify:
ll /proc/sys/fs/inotify
total
-rw-r--r-- root root Jan : max_queued_events
-rw-r--r-- root root Jan : max_user_instances
-rw-r--r-- root root Jan : max_user_watches
能输出这样的结果表示支持.
下载并安装inotify-tools:
这样就完成了inotify-tools的当然.
接下来需要写两个SH脚本,inotify_init.sh和inotify_monitor.sh:
inotify_init.sh 用于第一次初始化,也就是运行一次完整的RSYNC同步.
1 vi /root/inotify_init.sh
vi /root/inotify_init.sh
内容如下:
1 #!/bin/sh
2 SRC=/主服务器A需要同步的目录/ #记得在最后面加/不然RYNC会自动增加一层目录
3
4 DES=bbsatt
5 IP=从服务器B的IP
6 USER=rsync
7 #DST=/etc/rsyncd 远程rsync模块下的目录
8 INWT=/usr/bin/inotifywait
9 RSYNC=/usr/bin/rsync
10
11 $RSYNC -zahqt --password-file=/root/rsync.pwd $SRC $USER@$IP::$DES
#!/bin/sh
SRC=/主服务器A需要同步的目录/ #记得在最后面加/不然RYNC会自动增加一层目录
3
DES=bbsatt
IP=从服务器B的IP
USER=rsync
#DST=/etc/rsyncd 远程rsync模块下的目录
INWT=/usr/bin/inotifywait
RSYNC=/usr/bin/rsync
10
$RSYNC -zahqt --password-file=/root/rsync.pwd $SRC $USER@$IP::$DES
保存退出.
设置可执行权限:
1 chmod +x /root/inotify_init.sh
chmod +x /root/inotify_init.sh
接下是inotify_monitor.sh,用于订阅文件修改事件.注意,因为特别原因,我在这里做的是增量备份+实时同步,也就是说,当主服务器A上的图片被删除是,从服务器B是不会删除图片的.
1 vi /root/inotify_monitor.sh
1 #!/bin/bash
2
3 ###########################
4 sync[0]='/主服务器需要同步的目录/,从服务器B的IP,bbsatt,rsync' # localdir,host,rsync_module,auth_user
5
6 INWT=/usr/bin/inotifywait
7 RSYNC=/usr/bin/rsync
8 PASS=/root/rsync.pwd
9 ###########################
10
11 for item in ${sync[@]}; do
12
13 dir=`echo $item | awk -F"," '{print $1}'`
14 host=`echo $item | awk -F"," '{print $2}'`
15 module=`echo $item | awk -F"," '{print $3}'`
16 user=`echo $item | awk -F"," '{print $4}'`
17
18 $INWT -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f %e' \
19 --event CLOSE_WRITE,create,move $dir | while read date time file 21 event
20 do
21 #echo $event'-'$file
22 case $event in
23 MODIFY|CREATE|MOVE|MODIFY,ISDIR|CREATE,ISDIR|MODIFY,ISDIR)
24 if [ "${file: -4}" != '4913' ] && [ "${file: -1}" != '~' ]; then
25 cmd="$RSYNC -zahqzt --exclude='*' --password-file=$PASS \
26 --include=$file $dir $user@$host::$module > /dev/null 2>1&"
27 echo $cmd
28 $cmd
29 fi
30 ;;
31
32 MOVED_FROM|MOVED_FROM,ISDIR|DELETE,ISDIR)
33 if [ "${file: -4}" != '4913' ] && [ "${file: -1}" != '~' ]; then
34 cmd="$RSYNC -zahqzt --password-file=$PASS --exclude=$file \
35 $dir $user@$host::$module > /dev/null 2>1&"
36 echo $cmd
37 $cmd
38 fi
39 ;;
40 esac
41 done &
42 done
1 chmod +x /root/inotify_monitor.sh
vi /root/inotify_monitor.sh
#!/bin/bash ###########################
sync[]='/主服务器需要同步的目录/,从服务器B的IP,bbsatt,rsync' # localdir,host,rsync_module,auth_user INWT=/usr/bin/inotifywait
RSYNC=/usr/bin/rsync
PASS=/root/rsync.pwd
########################### for item in ${sync[@]}; do dir=`echo $item | awk -F"," '{print $1}'`
host=`echo $item | awk -F"," '{print $2}'`
module=`echo $item | awk -F"," '{print $3}'`
user=`echo $item | awk -F"," '{print $4}'` $INWT -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f %e' \
--event CLOSE_WRITE,create,move $dir | while read date time file event
do
#echo $event'-'$file
case $event in
MODIFY|CREATE|MOVE|MODIFY,ISDIR|CREATE,ISDIR|MODIFY,ISDIR)
if [ "${file: -4}" != '' ] && [ "${file: -1}" != '~' ]; then
cmd="$RSYNC -zahqzt --exclude='*' --password-file=$PASS \
--include=$file $dir $user@$host::$module > /dev/null >&"
echo $cmd
$cmd
fi
;; MOVED_FROM|MOVED_FROM,ISDIR|DELETE,ISDIR)
if [ "${file: -4}" != '' ] && [ "${file: -1}" != '~' ]; then
cmd="$RSYNC -zahqzt --password-file=$PASS --exclude=$file \
$dir $user@$host::$module > /dev/null >&"
echo $cmd
$cmd
fi
;;
esac
done &
done
chmod +x /root/inotify_monitor.sh
设置RSYNC自动登录验证密码
1 vi /root/rsync.pwd
2 xxxxxx
vi /root/rsync.pwd
xxxxxx
保存,退出
设置只有ROOT才可以查看的权限.
1 chmod 0600 /root/rsync.pwd
chmod /root/rsync.pwd
以下是备从务器B的配置:
安装RSYNC
1 yum rsync -y
配置RSNYD服务:
1 vi /etc/rsyncd.conf
内容如下,需要把Apache修改成你运行网站的用户名,我的是因为原来使用apache,虽然现在用Nginx,也一直没改用户名:
1 uid = apache
2 gid = apache
3 use chroot = no
4 max connections = 4
5 pid file = /var/run/rsyncd.pid
6 lock file = /var/run/rsync.lock
7 log file = /var/log/rsyncd.log
8
9 [bbsatt]
10 path = /从服务器B本地用于存放备份的目录
11 ignore errors
12 read only = no
13 list = false
14 hosts allow = 主服务器A的IP
15 auth users = rsync
16 secrets file = /etc/rsync.pas
1 vi /etc/rsync.pas
2 rsync:xxxxxx
1 chmod 0600 /etc/rsync.pas
uid = apache
gid = apache
use chroot = no
max connections =
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log [bbsatt]
path = /从服务器B本地用于存放备份的目录
ignore errors
read only = no
list = false
hosts allow = 主服务器A的IP
auth users = rsync
secrets file = /etc/rsync.pas
vi /etc/rsync.pas
rsync:xxxxxx
chmod /etc/rsync.pas
启动RSYNCD
1 rsync --daemon
rsync --daemon
添加开机自动启动服务:
1 vi /etc/rc.local
vi /etc/rc.local
添加以下内容:
1 rsync --daemon
rsync --daemon
回到主服务器A,
1 vi /etc/rc.local
vi /etc/rc.local
添加以下内容,实时开机自动同步:
1 /root/inotify_init.sh
2 /root/inotify_monitor.sh
/root/inotify_init.sh
/root/inotify_monitor.sh
保存退出
运行
/root/inotify_init.sh
1 /root/inotify_monitor.sh
/root/inotify_monitor.sh
好了,这样就能实现实时同步图片文件了.随便在主服务器A的同步目录下新建一个文件试试吧.
注:转载https://www.linuxidc.com/Linux/2012-06/63624.htm