首页 > 代码库 > sersync实现触发式同步

sersync实现触发式同步

金山的一个居于inotify+rsync进行二次开发实现文件同步的小工具sersync,能够很方便的实现文件触发式同步

Inotify 是基于inode级别的文件系统监控技术,是一种强大的、细粒度的、异步的机制,它满足各种各样的文件监控需要,不仅限于安全和性能,内核要求2.6.13以上,inotify能监控非常多的文件系统事件,通过监控这些事件来监控文件是否发生变更,然后通过rsync来更新发生变更的文件

rsync,remote synchronize顾名思意就知道它是一款实现远程同步功能的软件,它在同步文件的同时,可以保持原来文件的权限、时间、软硬链接等附加信息。rsync是用 “rsync 算法”提供了一个客户机和远程文件服务器的文件同步的快速方法,而且可以通过ssh方式来传输文件,这样其保密性也非常好

sersync利用inotify与rsync对服务器进行实时同步,其中inotify用于监控文件系统事件,rsync是目前广泛使用的同步算法,其优点是只对文件不同的部分进行操作,所以其优势大大超过使用挂接文件系统的方式进行镜像同步。由金山的周洋开发完成,是目前使用较多的文件同步工具之一。该工具和其他的工具相比有如下优点:

  • sersync是使用c++编写,由于只同步发生更改的文件,因此比其他同步工具更节约时间、带宽;
  • 安装方便、配置简单;
  • 使用多线程进行同步,能够保证多个服务器实时保持同步状态;
  • 自带出错处理机制,通过失败队列对出错的文件重新出错,如果仍旧失败,则每10个小时对同步失败的文件重新同步;
  • 自带crontab功能,只需在xml配置文件中开启,即可按您的要求,隔一段时间整体同步一次;
  • 自带socket与http协议扩展,你可以方便的进行二次开发;

步骤

1.主和从服务器都安装rsync,然后rsync的配置文件和密码文件配置都需要自己建立

vim /etc/rsyncd.conf 内容范例如下

id=root
gid=root
max connections=36000
use chroot=no
log file=/var/log/rsyncd.log
pid file=/var/run/rsyncd.pid
lock file=/var/run/rsyncd.lock

[tlw.kk22.com]
path=/data0/web/tlw.kk22.com
#comment = 0019 web sersync
ignore errors = yes
read only = no
hosts allow = 192.168.1.237 192.168.1.238
hosts deny = *
auth users = root
secrets file = /etc/rsyncd.passwd

vim /etc/rsyncd.passwd 内容范例如下:

root:123456

需要设置密码文件为600权限,不然同步的时候可能会报错

2.启动rsync服务,一般有两种方式启动,通过daemon的方式启动或者xinetd集成启动方式

/usr/bin/rsync --daemon --config=/etc/rsyncd.conf

查看进程是否启动

ps -ef | grep rsync

3.安装sersync

下载sersync包,sersync2.5_64bit_binary_stable_final.tar.gz

解压后拷贝到安装路径   mv GNU-Linux-x86/*   /usr/local/sersync

4.serysnc配置文件设置,vim /usr/local/sersync/confxml.xml

......

<sersync>

        <localpath watch="/data0/web/tlw.kk22.com">

       <!—-设置监控的目录-->

            <remote ip="192.168.1.227" name="tlw.kk22.com"/>

           <!—设置从服务器的IP-->

            <!--<remote ip="192.168.8.39" name="tongbu"/>-->

            <!--<remote ip="192.168.8.40" name="tongbu"/>-->

        </localpath>

        <rsync>

            <commonParams params="-artuz"/>

            <auth start="true" users="root" passwordfile="/etc/rsyncd.secret"/>

              <!—-设置同步的用户名和密码文件-->

            <userDefinedPort start="true" port="873"/><!-- port=874 -->

           <!—-设置rsync的端口,要和从那边开启的端口一致-->

            <timeout start="false" time="100"/><!-- timeout=100 -->

            <ssh start="false"/>

        </rsync>

        <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->

        <crontab start="true" schedule="300"><!--600mins-->

       <!—-设置300分钟全部同步一次-->

5.sersync密码文件配置

vim /etc/rsyncd.secret

123456

主服务器的密码配置文件不需要用户,如果添加用户的话同步的时候会报错

6.启动sersync

/usr/local/sersync/sersync2 -d -r -o /usr/local/sersync/confxml.xml

查看进程

ps -ef | grep sersync

将上面的命令添加进/etc/rc.local,以后开机自动启动

7.测试是否触发同步

8.脚本自动监控,防止sersync脚本关掉,自动的去检测该进程是否存在,不存在就启动,脚本内容如下:

#!/bin/bash

SERSYNC="/usr/local/sersync/sersync2"

CONF_FILE="/usr/local/sersync/confxml.xml"

STATUS=$(ps aux |grep ‘sersync2‘|grep -v ‘grep‘|wc -l)

if [ $STATUS -eq 0 ];

then

        $SERSYNC -d -r -o $CONF_FILE &

else

        exit 0;

fi

脚本写好以后,添加到计划任务中去

*/5 * * * * /var/script/check_sersync.sh > /dev/null 2>&1

9.skill掉sersync,测试脚本自动启动

sersync实现触发式同步