首页 > 代码库 > rsync同步(winxdows到linux/linux到linxu同步)

rsync同步(winxdows到linux/linux到linxu同步)

1.什么是rsync?

-rsync是类unix系统下的数据镜像备份工具——remote sync。一款快速增量备份工具 Remote Sync,远程同步 支持本地复制,或者与其他SSH、rsync主机同步。

-第一次同步时rsync会复制全部内容,但在下一次只传输修改过的文件。rsync在传输数据的过程中可以实行压缩及解压缩操作,因此可以使用更少的带宽。

-安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。

-支持匿名传输,以方便进行网站镜象。

2.服务器端和客户端

1).一对一,客户端和服务端和都可以相互同步,可以不区分,一般是服务端同步到客户端。

2).一对多,一个服务端,多个客户端,客户端从服务端拷贝数据,保持数据一致。

3.windows(服务端配置)

首先要下载windows版的rsync

  rsync分为服务器端和客户端,以A(服务器端),B(客户端)2台服务器为例 A的IP地址为192.168.1.111 B的ip地址为192.168.1.123

 

  1,先配置服务器端,在服务器上安装cwRsyncServer_4.0.5_Installer.exe,安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装过程中rsync会自动建立一个叫做rsync的用户名,并且提示你输入这个用户的密码,这里很关键,这个密码一定要是你系统用户即adminstrator的密码,如果怕出错就不用管他直接点下一步,值得完成安装,这时打开你的服务检查下有没有一个RsyncServer的服务,如果没有的话就是那个用户密码的地方弄错了,建议卸载重新安装,如果有那就OK,最后检查下你的防火墙是否打开873端口

 

技术分享

 

技术分享

 

  上面的用户名和密码就是下面客户端所用到的账户,密码,以上就是服务器端的安装了,然后就是配置,找到你rsync的安装目录点击进去里面会有个rsyncd.conf的配置文件,用记事本的方式打开他,在文件最前面追加"uid = 0" "gid = 0" 2行,然后修改 "[]" 的内容,这里小编直接上图,有图更容易看懂

 

技术分享

 

  怎么样,从图上来看很清楚把,然后在在服务里面找到 "RsyncServer" 修改为"自动开启" 并且将服务"启动".

 

  2,接下来是客户端,首先客户端先安装cwRsync_4.0.5_Install.exe,同样安装的时候路径不要去改,全部用默认路径,如果你用的是64位操作系统请把默认路径中的Program Files (x86)那个(x86)删掉,安装完成后,新建一个txt文本文档,这里小编还是上图来说明

 

技术分享

 

  --timeout参数,这个是一个超时设定,在服务器忙或者网络忙的时候rsync会出现同步到一半不动的情况,用了这个参数的话就可以设定他在你指定的时间内rsync没有进行操作则取消命令,这个在多台服务器同步的时候非常有用

 

  --exclude参数,排除你指定某个文件或者目录,这个不用多介绍了

 

  --delete参数,这个的意思是服务器端与客户端保持完全一致,客户段与服务端不同的文件客户端会进行删除操作,这里小编建议新手不要加上这个参数,如果服务端误操作删掉了文件那你所有的机器都会删掉这个文件,就会很麻烦,所以先可以不加这个参数

 

4.linux(服务端)

4.1 安装Rsync

[root@localhost /]# cd /opt/install

[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

[root@localhost install]# cd rsync-3.0.7

[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

[root@localhost rsync-3.0.7]# make

[root@localhost rsync-3.0.7]# make install

安装完成后,在/opt/software/rsync中包含了安装的所有文件

4.2 修改配置文件

/opt/software/rsync目录中增加conf目录,然后在此目录中增加rsyncd.conf文件,文件内容如下:

 

uid = 0

gid = 0

 

#监听端口(缺省为873,可以不用修改)

port = 52326

 

# 允许连接的客户端IP

#hosts allow=192.168.0.0/24    

 

# 拒绝访问的客户端IP             

#hosts deny=0.0.0.0/32                      

 

# 不使用chroot

use chroot=no   

 

# 最大连接数为100                            

max connections=100                         

 

# 欢迎信息文件名称和存放位置(此文件没有,可以自行添加)

#motd file=/opt/software/rsync/conf/rsyncd.motd      

 

# 指定rsyncpid文件          

pid file=/var/run/rsyncd.pid  

 

# 指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock              

lock file=/var/run/rsync.lock        

 

# 指定rsync的日志文件,而不将日志发送给syslog       

log file=/var/log/rsyncd.log                

 

#下面就是每个需要同步的模块的配置

 

#需要同步的模块名称,在客户端同步时需要指定,根据实际需要进行修改

[main]            

 

# 需要同步的目录(根据实际情况进行修改,此处只是示例)                     

path=/srv/www/app/cms/main                          

comment=rsync files

 

# 忽略无关的IO错误

ignore errors     

 

# 只读                            

read only=yes  

 

# 不允许列文件                             

list=no              

 

# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔                       

#auth users=thinkive     

 

# 认证用户文件名                    

secrets file=/opt/software/rsync/conf/rsyncd.pas                

 

#同步的第二个模块名称,在客户端同步时需要指定,根据实际需要进行修改

[upload]            

 

# 需要同步的目录(根据实际情况进行修改,此处只是示例)                     

path=/srv/www/app/cms/upload                          

comment=rsync files

 

# 忽略无关的IO错误

ignore errors     

 

# 只读                            

read only=yes  

 

# 不允许列文件                             

list=no              

 

# 认证的用户名,如果没有这行,则表明是匿名,用个用户用,分隔                       

#auth users=thinkive     

 

# 认证用户文件名                    

secrets file=/opt/software/rsync/conf/rsyncd.pas   

4.3 配置密码认证文件

/opt/software/rsync/conf目录中创建rsyncd.pas文件

然后在文件中加入如下内容:

thinkive:thinkive

 

4.4 启动服务器

[root@localhost /]# cd /opt/software/rsync/bin/

[root@localhost bin]# ./rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf 

[root@localhost bin]# ps –ef | grep rsync

检查服务是否已经启动

 

以服务器方式启动在52326端口(缺省为873端口,若不指定配置文件路径,则缺省配置文件从/etc/rsyncd.conf读取)

如果要在一台机器上启动多个同步服务进程,可给定不同的--config --port

若要随机启动,则可以把此代码加入到/etc/rc.local

/opt/software/rsync/bin/rsync --daemon --config=/opt/software/rsync/conf/rsyncd.conf

5.linux(客户端)

5.1 安装Rsync

[root@localhost /]# cd /opt/install

[root@localhost install]# tar zxvf rsync-3.0.7.tar.gz

[root@localhost install]# cd rsync-3.0.7

[root@localhost rsync-3.0.7]# ./configure --prefix=/opt/software/rsync

[root@localhost rsync-3.0.7]# make

[root@localhost rsync-3.0.7]# make install

安装完成后,在/opt/software/rsync中包含了安装的所有文件

 

5.2 配置密码认证文件

  /opt目录中创建文件名为/rsync.pas 的密码认证文件(密码文件路径和文件名称可自行修改),然后在此文件中添加如下用户密码(必须和服务器端配置的用户密码一致)

  thinkive

 

  修改该文件的权限

chmod  600  rsync.pas

 

 

5.3 执行同步命令

[root@localhost /]# cd /opt/software/rsync/bin

[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main

[root@localhost bin]# ./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload

 

 

详细参数说明:

z是压缩传输,

r递归同步

topg都是保持文件原有属性如属主、时间的参数。

u是只同步已经更新的文件,避免没有更新的文件被重复更新一次,不过要注意两者机器的时钟的同步。

–progress是指显示出详细的进度情况,

–delete是指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致。

--port 指定访问的端口

后面的thinkive@192.168.1.108::data中,之后的data是模块名,也就是在rsyncd.conf中自定义的名称,thinkive是指定模块中指定的可以同步的用户名。

–password-file=/opt/rsync.pas指定密码文件,这样就可以在脚本中使用而无需交互式地输入验证密码了,这里需要注意的是这份密码文件权限属性要设得只有属主可读。

/opt/install_bak是备份到本地的目录名,根据具体的需求填写

 

5.4 生成同步的脚本

脚本文件位置可以自定,此处假设在/opt/rsync.sh

DATE=`date +%Y%m%d`

cd /opt/software/rsync/bin

./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::main /srv/www/app/webroot/main  >>  /opt/software/rsync/log/rsync_main.$DATE.log

./rsync -vzrtopgu --progress --delete --password-file=/opt/rsync.pas --port=52326 thinkive@18.1.20.20::upload /srv/www/app/webroot/upload  >>  /opt/software/rsync/log/rsync_upload.$DATE.log

 

上面每天会生成一个日志

 

赋予权限 chmod 777 /opt/rsync.sh

 

5.5 加入到定时器中

   */1  *  *  *  *  root  /opt/rsync.sh

加入到/etc/crontab中,然后使用如下命令重新启动crond

service crond restart

上面定时任务表示每分钟增量同步一次数据。

 

 具体可以参见linux添加定时任务crond

6.注意问题

数据同步软件主要是根据时间进行数据的增量同步,所以必须主服务器和客户端之间的机器的时间不能相差太远,否则可能导致数据不能正确的同步。

 

7.Rsync命令参数详解

rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。Rsync的命令格式可以为以下六种:

  rsync [OPTION]... SRC DEST

  rsync [OPTION]... SRC [USER@]HOST:DEST

  rsync [OPTION]... [USER@]HOST:SRC DEST

  rsync [OPTION]... [USER@]HOST::SRC DEST

  rsync [OPTION]... SRC [USER@]HOST::DEST

  rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

 

  对应于以上六种命令格式,rsync有六种不同的工作模式:

  1)拷贝本地文件。当SRCDES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup

  2)使用一个远程shell程序(rshssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src

  3)使用一个远程shell程序(rshssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data

  4)从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack

  5)从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www

6)列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www

rsync参数的具体解释如下:

-v, --verbose 详细模式输出

-q, --quiet 精简输出模式

-c, --checksum 打开校验开关,强制对文件传输进行校验

-a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD

-r, --recursive 对子目录以递归模式处理

-R, --relative 使用相对路径信息

-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(~filename)存放在在目录下。

-suffix=SUFFIX 定义备份文件前缀

-u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)

-l, --links 保留软链结

-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结

--safe-links 忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结     -p, --perms 保持文件权限

-o, --owner 保持文件属主信息     -g, --group 保持文件属组信息

-D, --devices 保持设备文件信息    -t, --times 保持文件时间信息

-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间

-n, --dry-run现实哪些文件将被传输

-W, --whole-file 拷贝文件,不进行增量检测

-x, --one-file-system 不要跨越文件系统边界

-B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节

-e, --rsh=COMMAND 指定使用rshssh方式进行数据同步

--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件

--existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件

--delete 删除那些DSTSRC没有的文件

--delete-excluded 同样删除接收端那些被该选项指定排除的文件

--delete-after 传输结束以后再删除

--ignore-errors 及时出现IO错误也进行删除

--max-delete=NUM 最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输

--force 强制删除目录,即使不为空

--numeric-ids 不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间,单位为秒

-I, --ignore-times 不跳过那些有同样的时间和长度的文件

--size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间

--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0

-T --temp-dir=DIR DIR中创建临时文件

--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份

-P 等同于 --partial

--progress 显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN 指定排除不需要传输的文件模式

--include=PATTERN 指定不排除而需要传输的文件模式

--exclude-from=FILE 排除FILE中指定模式的文件

--include-from=FILE 不排除FILE指定模式匹配的文件

--version 打印版本信息

--address 绑定到特定的地址

--config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件

--port=PORT 指定其他的rsync服务端口

--blocking-io 对远程shell使用阻塞IO

-stats 给出某些文件的传输状态

--progress 在传输时现实传输过程

--log-format=formAT 指定日志文件格式

--password-file=FILE FILE中得到密码

--bwlimit=KBPS 限制I/O带宽,KBytes per second      -h, --help 显示帮助信息

 

 

rsync同步(winxdows到linux/linux到linxu同步)