原文轉(zhuǎn)自http://dl528888.blog.51cto.com/2382721/771533/

之前做了“ssh信任與scp自動傳輸腳本”的技術(shù)文檔，此方案是作為公司里備份的方法，但在實際的運行中，由于主服務(wù)器在給備份服務(wù)器傳輸?shù)臅r候，我們的主服務(wù)器需要備份的文件是實時、不停的產(chǎn)生的，造成不知道主服務(wù)器給備份服務(wù)器傳輸了多少文件，磁盤空間就那么大，做備份的原因：一個是為了保持文件，另外一個是解決主服務(wù)器的磁盤飽滿問題，但由于不知道備份服務(wù)器到底接收了多少文件，所以主服務(wù)器里的文件不敢刪除（如果沒有備份的情況下刪除，問題就嚴(yán)重了，我這個是政府的項目，服務(wù)器里的文件都是重要的，刪錯了就走人~~~~(>_<)~~~~ ），所以我就采用了rsync+inotify的方式來實時同時服務(wù)器之間的文件，而且傳輸?shù)倪^程是加密的，比scp安全多了（即使scp采用ssh信任，用密鑰，也不是萬無一失的）。

以下是我給公司運維做的備份技術(shù)文檔，分享給大家，希望對大家有幫助。

先介紹一下rsync與inotify，都在在網(wǎng)上找的資料。先聲明下面的rsync與inotify介紹不是我自己寫的。

1、rsync

?與傳統(tǒng)的cp、tar備份方式相比，rsync具有安全性高、備份迅速、支持增量備份等優(yōu)點，通過rsync可以解決對實時性要求不高的數(shù)據(jù)備份需求，例如定期的備份文件服務(wù)器數(shù)據(jù)到遠(yuǎn)端服務(wù)器，對本地磁盤定期做數(shù)據(jù)鏡像等。
隨著應(yīng)用系統(tǒng)規(guī)模的不斷擴大，對數(shù)據(jù)的安全性和可靠性也提出的更好的要求，rsync在高端業(yè)務(wù)系統(tǒng)中也逐漸暴露出了很多不足，首先，rsync同步數(shù)據(jù)時，需要掃描所有文件后進行比對，進行差量傳輸。如果文件數(shù)量達(dá)到了百萬甚至千萬量級，掃描所有文件將是非常耗時的。而且正在發(fā)生變化的往往是其中很少的一部分，這是非常低效的方式。其次，rsync不能實時的去監(jiān)測、同步數(shù)據(jù)，雖然它可以通過linux守護進程的方式進行觸發(fā)同步，但是兩次觸發(fā)動作一定會有時間差，這樣就導(dǎo)致了服務(wù)端和客戶端數(shù)據(jù)可能出現(xiàn)不一致，無法在應(yīng)用故障時完全的恢復(fù)數(shù)據(jù)。基于以上原因，rsync+inotify組合出現(xiàn)了！

2、inotify

?Inotify 是一種強大的、細(xì)粒度的、異步的文件系統(tǒng)事件監(jiān)控機制，linux內(nèi)核從2.6.13起，加入了Inotify支持，通過Inotify可以監(jiān)控文件系統(tǒng)中添加、刪除，修改、移動等各種細(xì)微事件，利用這個內(nèi)核接口，第三方軟件就可以監(jiān)控文件系統(tǒng)下文件的各種變化情況，而inotify-tools就是這樣的一個第三方軟件。
在上面章節(jié)中，我們講到，rsync可以實現(xiàn)觸發(fā)式的文件同步，但是通過crontab守護進程方式進行觸發(fā)，同步的數(shù)據(jù)和實際數(shù)據(jù)會有差異，而inotify可以監(jiān)控文件系統(tǒng)的各種變化，當(dāng)文件有任何變動時，就觸發(fā)rsync同步，這樣剛好解決了同步數(shù)據(jù)的實時性問題。

具體大家可以參照http://www.ibm.com/developerworks/cn/linux/l-ubuntu-inotify/index.html來進行學(xué)習(xí)。

接下面我們來開始進行rsync與inotify的安裝、配置、測試。

下面是2個服務(wù)器的結(jié)構(gòu)，分別為主機名、ip、狀態(tài)、內(nèi)核、位數(shù)、同步的目錄，并將2臺服務(wù)器均是redhat5.4發(fā)行版本。

一、主服務(wù)器（server端，我這里是nginx） 其中主服務(wù)器需要安裝rsync與inotify，主服務(wù)器作為server，向備份服務(wù)器client傳輸文件 1、安裝rsync

[root@nginx?~]#?cd?/usr/src/ ?

[root@nginx?src]#?ll ?

total?16 ?

drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?

drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?

[root@nginx?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?

[root@nginx?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?

[root@nginx?src]#?cd?rsync-3.0.9 ?

[root@nginx?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?

[root@nginx?rsync-3.0.9]#?make ?

[root@nginx?rsync-3.0.9]#?make?install ?

2、建立密碼認(rèn)證文件

[root@nginx?rsync-3.0.9]#?cd?/usr/local/rsync/ ?

?

[root@nginx?rsync]#?echo?"rsync-pwd"?>/usr/local/rsync/rsync.passwd? ?

?

其中rsync-pwd可以自己設(shè)置密碼，rsync.passwd名字也可以自己設(shè)置

?

[root@nginx?rsync]#?chmod?600?rsync.passwd?

無論是為了安全，還是為了避免出現(xiàn)以下錯誤，密碼文件都需要給600權(quán)限

password?file?must?not?be?other-accessible ?

continuing?without?password?file ?

3、安裝inotify

[root@nginx?rsync]#?cd?/usr/src/ ?

[root@nginx?src]#?wget?http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz ?

[root@nginx?src]#?tar?zxvf?inotify-tools-3.14.tar.gz ?

[root@nginx?src]#?cd?inotify-tools-3.14 ?

[root@nginx?inotify-tools-3.14]#?./configure?--prefix=/usr/local/inotify ?

[root@nginx?inotify-tools-3.14]#?make ?

[root@nginx?inotify-tools-3.14]#?make?install ?

4、創(chuàng)建rsync復(fù)制腳本 此項功能主要是將server端的目錄/tmp里的內(nèi)容，如果修改了（無論是添加、修改、刪除文件）能夠通過inotify監(jiān)控到，并通過rsync實時的同步給client的/tmp里，下面是通過shell腳本實現(xiàn)的。

#!/bin/bash ?

host=192.168.10.221 ?

src=/tmp/??????? ?

des=web?

user=webuser?

/usr/local/inotify/bin/inotifywait?-mrq?--timefmt?'%d/%m/%y?%H:%M'?--format?'%T?%w%f%e'?-e?modify,delete,create,attrib?$src?\ ?

|?while?read?files ?

do ?

/usr/bin/rsync?-vzrtopg?--delete?--progress?--password-file=/usr/local/rsync/rsync.passwd?$src?$user@$host::$des ?

echo?"${files}?was?rsynced"?>>/tmp/rsync.log?2>&1 ?

done ?

注意：經(jīng)過1樓的提示，我發(fā)現(xiàn)如果把rsync.log的放到tmp（備份的目錄）或發(fā)送一直復(fù)制的問題，所以建議各位吧rsync的日志放到其他的目錄下（非備份目錄）。 其中host是client的ip，src是server端要實時監(jiān)控的目錄，des是認(rèn)證的模塊名，需要與client一致，user是建立密碼文件里的認(rèn)證用戶。 把這個腳本命名為rsync.sh，放到監(jiān)控的目錄里，比如我的就放到/tmp下面，并給予764權(quán)限

[root@nginx?tmp]#?chmod?764?rsync.sh?

然后運行這個腳本

[root@nginx?tmp]#?sh?/tmp/rsync.sh?&?

請記住，只有在備份服務(wù)器client端的rsync安裝并啟動rsync之后，在啟動rsync.sh腳本，否則有時候會滿屏出現(xiàn)：

rsync:?failed?to?connect?to?192.168.10.221:?Connection?refused?(111) ?

rsync?error:?error?in?socket?IO?(code?10)?at?clientserver.c(107)?[sender=2.6.8] ?

我們還可以把rsync.sh腳本加入到開機啟動項里

[root@nginx?tmp]#?echo?"/tmp/rsync.sh"?>>?/etc/rc.local?

二、備份服務(wù)器（client，我這里為nginx-backup）

1、安裝rsync（備份服務(wù)器只安裝rsync）

[root@nginx-backup?~]#?cd?/usr/src/ ?

[root@nginx-backup?src]#?ll ?

total?16 ?

drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?

drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?

[root@nginx-backup?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?

[root@nginx-backup?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?

[root@nginx-backup?src]#?cd?rsync-3.0.9 ?

[root@nginx-backup?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?

[root@nginx-backup?rsync-3.0.9]#?make ?

[root@nginx-backup?rsync-3.0.9]#?make?install ?

2、建立用戶與密碼認(rèn)證文件

[root@nginx-backup?rsync-3.0.9]#?echo?"webuser:rsync-pwd"?>?/usr/local/rsync/rsync.passwd?

請記住，在server端建立的密碼文件，只有密碼，沒有用戶名；而在備份服務(wù)端client里建立的密碼文件，用戶名與密碼都有。

[root@nginx-backup?rsync]#?chmod?600?rsync.passwd?

需要給密碼文件600權(quán)限 3、建立rsync配置文件

uid?=?root?

gid?=?root?

use?chroot?=?no?

max?connections?=?10?

strict?modes?=?yes?

pid?file?=?/var/run/rsyncd.pid ?

lock?file?=?/var/run/rsync.lock ?

log?file?=?/var/log/rsyncd.log ?

[web] ?

path?=?/tmp/ ?

comment?=?web?file ?

ignore?errors ?

read?only?=?no?

write?only?=?no?

hosts?allow?=?192.168.10.220 ?

hosts?deny?=?* ?

list?=?false?

uid?=?root?

gid?=?root?

auth?users?=?webuser?

secrets?file?=?/usr/local/rsync/rsync.passwd ?

其中web是server服務(wù)端里的認(rèn)證模塊名稱，需要與主服務(wù)器里的一致，以上的配置我的自己服務(wù)器里的配置，以供參考。 把配置文件命名為rsync.conf，放到/usr/local/rsync/目錄里 啟動rsync

[root@nginx-backup?rsync]#?/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf?

如果出現(xiàn)以下問題：

/usr/local/rsync/bin/rsync:?error?while?loading?shared?libraries:?libiconv.so.2:?cannot?open?shared?object?file:?No?such?file?or?directory，?

可以采用下面方法解決

[root@nginx-backup?rsync]#?whereis?libiconv.so.2 ?

libiconv.so:?/usr/local/lib/libiconv.so.2?/usr/local/lib/libiconv.so ?

找到所需模塊所在的目錄，然后把此目錄添加到/etc/ld.so.conf里，并更新庫文件

[root@nginx-backup?rsync]#?echo?"/usr/local/lib/"?>>?/etc/ld.so.conf ?

?[root@nginx-backup?rsync]#?ldconfig ?

我們可以把rsync腳本加入到開機啟動項里

[root@nginx-backup?rsync]#?echo?"/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf"?>>?/etc/rc.local?

現(xiàn)在rsync與inotify在server端安裝完成，rsync在備份服務(wù)器client端也安裝完成 下面是server端的tmp文件情況

下面是client端tmp的文件情況

接下來我們來做一下測試，在server里創(chuàng)建個test-rsync文件，看看client是否能收到

在看client端是否有test-rsync文件，同時client端的tmp目錄文件是否與server端的文件完全一致

可以看到在client端，已經(jīng)收到了test-rsync文件，而且client的tmp里的文件與server里tmp的文件完全相同、文件數(shù)目一致。 現(xiàn)在rsync與inotify的搭建與配置完成了，并實現(xiàn)了服務(wù)器直接數(shù)據(jù)的實時同步；大家可以根據(jù)自己的需要來進行相應(yīng)的配置。 BTW：在rsync+inotify這種備份方法的時候，我公司遇到了一個問題，那就是主服務(wù)已經(jīng)給備用服務(wù)同步完數(shù)據(jù)了，但主服務(wù)器磁盤看見滿了，需要把已經(jīng)備份的文件刪除，但同時在備份服務(wù)器里保留主服務(wù)器里的文件，也就是說主服務(wù)器里刪除文件的時候，備份服務(wù)器里不跟著刪除文件，我查看了很多英文文檔，測試了很多遍，最后找到了一個解決方法，那就是在主服務(wù)器里，把rsync.sh這個腳本里第9行的--delete參數(shù)給去掉，就可以解決這個問題。

總結(jié)

以上是生活随笔為你收集整理的rsync+inotify实现服务器之间文件实时同步的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。