日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

sersync + rsync 实现文件的实时同步

發布時間:2025/7/14 编程问答 38 豆豆
生活随笔 收集整理的這篇文章主要介紹了 sersync + rsync 实现文件的实时同步 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

這里有一點要特別注意了,就是在你完成備份之后,先不要把本地的文件都給刪除了,先把服務停了之后再刪除文件,

因為你已刪除,檢查到兩邊不一致,他又會把備份端給刪除了。所以特別得注意了。這里吃過一次虧。

還有在生產的過程當中我遇到一個問題,就是我的源文件端朝所有的服務器端都可以同步文件,唯有一臺不行,那臺服務器的系統是centos 7 的網段是10.23.24的,我的源文件有兩個網段,一個是192.168.220還有個一個10.23.24的(但是這兩個網段都是可以互通的),當時我在centos 7服務器上設置hosts allow 的時候一開始設置的是192.168.220的,但是我不管怎么傳。就是傳不過來,我捯飭了半天,我也不知道怎么回事腦子一轉去看centos 7的rsync的日志了,一看上面顯示的是

“2016/07/28 11:29:06 [122354] rsync denied on module web_log from unknown (10.23.24.xx)”

一看這個就趕緊把host allow給改成10.23.24的了,就行了,但是我現在還是不知道原因是什么,按理說兩個網段都是通的啊,應該可以啊,不管了,希望哪位朋友看到后留個言,給我解惑一下。

這里我想說的是一定要看日志,一定要看日志,一定要看日志!!!!!!!(不然真的是浪費時間啊)

?

?

?

前面我們說過rsync + inotify 的方式來實時的同步文件

今天來記錄一下一項新的東西來實現文件的實時同步

那就是sersync + rsync

實驗環境:

192.168.220.99???? 源文件

192.168.220.98???? 備份文件

sersync的介紹

sersync主要用于服務器同步,web鏡像等功能?;赽oost1.43.0,inotify api,rsync command.開發。目前使用的比較多的同步解決方案是inotify-tools+rsync ,另外一個是google開源項目Openduckbill(依賴于inotify- tools),這兩個都是基于腳本語言編寫的。相比較上面兩個項目,本項目優點是:
sersync是使用c++編寫,而且對linux系統文件系統產生的臨時文件和重復的文件操作進行過濾(詳細見附錄,這個過濾腳本程序沒有實現),所以在結合rsync同步的時候,節省了運行時耗和網絡資源。因此更快。

首先在兩臺機器都安裝上rsync

yum?? -y?? install?? rsync

在備份機上操作詳情參考:http://www.cnblogs.com/post/readauth?url=/smail-bao/p/5667287.html

手動創建一個rsync的配置文件

[root@zabbix logs]# cat /etc/rsyncd.conf
uid = root
gid = root
usechroot = no
max connections = 20
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
[web_log]
path = /data/web_log/
ignore errors
read only = false
writeonly = false
list = false
hosts allow = 192.168.220.99
auth users = backuser
secrets file = /etc/rsync.pass

????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????
~??????????????????????????????????

創建如上的配置文件之后,再手動輸入一個密碼

從配置文件當中,我們可以看到我們的密碼文件是/etc/rsync.pass,連接模塊的用戶名是backuser

vim /etc/rsync.pass

文件內容格式如下

backuser:123

然后給這個文件的權限設為600,不然會報錯

chmod 600 /etc/rsync.pass

然后我們就去手動創建備份目錄

mkdir /data/web_log

最后就是啟動rsync,并且設置為開機自動啟動

/usr/bin/rsync --daemon &

echo "/usr/bin/rsync --daemon"? >>/etc/rc.local

?

服務端我們可以給rsync 開一個端口,然后再防火墻上允許該端口

在rsyncd.conf文件中添加

port=55223

然后設置iptables,允許客戶端連接

-A INPUT -s 192.168.220.99/32 -p tcp -m tcp --dport 55873 -j ACCEPT

?

現在就來說源文件端(即客戶端,也就是說你需要同步文件到其他地方的機器,別弄反了)

第一步永遠是安裝軟件

cd /usr/local/src

wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz

mkdir /usr/serync

[root@zabbix src]# tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/sersync/

[root@zabbix src]# cd /usr/sersync/GNU-Linux-x86

# cp confxml.xml /usr/local/sersync/conf

# cp sersync2 /usr/local/sersync/bin

echo "123" >> /etc/rsync.pass

這個123密碼是要好服務端的rsync的密碼要相同

chmod 600 /etc/rsync.pass

配置sersync,配置文件就是上第二步復制的confxml.xml這個文中,路徑在/usr/local/sersync/conf中

<?xml version="1.0" encoding="ISO-8859-1"?>
<head version="2.5">
# 設置本地IP和端口
<host hostip="localhost" port="8008"></host>
# 開啟DUBUG模式
<debug start="false"/>
# 開啟xfs文件系統
<fileSystem xfs="false"/>
# 同步時忽略推送的文件(正則表達式),默認關閉
<filter start="false">
<exclude expression="(.*)\.svn"></exclude>
<exclude expression="(.*)\.gz"></exclude>
<exclude expression="^info/*"></exclude>
<exclude expression="^static/*"></exclude>
</filter>
<inotify>
# 設置要監控的事件
<delete start="true"/>##這個最好還是給改成false吧,不然的話,他會刪除遠程服務器上比自己多的文件,但是你要是想兩邊保持實時同步的話就要開啟了
<createFolder start="true"/>
<createFile start="true"/>
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="true"/>
<modify start="true"/>
</inotify>
<sersync>
# 本地同步的目錄路徑
<localpath watch="/usr/local/nginx/logs">
# 遠程IP和rsync模塊名
<remote ip="192.168.220.98" name="web_log"/>
<!--<remote ip="192.168.8.39" name="tongbu"/>-->
<!--<remote ip="192.168.8.40" name="tongbu"/>-->
</localpath>
<rsync>
# rsync指令參數
<commonParams params="-auvzP"/>
# rsync同步認證
<auth start="true" users="backuser" passwordfile="/etc/rsync.pass"/>
# 設置rsync遠程服務端口,遠程非默認端口則需打開自定義,這里可以給他改掉,都不要用默認的,在遠程服務器的rsyncd.conf里面進行修改,添加port=34875,自己定義
<userDefinedPort start="false" port="873"/><!-- port=874 -->
# 設置超時時間
<timeout start="true" time="100"/><!-- timeout=100 -->
# 設置rsync+ssh加密傳輸模式,默認關閉,開啟需設置SSH加密證書
<ssh start="false"/>
</rsync>
# sersync傳輸失敗日志腳本路徑,每隔60會重新執行該腳本,執行完畢會自動清空。
<failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
# 設置rsync+crontab定時傳輸,默認關閉
<crontab start="false" schedule="600"><!--600mins-->
<crontabfilter start="false">
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
# 設置sersync傳輸后調用name指定的插件腳本,默認關閉
<plugin start="false" name="command"/>
</sersync>
# 插件腳本范例
<plugin name="command">
<param prefix="/bin/sh" suffix="" ignoreError="true"/> <!--prefix /opt/tongbu/mmm.sh suffix-->
<filter start="false">
<include expression="(.*)\.php"/>
<include expression="(.*)\.sh"/>
</filter>
</plugin>
# 插件腳本范例
<plugin name="socket">
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>
</head>

然后就是設置環境變量了

# echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile

# source /etc/profile

?

現在就是啟動sersync

sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml

這里也僅僅配置了一個模塊的sersync的自動同步。sersync的多實例和nginx,Apache類似,需要多個不同的配置文件,來做相應的修改就可以了,例如

#因為我有3個模塊所以需要3份配置文件。一一做相應的修改就可以 cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/www_conxml.xml cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/bbs_conxml.xml cp /usr/local/sersync/conf/confxml.xml /usr/local/sersync/conf/blog_conxml.xml

?啟動多實例sersync的命令

#直接終端運行,配置文件就可以 /usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/www_conxml.xml /usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/bbs_conxml.xml /usr/local/sersync/bin/sersync -r -d -o /usr/local/sersync/conf/blog_conxml.xml #會顯示類似的結果,只要沒有error一切都OK

?

#重啟操作如下:

# killall sersync2 && sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml

?

設置其開機啟動

# echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.local

?

摘自:

http://www.fzb.me/2015-6-15-rsync-sersync-install-and-configuration.html

http://blog.csdn.net/orangleliu/article/details/46699147

https://www.centos.bz/2012/01/real-time-rsync-file-with-sersync/

注:當我們的接收端把文件刪除之后,是不會對傳送端有什么影響的!

?還有要注意的就是,在我們使用過程當中,sersync腳本會自動關掉,因此需寫一個腳本去檢測該進程是不是存在,不存在就啟動

腳本內容為:

#!/usr/bin/bash
sersync="/usr/local/sersync/bin/sersync2"
conf_file="/usr/loca/sersync/conf/confxml.xml"
status=$(ps -aux | grep 'sersync2' | grep -v 'grep' | wc -l)
if [ $status -eq 0]:
then
??????? $sersync -d -r -o $conf_file &
else
??????? exit 0;
fi

然后再弄一個計劃任務,每隔五分鐘就執行一下這個腳本

文章參考:

??????????????????http://blog.chinaunix.net/uid-20639775-id-3011124.html???????????

http://www.cnblogs.com/wjoyxt/p/4581410.html????????

https://www.cnhzz.com/rsync_sersync/? 這篇文章介紹的比較詳細? (企業級案例:通過 rsync sersync 實現高效的數據實時同步架構) ???????????????????????????????????????????????????????????????????????????????????????

總結

以上是生活随笔為你收集整理的sersync + rsync 实现文件的实时同步的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。