之前做了“ssh信任與scp自動傳輸腳本”的技術文檔,此方案是作為公司里備份的方法,但在實際的運行中,由于主服務器在給備份服務器傳輸的時候,我們的主服務器需要備份的文件是實時、不停的產生的,造成不知道主服務器給備份服務器傳輸了多少文件,磁盤空間就那么大,做備份的原因:一個是為了保持文件,另外一個是解決主服務器的磁盤飽滿問題,但由于不知道備份服務器到底接收了多少文件,所以主服務器里的文件不敢刪除(如果沒有備份的情況下刪除,問題就嚴重了,我這個是政府的項目,服務器里的文件都是重要的,刪錯了就走人~~~~(>_<)~~~~ ),所以我就采用了rsync+inotify的方式來實時同時服務器之間的文件,而且傳輸的過程是加密的,比scp安全多了(即使scp采用ssh信任,用密鑰,也不是萬無一失的)。
以下是我給公司運維做的備份技術文檔,分享給大家,希望對大家有幫助。
先介紹一下rsync與inotify,都在在網上找的資料。先聲明下面的rsync與inotify介紹不是我自己寫的。
1、rsync
?與傳統的cp、tar備份方式相比,rsync具有安全性高、備份迅速、支持增量備份等優點,通過rsync可以解決對實時性要求不高的數據備份需求,例如定期的備份文件服務器數據到遠端服務器,對本地磁盤定期做數據鏡像等。
隨著應用系統規模的不斷擴大,對數據的安全性和可靠性也提出的更好的要求,rsync在高端業務系統中也逐漸暴露出了很多不足,首先,rsync同步數據時,需要掃描所有文件后進行比對,進行差量傳輸。如果文件數量達到了百萬甚至千萬量級,掃描所有文件將是非常耗時的。而且正在發生變化的往往是其中很少的一部分,這是非常低效的方式。其次,rsync不能實時的去監測、同步數據,雖然它可以通過linux守護進程的方式進行觸發同步,但是兩次觸發動作一定會有時間差,這樣就導致了服務端和客戶端數據可能出現不一致,無法在應用故障時完全的恢復數據?;谝陨显?#xff0c;rsync+inotify組合出現了!
2、inotify
?Inotify 是一種強大的、細粒度的、異步的文件系統事件監控機制,linux內核從2.6.13起,加入了Inotify支持,通過Inotify可以監控文件系統中添加、刪除,修改、移動等各種細微事件,利用這個內核接口,第三方軟件就可以監控文件系統下文件的各種變化情況,而inotify-tools就是這樣的一個第三方軟件。
在上面章節中,我們講到,rsync可以實現觸發式的文件同步,但是通過crontab守護進程方式進行觸發,同步的數據和實際數據會有差異,而inotify可以監控文件系統的各種變化,當文件有任何變動時,就觸發rsync同步,這樣剛好解決了同步數據的實時性問題。
具體大家可以參照http://www.ibm.com/developerworks/cn/linux/l-ubuntu-inotify/index.html來進行學習。
接下面我們來開始進行rsync與inotify的安裝、配置、測試。
下面是2個服務器的結構,分別為主機名、ip、狀態、內核、位數、同步的目錄,并將2臺服務器均是redhat5.4發行版本。
?
一、主服務器(server端,我這里是nginx) 其中主服務器需要安裝rsync與inotify,主服務器作為server,向備份服務器client傳輸文件 1、安裝rsync
[root@nginx?~]#?cd?/usr/src/ ?[root@nginx?src]#?ll ?total?16 ?drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?[root@nginx?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?[root@nginx?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?[root@nginx?src]#?cd?rsync-3.0.9 ?[root@nginx?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?[root@nginx?rsync-3.0.9]#?make ?[root@nginx?rsync-3.0.9]#?make?install ?2、建立密碼認證文件
[root@nginx?rsync-3.0.9]#?cd?/usr/local/rsync/ ??[root@nginx?rsync]#?echo?"rsync-pwd"?>/usr/local/rsync/rsync.passwd? ??其中rsync-pwd可以自己設置密碼,rsync.passwd名字也可以自己設置
?
[root@nginx?rsync]#?chmod?600?rsync.passwd?無論是為了安全,還是為了避免出現以下錯誤,密碼文件都需要給600權限
password?file?must?not?be?other-accessible ?continuing?without?password?file ?3、安裝inotify
[root@nginx?rsync]#?cd?/usr/src/ ?[root@nginx?src]#?wget?http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz ?[root@nginx?src]#?tar?zxvf?inotify-tools-3.14.tar.gz ?[root@nginx?src]#?cd?inotify-tools-3.14 ?[root@nginx?inotify-tools-3.14]#?./configure?--prefix=/usr/local/inotify ?[root@nginx?inotify-tools-3.14]#?make ?[root@nginx?inotify-tools-3.14]#?make?install ?4、創建rsync復制腳本 此項功能主要是將server端的目錄/tmp里的內容,如果修改了(無論是添加、修改、刪除文件)能夠通過inotify監控到,并通過rsync實時的同步給client的/tmp里,下面是通過shell腳本實現的。
#!/bin/bash ?host=192.168.10.221 ?src=/tmp/??????? ?des=web?user=webuser?/usr/local/inotify/bin/inotifywait?-mrq?--timefmt?'%d/%m/%y?%H:%M'?--format?'%T?%w%f%e'?-e?modify,delete,create,attrib?$src?\ ?|?while?read?files ?do ?/usr/bin/rsync?-vzrtopg?--delete?--progress?--password-file=/usr/local/rsync/rsync.passwd?$src?$user@$host::$des ?echo?"${files}?was?rsynced"?>>/tmp/rsync.log?2>&1 ?done ?注意:經過1樓的提示,我發現如果把rsync.log的放到tmp(備份的目錄)或發送一直復制的問題,所以建議各位吧rsync的日志放到其他的目錄下(非備份目錄)。 其中host是client的ip,src是server端要實時監控的目錄,des是認證的模塊名,需要與client一致,user是建立密碼文件里的認證用戶。 把這個腳本命名為rsync.sh,放到監控的目錄里,比如我的就放到/tmp下面,并給予764權限
[root@nginx?tmp]#?chmod?764?rsync.sh?然后運行這個腳本
[root@nginx?tmp]#?sh?/tmp/rsync.sh?&?請記住,只有在備份服務器client端的rsync安裝并啟動rsync之后,在啟動rsync.sh腳本,否則有時候會滿屏出現:
rsync:?failed?to?connect?to?192.168.10.221:?Connection?refused?(111) ?rsync?error:?error?in?socket?IO?(code?10)?at?clientserver.c(107)?[sender=2.6.8] ?我們還可以把rsync.sh腳本加入到開機啟動項里
[root@nginx?tmp]#?echo?"/tmp/rsync.sh"?>>?/etc/rc.local?二、備份服務器(client,我這里為nginx-backup)
1、安裝rsync(備份服務器只安裝rsync)
[root@nginx-backup?~]#?cd?/usr/src/ ?[root@nginx-backup?src]#?ll ?total?16 ?drwxr-xr-x?2?root?root?4096?Jan?26??2010?debug ?drwxr-xr-x?2?root?root?4096?Jan?26??2010?kernels ?[root@nginx-backup?src]#?wget??http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz ?[root@nginx-backup?src]#?tar?zxvf?rsync-3.0.9.tar.gz ?[root@nginx-backup?src]#?cd?rsync-3.0.9 ?[root@nginx-backup?rsync-3.0.9]#?./configure?--prefix=/usr/local/rsync ?[root@nginx-backup?rsync-3.0.9]#?make ?[root@nginx-backup?rsync-3.0.9]#?make?install ?2、建立用戶與密碼認證文件
[root@nginx-backup?rsync-3.0.9]#?echo?"webuser:rsync-pwd"?>?/usr/local/rsync/rsync.passwd?請記住,在server端建立的密碼文件,只有密碼,沒有用戶名;而在備份服務端client里建立的密碼文件,用戶名與密碼都有。
[root@nginx-backup?rsync]#?chmod?600?rsync.passwd?需要給密碼文件600權限 3、建立rsync配置文件
uid?=?root?gid?=?root?use?chroot?=?no?max?connections?=?10?strict?modes?=?yes?pid?file?=?/var/run/rsyncd.pid ?lock?file?=?/var/run/rsync.lock ?log?file?=?/var/log/rsyncd.log ?[web] ?path?=?/tmp/ ?comment?=?web?file ?ignore?errors ?read?only?=?no?write?only?=?no?hosts?allow?=?192.168.10.220 ?hosts?deny?=?* ?list?=?false?uid?=?root?gid?=?root?auth?users?=?webuser?secrets?file?=?/usr/local/rsync/rsync.passwd ?其中web是server服務端里的認證模塊名稱,需要與主服務器里的一致,以上的配置我的自己服務器里的配置,以供參考。 把配置文件命名為rsync.conf,放到/usr/local/rsync/目錄里 啟動rsync
[root@nginx-backup?rsync]#?/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf?如果出現以下問題:
/usr/local/rsync/bin/rsync:?error?while?loading?shared?libraries:?libiconv.so.2:?cannot?open?shared?object?file:?No?such?file?or?directory,?可以采用下面方法解決
[root@nginx-backup?rsync]#?whereis?libiconv.so.2 ?libiconv.so:?/usr/local/lib/libiconv.so.2?/usr/local/lib/libiconv.so ?找到所需模塊所在的目錄,然后把此目錄添加到/etc/ld.so.conf里,并更新庫文件
[root@nginx-backup?rsync]#?echo?"/usr/local/lib/"?>>?/etc/ld.so.conf ??[root@nginx-backup?rsync]#?ldconfig ?我們可以把rsync腳本加入到開機啟動項里
[root@nginx-backup?rsync]#?echo?"/usr/local/rsync/bin/rsync?--daemon?--config=/usr/local/rsync/rsync.conf"?>>?/etc/rc.local?現在rsync與inotify在server端安裝完成,rsync在備份服務器client端也安裝完成 下面是server端的tmp文件情況
?
下面是client端tmp的文件情況
?
接下來我們來做一下測試,在server里創建個test-rsync文件,看看client是否能收到
?
在看client端是否有test-rsync文件,同時client端的tmp目錄文件是否與server端的文件完全一致
?
可以看到在client端,已經收到了test-rsync文件,而且client的tmp里的文件與server里tmp的文件完全相同、文件數目一致。 現在rsync與inotify的搭建與配置完成了,并實現了服務器直接數據的實時同步;大家可以根據自己的需要來進行相應的配置。 BTW:在rsync+inotify這種備份方法的時候,我公司遇到了一個問題,那就是主服務已經給備用服務同步完數據了,但主服務器磁盤看見滿了,需要把已經備份的文件刪除,但同時在備份服務器里保留主服務器里的文件,也就是說主服務器里刪除文件的時候,備份服務器里不跟著刪除文件,我查看了很多英文文檔,測試了很多遍,最后找到了一個解決方法,那就是在主服務器里,把rsync.sh這個腳本里第9行的--delete參數給去掉,就可以解決這個問題。
本文出自 “吟—技術交流” 博客,請務必保留此出處http://dl528888.blog.51cto.com/2382721/771533
轉載于:https://www.cnblogs.com/davidwang456/p/3980801.html
總結
以上是生活随笔為你收集整理的rsync+inotify实现服务器之间文件实时同步--转的全部內容,希望文章能夠幫你解決所遇到的問題。
如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。