Moose File System分布文件系统测试
moosefs是一個(gè)開源的分布文件系統(tǒng)軟件,可提供高效,可靠的數(shù)據(jù)存儲能力.配置,維護(hù)都比較簡單。
MOOSEFS對離散讀寫的性能提升明顯。
建議底層使用xfs文件系統(tǒng),支持更大的文件系統(tǒng)和更多的文件,這個(gè)的話rhel6已經(jīng)加入支持了。
整個(gè)分布存儲系統(tǒng)由三部分組成:
master:
存儲數(shù)據(jù)位圖,權(quán)限信息,提供客戶端掛載接口,提供圖形管理接口等。
metalog(optional)
master服務(wù)器的備份。
chunkserver
數(shù)據(jù)存儲服務(wù)器,負(fù)責(zé)存儲數(shù)據(jù)。
clientserver
掛載客戶端,負(fù)責(zé)掛載MASTER節(jié)點(diǎn)EXPORT的存儲,配置目錄冗余度等.需要fuse模塊支持.
安裝與配置:
1.master
下載最新穩(wěn)定程序mfs-1.6.15
添加組、用戶
添加程序家目錄
配置用戶環(huán)境變量
編譯安裝
配置mfsmaster.cfg , mfsmetalogger.cfg , mfsexports.cfg
轉(zhuǎn)移metadata.mfs
配置/etc/hosts
啟動mfsmaster進(jìn)程,mfscgiserv進(jìn)程
2.metalogger
下載最新穩(wěn)定程序mfs-1.6.15
添加組、用戶
添加程序家目錄
配置用戶環(huán)境變量
編譯安裝
配置mfsmaster.cfg , mfsmetalogger.cfg , mfsexports.cfg
轉(zhuǎn)移metadata.mfs
配置/etc/hosts
啟動mfsmetalogger進(jìn)程
3.chunkserver
下載最新穩(wěn)定程序mfs-1.6.15
添加組、用戶
添加程序家目錄
配置用戶環(huán)境變量
編譯安裝
分配參與分布文件系統(tǒng)的目錄 , 添加目錄的MFS用戶可訪問權(quán)限。
配置mfschunkserver.cfg , mfshdd.cfg
配置/etc/hosts
啟動mfschunkserver進(jìn)程
重復(fù)配置剩余的chunkserver
4.clientserver
下載最新穩(wěn)定程序mfs-1.6.15 ,fuse
首先安裝fuse(modprobe fuse,vi /etc/ld.so.conf,ldconfig)
然后添加組、用戶
添加程序家目錄
配置用戶環(huán)境變量
編譯安裝mfs
配置/etc/hosts
加載mfs文件夾,配置目錄goal等
使用:
監(jiān)控(http://masterserver:9425)
啟動(master,metalogger,chunkserver,client)
關(guān)閉(client,chunkserver,metalogger,master)
測試(待續(xù)):
測試環(huán)境
master 8核8G MEM
metalogger 8核8G MEM
chunkserver1 8核8G MEM 3disks
chunkserver2 8核8G MEM 3disks
chunkserver3 8核8G MEM 3disks
client1 8核8G MEM
client2 8核8G MEM
switch bandwidth 1G
1.讀寫測試
測試讀寫性能,2臺客戶機(jī)同時(shí)拷貝數(shù)據(jù)至MFS.
goal轉(zhuǎn)換
2.冗余度測試
設(shè)置目錄冗余度,在目錄中創(chuàng)建文件,CRASH掉冗余度-1臺節(jié)點(diǎn),查看文件是否完整。
結(jié)論:完整
設(shè)置目錄A冗余度,-r 2,設(shè)置目錄冗余度B,-r 3,在目錄A中創(chuàng)建文件a,查看文件a冗余度,拷貝a到B目錄,查看a冗余度。將文件從A目錄移動到B目錄,查看移動后文件冗余度。
結(jié)論:移動不影響冗余度,復(fù)制冗余度受目錄限制。
3.MASTER節(jié)點(diǎn)恢復(fù)測試
CRASH MASTER節(jié)點(diǎn),恢復(fù)。查看數(shù)據(jù)是否丟失。
結(jié)論:無丟失。
4.chunkserver擴(kuò)展測試
記錄總?cè)萘緼,增加節(jié)點(diǎn),記錄總?cè)萘緽。比較A,B
結(jié)論:容量立即增加。
5.CHUNKSERVER節(jié)點(diǎn)crash測試
記錄總?cè)萘緼,CRASH某節(jié)點(diǎn),記錄總?cè)萘緽,恢復(fù)某節(jié)點(diǎn),記錄總?cè)萘緾。比較A,B,C
結(jié)論:CRASH后容量減去被CRASH的節(jié)點(diǎn)容量,恢復(fù)后容量恢復(fù)原狀。
6.數(shù)據(jù)一致性測試
寫A文件,CRASH某CHUNK,修改A文件,恢復(fù)某CRASH,查看A文件。
多個(gè)節(jié)點(diǎn)同時(shí)VI某個(gè)文件。
結(jié)論:文件一致。
7.回收站測試
超時(shí)測試:新建文件,設(shè)置trashtime,刪除文件,查看剩余容量。比較超時(shí)設(shè)置與剩余容量。
回退測試:刪除,回退。
結(jié)論:超時(shí)配置與預(yù)期一致,回退功能正常。
8.權(quán)限設(shè)置測試
測試目標(biāo)uid,gid
結(jié)論:與目標(biāo)UID,GID一致。
總結(jié):
1.從MOOSEFS的架構(gòu)可以看出最容易出現(xiàn)瓶頸的是MASTER節(jié)點(diǎn)部分,通信瓶頸或服務(wù)器的瓶頸
2.最好在MOUNT的時(shí)候取消文件和目錄的CACHE,防止不同步
3.適當(dāng)調(diào)整超時(shí)時(shí)間,必要時(shí)刪除META立即回收空間
4.配置hotstandby提高可靠性,官方稱可以將切換做到1分鐘以內(nèi)。
5.做好CHUNKSERVER的配額,防止溢出。
命令參考:
總結(jié)
以上是生活随笔為你收集整理的Moose File System分布文件系统测试的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: java(系统)实战1
- 下一篇: Windows切换网段脚本