fsimage文件丢失_Fsimage 与 EditLog定义及合并过程
fsimage文件:即命名空間映像文件,是內(nèi)存中的元數(shù)據(jù)在硬盤(pán)上的checkpoint,包含文件系統(tǒng)中的所有目錄和文件inode的序列化信息。
edits:文件系統(tǒng)的寫(xiě)操作首先把它記錄在edit中。
合并過(guò)程:
1.secondary namenode通過(guò)周期性(五分鐘),通過(guò)getEditLog獲取editlog大小,當(dāng)其達(dá)到合并的大小時(shí)通過(guò)RollEditLog方法進(jìn)行合并。
2.namenode停止使用edits文件,并生成一個(gè)新的臨時(shí)的edits.new文件。
3.Secondarynamenode通過(guò)namenode內(nèi)建的Http服務(wù)器,以get的方式獲取edits與fsimage文件。Get方法中攜帶著fsimage與edits的路徑。
4.Secondaryname將fsimage載入內(nèi)存并逐一執(zhí)行edits中的操作,生成新的fsimage文件。
5.執(zhí)行結(jié)束后,會(huì)向namenode發(fā)送http請(qǐng)求,告知namenode合并結(jié)束,namenode通過(guò)http post的方式獲取新fsimage文件。
6.Namenode更新fsimage文件中記錄檢查點(diǎn)執(zhí)行的時(shí)間,并改名為fsimage文件。
7.Edit.new文件更名為edit文件。
注:由此可知namenode 與 secondarynamenode 有著相似的內(nèi)存需求,因?yàn)閟econdarynamenode也會(huì)將fsimage載入內(nèi)存,因此secondarynamenode需要運(yùn)行在一臺(tái)專門機(jī)器上。
總結(jié)
以上是生活随笔為你收集整理的fsimage文件丢失_Fsimage 与 EditLog定义及合并过程的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 轨迹匹配地图 python_基于地图的视
- 下一篇: 查询已有链表的hashmap_源码分析系