日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > linux >内容正文

linux

分布式文件系统(HDFS)与 linux系统文件系统 对比

發布時間:2023/12/18 linux 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 分布式文件系统(HDFS)与 linux系统文件系统 对比 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

初次接觸分布式文件系統,有很多迷惑。通過參考網絡文章,這里進行對比一下Hadoop 分布式文件系統(HDFS)與 傳統文件系統之間的關系:

?Linux 文件系統分布式文件系統
塊對應物理磁盤的block塊對應linux 文件
讀寫單位一個磁盤塊的大小是最小單位Linux 系統文件是最小讀寫單位(默認64mb)
單個文件多個數據塊組成多個文件組成
文件元數據信息

inode 記錄文件存放的數據區的block指針

namenode 記錄linux 數據文件所在的datanode

?

?

?

?

?

? ? ? ?

? ? ? ?每個磁盤都有默認的數據塊大小,這是磁盤進行數據讀/寫的最小單位。而構建于單個磁盤之上的文件系統(linux文件系統)通過磁盤塊來管理該文件系統中的塊,該文件系統中的文件大小是磁盤塊的整數倍。磁盤塊的大小一般為512字節,其讀寫的最小單位是磁盤塊的最小單位.文件占用的塊由inode進行管理,記錄該文件存放數據的N個block的物理地址,具體linux下文件系統的構成請參考我另一篇文章。

? ? ? ?HDFS同樣也有塊的概念,HDFS文件系統中的塊指的是linux文件,分布式文件就是有多個linux文件(塊)組成。其最小塊單位就是一個Linux文件的大小,默認為64MB,其分片成的linux文件的文件名有HDFS的namenode管理,該節點還管理了linux文件對應datanode節點的映射關系。假設有一個1G的大文件,在linux文件系統上就是一個文件,由1G/512b的block組成;在HDFS上需要1024MB/64MB=16塊,即16個linux文件組成,所以相當于一個普通1G的文件分成了16個小文件,在HDFS上的namenode會記錄1G文件名對應16個文件名映射關系和16個文件名在對應datanote節點上的映射關系(備份除外)。datanote節點上的16個小文件就是linux文件,在各自datanote節點上的inode里記錄了16個文件對應物理磁盤的映射關系。簡而言之:1G的分布式文件轉換成16個linux文件,HDFS就是實現了拆分文件功能,當然由于考慮單點故障原因,它把每個文件復制了3份(默認), 不管哪個節點出故障可以合成完整的一個1G文件。

保持更新,轉載請注明出處。如果對你有所幫助請點擊右下角的推薦進行支持。

參考鏈接:

http://www.cnblogs.com/yyyyy5101/articles/1901842.html?

https://blog.csdn.net/qq_32041579/article/details/77752733

?

轉載于:https://www.cnblogs.com/xuyaowen/p/linuxfs_hdfs.html

總結

以上是生活随笔為你收集整理的分布式文件系统(HDFS)与 linux系统文件系统 对比的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。