日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

HDFS的常用操作

發布時間:2025/4/5 编程问答 43 豆豆
生活随笔 收集整理的這篇文章主要介紹了 HDFS的常用操作 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

說明:本博客涉及 HDFS 的常用操作


HDFS文件系統常用操作

HDFS 是 hadoop 的文件系統,不是 Linux 操作系統。所以,操作結果在 Linux 文件系統中都是不可見的。

HDFS

HDFS是hadoop原生態的文件系統,類似window下NTFS

hadoopfs、hadoopdfs與hdfsdfs命令的區別
hadoopfs:通用的文件系統命令,針對任何系統,比如本地文件、HDFS文件、HFTP文件、S3文件系統等。
hadoopdfs:特定針對HDFS的文件系統的相關操作,但是已經不推薦使用。
hdfsdfs:與hadoopdfs類似,同樣是針對HDFS文件系統的操作,替代hadoopdfs。

HDFS文件系統常用操作

文件夾操作-創建、查看、刪除

hdfsdfshadoopfs
先行操作確保在hadoop安裝目錄下操作
$cd/usr/local/java/hadoop/hadoop-2.7.1
$./bin/hdfs dfs
將hadoop/bin放入環境變量中
$hadoop fs
創建文件夾$./bin/hdfs dfs -mkdir /dir1$hadoop -mkdir /dir1
創建兩級目錄$./bin/hdfs dfs -mkdir -p /user/hadoop$hadoop fs -mkdir -p /user/hadoop
創建文件$./bin/hdfs dfs -touchz /dir1/file.txt$hadoop fs -touchz /dir1/file.txt
顯示文件內容類似于右$hadoop fs -cat /dir1/file.txt$
tail方法是將文件尾部1K字節的內容輸出,支持-f選項。
$hadoop fs -tail /dir1/file.txt$
查看文件大小類似于右$hadoop fs -du -s /dir1/file.txt
將文件輸出為文本格式類似于右$hadoop fs -text /dir1/file.txt$
返回制定目錄/文件的統計信息類似于右$hadoop fs -stat /dir1/file.txt
$hadoop fs -stat %b /dir1/file.txt
%b:打印文件大小(目錄為0)%n:打印文件名%o:打印blocksize(我們要的值)%r:打印備份數%y:打印UTC日期yyyy-MM-ddHH:mm:ss%Y:打印自1970年1月1日以來的UTC微秒數%F:目錄打印directory,文件打印regularfile
查看HDFS系統文件目錄$./bin/hdfs dfs-ls .
$./bin/hdfs dfs-ls /
$hadoop fs -ls .
$hadoop fs-ls/
遞歸查看所有文件$./bin/hdfs dfs -ls -R/$hadoop fs -ls -R/
刪除文件夾及其子文件夾(迭代刪除)./bin/hdfs dfs -rm -r /dir1hadoopfs -rm -r /dir1
修改文件擁有者類似于右$hadoop fs -chown root /dir1
為用戶賦予權限類似于右$hadoop fs -chomd 777 /dir/file.txt
777權限:可讀可寫可執行
清空回收站類似于右$hadoop fs -expunge
進入安全模式$hdfs dfsadmin -safemode enter同左
退出安全模式$hdfs dfsadmin -safemode leave同左

注:要刪除HDFS文件系統中的文件夾,要先查看文件夾是否存在,如果存在,其目錄下有沒有子目錄,如果沒有子目錄,直接刪除即可,如果有子目錄,則需要采用遞歸刪除的方式才能將該目錄刪除,否則只能先將其子目錄全部刪除之后,才能用rm命令將該目錄刪除掉。

HDFS文件系統中的上傳與下載

# 將/dir2/test.txt文件上傳到HDFS文件系統/user/hadoop中 $./bin/hdfs dfs -put /dir2/test.txt /user/hadoop # -put:上傳文件;第一個路徑是要傳的文件的路徑;第二個路徑是目的地# 查看文件是否上傳成功 $./bin/hdfs dfs -ls /user/hadoop# 查看HDFS中的文件內容 $./bin/hdfs dfs -cat /user/hadoop/test.txt# 從HDFS中下載文件至本地(文件夾為英文) $./bin/hdfs dfs -get /user/hadoop/test.txt /home/hadoop

安全模式:在分布式文件系統啟動的時候,開始的時候會有安全模式,當分布式文件系統處于安全模式的情況下,文件系統中的內容不允許修改也不允許刪除,直到安全模式結束。安全模式主要是為了系統啟動的時候檢查各個DataNode上數據塊的有效性,同時根據策略必要的復制或者刪除部分數據塊。運行期通過命令也可以進入安全模式。在實踐過程中,系統啟動的時候去修改和刪除文件也會有安全模式不允許修改的出錯提示,只需要等待一會兒即可。



參考文章:
hadoopfs、hadoopdfs與hdfsdfs命令的區別及hadoopfs命令說明_Shyllin的博客-CSDN博客_fs是什么意思

總結

以上是生活随笔為你收集整理的HDFS的常用操作的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。