日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop入门(三)HDFS API

發布時間:2023/12/3 编程问答 29 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop入门(三)HDFS API 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

一、、HDFS 常用類

Configuration? 配置

Path? 路徑

FileSystem? 文件系統

Stream? 流

IOUtils? IO工具

API文檔

?

二、類解析

(1)Configuration?

配置文件加載順序

設置/獲取參數方法

(2)Path

Path 常用方法

(3)FileSystem

創建文件

打開文件

文件追加

從本地拷貝文件到HDFS

從HDFS拷貝文件到本地

創建目錄

刪除及重命名

獲取文件或目錄信息

設置文件或目錄屬性

(4)Stream

HDFS輸入流

HDFS輸出流

(5)IOUtils

IOUtils 構造方法

IOUtils 拷貝流方法

?

三、HDFS 依賴的jar包及Java Doc位置

?

四、例子

(1)創建HDFS文件(createNewFile)

Configuration config = new Configuration(); FileSystem hdfs = FileSystem.get(config); Path path = new Path(fileName); boolean isCreated = hdfs.createNewFile(path);

(2)從本地拷貝文件到HDFS(copyFromLocalFile)

Configuration config = new Configuration(); FileSystem hdfs = FileSystem.get(config); Path srcPath = new Path(srcFile); Path dstPath = new Path(dstFile); hdfs.copyFromLocalFile(srcPath,dstPath)

(3)從HDFS讀取文件(open)

Configuration config = new Configuration(); FileSystem hdfs = FileSystem.get(config); Path path = new Path(dstFile); FSDataInputStream inputStream = hdfs.open(path); Text line = new Text() LineReader liReader = new LineReader(inputStream);while (liReader.readLine(line) > 0) { System.out.println(line); } inputStream.close();

(4)追加方式寫入HDFS文件(append)

Configuration config = new Configuration(); FileSystem hdfs = FileSystem.get(config); Path path= new Path(dstFile); FSDataOutputStream out = hdfs.append(path); //在文件尾部,追加數據 out.close();

(5)列出目錄下的所有文件(listStatus)

Configuration config = new Configuration(); FileSystem hdfs = FileSystem.get(config); Path dir = new Path(dirName); FileStatus[] fileStatus = hdfs.listStatus(new Path[]{dir});

?

總結

以上是生活随笔為你收集整理的Hadoop入门(三)HDFS API的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。