日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop大数据——mapreduce的Distributed cache

發布時間:2025/1/21 编程问答 53 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop大数据——mapreduce的Distributed cache 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

應用場景:map side join
工作原理:
通過mapreduce框架將一個文件(本地/HDFS)分發到每一個運行時的task(map task /reduce task)節點上(放到task進程所在的工作目錄)
獲取的方式: 在我們自己的mapper或者reducer的代碼內,直接使用本地文件JAVA ----API 來訪問這個文件
示例程序:

  • 首先在 job對象中進行指定:
job.addCacheFile(new URI("hdfs://hadoop-server01:9000/cachefile/b.txt")); //分發一個文件到task進程的工作目錄 job.addCacheFile(new URI("hdfs://hadoop-server01:9000/cachefile/b.txt")); //分發一個歸檔文件到task進程的工作目錄 //job.addArchiveToClassPath(archive); //分發jar包到task節點的classpath下 //job.addFileToClassPath(jarfile);
  • 然后在mapper或者reducer中直接使用:
in = new FileReader("b.txt"); reader =new BufferedReader(in); String line = reader.readLine()

總結

以上是生活随笔為你收集整理的Hadoop大数据——mapreduce的Distributed cache的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。