日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

当分区数量与reducer task数量不一致时,会怎么样。

發布時間:2024/2/28 编程问答 33 豆豆
生活随笔 收集整理的這篇文章主要介紹了 当分区数量与reducer task数量不一致时,会怎么样。 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

此刻的情形:

vi george

上傳hdfs?

[root@henu1 ~]# hdfs dfs -put george /

分區兩個的WordCount:

https://blog.csdn.net/qq_41946557/article/details/102785927

可以看出分區為2,reducer task為2 。

查看hdfs文件結果:?

[root@henu1 ~]# hdfs dfs -ls /aaa


此刻:將分區數設置為3:運行:

?

然后打包上傳linux,運行:

[root@henu1 ~]# yarn jar henu-1.0-SNAPSHOT.jar com.henu.WC /george /bbb

【注意】改變reducer輸出路徑,要不你就把之前的aaa刪了,否則會報錯。

根據結果可以看出,多出的reduce tasks被殺死了。。。

但是文件結果中:【雖說是三個文件,不過有一個為空】


那么減少呢?設置分區為1。

不多說了吧。直接看運行結果。

沒錯,你多給,人家不稀罕,你少給,人家也不管。

hdfs文件中結果:

總結:

當分區數量與reducer task數量不一致時

如果reduce task 數量大于分區數量,多出的reduce task被殺死。

如果reduce task 數量小于分區數量,那就按你給的reduce task數量。

?

總結

以上是生活随笔為你收集整理的当分区数量与reducer task数量不一致时,会怎么样。的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。