CDH 配置YARN动态资源池的计划模式,根据时间划分资源,不同时间不同队列使用不同资源
公平調(diào)度配置可參考:http://datamining.blog.csdn.net/article/details/94554469
目錄
計(jì)劃模式設(shè)置
隊(duì)列資源搶占分配
?
計(jì)劃模式設(shè)置
1.創(chuàng)建計(jì)劃規(guī)則
?
2.設(shè)置白天配置,可以根據(jù)業(yè)務(wù)選擇具體配置計(jì)劃,調(diào)整資源,選擇每天,就是每天的固定時(shí)間范圍。這里選擇每天,時(shí)間初步劃分為區(qū)分白天和晚上
?3.創(chuàng)建完成后可以看到配置的計(jì)劃,然后點(diǎn)擊刷新動(dòng)態(tài)資源池,使配置生效
4. 根據(jù)設(shè)置的計(jì)劃,在資源池中,配置計(jì)劃時(shí)間需要的資源
?
?5.根據(jù)計(jì)劃配置具體參數(shù)
?6.分配的結(jié)果如下
白天 root.test 隊(duì)列權(quán)重為5,晚上 root.hdfs 隊(duì)列權(quán)重為5
?
?
7.兩個(gè)隊(duì)列同時(shí)執(zhí)行任務(wù),白天執(zhí)行效果(執(zhí)行一個(gè)隊(duì)列會(huì)把所有資源占用)
?
8.兩個(gè)隊(duì)列同時(shí)執(zhí)行任務(wù),晚上執(zhí)行效果(執(zhí)行一個(gè)隊(duì)列會(huì)把所有資源占用)
?
隊(duì)列資源搶占分配
?當(dāng)資源分配如下圖所示,如只啟動(dòng)root.hdfs和root.test隊(duì)列,權(quán)占比大的隊(duì)列,會(huì)占用其他沒(méi)有程序的隊(duì)列(root.default),而root.test隊(duì)列只使用自己的資源(可能會(huì)有部分搶占但是較少),也就是權(quán)占比大的隊(duì)列,會(huì)占用其他未使用資源。
資源分配:
?
隊(duì)列資源使用(啟動(dòng)的任務(wù)時(shí)相同的操作)?
上圖是三個(gè)隊(duì)列資源分配,四個(gè)隊(duì)列同樣是權(quán)重大的搶占其他資源多,權(quán)重小的基本使用自己資源(搶不過(guò))~?
總結(jié)
以上是生活随笔為你收集整理的CDH 配置YARN动态资源池的计划模式,根据时间划分资源,不同时间不同队列使用不同资源的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: Solr 基础性能调优讲解
- 下一篇: Impala-shell 查询异常 -