日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Hadoop Yarn配置多队列的容量调度器案例

發(fā)布時(shí)間:2025/1/21 编程问答 23 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Hadoop Yarn配置多队列的容量调度器案例 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

1)在 capacity-scheduler.xml 中配置如下:

  • (1)修改如下配置
<!-- 指定多隊(duì)列,增加 hive 隊(duì)列 --> <property><name>yarn.scheduler.capacity.root.queues</name><value>default,hive</value><description>The queues at the this level (root is the root queue).</description> </property> <!-- 降低 default 隊(duì)列資源額定容量為 40%,默認(rèn) 100% --> <property><name>yarn.scheduler.capacity.root.default.capacity</name><value>40</value> </property> <!-- 降低 default 隊(duì)列資源最大容量為 60%,默認(rèn) 100% --> <property><name>yarn.scheduler.capacity.root.default.maximum-capacity</name><value>60</value> </property>
  • (2)為新加隊(duì)列添加必要屬性:
<!-- 指定 hive 隊(duì)列的資源額定容量 --> <property><name>yarn.scheduler.capacity.root.hive.capacity</name><value>60</value> </property> <!-- 用戶最多可以使用隊(duì)列多少資源,1 表示 --> <property><name>yarn.scheduler.capacity.root.hive.user-limit-factor</name><value>1</value> </property> <!-- 指定 hive 隊(duì)列的資源最大容量 --> <property><name>yarn.scheduler.capacity.root.hive.maximum-capacity</name><value>80</value> </property> <!-- 啟動(dòng) hive 隊(duì)列 --> <property><name>yarn.scheduler.capacity.root.hive.state</name><value>RUNNING</value> </property> <!-- 哪些用戶有權(quán)向隊(duì)列提交作業(yè) --> <property><name>yarn.scheduler.capacity.root.hive.acl_submit_applications</name><value>*</value> </property> <!-- 哪些用戶有權(quán)操作隊(duì)列,管理員權(quán)限(查看/殺死) --> <property><name>yarn.scheduler.capacity.root.hive.acl_administer_queue</name><value>*</value> </property> <!-- 哪些用戶有權(quán)配置提交任務(wù)優(yōu)先級 --> <property><name>yarn.scheduler.capacity.root.hive.acl_application_max_priority</nam e><value>*</value> </property> <!-- 任務(wù)的超時(shí)時(shí)間設(shè)置:yarn application -appId appId -updateLifetime Timeout 參考資料: https://blog.cloudera.com/enforcing-application-lifetime-slasyarn/ --> <!-- 如果 application 指定了超時(shí)時(shí)間,則提交到該隊(duì)列的 application 能夠指定的最大超時(shí) 時(shí)間不能超過該值。 --> <property><name>yarn.scheduler.capacity.root.hive.maximum-applicationlifetime</name><value>-1</value> </property> <!-- 如果 application 沒指定超時(shí)時(shí)間,則用 default-application-lifetime 作為默認(rèn) 值 --> <property><name>yarn.scheduler.capacity.root.hive.default-applicationlifetime</name><value>-1</value> </property>

2)分發(fā)配置文件

3)重啟 Yarn 或者執(zhí)行 yarn rmadmin -refreshQueues 刷新隊(duì)列,就可以看到兩條隊(duì)列:

[zxl@hadoop102 hadoop-3.1.3]$ yarn rmadmin -refreshQueues

總結(jié)

以上是生活随笔為你收集整理的Hadoop Yarn配置多队列的容量调度器案例的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。