日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

YARN学习笔记

發布時間:2025/3/20 编程问答 22 豆豆
生活随笔 收集整理的這篇文章主要介紹了 YARN学习笔记 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

?


一,YARN概述

  YARN是一個分布式資源管理平臺,負責為運算程序提供服務器的運算資源(cpu資源和內存資源),相當一個分布式的操作系統平臺,而MapReduce等運算程序相當于運行于操作系統上的應用程序。

  YARN并不清楚用戶提供的程序的運行機制,只提供運算資源的調度(用戶程序向yarn申請資源,yarn就負責分配資源)。

  YARN中的主管角色為ResourceManager,提供資源的角色為NodeManager。

  spark,storm等運算框架都可以整合在YARN上面運行,只要有符合YARN規范的資源請求機制即可。

  YARN就成為一個通用的資源調度平臺,從此,企業中以前存在的各種運算集群都可以整合在一個物理集群上,提高資源利用率,方便數據共享。

二,YARN與MapReduce

?

?

  YarnRunneryarn的客戶端程序)在客戶端機上運行 ,通過RPC調用去向ResouceManager申請一個mr程序的job,返回一個jobid和提交資源用的stagingdir,再提交給HDFS mr程序的相關資源文件,返回給ResouceManager一個job資源文件提交完畢的通知,ResouceManager初始化Task任務。MRAppmaster領取任務,在運算出需要幾個MapTask(多少資源),返回給ResouceManager分配資源(相應的NodeManager)。MRAppmaster得到相應的資源,運算任務在各個NodeManager開始執行。在MapTask任務的執行過程中,Nodemanager無時無刻在監控著任務的進度,在所有MapTask完成后,NodeManager會回收資源,再去分配給新的任務。

?

?

?

?

?

?

?

?


?

轉載于:https://www.cnblogs.com/songweideboke/p/9801612.html

總結

以上是生活随笔為你收集整理的YARN学习笔记的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。