【网址收藏】Hadoop3.2.1 【 YARN 】源码分析 : ResourceLocalizationService解析
負責Container所需資源的本地化。 它能夠按照描述從HDFS上下載Container所需的文件資源,
并盡量將它們分攤到各個磁盤上以防止出現訪問熱點。 此外, 它會為下載的文件添加訪問控制限制, 并為之施加合適的磁盤空間使用份額。
YARN將資源分為PUBLIC、 PRIVATE和APPLICATION三類, 不同級別的資源對不同用戶和應用程序的訪問權限不同,
這也直接導致資源的本地化方式不同。 盡管它們的本地化由ResourceLocalizationService服務完成,
但內部由不同線程負載下載,
即所有應用程序的PUBLIC資源由ResourceLocalizationService內部專門的線程PublicLocalizer下載完成,
該線程內部維護了一個線程池以加快資源下載速度,
而每個應用程序的每種PRIVATE或APPLICATION資源分別由一個專門的線程LocalizerRunner負責下載。
該線程將啟動一個資源下載客戶端ContainerLocalizer,
該客戶端通過RPC協議LocalizationProtocol訪問ResourceLocalizationService服務,
以獲取待下載的資源。
https://blog.csdn.net/zhanglong_4444/article/details/112863148
總結
以上是生活随笔為你收集整理的【网址收藏】Hadoop3.2.1 【 YARN 】源码分析 : ResourceLocalizationService解析的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: docker配置data-root:设置
- 下一篇: Linux系统下常用rpm包搜索网站