Hadoop 开源调度系统zeus(二)
生活随笔
收集整理的這篇文章主要介紹了
Hadoop 开源调度系统zeus(二)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
緊跟之前Hadoop 開源調度系統zeus(一)
本節主要介紹一下zeus的架構:
先給一個zeus的架構圖
無論Master還是Worker都有一套WEB UI,無論從哪個上面去看,看到的結果都是一樣的,實際上一般僅僅看主
Master:調度內核,在啟動時啟動一個TCP服務,同一時候將全部任務讀到內存中,在任務能夠運行時,加到運行隊列,下發到client
Worker:啟動后連接Master,并定時向Master發送心跳,當收到Master的任務后,封裝任務運行shell,并將任務運行結果通知給Master
Master單點:在zeus中,整個機器的每一個節點都有可能成為Master,整個集群是通過一把分布式鎖來唯一確定Master,Master在獲得分布式鎖后,會定時更新分布式鎖狀態,全部的Worker都會檢查分布式鎖狀態,假設發現Master未按時更新鎖狀態,則各個Worker競爭獲得該鎖,獲得鎖后,使自己成為Master。
未能獲得鎖的Worker會將自己正在運行的任務殺死,然后又一次連接新的Master,Master會將之前正在運行的Job又一次下發給Worker
轉載于:https://www.cnblogs.com/hrhguanli/p/3837599.html
總結
以上是生活随笔為你收集整理的Hadoop 开源调度系统zeus(二)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: mysql5.6主从参数详解
- 下一篇: 练习作品9:高仿大漠工具