日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

yarn的clinet和cluster模式区别

發布時間:2023/12/31 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 yarn的clinet和cluster模式区别 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1、你要切換到yarn-cluster或者yarn-client模式,很簡單,將我們之前用于提交spark應用程序的spark-submit腳本,加上--master參數,設置為yarn-cluster,或yarn-client,即可。如果你沒設置,那么,就是standalone模式。
2、yarn集群分為主節點和從節點,一個主節點是ResourceManager(RM),多個從節點是NodeManager(NM)。
3、
3.1、如果是yarn-cluster模式,spark-submit在提交的時候請求到ResourceManager,請求來啟動ApplicationMaster,ResourceManager接收到請求后會分配一個container,在某個NodeManager上啟動ApplicationMaster,ApplicationMaster(AM)啟動后會反過來向ResourceManager進行通訊,其實這個ApplicationMaster就相當于是driver,AM找RM請求container,啟動excutor,然后RM會分配一批container,用于啟動executor,AM鏈接其他的NM,來啟動executor,這里的NM相當于worker,executor向AM反向注冊。ResourceManager相當于之前的master。
3.2、yarn-client模式,spark-submit在提交的時候發送給RM,請求啟動AM,分配一個container,在某個NM上,啟動AM,但是這里的AM只是一個ExecutorLauncher,功能是很有限的。AM啟動后會找RM申請container,啟動executor,AM鏈接其他的NM,用container的資源來啟動executor。executor會反向注冊到本地的driver上。

4區別:yarn-cluster的driver相當于就是在NodeManager的某一個ApplicationMaster,yarn-client的driver還是在本地啟動的一個進程,在NodeManager啟動的ApplicationMaster只是一個ExecutorLauncher,ExecutorLauncher只會想ResourceManager申請資源,然后用Container資源去連接其他的NodeManager,然后去啟動Executor,executor啟動后會反向注冊到提交應用程序的本地客戶端driver進程上,然后本地客戶端的driver進程里DAGScheduler,TaskScheduler會大量進行task的調度,發送到NodeManager的executor中。

?

yarn-client vs yarn-cluster

yarn-client主要用于測試,因為driver運行在本地客戶端,負責調度Application ,會與yarn集群產生大量的網絡通信,好處是執行時,本地可以看到所有的log,方便調試。

yarn-cluster用于生產環境,driver運行在nodemanager,沒有網卡流量激增的問題,缺點是不方便調試,只能同過yarn application -log applacation_id查看。?

?

轉載于:https://www.cnblogs.com/18800105616a/p/11551310.html

總結

以上是生活随笔為你收集整理的yarn的clinet和cluster模式区别的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。