JobTracker和TaskTracker
轉(zhuǎn)載:http://blog.csdn.net/keda8997110/article/details/8348705
-----------------------------------------------------------------------------------------
JobTracker和TaskTracker
JobTracker ?對(duì)應(yīng)于 NameNode
TaskTracker 對(duì)應(yīng)于 DataNode
DataNode 和NameNode 是針對(duì)數(shù)據(jù)存放來而言的
JobTracker和TaskTracker是對(duì)于MapReduce執(zhí)行而言的
?
mapreduce中幾個(gè)主要概念,mapreduce整體上可以分為這么幾條執(zhí)行線索:
jobclient,JobTracker與TaskTracker。
1、JobClient會(huì)在用戶端通過JobClient類將應(yīng)用已經(jīng)配置參數(shù)打包成jar文件存儲(chǔ)到hdfs,
并把路徑提交到Jobtracker,然后由JobTracker創(chuàng)建每一個(gè)Task(即MapTask和ReduceTask)
并將它們分發(fā)到各個(gè)TaskTracker服務(wù)中去執(zhí)行
2、JobTracker是一個(gè)master服務(wù),軟件啟動(dòng)之后JobTracker接收J(rèn)ob,負(fù)責(zé)調(diào)度Job的每一個(gè)子任務(wù)task運(yùn)行于TaskTracker上,
并監(jiān)控它們,如果發(fā)現(xiàn)有失敗的task就重新運(yùn)行它。一般情況應(yīng)該把JobTracker部署在單獨(dú)的機(jī)器上。
3、TaskTracker是運(yùn)行在多個(gè)節(jié)點(diǎn)上的slaver服務(wù)。TaskTracker主動(dòng)與JobTracker通信,接收作業(yè),并負(fù)責(zé)直接執(zhí)行每一個(gè)任務(wù)。
TaskTracker都需要運(yùn)行在HDFS的DataNode上
總結(jié)
以上是生活随笔為你收集整理的JobTracker和TaskTracker的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: jquery mobile用代码弹出di
- 下一篇: 3.hello hibernate