mapreduce,map后面跟map是什么操作???
生活随笔
收集整理的這篇文章主要介紹了
mapreduce,map后面跟map是什么操作???
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
今天在一個(gè)群里和網(wǎng)友爭(zhēng)論一個(gè)問題。
先說問題的起源,一網(wǎng)友說map后面跟map怎么實(shí)現(xiàn)?
剛開始沒細(xì)想,說了一個(gè)map跟map?reduce后跟map吧?
然后就被懟了,什么呀?是map后跟reduce好吧?xxxx
我去。。。
說不知道m(xù)ap后跟reduce。。。我就跟他詳細(xì)說了一下,
然后懟這樣寫沒意義?
真是然后轉(zhuǎn)移話題,我們說的map后跟map,我說一樣呀,一樣的道理。
map輸出做第二個(gè)map輸入。
額又說不會(huì)重復(fù)處理?
然后又說道你這就沒shuffer了,沒有意義了。不是mapreduce了.
我。。。
在清洗彈幕數(shù)據(jù),去不相關(guān)的列和空值,https://georgedage.blog.csdn.net/article/details/103287800
中就沒有用到reduce。。。
并且在之前我的編碼中,我用到過兩個(gè)mapreduce,所以我知道有這樣的寫法,當(dāng)然不是好方法,最好的是對(duì)一次的mr做優(yōu)化。
然后那位當(dāng)事人一直不說話了。
我就嗯。。。
溜了溜了,歡迎討論,接受建議!!!
超強(qiáng)干貨來襲 云風(fēng)專訪:近40年碼齡,通宵達(dá)旦的技術(shù)人生總結(jié)
以上是生活随笔為你收集整理的mapreduce,map后面跟map是什么操作???的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 大剑无锋之new一个对象背后发生了什么?
- 下一篇: 一文彻底了解Logstash