算法工程师和算法框架开发,谁会代表未来?
算法和算法框架是機(jī)器學(xué)習(xí)非常重要的兩個(gè)因素,算法就是諸如LR、GBDT、DNN、DeepFM這樣的實(shí)際解決某個(gè)數(shù)學(xué)問題的公示實(shí)現(xiàn)。算法框架指的是計(jì)算框架,計(jì)算框架可以讓算法執(zhí)行更高效,比如最早玩深度學(xué)習(xí)的人都用過Theano,基于Theano去開發(fā)算法很困難,后來有了PyTorch和TensorFlow,讓基于深度學(xué)習(xí)的算法開發(fā)更方便。
最近看了很多文章也參加了很多討論,分享下我的看法。目前看上來,業(yè)內(nèi)做框架的看上去更吃香,特別是在大公司。但是這個(gè)現(xiàn)狀跟我自己的看法有些出入。
算法代表著業(yè)務(wù),更具生命力
首先我們回顧下算法的發(fā)展,其實(shí)無論是淺層的以LR為代表的算法,還是深度學(xué)習(xí)中以DNN為代表的算法。本質(zhì)上都是計(jì)算梯度,然后反向傳播去更新每一層級(jí)網(wǎng)絡(luò)的參數(shù),區(qū)別就是網(wǎng)絡(luò)層數(shù)不同。可以說這種算法誕生于上世紀(jì)60年代,在這么多年的發(fā)展中,這些算法并沒有被時(shí)代淘汰。即使是今天,LR依然在大部分業(yè)內(nèi)的推薦系統(tǒng)中發(fā)光發(fā)熱。
算法之所以有生命力,是因?yàn)樗惴ǜ鷺I(yè)務(wù)結(jié)合的更緊密,無論是上世紀(jì)還是下世紀(jì),我覺得業(yè)務(wù)的本質(zhì)不會(huì)變,這也意味著算法的邏輯本質(zhì)上不會(huì)變,只會(huì)不斷演進(jìn)。
框架代表計(jì)算力,更迭更快
而框架往往是不感知業(yè)務(wù)邏輯的,今天的TF框架跟10年前的框架不同,而10年前的框架跟20年前的框架又不同。我的一個(gè)觀點(diǎn)是框架軟件層面的優(yōu)化永遠(yuǎn)追不上硬件的發(fā)展。
舉個(gè)例子,10年前做機(jī)器學(xué)習(xí)都用CPU為計(jì)算資源,當(dāng)時(shí)很多人做CPU計(jì)算框架的編譯優(yōu)化。但是后來Hilton的學(xué)生發(fā)表了如何用GPU做深度學(xué)習(xí),一下子將計(jì)算效率提升了幾十倍,這種情況下過去CPU級(jí)別的框架優(yōu)化變的沒有那么有意義。未來可能有TPU,有量子計(jì)算等計(jì)算硬件不斷推出。今天的框架優(yōu)化,一定會(huì)在未來成為泡影。
框架和算法誰是未來
既然算法更有生命力,框架是暫時(shí)的,那是不是就不做框架優(yōu)化了?這個(gè)要站在不同的角度去看,如果今天對一個(gè)開發(fā)同學(xué)來說,我覺得做框架更有意義,因?yàn)榭蚣軙?huì)涉及到更多地底層,門檻更高。雖然今天框架會(huì)逐漸被未來的框架替代,但是其中的一些優(yōu)化邏輯是相同的。所以,對于技術(shù)同學(xué)來說,做框架更有前途。
那如果是站在產(chǎn)品經(jīng)理的角度呢?產(chǎn)品經(jīng)理會(huì)更多地去接觸業(yè)務(wù),我覺得去更多了解算法更有前途。
所以框架和算法誰是未來,對于產(chǎn)品經(jīng)理來說,更多地了解算法更好。對于技術(shù)同學(xué)來說,優(yōu)化框架更有利于技術(shù)發(fā)展。自己的一點(diǎn)看法~歡迎拋轉(zhuǎn)。
《新程序員》:云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作,文字、視頻、音頻交互閱讀總結(jié)
以上是生活随笔為你收集整理的算法工程师和算法框架开发,谁会代表未来?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 写给用我的“新闻推荐项目”做毕设的同学们
- 下一篇: 浅谈模型压缩之量化、剪枝、权重共享