中國(guó)人工智能AI框架自主研發(fā)

中國(guó)AI界爭(zhēng)相構(gòu)建AI開(kāi)源框架的背后，技術(shù)和業(yè)務(wù)層面的考量因素當(dāng)然重要，但也不應(yīng)忽視國(guó)家層面的政策支持。對(duì)于AI基礎(chǔ)設(shè)施的建設(shè)，中國(guó)政府在《新一代人工智能發(fā)展規(guī)劃》等關(guān)于AI頂層規(guī)劃的政策中都著重提及，除了加大應(yīng)用層技術(shù)落地，更希望業(yè)界和學(xué)界深入AI底層技術(shù)研發(fā)。近兩年，基礎(chǔ)技術(shù)的“卡脖子”話題成為近兩年中國(guó)科技界探討的熱點(diǎn)，擔(dān)心中國(guó)AI的發(fā)展會(huì)像芯片發(fā)展那樣遭遇空中樓閣的困境。AI專家也在四處布道“做人工智能必須要做開(kāi)源，中國(guó)要想發(fā)展好新一代的人工智能，必須要有高效和風(fēng)險(xiǎn)可控的開(kāi)源開(kāi)放平臺(tái)”的觀點(diǎn)。近期，由于疫情沖擊經(jīng)濟(jì)，在政府高層推動(dòng)下，市場(chǎng)更是掀起一股“新基建”的熱潮，其中以5G、大數(shù)據(jù)中心、人工智能和工業(yè)互聯(lián)網(wǎng)組成的數(shù)字化基礎(chǔ)設(shè)施備受關(guān)注。對(duì)有雄心發(fā)展AI的企業(yè)或者國(guó)家來(lái)說(shuō)，通過(guò)自主研發(fā)來(lái)掌握AI底層技術(shù)無(wú)疑是一項(xiàng)重大戰(zhàn)略。

中國(guó)目前深度學(xué)習(xí)研究和應(yīng)用主要依賴于國(guó)外平臺(tái)，的確面臨著卡脖子的風(fēng)險(xiǎn)，所以一些國(guó)內(nèi)的IT企業(yè)也推出了自己的平臺(tái)。中國(guó)應(yīng)該在人工智能生態(tài)的全產(chǎn)業(yè)鏈上占有一席之地。除了計(jì)算框架仍然存在著大量亟需優(yōu)化解決的問(wèn)題，華為做MindSpore的另一大緣由是技術(shù)戰(zhàn)背景。必須要有自主可控的全場(chǎng)景的計(jì)算框架。計(jì)圖、天元、MindSpore的接連開(kāi)源或許會(huì)給中國(guó)開(kāi)發(fā)者做硬核開(kāi)源項(xiàng)目打一劑強(qiáng)心針。中國(guó)開(kāi)發(fā)者對(duì)開(kāi)源框架的敬畏之心一直太強(qiáng)，不認(rèn)為中國(guó)團(tuán)隊(duì)能做一套開(kāi)源框架，但現(xiàn)在對(duì)這些開(kāi)源框架有足夠認(rèn)識(shí)后，再造一個(gè)類似Pytorch技術(shù)路線的框架難度也不會(huì)很大。今年應(yīng)該是國(guó)內(nèi)開(kāi)源AI框架比較熱鬧的一年，一流科技的OneFlow框架也將在不久后開(kāi)源，對(duì)國(guó)內(nèi)技術(shù)框架的競(jìng)爭(zhēng)力充滿信心，中國(guó)AI框架的發(fā)展也代表國(guó)內(nèi)從應(yīng)用驅(qū)動(dòng)向更內(nèi)核的技術(shù)研究進(jìn)發(fā)了。無(wú)論如何，計(jì)圖、天元、MindSpore點(diǎn)燃了2020年國(guó)產(chǎn)AI框架開(kāi)源的星星之火，至于未來(lái)的影響力是否燎原，是否能真正與TensorFlow、PyTorch一較高低，投票權(quán)在每一位開(kāi)發(fā)者的手中。

PyTorch本質(zhì)上是Numpy的替代者，而且支持GPU、帶有高級(jí)功能，可以用來(lái)搭建和訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。如果你熟悉Numpy、Python以及常見(jiàn)的深度學(xué)習(xí)概念（卷積層、循環(huán)層、SGD等），會(huì)非常容易上手PyTorch。 而TensorFlow可以看成是一個(gè)嵌入Python的編程.。

在AI框架領(lǐng)域，本來(lái)TensorFlow看上去已經(jīng)一統(tǒng)天下了，然后PyTorch突然來(lái)一個(gè)動(dòng)態(tài)圖好像就翻身了，其AI框架還有沒(méi)有機(jī)會(huì)？后續(xù)最重要的技術(shù)創(chuàng)新可能是什么？

模型上還是有很多可以突破的地方，自己做結(jié)構(gòu)化數(shù)據(jù)，覺(jué)得這個(gè)方向很新穎，這帶來(lái)從上往下走，從模型開(kāi)始到底下都有很多的變化，所以還是前瞻性比較多。如果說(shuō)看得很近，覺(jué)得結(jié)構(gòu)性的東西會(huì)有突破，以前的很多step可能都不見(jiàn)得更加泛化。

舉個(gè)例子，假如bert里面大家知道結(jié)構(gòu)是什么樣，所有的Token都連在一起，是個(gè)全連接的圖，是圖計(jì)算的一個(gè)特例。還有把這一個(gè)有結(jié)構(gòu)的和沒(méi)有結(jié)構(gòu)的這個(gè)stack融合在一起。

如果讓看有什么重要問(wèn)題，覺(jué)得不在平臺(tái)，原動(dòng)力還是在模型、在數(shù)學(xué)上面，這也是詬病現(xiàn)在所有深度學(xué)習(xí)框架的一個(gè)通病，以為學(xué)習(xí)了Python、學(xué)習(xí)了某一種框架就懂了深度學(xué)習(xí)，這其實(shí)是非常差的，最后的動(dòng)力在數(shù)學(xué)。也正是因?yàn)檫@個(gè)原因，在做另外一個(gè)框架，現(xiàn)在還不能說(shuō)。

這個(gè)領(lǐng)域是由數(shù)學(xué)模型和算法驅(qū)動(dòng)的，下面這些軟件應(yīng)該去支持這些新的模型和算法的東西。

側(cè)重于方法和模型上更重要，這個(gè)觀點(diǎn)也是對(duì)的。但是框架問(wèn)題，想說(shuō)為什么框架重要，怎么能在框架上有所超越，這是今天討論的要點(diǎn)。

為什么做框架？深度學(xué)習(xí)做科學(xué)工程沖擊太大了，包括現(xiàn)在圖形學(xué)，MIT有個(gè)博士論文獲得了最佳博士論文獎(jiǎng)，就是做可微圖形學(xué)，在加強(qiáng)學(xué)習(xí)框架思路下，傳統(tǒng)學(xué)科都被重新定義、重新思考，這是一個(gè)激動(dòng)人心的時(shí)代，一切都在變革。這種時(shí)候框架的重要性是毫無(wú)疑問(wèn)的，如果不用框架，從頭什么都自己寫(xiě)，這是不現(xiàn)實(shí)的。

認(rèn)為過(guò)幾年之后，這些企業(yè)的工程師都得重新學(xué)習(xí)，因?yàn)楝F(xiàn)在這些學(xué)生編程的東西跟10年前完全不一樣了，變化是非常大的。所以框架的重要性是非常值得關(guān)注的，這是一個(gè)。

第二個(gè)，如果沒(méi)有自己的框架，這顯然是有很大問(wèn)題的，包括EDA軟件的問(wèn)題等等，這是不可思議的。為什么中國(guó)這么多企業(yè)想做框架？華為不做不行，美國(guó)說(shuō)不能用了，那就不行了。曠視科技做得這么好，如果沒(méi)有自己的天元，說(shuō)不讓用TensorFlow了，那大樓的底柱就塌了，所以這個(gè)是必須要做的。但怎樣超越是很難的。

覺(jué)得要超越，技術(shù)上要?jiǎng)?chuàng)新，如果重復(fù)（造輪子）的話可以解決“卡脖子”問(wèn)題，但是無(wú)法超越，要想超越，必須進(jìn)行技術(shù)創(chuàng)新。

框架最本質(zhì)是計(jì)算圖的問(wèn)題，因?yàn)槭菙?shù)據(jù)結(jié)構(gòu)，能夠把定義好。計(jì)算圖這個(gè)事情，利用算子融合把計(jì)算圖整合起來(lái)是個(gè)機(jī)會(huì)，不是唯一的機(jī)會(huì)，各位嘉賓談的很多觀點(diǎn)都非常好，咱現(xiàn)在中國(guó)國(guó)內(nèi)是百家爭(zhēng)鳴，希望有些嘗試和努力能夠成功、能夠超越。中國(guó)的科技創(chuàng)新機(jī)會(huì)的窗口期很小，PyTorch已經(jīng)聯(lián)系聊過(guò)很多技術(shù)細(xì)節(jié)，下一代框架就會(huì)用統(tǒng)一計(jì)算圖，因?yàn)槎际情_(kāi)源的，也能看得見(jiàn)，所以機(jī)會(huì)很小。

共同努力把框架這個(gè)事情推進(jìn)一步，不讓成為中國(guó)人工智能發(fā)展的短板。

主要新技術(shù)是計(jì)算圖相關(guān)的優(yōu)化技術(shù)。有一種說(shuō)法是大學(xué)要不要做這種復(fù)雜的系統(tǒng)軟件？因?yàn)榫S護(hù)不了。但經(jīng)常反對(duì)這種觀點(diǎn)，就經(jīng)常舉伯克利的例子，做了好幾個(gè)系統(tǒng)軟件都非常成功。大學(xué)里面有非常多天才程序員，而系統(tǒng)軟件有個(gè)特點(diǎn)是少數(shù)天才可以超過(guò)很多中等水平的人，所以大學(xué)做一些技術(shù)上的探索是完全有可能的。當(dāng)然，后續(xù)真正的產(chǎn)業(yè)化和長(zhǎng)期維護(hù)是另外一個(gè)問(wèn)題，但是大學(xué)做這種基礎(chǔ)性軟件的探索是非常好的。

雖然一直在討論框架技術(shù)，但是覺(jué)得生態(tài)反而是應(yīng)該更加要關(guān)注的一點(diǎn)。所有的框架都在進(jìn)步，而且投入比加起來(lái)還要大，這樣的話就給能夠做的比較好的概率就很低了。

比如剛才查了一下最近框架的下載量，最近7天TensorFlow的下載量是250萬(wàn)次，然后還查了一下其框架，在開(kāi)這個(gè)會(huì)議的這段時(shí)間，TensorFlow的下載量已經(jīng)遠(yuǎn)超過(guò)這么多框架歷史以來(lái)的下載量，所以差距在這兒。

應(yīng)該更多探討一下生態(tài)該怎么建設(shè)，可以看到TensorFlow和PyTorch雖然看起來(lái)是兩個(gè)公司，但其實(shí)后面的合作是挺多的，比如PyTorch的可視化也用了TensorFlow的。今天有這么多企業(yè)、大學(xué)在一起，但是很少見(jiàn)到國(guó)內(nèi)兩個(gè)不同的企業(yè)或者不同的學(xué)校之間會(huì)有一些合作的例子。

在編程框架的接下來(lái)可以創(chuàng)新或者值得突破的地方，個(gè)人覺(jué)得會(huì)有兩點(diǎn)。第一點(diǎn)是從第一代的caffee，到TensorFlow、PyTorch，更靠近真正的編程語(yǔ)言，正好這個(gè)編程語(yǔ)言選中了Python，但是在表達(dá)上越來(lái)越靠近圖靈完備的編程語(yǔ)言。從前年開(kāi)始，Keras開(kāi)始更流行起來(lái)，也有去討論比如PyTorch跟Keras、TensorFlow之間的區(qū)別，Keras的很大的優(yōu)勢(shì)是提供一模一樣的API，只是底下實(shí)現(xiàn)到TPU或者GPU，在表達(dá)能力上是一個(gè)更純粹的Python的表達(dá)能力。

現(xiàn)在深度學(xué)習(xí)研究里的一個(gè)問(wèn)題是模型學(xué)習(xí)能力比較低效，大量數(shù)據(jù)進(jìn)去，出來(lái)的學(xué)習(xí)能力近幾年遇到一些瓶頸，模型在逐漸變大。如果接下來(lái)想在這個(gè)方向有更大突破，在框架上不能支持更靈活表達(dá)能力的話，會(huì)阻礙AI在這個(gè)領(lǐng)域的發(fā)展。

比如像TensorFlow之前有一個(gè)工作是swift，嘗試用swift做成一個(gè)完全defensible的語(yǔ)言，PyTorch現(xiàn)在還是有些局限，可以求導(dǎo)的只是在tensor上的操作，更原始的一些Python沒(méi)有表達(dá)能力?？蚣茉诮酉聛?lái)幾年如果能夠把這個(gè)做好，是一個(gè)更能吸引用戶的點(diǎn)。

第二，覺(jué)得從research到production的過(guò)渡，框架如何在這上幫助用戶更好的過(guò)渡，也是非常重要的。從生態(tài)上來(lái)說(shuō)，從研究到落地，一個(gè)商業(yè)模式向盈利，然后反哺商業(yè)上去推動(dòng)研究，這個(gè)過(guò)程是很重要的。

接下來(lái)框架上比較重要的兩個(gè)點(diǎn)，一個(gè)是表達(dá)能力更趨向于完完整整可導(dǎo)的語(yǔ)言，第二個(gè)是從研究到落地怎么能更快速。

第一個(gè)點(diǎn)從技術(shù)上是比較清楚的，第二個(gè)點(diǎn)不是特別理解，更多是流水線的問(wèn)題？還是框架內(nèi)部問(wèn)題？

這是比較復(fù)雜的問(wèn)題，一個(gè)是從框架層面如何做到跟現(xiàn)有的生產(chǎn)系統(tǒng)更好的整合，這是第一點(diǎn)。第二點(diǎn)，光從框架本身來(lái)說(shuō)，比如像PyTorch有做這樣的工作，直接解析Python代碼，然后到一個(gè)圖表示，這是其中一小步，可以看出來(lái)這個(gè)東西目前還沒(méi)有完全做到用戶無(wú)痛的轉(zhuǎn)換，有很大的發(fā)展空間，可以被不斷完善。

另外一點(diǎn)，在設(shè)計(jì)上，無(wú)論是框架還是系統(tǒng)，落地對(duì)不同公司不同案例是完全不一樣的。比如之前在Facebook，工作負(fù)載是非常大的，可能只要優(yōu)化1%，也能省很多臺(tái)機(jī)器。但是對(duì)于更小規(guī)模的用量或者用戶來(lái)說(shuō)，所謂的部署是有一個(gè)模型，現(xiàn)在已經(jīng)訓(xùn)練好了要上線，用量大部分可能達(dá)不到Facebook、谷歌或者阿里那么大，對(duì)來(lái)說(shuō)想更快上線，而不是花一個(gè)月時(shí)間再優(yōu)化這個(gè)pipeline。所以今天先上線，但是假設(shè)一個(gè)月內(nèi)有沒(méi)有機(jī)會(huì)朝性能更加高的方向去過(guò)渡，這個(gè)體驗(yàn)也是很重要的。

一個(gè)新框架，要想脫穎而出的話是一定要有創(chuàng)新，框架研發(fā)里面人才非常非常關(guān)鍵，做過(guò)研究，知道創(chuàng)新通常不是堆錢(qián)、堆人就能必然發(fā)生的，有的時(shí)候是有偶然性的，還有一些是可能發(fā)生在少數(shù)人身上。

所以對(duì)于國(guó)內(nèi)框架來(lái)說(shuō)，很多人參與、很多廠家參與是一個(gè)好事，從多個(gè)角度來(lái)做，成功率就會(huì)提高。

具體到技術(shù)上有什么可做的，認(rèn)為在效率上有很多可做的點(diǎn)。一個(gè)是在宏觀層面，怎么解決網(wǎng)絡(luò)墻的問(wèn)題。還有一個(gè)是在微觀層面，現(xiàn)在有很多學(xué)者、公司在研究自動(dòng)代碼生成，用數(shù)學(xué)的邏輯描述這個(gè)運(yùn)算是什么，然后能自動(dòng)生成GPU或CPU上最快的，這個(gè)很活躍，覺(jué)得這是一個(gè)非常挑戰(zhàn)的問(wèn)題。

在這方面肯定不是專家。先從產(chǎn)品角度來(lái)說(shuō)，產(chǎn)品吸引用戶的話往往要有些亮點(diǎn)，一個(gè)框架一定程度上是個(gè)產(chǎn)品，那用戶或者客戶是誰(shuí)呢？

最大用戶是開(kāi)發(fā)者，開(kāi)發(fā)者追求的是易用，尤其在訓(xùn)練方面，易用框架的生態(tài)會(huì)建立得非常快。如果做到易用，需要做到哪些東西？對(duì)前沿算法的新結(jié)構(gòu)支持得比較好，比如圖神經(jīng)網(wǎng)絡(luò)或者新的骨干結(jié)構(gòu)剛出來(lái)，框架就有人去做了。性能反而在前期對(duì)開(kāi)發(fā)者來(lái)說(shuō)不是那么在乎，因?yàn)榇蠹以谟?xùn)練上更關(guān)注開(kāi)發(fā)的效率，更少關(guān)注的是硬件成本或者其。

但對(duì)推理部署來(lái)說(shuō)，在實(shí)際的生產(chǎn)業(yè)務(wù)系統(tǒng)里，大家追求的是性能。因?yàn)橥评順I(yè)務(wù)尤其對(duì)一個(gè)大企業(yè)來(lái)說(shuō)，部署量非常大的，假如能夠把性能做好，做5個(gè)百分點(diǎn)能節(jié)省5%的硬件成本，這其實(shí)是非常大的收益。

大家對(duì)于訓(xùn)練和推理這兩個(gè)維度的關(guān)注是不一樣的，未來(lái)訓(xùn)練和推理會(huì)慢慢的分開(kāi)，比如訓(xùn)練側(cè)重于通用，推理眼前類似融合到TensorRP或者其東西里面。并且從技術(shù)上來(lái)說(shuō)，訓(xùn)練往往是逐層的，推理往往要做各種層融合優(yōu)化，所以覺(jué)得訓(xùn)練和推理可能會(huì)有兩個(gè)框架，只要對(duì)于做產(chǎn)品來(lái)說(shuō)，把某一方面做得很好，就會(huì)有人用。

但這里有一個(gè)問(wèn)題，生態(tài)的起源往往是起源于訓(xùn)練，所以怎么把訓(xùn)練好的模型在推理框架上更好的執(zhí)行，可能中間會(huì)有一些新的挑戰(zhàn)。

另外，覺(jué)得在終端現(xiàn)在有不一樣的需求，大家從創(chuàng)業(yè)角度，在終端做個(gè)專門(mén)的框架或者引擎會(huì)有價(jià)值，因?yàn)榻K端的產(chǎn)品和形態(tài)差異化特別大，導(dǎo)致現(xiàn)在終端的人在開(kāi)發(fā)AI應(yīng)用是苦不堪言。

理解無(wú)論是訓(xùn)練、推理還是終端，會(huì)有分出來(lái)的需求，這些需求導(dǎo)致往下發(fā)展的話會(huì)有分支，分支完了以后對(duì)開(kāi)發(fā)者是一個(gè)很友好的事，不知道未來(lái)會(huì)不會(huì)“天下合久必分，分久必合”，反正對(duì)做芯片的人來(lái)說(shuō)，是希望這些框架都合在一起，不需要支持那么多框架。

想法是最終回歸到價(jià)值上來(lái)。因?yàn)闀缫曈凶约旱募夹g(shù)信仰、價(jià)值務(wù)實(shí)，最終還要回到做框架，做技術(shù)創(chuàng)新，這是個(gè)功能，還是真正給用戶帶來(lái)什么？

用戶有兩類，一類是研究者，一類是研發(fā)者，在曠視公司能夠知道深度學(xué)習(xí)從產(chǎn)品到落地有多少環(huán)節(jié)、多少困難，做這個(gè)框架是為了自己更好，希望經(jīng)驗(yàn)幫助更多人，也是出于這樣的觀點(diǎn)。

如果從現(xiàn)狀來(lái)看，深度學(xué)習(xí)框架在價(jià)值維度上有三點(diǎn)：

第一點(diǎn)，希望更快，性能肯定是大家非常關(guān)注的一點(diǎn)，性能意味著成本，意味著更好更大的模型，意味著更多、更好的商業(yè)機(jī)會(huì)。

第二點(diǎn)是靈活與易用，希望支持更多模型，支持更多范式，把更新技術(shù)嘗試引進(jìn)，而不是一個(gè)僵化的體系。

第三點(diǎn)，更規(guī)范?，F(xiàn)在看到深度學(xué)習(xí)硬件設(shè)施雨后春筍般的蹦出來(lái)，包括寒武紀(jì)等等都在做一些事情，這里面蘊(yùn)涵著大量的機(jī)會(huì)，在超越摩爾定律的狀況下做事情，為什么不更廣泛的使用，使得技術(shù)在各種芯片上跑起來(lái)，讓大家都有機(jī)會(huì)成長(zhǎng)起來(lái)。

從現(xiàn)狀來(lái)看，這三點(diǎn)是衡量當(dāng)前價(jià)值的點(diǎn)。覺(jué)得在這方面，不管是大框架、小框架，是大公司還是小公司，誰(shuí)能提供value，誰(shuí)就能夠有機(jī)會(huì)，而不是一個(gè)壟斷的行業(yè)。

對(duì)于未來(lái)的看法，充滿不確定性，現(xiàn)在回過(guò)頭來(lái)看產(chǎn)業(yè)基礎(chǔ)，并不是那么扎實(shí)。比如深度網(wǎng)絡(luò)，會(huì)對(duì)框架有怎樣的需求和沖擊，這是不知道的，現(xiàn)在的框架并沒(méi)有很好的利用這樣的變化。

要關(guān)心大的生態(tài)環(huán)境，是堅(jiān)定的人類命運(yùn)共同體的擁護(hù)者，堅(jiān)決反對(duì)自己造原則。大家要從大局去考慮，然后選擇好的點(diǎn)去往前推。假設(shè)都做開(kāi)源的話，到最后是沒(méi)有差異的。雖然是開(kāi)源，但還是可以服務(wù)用戶的，所以保護(hù)生態(tài)系統(tǒng)，保持開(kāi)放性、前瞻性和活力是最要緊的。從小的點(diǎn)來(lái)看，作為動(dòng)力去打磨、去造輪子，因?yàn)樽约鹤哌^(guò)這個(gè)路，不覺(jué)得是非常好的路線。

對(duì)Keras看法是怎樣？本身挺有威脅的，但作為真正能用的框架還是差很多。

非常同意Keras是一個(gè)innovation，個(gè)人也非常贊賞創(chuàng)新。提到框架現(xiàn)在是在互相學(xué)習(xí)、互相進(jìn)步的過(guò)程。有些用戶為什么喜歡Keras，比如有人提到一點(diǎn)是能自動(dòng)bach，Keras是現(xiàn)存框架做得最完善的。PyTorch也會(huì)加入這個(gè)功能，最早PyTorch有嘗試過(guò)，只不過(guò)沒(méi)有意識(shí)到這個(gè)功能對(duì)用戶很重要，對(duì)Pytorch也是很好的。

提到Keras作為真正能用的框架還是差很多。跟Keras團(tuán)隊(duì)也有交流，想法是PyTorch在dataload這塊已經(jīng)做得很好，Pytorch也有很好的交互，沒(méi)必要再做這個(gè)事情。到Keras官網(wǎng)去看，會(huì)教如何用PyTorch的dataload，然后用Keras定義，訓(xùn)練完怎么交互，框架間這種融合能夠工作迸發(fā)出新的創(chuàng)新。

對(duì)深度學(xué)習(xí)編譯器如TVM、XLA的看法，以及與框架的區(qū)別和聯(lián)系？

現(xiàn)在這些深度學(xué)習(xí)編譯器，TVM確實(shí)做得非常不錯(cuò)，讓更多框架能夠運(yùn)用到更多硬件上，華為的框架也有相當(dāng)大部分代碼是基于TVM開(kāi)發(fā)的，TVM作為深度學(xué)習(xí)編譯器是非常不錯(cuò)的，XLA是用于TensorFlow的編譯器，PyTorch好像也在對(duì)XLA進(jìn)行移植和支持，這兩個(gè)深度編譯器都挺不錯(cuò)的，就看應(yīng)用的硬件是什么，現(xiàn)在回傳的芯片都可以跑在TVM上，如果運(yùn)行Google的TUP的話可能在XLA上性能比較好一點(diǎn)。

編譯器與框架面向的對(duì)象也是有區(qū)別的，比如深度學(xué)習(xí)編譯器更多用戶是開(kāi)發(fā)框架的，對(duì)硬件有一定的了解，但用TensorFlow的更多是深度學(xué)習(xí)的用戶，從使用者角度是判斷編譯器和深度學(xué)習(xí)框架的最大區(qū)別。

早期編譯器都是藏在框架項(xiàng)目的，但現(xiàn)在編譯器本身的工作越來(lái)越完整了，就是基于編譯器，也做了自動(dòng)求導(dǎo)、子圖優(yōu)化，也都有Python接口，所以現(xiàn)在編譯器和框架之間界限越來(lái)越模糊了，比如TVM，幾乎就是一個(gè)新的框架了，所以現(xiàn)在嚴(yán)格區(qū)分框架和編譯器好像比較困難，幾乎是一回事了。

以前比較有名的框架慢慢被大公司收購(gòu)，要么消失了，是不是小公司不適合搞開(kāi)源框架？

感覺(jué)在開(kāi)源社區(qū)里能成長(zhǎng)起來(lái)，開(kāi)源社區(qū)是非常公正公平的，是英雄不問(wèn)出處。看到大公司做事情也不一定成功，同時(shí)小團(tuán)隊(duì)做事也有可能成功。對(duì)這點(diǎn)，持不同看法，只要?jiǎng)?chuàng)新性夠，產(chǎn)品競(jìng)爭(zhēng)力夠，被開(kāi)發(fā)者認(rèn)可還是有機(jī)會(huì)的。

總結(jié)

以上是生活随笔為你收集整理的中国人工智能AI框架自主研发的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。