【AI芯片格局最全分析】国内AI芯片百家争鸣，何以抗衡全球技术寡头
如果說 2016 年 3 月份 AlphaGo 與李世石的那場人機(jī)大戰(zhàn)只在科技界和圍棋界產(chǎn)生較大影響的話，那么 2017 年 5 月其與排名第一的世界圍棋冠軍柯潔的對戰(zhàn)則將人工智能技術(shù)推向了公眾視野。阿爾法狗（AlphaGo）是第一個(gè)擊敗人類職業(yè)圍棋選手、第一個(gè)戰(zhàn)勝圍棋世界冠軍的人工智能程序，由谷歌（Google）旗下 DeepMind 公司戴密斯 · 哈薩比斯領(lǐng)銜的團(tuán)隊(duì)開發(fā)，其主要工作原理是 “深度學(xué)習(xí)”。
其實(shí)早在 2012 年，深度學(xué)習(xí)技術(shù)就已經(jīng)在學(xué)術(shù)界引起了廣泛地討論。在這一年的 ImageNet 大規(guī)模視覺識(shí)別挑戰(zhàn)賽 ILSVRC 中，采用 5 個(gè)卷積層和 3 個(gè)全連接層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) AlexNet，取得了 top-5（15.3%）的歷史最佳錯(cuò)誤率，而第二名的成績僅為 26.2%。從此以后，就出現(xiàn)了層數(shù)更多、結(jié)構(gòu)更為復(fù)雜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，如 ResNet、GoogleNet、VGGNet 和 MaskRCNN 等，還有去年比較火的生成式對抗網(wǎng)絡(luò) GAN。
不論是贏得視覺識(shí)別挑戰(zhàn)賽的 AlexNet，還是擊敗圍棋冠軍柯潔的 AlphaGo，它們的實(shí)現(xiàn)都離不開現(xiàn)代信息技術(shù)的核心——處理器，不論這個(gè)處理器是傳統(tǒng)的 CPU，還是 GPU，還是新興的專用加速部件 NNPU（NNPU 是 Neural Network Processing Unit 的簡稱）。在計(jì)算機(jī)體系結(jié)構(gòu)國際頂級會(huì)議 ISCA2016 上有個(gè)關(guān)于體系結(jié)構(gòu) 2030 的小型研討會(huì)，名人堂成員 UCSB 的謝源教授就對 1991 年以來在 ISCA 收錄的論文進(jìn)行了總結(jié)，專用加速部件相關(guān)的論文收錄是在 2008 年開始，而在 2016 年達(dá)到了頂峰，超過了處理器、存儲(chǔ)器以及互聯(lián)結(jié)構(gòu)等三大傳統(tǒng)領(lǐng)域。而在這一年，來自中國科學(xué)院計(jì)算技術(shù)研究所的陳云霽、陳天石研究員課題組提交的《一種神經(jīng)網(wǎng)絡(luò)指令集》論文，更是 ISCA2016 最高得分論文。
在具體介紹 AI 芯片國內(nèi)外之前，看到這里有部分讀者或許會(huì)產(chǎn)生這樣的疑惑：這不都是在說神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)嗎？那么我覺得有必要對人工智能和神經(jīng)網(wǎng)絡(luò)的概念進(jìn)行闡述，特別是 2017 年工信部發(fā)布的《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020 年）》中，對發(fā)展目標(biāo)的描述很容易讓人覺得人工智能就是神經(jīng)網(wǎng)絡(luò)，AI 芯片就是神經(jīng)網(wǎng)絡(luò)芯片。
人工智能整體核心基礎(chǔ)能力顯著增強(qiáng)，智能傳感器技術(shù)產(chǎn)品實(shí)現(xiàn)突破，設(shè)計(jì)、代工、封測技術(shù)達(dá)到國際水平，神經(jīng)網(wǎng)絡(luò)芯片實(shí)現(xiàn)量產(chǎn)并在重點(diǎn)領(lǐng)域?qū)崿F(xiàn)規(guī)模化應(yīng)用，開源開發(fā)平臺(tái)初步具備支撐產(chǎn)業(yè)快速發(fā)展的能力。
其實(shí)則不然。人工智能是一個(gè)很老很老的概念，而神經(jīng)網(wǎng)絡(luò)只不過是人工智能范疇的一個(gè)子集。早在 1956 年，被譽(yù)為 “人工智能之父” 的圖靈獎(jiǎng)得主約翰 · 麥卡錫就這樣定義人工智能：創(chuàng)造智能機(jī)器的科學(xué)與工程。而在 1959 年，Arthur Samuel 給出了人工智能的一個(gè)子領(lǐng)域機(jī)器學(xué)習(xí)的定義，即“計(jì)算機(jī)有能力去學(xué)習(xí)，而不是通過預(yù)先準(zhǔn)確實(shí)現(xiàn)的代碼”，這也是目前公認(rèn)的對機(jī)器學(xué)習(xí)最早最準(zhǔn)確的定義。而我們?nèi)粘Ｋ熘纳窠?jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等都屬于機(jī)器學(xué)習(xí)的范疇，都是受大腦機(jī)理啟發(fā)而發(fā)展得來的。另外一個(gè)比較重要的研究領(lǐng)域就是脈沖神經(jīng)網(wǎng)絡(luò)，國內(nèi)具有代表的單位和企業(yè)是清華大學(xué)類腦計(jì)算研究中心和上海西井科技等。
好了，現(xiàn)在終于可以介紹 AI 芯片國內(nèi)外的發(fā)展現(xiàn)狀了，當(dāng)然這些都是我個(gè)人的一點(diǎn)觀察和愚見，管窺之見權(quán)當(dāng)拋磚引玉。
國外：技術(shù)寡頭，優(yōu)勢明顯
由于具有得天獨(dú)厚的技術(shù)和應(yīng)用優(yōu)勢，英偉達(dá)和谷歌幾乎占據(jù)了人工智能處理領(lǐng)域 80% 的市場份額，而且在谷歌宣布其 Cloud TPU 開放服務(wù)和英偉達(dá)推出自動(dòng)駕駛處理器 Xavier 之后，這一份額占比在 2018 年有望進(jìn)一步擴(kuò)大。其他廠商，如英特爾、特斯拉、ARM、IBM 以及 Cadence 等，也在人工智能處理器領(lǐng)域占有一席之地。
當(dāng)然，上述這些公司的專注領(lǐng)域卻不盡相同。比如英偉達(dá)主要專注于 GPU 和無人駕駛領(lǐng)域，而谷歌則主要針對云端市場，英特爾則主要面向計(jì)算機(jī)視覺，Cadence 則以提供加速神經(jīng)網(wǎng)絡(luò)計(jì)算相關(guān) IP 為主。如果說前述這些公司還主要偏向處理器設(shè)計(jì)等硬件領(lǐng)域，那么ARM 公司則主要偏向軟件，致力于針對機(jī)器學(xué)習(xí)和人工智能提供高效算法庫。
注：上述表格中所給為截止到 2017 年各研制單位公開可查的最新數(shù)據(jù)。
獨(dú)占鰲頭——英偉達(dá)
在人工智能領(lǐng)域，英偉達(dá)可以說是目前涉及面最廣、市場份額最大的公司，旗下產(chǎn)品線遍布自動(dòng)駕駛汽車、高性能計(jì)算、機(jī)器人、醫(yī)療保健、云計(jì)算、游戲視頻等眾多領(lǐng)域。其針對自動(dòng)駕駛汽車領(lǐng)域的全新人工智能超級計(jì)算機(jī) Xavier，用 NVIDIA 首席執(zhí)行官黃仁勛的話來說就是 “這是我所知道的 SoC 領(lǐng)域非常了不起的嘗試，我們長期以來一直致力于開發(fā)芯片。”
Xavier 是一款完整的片上系統(tǒng) (SoC)，集成了被稱為 Volta 的全新 GPU 架構(gòu)、定制 8 核 CPU 架構(gòu)以及新的計(jì)算機(jī)視覺加速器。該處理器提供 20 TOPS（萬億次運(yùn)算 / 秒）的高性能，而功耗僅為 20 瓦。單個(gè) Xavier 人工智能處理器包含 70 億個(gè)晶體管，采用最前沿的 16nm FinFET 加工技術(shù)進(jìn)行制造，能夠取代目前配置了兩個(gè)移動(dòng) SoC 和兩個(gè)獨(dú)立 GPU 的 DRIVE PX 2，而功耗僅僅是它的一小部分。
而在 2018 年拉斯維加斯 CES 展會(huì)上，NVIDIA 又推出了三款基于 Xavier 的人工智能處理器，包括一款專注于將增強(qiáng)現(xiàn)實(shí)（AR）技術(shù)應(yīng)用于汽車的產(chǎn)品、一款進(jìn)一步簡化車內(nèi)人工智能助手構(gòu)建和部署的 DRIVE IX 和一款對其現(xiàn)有自主出租車大腦——Pegasus 的修改，進(jìn)一步擴(kuò)大自己的優(yōu)勢。
產(chǎn)學(xué)研的集大成者——谷歌
如果你只是知道谷歌的 AlphaGo、無人駕駛和 TPU 等這些人工智能相關(guān)的產(chǎn)品，那么你還應(yīng)該知道這些產(chǎn)品背后的技術(shù)大牛們：谷歌傳奇芯片工程師 Jeff Dean、谷歌云計(jì)算團(tuán)隊(duì)首席科學(xué)家、斯坦福大學(xué) AI 實(shí)驗(yàn)室主管李飛飛、Alphabet 董事長 John Hennessy 和谷歌杰出工程師 David Patterson。
時(shí)至今日，摩爾定律遇到了技術(shù)和經(jīng)濟(jì)上的雙重瓶頸，處理器性能的增長速度越來越慢，然而社會(huì)對于計(jì)算能力的需求增速卻并未減緩，甚至在移動(dòng)應(yīng)用、大數(shù)據(jù)、人工智能等新的應(yīng)用興起后，對于計(jì)算能力、計(jì)算功耗和計(jì)算成本等提出了新的要求。與完全依賴于通用 CPU 及其編程模型的傳統(tǒng)軟件編寫模式不同，異構(gòu)計(jì)算的整個(gè)系統(tǒng)包含了多種基于特定領(lǐng)域架構(gòu)（Domain-Specific Architecture, DSA）設(shè)計(jì)的處理單元，每一個(gè) DSA 處理單元都有負(fù)責(zé)的獨(dú)特領(lǐng)域并針對該領(lǐng)域做優(yōu)化，當(dāng)計(jì)算機(jī)系統(tǒng)遇到相關(guān)計(jì)算時(shí)便由相應(yīng)的 DSA 處理器去負(fù)責(zé)。而谷歌就是異構(gòu)計(jì)算的踐行者，TPU 就是異構(gòu)計(jì)算在人工智能應(yīng)用的一個(gè)很好例子。
2017 年發(fā)布的第二代 TPU 芯片，不僅加深了人工智能在學(xué)習(xí)和推理方面的能力，而且谷歌是認(rèn)真地要將它推向市場。根據(jù)谷歌的內(nèi)部測試，第二代芯片針對機(jī)器學(xué)習(xí)的訓(xùn)練速度能比現(xiàn)在市場上的圖形芯片（GPU）節(jié)省一半時(shí)間；第二代 TPU 包括了四個(gè)芯片，每秒可處理 180 萬億次浮點(diǎn)運(yùn)算；如果將 64 個(gè) TPU 組合到一起，升級為所謂的 TPU Pods，則可提供大約 11500 萬億次浮點(diǎn)運(yùn)算能力。
計(jì)算機(jī)視覺領(lǐng)域的攪局者——英特爾
英特爾作為世界上最大的計(jì)算機(jī)芯片制造商，近年來一直在尋求計(jì)算機(jī)以外的市場，其中人工智能芯片爭奪成為英特爾的核心戰(zhàn)略之一。為了加強(qiáng)在人工智能芯片領(lǐng)域的實(shí)力，不僅以 167 億美元收購 FPGA 生產(chǎn)商 Altera 公司，還以 153 億美元收購自動(dòng)駕駛技術(shù)公司 Mobileye，以及機(jī)器視覺公司 Movidius 和為自動(dòng)駕駛汽車芯片提供安全工具的公司 Yogitech，背后凸顯這家在 PC 時(shí)代處于核心位置的巨頭面向未來的積極轉(zhuǎn)型。
Myriad X 就是英特爾子公司 Movidius 在 2017 年推出的視覺處理器 (VPU，vision processing unit)，這是一款低功耗的系統(tǒng)芯片 (SoC)，用于在基于視覺的設(shè)備上加速深度學(xué)習(xí)和人工智能——如無人機(jī)、智能相機(jī)和 VR / AR 頭盔。Myriad X 是全球第一個(gè)配備專用神經(jīng)網(wǎng)絡(luò)計(jì)算引擎的片上系統(tǒng)芯片（SoC），用于加速設(shè)備端的深度學(xué)習(xí)推理計(jì)算。該神經(jīng)網(wǎng)絡(luò)計(jì)算引擎是芯片上集成的硬件模塊，專為高速、低功耗且不犧牲精確度地運(yùn)行基于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)而設(shè)計(jì)，讓設(shè)備能夠?qū)崟r(shí)地看到、理解和響應(yīng)周圍環(huán)境。引入該神經(jīng)計(jì)算引擎之后，Myriad X 架構(gòu)能夠?yàn)榛谏疃葘W(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)推理提供 1TOPS 的計(jì)算性能。
執(zhí) “能效比” 之牛耳——學(xué)術(shù)界
除了工業(yè)界和廠商在人工智能領(lǐng)域不斷推出新產(chǎn)品之外，學(xué)術(shù)界也在持續(xù)推進(jìn)人工智能芯片新技術(shù)的發(fā)展。
比利時(shí)魯汶大學(xué)的 Bert Moons 等在 2017 年頂級會(huì)議 IEEE ISSCC 上面提出了能效比高達(dá) 10.0TOPs/W 的針對卷積神經(jīng)網(wǎng)絡(luò)加速的芯片 ENVISION，該芯片采用 28nm FD-SOI 技術(shù)。該芯片包括一個(gè) 16 位的 RISC 處理器核，1D-SIMD 處理單元進(jìn)行 ReLU 和 Pooling 操作，2D-SIMD MAC 陣列處理卷積層和全連接層的操作，還有 128KB 的片上存儲(chǔ)器。
韓國科學(xué)技術(shù)院 KAIST 的 Dongjoo Shin 等人在 ISSCC2017 上提出了一個(gè)針對 CNN 和 RNN 結(jié)構(gòu)可配置的加速器單元 DNPU，除了包含一個(gè) RISC 核之外，還包括了一個(gè)針對卷積層操作的計(jì)算陣列 CP 和一個(gè)針對全連接層 RNN-LSTM 操作的計(jì)算陣列 FRP，相比于魯汶大學(xué)的 Envision，DNPU 支持 CNN 和 RNN 結(jié)構(gòu)，能效比高達(dá) 8.1TOPS/W。該芯片采用了 65nm CMOS 工藝。
相比較于魯汶大學(xué)和韓國科學(xué)技術(shù)院都針對神經(jīng)網(wǎng)絡(luò)推理部分的計(jì)算操作來說，普渡大學(xué)的Venkataramani S 等人在計(jì)算機(jī)體系結(jié)構(gòu)頂級會(huì)議 ISCA2017 上提出了針對大規(guī)模神經(jīng)網(wǎng)絡(luò)訓(xùn)練的人工智能處理器 SCALLDEEP。
該論文針對深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練部分進(jìn)行針對性優(yōu)化，提出了一個(gè)可擴(kuò)展服務(wù)器架構(gòu)，且深入分析了深度神經(jīng)網(wǎng)絡(luò)中卷積層，采樣層，全連接層等在計(jì)算密集度和訪存密集度方面的不同，設(shè)計(jì)了兩種處理器 core 架構(gòu)，計(jì)算密集型的任務(wù)放在了 comHeavy 核中，包含大量的 2D 乘法器和累加器部件，而對于訪存密集型任務(wù)則放在了 memHeavy 核中，包含大量 SPM 存儲(chǔ)器和 tracker 同步單元，既可以作為存儲(chǔ)單元使用，又可以進(jìn)行計(jì)算操作，包括 ReLU，tanh 等。而一個(gè) SCALEDEEP Chip 則可以有不同配置下的兩類處理器核組成，然后再組成計(jì)算簇。
論文中所用的處理平臺(tái)包括 7032 個(gè)處理器 tile。論文作者針對深度神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)了編譯器，完成網(wǎng)絡(luò)映射和代碼生成，同時(shí)設(shè)計(jì)了設(shè)計(jì)空間探索的模擬器平臺(tái)，可以進(jìn)行性能和功耗的評估，性能則得益于時(shí)鐘精確級的模擬器，功耗評估則從 DC 中提取模塊的網(wǎng)表級的參數(shù)模型。該芯片僅采用了 Intel 14nm 工藝進(jìn)行了綜合和性能評估，峰值能效比高達(dá) 485.7GOPS/W。
國內(nèi)：百家爭鳴，各自為政
可以說，國內(nèi)各個(gè)單位在人工智能處理器領(lǐng)域的發(fā)展和應(yīng)用與國外相比依然存在很大的差距。由于我國特殊的環(huán)境和市場，國內(nèi)人工智能處理器的發(fā)展呈現(xiàn)出百花齊放、百家爭鳴的態(tài)勢，這些單位的應(yīng)用領(lǐng)域遍布股票交易、金融、商品推薦、安防、早教機(jī)器人以及無人駕駛等眾多領(lǐng)域，催生了大量的人工智能芯片創(chuàng)業(yè)公司，如地平線、深鑒科技、中科寒武紀(jì)等。盡管如此，國內(nèi)起步較早的中科寒武紀(jì)卻并未如國外大廠一樣形成市場規(guī)模，與其他廠商一樣，存在著各自為政的散裂發(fā)展現(xiàn)狀。
除了新興創(chuàng)業(yè)公司，國內(nèi)研究機(jī)構(gòu)如北京大學(xué)、清華大學(xué)、中國科學(xué)院等在人工智能處理器領(lǐng)域都有深入研究；而其他公司如百度和比特大陸等，2017 年也有一些成果發(fā)布。
注：上述表格中所給為截止到 2017 年各研制單位公開可查的最新數(shù)據(jù)。
全球 AI 芯片界首個(gè)獨(dú)角獸——寒武紀(jì)
2017 年 8 月，國內(nèi) AI 芯片初創(chuàng)公司寒武紀(jì)宣布已經(jīng)完成 1 億美元 A 輪融資，戰(zhàn)略投資方可謂陣容豪華，阿里巴巴、聯(lián)想、科大訊飛等企業(yè)均參與投資。而其公司也成為全球 AI 芯片界首個(gè)獨(dú)角獸，受到國內(nèi)外市場廣泛關(guān)注。
寒武紀(jì)科技主要負(fù)責(zé)研發(fā)生產(chǎn) AI 芯片，公司最主要的產(chǎn)品為 2016 年發(fā)布的寒武紀(jì) 1A 處理器 (Cambricon-1A)，是一款可以深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)專用處理器，面向智能手機(jī)、無人機(jī)、安防監(jiān)控、可穿戴設(shè)備以及智能駕駛等各類終端設(shè)備，在運(yùn)行主流智能算法時(shí)性能功耗比全面超越傳統(tǒng)處理器。目前已經(jīng)研發(fā)出 1A、1H 等多種型號。與此同時(shí)，寒武紀(jì)也推出了面向開發(fā)者的寒武紀(jì)人工智能軟件平臺(tái) Cambricon NeuWare，包含開發(fā)、調(diào)試和調(diào)優(yōu)三大部分。
軟硬件協(xié)同發(fā)展的典范——深鑒科技
深鑒科技的聯(lián)合創(chuàng)始人韓松在不同場合曾多次提及軟硬件協(xié)同設(shè)計(jì)對人工智能處理器的重要性，而其在 FPGA 領(lǐng)域頂級會(huì)議 FPGA2017 最佳論文 ESE 硬件架構(gòu)就是最好的證明。該項(xiàng)工作聚焦于使用 LSTM 進(jìn)行語音識(shí)別的場景，結(jié)合深度壓縮（Deep Compression）、專用編譯器以及 ESE 專用處理器架構(gòu)，在中端的 FPGA 上即可取得比 Pascal Titan X GPU 高 3 倍的性能，并將功耗降低 3.5 倍。
在 2017 年 10 月的時(shí)候，深鑒科技推出了六款 AI 產(chǎn)品，分別是人臉檢測識(shí)別模組、人臉分析解決方案、視頻結(jié)構(gòu)化解決方案、ARISTOTLE 架構(gòu)平臺(tái)，深度學(xué)習(xí) SDK DNNDK、雙目深度視覺套件。而在人工智能芯片方面，公布了最新的芯片計(jì)劃，由深鑒科技自主研發(fā)的芯片 “聽濤”、“觀海” 將于 2018 年第三季度面市，該芯片采用臺(tái)積電 28nm 工藝，亞里士多德架構(gòu)，峰值性能 3.7 TOPS/W。
對標(biāo)谷歌 TPU——比特大陸算豐
作為比特幣獨(dú)角獸的比特大陸，在 2015 年開始涉足人工智能領(lǐng)域，其在 2017 年發(fā)布的面向 AI 應(yīng)用的張量處理器算豐 Sophon BM1680，是繼谷歌 TPU 之后，全球又一款專門用于張量計(jì)算加速的專用芯片（ASIC），適用于 CNN / RNN / DNN 的訓(xùn)練和推理。
BM1680 單芯片能夠提供 2TFlops 單精度加速計(jì)算能力，芯片由 64 NPU 構(gòu)成，特殊設(shè)計(jì)的 NPU 調(diào)度引擎（Scheduling Engine）可以提供強(qiáng)大的數(shù)據(jù)吞吐能力，將數(shù)據(jù)輸入到神經(jīng)元核心（Neuron Processor Cores）。BM1680 采用改進(jìn)型脈動(dòng)陣列結(jié)構(gòu)。2018 年比特大陸將發(fā)布第 2 代算豐 AI 芯片 BM1682，計(jì)算力將有大幅提升。
百家爭鳴——百度、地平線及其他
在 2017 年的 HotChips 大會(huì)上，百度發(fā)布了 XPU，這是一款 256 核、基于 FPGA 的云計(jì)算加速芯片，用于百度的人工智能、數(shù)據(jù)分析、云計(jì)算以及無人駕駛業(yè)務(wù)。在會(huì)上，百度研究員歐陽劍表示，百度設(shè)計(jì)的芯片架構(gòu)突出多樣性，著重于計(jì)算密集型、基于規(guī)則的任務(wù)，同時(shí)確保效率、性能和靈活性的最大化。
歐陽劍表示：“FPGA 是高效的，可以專注于特定計(jì)算任務(wù)，但缺乏可編程能力。傳統(tǒng) CPU 擅長通用計(jì)算任務(wù)，尤其是基于規(guī)則的計(jì)算任務(wù)，同時(shí)非常靈活。GPU 瞄準(zhǔn)了并行計(jì)算，因此有很強(qiáng)大的性能。XPU 則關(guān)注計(jì)算密集型、基于規(guī)則的多樣化計(jì)算任務(wù)，希望提高效率和性能，并帶來類似 CPU 的靈活性。
在 2018 年百度披露更多關(guān)于 XPU 的相關(guān)信息。
2017 年 12 月底，人工智能初創(chuàng)企業(yè)地平線發(fā)布了中國首款全球領(lǐng)先的嵌入式人工智能芯片——面向智能駕駛的征程（Journey）1.0 處理器和面向智能攝像頭的旭日（Sunrise）1.0 處理器，還有針對智能駕駛、智能城市和智能商業(yè)三大應(yīng)用場景的人工智能解決方案。“旭日 1.0”和 “征程 1.0” 是完全由地平線自主研發(fā)的人工智能芯片，具有全球領(lǐng)先的性能。
為了解決應(yīng)用場景中的問題，地平線將算法與芯片做了強(qiáng)耦合，用算法來定義芯片，提升芯片的效率，在高性能的情況下可以保證它的低功耗、低成本。具體芯片參數(shù)尚無公開數(shù)據(jù)。
除了百度和地平線，國內(nèi)研究機(jī)構(gòu)如中國科學(xué)院、北京大學(xué)和清華大學(xué)也有人工智能處理器相關(guān)的成果發(fā)布。
北京大學(xué)聯(lián)合商湯科技等提出一種基于 FPGA 的快速 Winograd 算法，可以大幅降低算法復(fù)雜度，改善 FPGA 上的 CNN 性能。論文中的實(shí)驗(yàn)使用當(dāng)前最優(yōu)的多種 CNN 架構(gòu)（如 AlexNet 和 VGG16），從而實(shí)現(xiàn)了 FPGA 加速之下的最優(yōu)性能和能耗。在 Xilinx ZCU102 平臺(tái)上達(dá)到了卷積層平均處理速度 1006.4 GOP/s，整體 AlexNet 處理速度 854.6 GOP/s，卷積層平均處理速度 3044.7 GOP/s，整體 VGG16 的處理速度 2940.7 GOP/s。
中國科學(xué)院計(jì)算機(jī)體系結(jié)構(gòu)國家重點(diǎn)實(shí)驗(yàn)室在頂級會(huì)議 HPCA2017 上提出了一種基于數(shù)據(jù)流的神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)，以便適應(yīng)特征圖、神經(jīng)元和突觸等不同層級的并行計(jì)算，為了實(shí)現(xiàn)這一目標(biāo)，該團(tuán)隊(duì)對單個(gè)處理單元 PE 進(jìn)行重新設(shè)計(jì)，使得操作數(shù)可以直接通過橫向或縱向的總線從片上存儲(chǔ)器獲取，而非傳統(tǒng) PE 只能從上至下或從左至右由相鄰單元獲取。該芯片采用了 TMSC 65nm 工藝，峰值性能為 490.7 GOPs/W。
清華大學(xué)微納電子系魏少軍等 2017 年的 VLSI 國際研討會(huì)上提出了基于可重構(gòu)多模態(tài)混合的神經(jīng)計(jì)算芯片 Thinker。Thinker 芯片基于該團(tuán)隊(duì)長期積累的可重構(gòu)計(jì)算芯片技術(shù)，采用可重構(gòu)架構(gòu)和電路技術(shù)，突破了神經(jīng)網(wǎng)絡(luò)計(jì)算和訪存的瓶頸，實(shí)現(xiàn)了高能效多模態(tài)混合神經(jīng)網(wǎng)絡(luò)計(jì)算。Thinker 芯片具有高能效的突出優(yōu)點(diǎn)，其能量效率相比目前在深度學(xué)習(xí)中廣泛使用的 GPU 提升了三個(gè)數(shù)量級。Thinker 芯片支持電路級編程和重構(gòu)，是一個(gè)通用的神經(jīng)網(wǎng)絡(luò)計(jì)算平臺(tái)，可廣泛應(yīng)用于機(jī)器人、無人機(jī)、智能汽車、智慧家居、安防監(jiān)控和消費(fèi)電子等領(lǐng)域。該芯片采用了 TSMC 65nm 工藝，片上存儲(chǔ)為 348KB，峰值性能為 5.09TOPS/W。
新架構(gòu)新技術(shù)——憶阻器
2017 年清華大學(xué)微電子所錢鶴、吳華強(qiáng)課題組在《自然通訊》（Nature Communications）在線發(fā)表了題為 “運(yùn)用電子突觸進(jìn)行人臉分類”（“Face Classification using Electronic Synapses”）的研究成果，將氧化物憶阻器的集成規(guī)模提高了一個(gè)數(shù)量級，首次實(shí)現(xiàn)了基于 1024 個(gè)氧化物憶阻器陣列的類腦計(jì)算。該成果在最基本的單個(gè)憶阻器上實(shí)現(xiàn)了存儲(chǔ)和計(jì)算的融合，采用完全不同于傳統(tǒng) “馮 · 諾依曼架構(gòu)” 的體系，可以使芯片功耗降低到原千分之一以下。憶阻器被認(rèn)為是最具潛力的電子突觸器件，通過在器件兩端施加電壓，可以靈活地改變其阻值狀態(tài)，從而實(shí)現(xiàn)突觸的可塑性。此外，憶阻器還具有尺寸小、操作功耗低、可大規(guī)模集成等優(yōu)勢。因此，基于憶阻器所搭建的類腦計(jì)算硬件系統(tǒng)具有功耗低和速度快的優(yōu)勢，成為國際研究熱點(diǎn)。
在神經(jīng)形態(tài)處理器方面，最為著名的就是 IBM 在 2014 年推出的 TrueNorth 芯片，該芯片包括 4096 個(gè)核心和 540 萬個(gè)晶體管，功耗 70mW，模擬了一百萬個(gè)神經(jīng)元和 2.56 億個(gè)突觸。而在 2017 年，英特爾也推出一款能模擬大腦工作的自主學(xué)習(xí)芯片 Loihi，Loihi 由 128 個(gè)計(jì)算核心構(gòu)成，每個(gè)核心集成了 1024 個(gè)人工神經(jīng)元，整個(gè)芯片擁有超過個(gè) 13 萬個(gè)神經(jīng)元與 1.3 億個(gè)突觸連接，與人腦超過 800 億個(gè)神經(jīng)元相比，簡直是小巫見大巫，Loihi 的運(yùn)算規(guī)模僅比蝦腦復(fù)雜一點(diǎn)點(diǎn)而已。英特爾認(rèn)為該芯片適用于無人機(jī)與汽車自動(dòng)駕駛，紅綠燈自適應(yīng)路面交通狀況，用攝像頭尋找失蹤人口等任務(wù)。
而在神經(jīng)形態(tài)芯片研究領(lǐng)域，清華大學(xué)類腦計(jì)算研究中心施路平等在 2015 年就推出了首款類腦芯片—“天機(jī)芯”，該芯片世界首次將人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks, ANNs）和脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Networks，SNNs）進(jìn)行異構(gòu)融合，同時(shí)兼顧技術(shù)成熟并被廣泛應(yīng)用的深度學(xué)習(xí)模型與未來具有巨大前景的計(jì)算神經(jīng)科學(xué)模型，可用于諸如圖像處理、語音識(shí)別、目標(biāo)跟蹤等多種應(yīng)用開發(fā)。在類腦 “自行” 車演示平臺(tái)上，集成 32 個(gè)天機(jī)一號芯片，實(shí)現(xiàn)了面向視覺目標(biāo)探測、感知、目標(biāo)追蹤、自適應(yīng)姿態(tài)控制等任務(wù)的跨模態(tài)類腦信息處理實(shí)驗(yàn)。據(jù)悉，基于 TSMC 28nm 工藝的第二代天機(jī)芯片也即將推出，性能將會(huì)得到極大提升。
從 ISSCC2018 看人工智能芯片發(fā)展趨勢
在剛剛結(jié)束的計(jì)算機(jī)體系結(jié)構(gòu)頂級會(huì)議 ISSCC2018，“Digital Systems: Digital Architectures and Systems” 分論壇主席 Byeong-Gyu Nam 對人工智能芯片，特別是深度學(xué)習(xí)芯片的發(fā)展趨勢做了概括。深度學(xué)習(xí)依然今年大會(huì)最為熱門的話題。相比較于去年大多數(shù)論文都在討論卷積神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)問題，今年則更加關(guān)注兩個(gè)問題：其一，如果更高效地實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)，特別是針對手持終端等設(shè)備；其二，則是關(guān)于全連接的非卷積神經(jīng)網(wǎng)絡(luò)，如 RNN 和 LSTM 等。
同時(shí)，為了獲得更高的能效比，越來越多的研究者把精力放在了低精度神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)和實(shí)現(xiàn)，如 1bit 的神經(jīng)網(wǎng)絡(luò)。這些新型技術(shù)，使得深度學(xué)習(xí)加速器的能效比從去年的幾十 TOPS/W 提升到了今年的上百 TOPS/W。有些研究者也對數(shù)字 + 模擬的混合信號處理實(shí)現(xiàn)方案進(jìn)行了研究。對數(shù)據(jù)存取具有較高要求的全連接網(wǎng)絡(luò)，有些研究者則借助 3-D 封裝技術(shù)來獲得更好的性能。
總結(jié)：對國產(chǎn)人工智能芯片的一點(diǎn)愚見
正如前文所述，在人工智能芯片領(lǐng)域，國外芯片巨頭占據(jù)了絕大部分市場份額，不論是在人才聚集還是公司合并等方面，都具有絕對的領(lǐng)先優(yōu)勢。而國內(nèi)人工智能初創(chuàng)公司則又呈現(xiàn)百家爭鳴、各自為政的紛亂局面；特別是每個(gè)初創(chuàng)企業(yè)的人工智能芯片都具有自己獨(dú)特的體系結(jié)構(gòu)和軟件開發(fā)套件，既無法融入英偉達(dá)和谷歌建立的生態(tài)圈，又不具備與之抗衡的實(shí)力。
國產(chǎn)人工智能芯片的發(fā)展，一如早年間國產(chǎn)通用處理器和操作系統(tǒng)的發(fā)展，過份地追求完全獨(dú)立、自主可控的怪圈，勢必會(huì)如眾多國產(chǎn)芯片一樣逐漸退出歷史舞臺(tái)。借助于 X86 的完整生態(tài)，短短一年之內(nèi)，兆芯推出的國產(chǎn)自主可控 x86 處理器，以及聯(lián)想基于兆芯 CPU 設(shè)計(jì)生產(chǎn)的國產(chǎn)計(jì)算機(jī)、服務(wù)器就獲得全國各地黨政辦公人員的高度認(rèn)可，并在黨政軍辦公、信息化等國家重點(diǎn)系統(tǒng)和工程中已獲批量應(yīng)用。
當(dāng)然，投身于 X86 的生態(tài)圈對于通用桌面處理器和高端服務(wù)器芯片來說無可厚非，畢竟創(chuàng)造一個(gè)如 Wintel 一樣的生態(tài)鏈已絕非易事，我們也不可能遇見第二個(gè)喬布斯和蘋果公司。而在全新的人工智能芯片領(lǐng)域，對眾多國產(chǎn)芯片廠商來說，還有很大的發(fā)展空間，針對神經(jīng)網(wǎng)絡(luò)加速器最重要的就是找到一個(gè)具有廣闊前景的應(yīng)用領(lǐng)域，如華為海思麒麟處理器之于中科寒武紀(jì)的 NPU；否則還是需要融入一個(gè)合適的生態(tài)圈。另外，目前大多數(shù)國產(chǎn)人工智能處理器都針對于神經(jīng)網(wǎng)絡(luò)計(jì)算進(jìn)行加速，而能夠提供單芯片解決方案的很少；微控制器領(lǐng)域的發(fā)展，ARM 的 Cortex-A 系列和 Cortex-M 系列占據(jù)主角，但是新興的開源指令集架構(gòu) RISC-V 也不容小覷，完全值得眾多國產(chǎn)芯片廠商關(guān)注。
原文發(fā)布時(shí)間為：2018-04-2
本文作者：吳軍寧? 中科院自動(dòng)化所集成中心
本文來自云棲社區(qū)合作伙伴新智元，了解相關(guān)信息可以關(guān)注“AI_era”微信公眾號
原文鏈接：【AI芯片格局最全分析】國內(nèi)AI芯片百家爭鳴，何以抗衡全球技術(shù)寡頭
總結(jié)
以上是生活随笔為你收集整理的【AI芯片格局最全分析】国内AI芯片百家争鸣，何以抗衡全球技术寡头的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： IIS崩溃时自动抓取Dump
- 下一篇： [DeeplearningAI笔记]卷积