中科寒武纪 AI 芯片弯道超车:NPU 为深度学习而 生、指令集是产业根本
人工智能領(lǐng)域深度學(xué)習(xí)興起;神經(jīng)網(wǎng)絡(luò)規(guī)模快速增長,對(duì)計(jì)算能力需求提升。深度學(xué)習(xí)技術(shù)評(píng)為 2013 年十大突破性技術(shù)之首,帶動(dòng)了人工智能的再次興起;深度學(xué)習(xí)憑借其更加優(yōu)秀的擬合能力, 在語音識(shí)別、圖像處理等領(lǐng)域取得諸多本質(zhì)性的突破。近些年,隨著深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)規(guī)模的快 速增長,相關(guān) AI 領(lǐng)域的識(shí)別準(zhǔn)確率有了大幅提升,但是隨之而來的是:整體深度學(xué)習(xí)架構(gòu)對(duì)計(jì)算 能力的需求有了爆發(fā)式的增長。
傳統(tǒng)計(jì)算架構(gòu)在神經(jīng)網(wǎng)絡(luò)處理方面有所欠缺。目前深度學(xué)習(xí)的基本操作是神經(jīng)元和突觸的處理,傳 統(tǒng)的處理器指令集(包括 x86 和 ARM 等)是為了進(jìn)行通用計(jì)算發(fā)展起來的,其基本操作為算術(shù)操 作(加減乘除)和邏輯操作(與或非),往往需要數(shù)百甚至上千條指令才能完成一個(gè)神經(jīng)元的處理, 深度學(xué)習(xí)的處理效率不高。
中科寒武紀(jì) NPU 專為神經(jīng)網(wǎng)絡(luò)處理定制,提供高性能功耗比解決方案,賦能移動(dòng)端 AI 芯片。中 科寒武紀(jì)是全球智能芯片領(lǐng)域的先行者,宗旨是打造各類智能云服務(wù)器、智能終端以及智能機(jī)器人 的核心處理器芯片。2016 年推出的寒武紀(jì) 1A 處理器(Cambricon-1A)是世界首款商用深度學(xué)習(xí) 專用處理器,面向智能手機(jī)、安防監(jiān)控、可穿戴設(shè)備、無人機(jī)和智能駕駛等各類終端設(shè)備,在運(yùn)行 主流智能算法時(shí)性能功耗比全面超越 CPU 和 GPU,與特斯拉增強(qiáng)型自動(dòng)輔助駕駛、IBM Watson 等國內(nèi)外新興信息技術(shù)的杰出代表同時(shí)入選第三屆世界互聯(lián)網(wǎng)大會(huì)(烏鎮(zhèn))評(píng)選的十五項(xiàng)“世界互
聯(lián)網(wǎng)領(lǐng)先科技成果”。中科寒武紀(jì) NPU 專為神經(jīng)網(wǎng)絡(luò)定制:
1)、優(yōu)化芯片架構(gòu),提升芯片對(duì)于神經(jīng)網(wǎng)絡(luò)的處理效率。傳統(tǒng)架構(gòu)存儲(chǔ)和處理是分離的,分別由 存儲(chǔ)器和運(yùn)算器來實(shí)現(xiàn)(X86 處理器和英偉達(dá) GPU);而神經(jīng)網(wǎng)絡(luò)中存儲(chǔ)和處理是一體化的,都 是通過突觸權(quán)重來體現(xiàn);當(dāng)傳統(tǒng)架構(gòu)計(jì)算神經(jīng)網(wǎng)絡(luò)時(shí)將受到存儲(chǔ)和處理分離式結(jié)構(gòu)的制約,因而影 響效率。寒武紀(jì)策略則通過“片上存儲(chǔ)”的方式盡量減少訪存次數(shù),提升性能。
圖 6:通過改變芯片架構(gòu)、優(yōu)化片上存儲(chǔ)層次,降低訪存次數(shù)、提升性能
?
?
資料來源:中科寒武紀(jì)、中科院、東方證券研究所
?
2)、基于優(yōu)化的芯片架構(gòu),針對(duì)性的提出神經(jīng)網(wǎng)絡(luò)計(jì)算處理的指令集。傳統(tǒng)的計(jì)算架構(gòu)并非是專 門針對(duì)神經(jīng)網(wǎng)絡(luò)架構(gòu)計(jì)算而設(shè)計(jì);而寒武紀(jì) NPU 芯片設(shè)計(jì)能夠?qū)τ谌我庖?guī)模 DNN、CNN、MLP、 SOM 等多種神經(jīng)網(wǎng)絡(luò)算法能夠?qū)崿F(xiàn)通用性的支撐,同時(shí)對(duì)神經(jīng)元和突觸數(shù)據(jù)在芯片上的傳輸提供 了一系列專門的支持;實(shí)現(xiàn)一條指令即可完成一組神經(jīng)元的處理。
?
?
?
?
總結(jié)
以上是生活随笔為你收集整理的中科寒武纪 AI 芯片弯道超车:NPU 为深度学习而 生、指令集是产业根本的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【C++难点收录】“为什么C++难,你真
- 下一篇: Adobe发布AI智能生成图像新工具,助