Nature子刊:清华研究团队盘点类脑计算芯片简史
再過幾天,馬斯克就要官宣其腦機接口的最新進展了。
他此前接受采訪表示,「Neuralink 準(zhǔn)備在一年內(nèi)將腦機接口植入人體」。
人類對大腦的探索從未終止,近年來受神經(jīng)啟發(fā)式的計算芯片也取得了舉世矚目的進展。
近日,清華大學(xué)的研究人員回顧了神經(jīng)啟發(fā)式計算芯片的最新進展,以洞悉迄今為止取得的進展,提出仍需克服的挑戰(zhàn)。
他們發(fā)表在《自然·電子學(xué)》上的評論文章還概述了一系列共同設(shè)計原則,這些原則可以為新的神經(jīng)啟發(fā)性電路、設(shè)備和算法的開發(fā)提供思路。
鏈接:https://www.nature.com/articles/s41928-020-0435-7
神經(jīng)啟發(fā)式計算芯片的「大地震」
近年來,全球許多研究團隊一直在研究受人腦啟發(fā)的計算技術(shù),比如深度學(xué)習(xí)算法。盡管人們認(rèn)為某些技術(shù)在更廣泛的應(yīng)用中很有前途,但是常規(guī)硬件有時候并不能支撐其計算負(fù)荷,因此會限制這些技術(shù)的性能。
為了克服現(xiàn)有硬件的局限性,同時要確保受大腦啟發(fā)的計算技術(shù)取得最佳結(jié)果,一種可能的解決方案便是創(chuàng)建新的電子組件,以更好地反映人腦的結(jié)構(gòu)。
一類受神經(jīng)啟發(fā)的計算芯片是專門為模仿人和其他動物的大腦神經(jīng)結(jié)構(gòu)的人工智能應(yīng)用而設(shè)計的。
清華大學(xué)的研究人員在他們的新論文中仔細(xì)研究了神經(jīng)啟發(fā)性計算芯片設(shè)計的最新發(fā)展,并反思了他們在該領(lǐng)域的努力中所汲取的一些教訓(xùn)。
基于 NVM 的神經(jīng)啟發(fā)計算芯片的未來路線圖
上個世紀(jì) 80 年代,隨著用于超大規(guī)模集成電路(VLSI)技術(shù)的發(fā)展以及對計算能力的強烈需求,人們開始對神經(jīng)啟發(fā)式計算芯片產(chǎn)生極大的興趣。
但是神經(jīng)啟發(fā)式計算硬件的想法可以追溯到 1957 年 Perceptron7 的問世,Perceptron7 是一臺專用模擬計算機。
1961 年,ADALINE8 通過將分立的可變電阻器組裝到能夠進行訓(xùn)練的自適應(yīng)硬件感知器中而構(gòu)建。但是由于沒有高密度設(shè)備集成的能力,這些原始硬件的規(guī)模巨大,而所包含的突觸設(shè)備的數(shù)量卻非常有限。
超大規(guī)模集成電路
當(dāng) HP Labs 在 2008 年首次從實驗上建立了憶阻器的概念與固態(tài)電子器件的聯(lián)系,利用基本的設(shè)備來開發(fā)神經(jīng)啟發(fā)式的計算芯片,一場根本性的革命就開始了。
2010 年,一種模擬演示突觸功能的憶阻器被創(chuàng)造出來,這是探索基于 NVM 的神經(jīng)啟發(fā)式計算的首次嘗試。
從那時起,各國研究人員針對基于 NVM 的神經(jīng)啟發(fā)式計算的設(shè)備、體系結(jié)構(gòu)、芯片和算法投入了越來越多的研究工作。
神經(jīng)啟發(fā)計算芯片的里程碑
評估神經(jīng)啟發(fā)式計算芯片的有效性的四個指標(biāo)
除了概述評估大腦啟發(fā)式芯片的重要指標(biāo)外,Wu 和他的同事還介紹了一套共同設(shè)計原則,可以作為該領(lǐng)域未來研究的參考。這些原則主要基于其過去的研究發(fā)現(xiàn)和觀察結(jié)果。
研究人員提出的協(xié)同設(shè)計工具是他們研究中最重要的部分。在實際的神經(jīng)啟發(fā)式計算芯片設(shè)計中,如果沒有這種協(xié)同設(shè)計工具,就很難獲得高性能的芯片。
例如,可用作突觸存儲器的非易失性存儲器(NVM)設(shè)備通常具有固有的內(nèi)在特性,而這些非理想狀態(tài)會降低芯片的性能。
但是要降低器件的非理想狀態(tài),需要付出很多努力,而且我們無法完全消除它們。因此清華大學(xué)研究人員設(shè)計的協(xié)同設(shè)計工具不僅在設(shè)備上,而且在電路或系統(tǒng)上可以幫助優(yōu)化芯片的性能。
論文第一作者 Huaqiang Wu 表示,「本文的想法來自我們先前設(shè)計神經(jīng)啟發(fā)性計算芯片的嘗試。在過去的研究中,我們發(fā)現(xiàn)很難在單個級別(例如設(shè)備或電路級別)上優(yōu)化這些芯片的性能,并且需要使用涵蓋廣泛領(lǐng)域的共同設(shè)計策略來優(yōu)化此類芯片從設(shè)備到算法的各種元素。」
研究人員主要研究了神經(jīng)啟發(fā)的計算芯片在支持算法,增強神經(jīng)網(wǎng)絡(luò)或人工神經(jīng)網(wǎng)絡(luò)方面的潛力。
Wu 強調(diào)了工程師在評估神經(jīng)啟發(fā)式計算芯片的有效性的四個指標(biāo):計算密度、能效、計算精度、芯片學(xué)習(xí)能力。
評估神經(jīng)啟發(fā)式計算芯片的有效性的四個指標(biāo)
在回顧過去的研究中,研究人員發(fā)現(xiàn)這些指標(biāo)對于神經(jīng)啟發(fā)性計算芯片的設(shè)計和優(yōu)化至關(guān)重要,因為它們最能代表芯片的獨特功能,以及與傳統(tǒng)芯片相比潛在的優(yōu)勢。
比如,計算密度是一種反映芯片面積效率的指標(biāo)。它使工程師能夠確定芯片一次可以存儲多少信息,以及它們內(nèi)存是否足以運行大規(guī)模神經(jīng)網(wǎng)絡(luò)。
可以從上圖中看出,與基于 CMOS 的芯片相比,基于 NVM 的芯片具有明顯的優(yōu)勢。
因此,NVM 是大規(guī)模神經(jīng)啟發(fā)計算芯片未來主流技術(shù)的非常有希望的候選者。
目前已經(jīng)開發(fā)了幾種基于 NVM 的小型芯片,從 1000 個單元到 100 萬個單元。
然而,集成多個大型模擬 NVM 陣列的神經(jīng)啟發(fā)計算芯片的實現(xiàn)仍然面臨許多挑戰(zhàn)。從設(shè)備到芯片再到算法,還需要進行大量的研究工作。
Wu 表示,「希望我們的工作將幫助非專業(yè)讀者找到更多有關(guān)神經(jīng)啟發(fā)性計算芯片的信息,同時也將促進這一研究領(lǐng)域的更大發(fā)展。」
目前,清華大學(xué)研究人員正計劃制定其他指南,以加快和促進人工智能和受神經(jīng)啟發(fā)的電子領(lǐng)域的研究。他們的這篇論文可以為那些研究受大腦啟發(fā)的芯片的工程師提供總體路線圖。
Wu 最后表示,在我們未來的研究中,我們可以將設(shè)計神經(jīng)啟發(fā)性計算芯片分為兩部分:
1 在設(shè)備制造和技術(shù)集成部分,我們將優(yōu)化設(shè)備性能,制造新的神經(jīng)啟發(fā)設(shè)備,并探索三維神經(jīng)啟發(fā)計算芯片。
2 在芯片和系統(tǒng)部分,我們將開發(fā)共同設(shè)計工具并設(shè)計通用的神經(jīng)啟發(fā)計算芯片,尤其是基于 NVM 的內(nèi)存計算芯片。
參考鏈接:
https://www.nature.com/articles/s41928-020-0435-7
https://techxplore.com/news/2020-08-advancements-neuro-inspired-chips.html
總結(jié)
以上是生活随笔為你收集整理的Nature子刊:清华研究团队盘点类脑计算芯片简史的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: TikTok的起诉书来了:信息量巨大!美
- 下一篇: 阿里京东提速 拼多多却在"省钱