日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 综合教程 >内容正文

综合教程

清华制人工神经网络芯片,能效比GPU高两个数量级

發布時間:2023/11/21 综合教程 56 生活家
生活随笔 收集整理的這篇文章主要介紹了 清华制人工神经网络芯片,能效比GPU高两个数量级 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

澎湃新聞記者 虞涵棋

傳統的計算機將數據儲存在內存中,然后傳送到處理器運算。這種來回“搬運”數據的活動耗費能源和時間,被認為是馮·諾依曼計算架構的核心瓶頸。

而人類的大腦卻并非如此,而是直接在記憶體里計算。被認為具有“存算一體”潛力的憶阻器,因而成為類腦計算領域的熱門器件。

近日,清華大學微電子所、未來芯片技術高精尖創新中心錢鶴、吳華強團隊與合作者在頂尖學術期刊、英國《自然》雜志(Nature)在線發表論文,報道了基于憶阻器陣列芯片卷積網絡的完整硬件實現。

該存算一體系統在處理卷積神經網絡(CNN)時能效比前沿的圖形處理器芯片(GPU)高兩個數量級,可以說在一定程度上突破了“馮諾依曼瓶頸”的限制:大幅提升算力的同時,實現了更小的功耗和更低的硬件成本。

基于憶阻器芯片的存算一體系統 來源:清華大學

什么是憶阻器?

憶阻器,全稱記憶電阻器(Memristor),是繼電阻、電容、電感之后的第四種電路基本元件,表示磁通與電荷之間的關系,最早由加州大學伯克利分校教授蔡少棠在1971年預言存在,惠普公司在2008年研制成功。

簡單來說,這種組件的的電阻會隨著通過的電流量而改變,而且就算電流停止了,它的電阻仍然會停留在之前的值,直到接受到反向的電流它才會被推回去,等于說能“記住”之前的電流量。

這種奇妙的效果,其實和神經元突觸有相仿之處。再加上憶阻器還具有尺寸小、操作功耗低、可大規模集成(三維集成)等優點,難怪計算機科學家們在憶阻器身上看到了存算一體、低能耗類腦計算的前景。

人工神經網絡近年來大放異彩,如果用憶阻器連接成陣列,作為人工神經網絡的硬件,會有什么效果?

憶阻器陣列

盡管國內外許多企業、研究機構給予關注,但據清華大學新聞頁面報道,當前國際上的憶阻器研究還停留在簡單網絡結構的驗證,或者基于少量器件數據進行的仿真。基于憶阻器陣列的完整硬件實現仍然有很多挑戰。

比如,器件方面,需要制備高一致、可靠的陣列;系統方面,憶阻器因工作原理而存在固有缺陷(如器件間波動,器件電導卡滯,電導狀態漂移等),會導致計算準確率降低;架構方面,憶阻器陣列實現卷積功能需要以串行滑動的方式連續采樣、計算多個輸入塊,無法匹配全連接結構的計算效率。

通過近年來積累的一些成果,錢鶴、吳華強團隊逐漸優化材料和器件結構,制備出了高性能的憶阻器陣列。

2017年5月,該課題組就曾在《自然通訊》報告稱,首次實現了基于1024個氧化物憶阻器陣列的類腦計算,將氧化物憶阻器的集成規模提高了一個數量級。這使芯片更加高效地完成人臉識別計算任務,將能耗降低到原來的千分之一以下。

憶阻器神經網絡

這次,錢、吳團隊集成了8個包括2048個憶阻器的陣列,以提高并行計算的效率。

在此基礎上,他們構建了一個五層的卷積神經網絡進行圖像識別,獲得了96%以上的高精度,結果顯示,基于憶阻器的卷積神經網絡比目前最先進的GPU的能效要高出兩個數量級。

這樣的提升是如何實現的?原來,為解決器件固有缺陷造成的系統識別準確率下降問題,他們提出了一種新型的混合訓練算法,僅需用較少的圖像樣本訓練神經網絡,并微調了最后一層網絡的部分權重。

與此同時,他們提出了空間并行的機制,將相同卷積核編程到多組憶阻器陣列中,各組憶阻器陣列可并行處理不同的卷積輸入塊,提高并行度來加速卷積計算。

多個憶阻器陣列并行處理

隨著摩爾定律放緩,計算界翹首以待新的架構突破馮諾依曼瓶頸,適應越來越復雜的AI問題。基于憶阻器的存算一體系統在這場角逐中穩步前進。

總結

以上是生活随笔為你收集整理的清华制人工神经网络芯片,能效比GPU高两个数量级的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。