安谋科技发布自研“周易”X2 NPU:性能飙升 软件开源
作為中國最大的芯片IP設(shè)計與服務(wù)供應(yīng)商,安謀科技一直堅持自研IP技術(shù)、Arm IP相配合,為本土半導(dǎo)體產(chǎn)業(yè)提供豐富的產(chǎn)品組合和解決方案。
目前,安謀科技在國內(nèi)的授權(quán)客戶已經(jīng)超過370家,累計芯片出貨量突破300億顆,拉動下游年產(chǎn)值過萬億人民幣。
安謀科技的自研產(chǎn)品線包括“周易”NPU、“星辰”CPU、“山海”SPU、“玲瓏”ISP、“玲瓏”VPU,在中國本土授權(quán)客戶已超過160家,累計出貨量突破2億顆。
“周易”NPU已經(jīng)在物聯(lián)網(wǎng)、智能終端、汽車等市場均有實際落地,形成了一套完整的工具鏈及技術(shù)服務(wù),可適配100多種算法。
“周易”X2 NPU不僅大幅提升算力、精度、靈活性等,還針對眾多應(yīng)用場景進行了專門優(yōu)化,并且同步公布了開源計劃。
【基于V3架構(gòu) 性能全面提升】
“周易”X2 NPU采用了安謀科技自研的第三代“周易”架構(gòu),支持多核集群(Cluster),每四個核心一組,可以多個集群并聯(lián)堆疊,最高支持320TOPS(每秒320萬億次運算)算力子系統(tǒng)。
同時,它還具備實時的硬件任務(wù)管理,可實現(xiàn)最高千萬次/秒的任務(wù)調(diào)度,硬件任務(wù)調(diào)度延只需100ns,可充分利用多核心計算資源,釋放各個計算單元的效能潛力。
算力大幅提升的同時,“周易”X2 NPU還支持更高的精度和靈活性。
精度方面支持int4/int8/int12/int16/int32,fp16/bf16/fp32等多精度整數(shù)、浮點融合計算,從而大大提升計算效率、計算密度。
靈活性方面不但支持自定義算子,可滿足各種模型部署需求,還面向各類應(yīng)用場景提供定制化AI解決方案,進一步滿足智能駕駛、手機影像AI處理、人機交互等場景的差異化需求。
應(yīng)用場景方面,“周易”X2 NPU針對車載智能座艙、ADAS(高級輔助自動駕駛)、邊緣計算、臺式機、智能手機、平板電腦等做了大量性能優(yōu)化。
比如大幅提升手機拍照、錄像時的高分辨率圖像處理能力,比如提升Transformer等常用車載應(yīng)用的性能,比如采用i-Tiling技術(shù)從而將帶寬需求從40GB/s大幅減少到4GB/s。
為了幫助開發(fā)者更方便、快速地進行算法移植和調(diào)試,“周易”X2 NPU還提供了一套完善的人工智能軟件開發(fā)平臺,可以更好地滿足開發(fā)者對性能調(diào)優(yōu)、系統(tǒng)部署的需求。
作為Bit精度的軟件仿真平臺,它支持主流的人工智能框架,比如TensorFlow、Caffe、ONNX、PyTorch等模型,操作系統(tǒng)支持Android、Linux、RTOS、QNX等。
支持多種開放接口,支持用戶模型和自定義算子等開發(fā)和調(diào)試。
支持豐富的調(diào)試工具,支持多種層次的開發(fā)和調(diào)試,滿足高級開發(fā)者。
支持TVM、Arm NN的SoC異構(gòu)計算,從而有效使用CPU、GPU、NPU等計算資源。
目前,安謀科技已經(jīng)向客戶正式交付“周易”X2 NPU,今年內(nèi)就會有多款搭載“周易”X2 NPU的芯片產(chǎn)品面世。
【軟件開源加速 攜手共建生態(tài)】
就在最近,安謀科技還發(fā)起了“周易”NPU軟件開源計劃,通過開放源碼滿足客戶更自主、更靈活的算法移植需求,與開發(fā)者、合作伙伴共同建設(shè)國內(nèi)NPU產(chǎn)業(yè)生態(tài)。
率先對外開放是包括NPU中間表示層規(guī)范、模型解析器、模型優(yōu)化器、驅(qū)動等,并提供免費的軟件工具鏈,包括軟件模擬器、調(diào)試器、C編譯器。
目前,安謀科技已開源“周易”NPU軟件工具Compass的前端,并在開源計劃的第一階段開放以下資源:
- Compass解析器:解析器源代碼和中間層表示規(guī)范
- NPU Linux驅(qū)動:更容易在現(xiàn)有SoC上部署,并符合GPLv2協(xié)議
- Compass集成:提供“周易”NPU網(wǎng)絡(luò)構(gòu)造工具端到端驗證環(huán)境
- 模型倉庫:—已驗證的開源NN模型,便于測試和快速上手
安謀科技已在代碼托管平臺Gitee、GitHub上建立“周易”NPU開源項目的開源庫,后續(xù)還將逐步開放更多資源,例如模型優(yōu)化器、模型量化、算子實現(xiàn)等的源代碼。
“周易”NPU軟件開源計劃已吸引第一批合作伙伴“入駐”,其中不乏來自AIoT、智能汽車、智能操作系統(tǒng)等領(lǐng)域的明星企業(yè)。
值得一提的是,湖北芯擎科技宣布,旗下新一代智能座艙芯片“龍鷹一號”實現(xiàn)量產(chǎn)出貨,搭載安謀科技自研“周易”NPU、Arm IP,在高性能算力、AI性能方面具有諸多創(chuàng)新。
它不但擁有CPU、GPU、可編程NPU內(nèi)核,還擁有強大的VPU、ISP、DPU、DSP集群,并內(nèi)置符合國密算法的信息安全引擎、符合ASIL-D標準的安全島設(shè)計。
其中,安謀科技自研的“周易”NPU為其提供AI助力,可適配100多種算子、100多種模型,支持自定義算子開發(fā),還通過微架構(gòu)優(yōu)化,在運行部分神經(jīng)網(wǎng)絡(luò)模型時,相同算力配置下AI性能提升一倍,更有安全擴展,能夠有效保護芯片上的用戶數(shù)據(jù)和AI算法,同時面向各類應(yīng)用場景提供定制化AI解決方案。
總結(jié)
以上是生活随笔為你收集整理的安谋科技发布自研“周易”X2 NPU:性能飙升 软件开源的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 西北工业大学matlab安装,西北工业大
- 下一篇: matlab里查看图像属性,MATLAB