OpenCL,OpenGL编译
OpenCL,OpenGL編譯
TVM已經(jīng)支持多個(gè)硬件后端:CPU,GPU,移動(dòng)設(shè)備等…添加了另一個(gè)后端:OpenGL / WebGL。
OpenGL / WebGL能夠在沒(méi)有安裝CUDA的環(huán)境中利用GPU。目前,這是在瀏覽器中使用GPU的唯一方式。
這個(gè)新的后端允許以一下3種方式使用OpenGL / WebGL:
? 本地OpenGL:可以將深度學(xué)習(xí)模型編譯成OpenGL,并直接在本地機(jī)器上運(yùn)行,完全只使用Python。
? 帶有RPC的WebGL:可以將深度學(xué)習(xí)模型編譯為WebGL,作為一個(gè)共享庫(kù)導(dǎo)出,并帶有Java主機(jī)代碼和WebGL設(shè)備代碼。然后,可以通過(guò)RPC將這個(gè)共享庫(kù)部署到TVM Java運(yùn)行時(shí)系統(tǒng),在瀏覽器內(nèi)運(yùn)行。
? 帶有靜態(tài)庫(kù)的WebGL:可以將深度學(xué)習(xí)模型編譯為WebGL,與TVM Java運(yùn)行時(shí)系統(tǒng)連接,導(dǎo)出整個(gè)包。然后,可以在瀏覽器的網(wǎng)頁(yè)中運(yùn)行模型,不需要依賴(lài)項(xiàng)。詳細(xì)流程如圖1所示。
TVM Compiler
TVM中的操作內(nèi)核是自動(dòng)編譯的,不是人工編譯的。如圖2所示,TVM使用統(tǒng)一的AST定義內(nèi)核,編譯為不同平臺(tái)上的代碼。
? 不需要編寫(xiě)大量附加代碼,就可以將現(xiàn)有模型部署。Relay / TVM模型定義對(duì)于所有target都是相同的,只需將其編譯到新的target。
? 如果要添加新的操作系統(tǒng)內(nèi)核,只需要在TVM中定義一次,不用為每個(gè)target實(shí)現(xiàn)一次。不需要知道如何編寫(xiě)代碼添加新的操作系統(tǒng)內(nèi)核。
CPU(LLVM):模型被編譯為L(zhǎng)LVM IR和JIT’ed,完全在CPU上運(yùn)行。
OpenCL:模型被編譯成OpenCL。還有一些glue code被編譯到LLVM,負(fù)責(zé)設(shè)置和啟動(dòng)OpenCL內(nèi)核。然后在本地機(jī)器上運(yùn)行。
OpenGL:與OpenCL相同,但編譯為OpenGL。
參考鏈接:
https://www.sohu.com/a/225439682_473283
總結(jié)
以上是生活随笔為你收集整理的OpenCL,OpenGL编译的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 半导体异质集成电路
- 下一篇: 高通为何46亿美元ADAS Veonee