一、簡(jiǎn)介

英特爾OpenVINO，全稱Open Visual Inference Neural Network Optimization。

我們逐個(gè)單詞解析一下，"open"是開(kāi)源的意思，比如opencv；"visual"譯為視覺(jué)的，"inference"與"optimization"分別譯為推理與優(yōu)化，Neural Network是神經(jīng)網(wǎng)絡(luò)的意思。這樣看來(lái)，openvino這個(gè)單詞就不難理解啦~

然后我們來(lái)整合一下，OpenVINO是一種用于深度神經(jīng)網(wǎng)絡(luò)中實(shí)現(xiàn)模型優(yōu)化和推理加速的開(kāi)源工具套件。

該工具套件包含model optimizer 和 inference engine。

---

二、開(kāi)發(fā)流程

將利用深度學(xué)習(xí)框架(如tensorflow、pytorch等)訓(xùn)練好的模型利用openvino工具套件中的模型優(yōu)化器即model optimizee生成IR文件，其中包含.xml（描述神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)）和.bin(存儲(chǔ)模型權(quán)重參數(shù))，接著由推理引擎即inference engine讀取執(zhí)行，使得推論能夠執(zhí)行在不同的裝置上(CPU、GPU、VPU等)。這樣使用者就可以利用inference engineAPI?調(diào)用啦。

總結(jié)

以上是生活随笔為你收集整理的初识OpenVINO的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。