一、簡介

英特爾OpenVINO，全稱Open Visual Inference Neural Network Optimization。

我們逐個單詞解析一下，"open"是開源的意思，比如opencv；"visual"譯為視覺的，"inference"與"optimization"分別譯為推理與優(yōu)化，Neural Network是神經(jīng)網(wǎng)絡的意思。這樣看來，openvino這個單詞就不難理解啦~

然后我們來整合一下，OpenVINO是一種用于深度神經(jīng)網(wǎng)絡中實現(xiàn)模型優(yōu)化和推理加速的開源工具套件。

該工具套件包含model optimizer 和 inference engine。

---

二、開發(fā)流程

將利用深度學習框架(如tensorflow、pytorch等)訓練好的模型利用openvino工具套件中的模型優(yōu)化器即model optimizee生成IR文件，其中包含.xml（描述神經(jīng)網(wǎng)絡的拓撲結構）和.bin(存儲模型權重參數(shù))，接著由推理引擎即inference engine讀取執(zhí)行，使得推論能夠執(zhí)行在不同的裝置上(CPU、GPU、VPU等)。這樣使用者就可以利用inference engineAPI?調用啦。

總結

以上是生活随笔為你收集整理的初识OpenVINO的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。