LabVIEW+OpenVINO 讓你的YOLOv5在CPU上飛起來
點(diǎn)擊下方卡片，關(guān)注“新機(jī)器視覺”公眾號(hào)
重磅干貨，第一時(shí)間送達(dá)
本文轉(zhuǎn)載自 OpenVINO 中文社區(qū)
一、OpenVINO是什么
OpenVINO是英特爾針對(duì)自家硬件平臺(tái)開發(fā)的一套深度學(xué)習(xí)工具庫(kù)，用于快速部署應(yīng)用和解決方案，包含推斷庫(kù)，模型優(yōu)化等等一系列與深度學(xué)習(xí)模型部署相關(guān)的功能。
特點(diǎn)：
1、在邊緣啟用基于CNN的深度學(xué)習(xí)推理
2、支持通過英特爾?Movidius?VPU在英特爾?CPU，英特爾?集成顯卡，英特爾?神經(jīng)計(jì)算棒2和英特爾?視覺加速器設(shè)計(jì)之間進(jìn)行異構(gòu)執(zhí)行
3、通過易于使用的計(jì)算機(jī)視覺功能庫(kù)和預(yù)先優(yōu)化的內(nèi)核加快上市時(shí)間
4、包括對(duì)計(jì)算機(jī)視覺標(biāo)準(zhǔn)（包括OpenCV *和OpenCL?）的優(yōu)化調(diào)用
5、通俗易懂點(diǎn)說想要在intel-cpu或者嵌入式上部署深度學(xué)習(xí)模型，可以考慮考慮openvino。
二、LabVIEW視覺工具包下載與配置
可在如下鏈接中下載OpenVINO版工具包；
安裝方式可參考：LabVIEW AI視覺工具包（非NI Vision）下載與安裝教程中CPU用戶的安裝
下載地址：英特爾? Distribution of OpenVINO? 工具套件
1）點(diǎn)擊Dev Tools
4）可以選擇安裝路徑，具體安裝可以參考官方文檔：https://docs.openvino.ai/cn/latest/openvino_docs_install_guides_installing_openvino_windows.html
三、模型獲取
openvino工作流程，和其他的部署工具都差不多，訓(xùn)練好模型，解析成openvino專用的.xml和.bin，隨后傳入Inference Engine中進(jìn)行推理。這里和上一篇博客一樣可以使用export.py導(dǎo)出openvino模型：python export.py --weights yolov5s.pt --include openvino
當(dāng)然這里已經(jīng)為大家轉(zhuǎn)換好了模型，大家可以直接下載，下載鏈接：YOLOv5 OpenVINO IR模型
四、LabVIEW+OpenVINO調(diào)用Yolov5進(jìn)行實(shí)時(shí)物體識(shí)別
dnn模塊調(diào)用IR模型（模型優(yōu)化器）
設(shè)置計(jì)算后臺(tái)與計(jì)算目標(biāo)設(shè)備（推理引擎加速）
獲取輸出端的LayerName
圖像預(yù)處理
推理
后處理
繪制檢測(cè)出的對(duì)象
CPU模式下，使用openvino進(jìn)行推理加速，實(shí)時(shí)檢測(cè)推理用時(shí)僅95ms/frame，是之前加載速度的三分之一
注意：
1.必須安裝含openvino字眼的labview工具包
2. readNetFromModelOptimizer.vi中IR模型路徑不可以包含中文
四、附加說明：計(jì)算機(jī)環(huán)境
操作系統(tǒng)：Windows10
python：3.6及以上
LabVIEW：2018及以上 64位版本
視覺工具包：techforce_lib_opencv_cpu_openvino2021-1.0.0.61.vip
OpenVINO：2021.4.2
本文僅做學(xué)術(shù)分享，如有侵權(quán)，請(qǐng)聯(lián)系刪文。