盤(pán)點(diǎn)在使用openvino過(guò)程中遇到的一些問(wèn)題，如何解決的-第4篇

OpenVINO是英特爾基于自身現有的硬件平臺開(kāi)發(fā)的一種可以加快高性能計算機視覺(jué)和深度學(xué)習視覺(jué)應用開(kāi)發(fā)速度工具套件，支持各種英特爾平臺的硬件加速器上進(jìn)行深度學(xué)習，并且允許直接異構執行。 支持在Windows與Linux系統，Python/C++語(yǔ)言。

主要特點(diǎn)：

在Intel平臺上提升計算機視覺(jué)相關(guān)深度學(xué)習性能達19倍以上

解除CNN-based的網(wǎng)絡(luò )在邊緣設備的性能瓶頸

對OpenCV，OpenXV*視覺(jué)庫的傳統API實(shí)現加速與優(yōu)化

基于通用API接口在CPU、GPU、FPGA等設備上運行加上

OpenVINO工具包(ToolKit)主要包括兩個(gè)核心組件，模型優(yōu)化器(Model Optimizer)和（Model Optimizer）

在這里盤(pán)點(diǎn)一些在使用中遇到的問(wèn)題及怎么解決的。這是第4篇，之前3篇請見(jiàn)：

盤(pán)點(diǎn)在使用openvino過(guò)程中遇到的一些問(wèn)題,如何解決的-第1篇

http://dyxdggzs.com/article/202203/432548.htm

盤(pán)點(diǎn)在使用openvino過(guò)程中遇到的一些問(wèn)題，如何解決的-第2篇

http://dyxdggzs.com/article/202204/432865.htm

盤(pán)點(diǎn)在使用openvino過(guò)程中遇到的一些問(wèn)題，如何解決的-第3篇

http://dyxdggzs.com/article/202204/433278.htm

1.問(wèn)：我在安裝openvino2021.2的時(shí)候，測試的時(shí)候出現了錯誤。我查過(guò)了，這個(gè)文件是存在的，但是打不開(kāi)。visual版本是2019，cmake版本是3.23，python版本是3.7.9，可以請教一下這個(gè)問(wèn)題怎么解決嗎？

答: 中文換掉呢？

2.問(wèn)：有做過(guò)openvino  + OPENCV  c++ 預測的大佬么？我在安裝配置好后，感覺(jué)速度沒(méi)有提升，是哪里出了問(wèn)題呢？有可以幫忙配置openvino  c+的朋友么？

答：說(shuō)速度沒(méi)有提升，跟tfserving相比么

回復：cpu

答：這是編譯openvino? 沒(méi)搞過(guò)，只用openvino 轉換過(guò)模型， 利用ovms 來(lái)做推理

回復：不用，網(wǎng)上下載的，也配置了，但是編譯不過(guò)

答：編譯是費勁， 直接用ovms唄，docker鏡像

3.問(wèn)：為什么這里沒(méi)有 r1i 的節點(diǎn)，我轉化的模型上明明有 r1i

答：openvino換2022試下，我之前也有個(gè)onnx節點(diǎn)不行 換2022就success了

回復：我查到我這個(gè)節點(diǎn)是動(dòng)態(tài)節點(diǎn)，好像是這個(gè)原因

答：我vs用openvino也是和其他一樣 include頭文件+鏈接庫路徑+添加庫就行了。把2021卸了吧，2022他包的結構變化蠻大的，可以試下

4.問(wèn)：哪位遇到過(guò)這個(gè)問(wèn)題??？包含這個(gè)文件后，編譯報錯

答：你vs里面是怎么報錯的呀

回復：看后面這張圖

答：我覺(jué)得這個(gè)error，好像也沾點(diǎn)版本的問(wèn)題

回復：安裝過(guò)程沒(méi)問(wèn)題，運行demo也運行起來(lái)了，按照教程弄的包含目錄和庫目錄，但是最后包含文件以后，就編譯不了。你是用的什么版本的vs

答：2019

回復：專(zhuān)業(yè)版？我用的15，我也是在擔心是不是版本的問(wèn)題

答：就是免費的 社區版吧是，我意思是openvino的版本

回復：官網(wǎng)下的，官網(wǎng)主頁(yè)最低的版本2020.3吧，demo運行正確，py應該是沒(méi)有問(wèn)題的，所以懷疑是vs的版本不對

5.問(wèn)：定義的時(shí)候報內存錯誤，請問(wèn)有遇到過(guò)的朋友么？

答：你檢查一下程序目錄是否有plugin.xml文件，我之前是因為缺少這個(gè)碰到過(guò)

回復：這個(gè)文件在哪里找呢？

答：建議try catch一下，看是否能獲取到有效的錯誤信息

回復：確實(shí)沒(méi)有

    try {

    }
    // -*- error -*- //

    catch (std::bad_alloc& e) {
        std::cerr << "BAD ALLOC Exception : " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (const std::exception& e) {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }

    catch (...) {
        std::cerr << "unknown exception" << std::endl;
        return EXIT_FAILURE;
    }

答：安裝目錄那里應該有吧

回復：是這個(gè)原因，謝謝

6.問(wèn)：執行到這一行報錯，有朋友遇到過(guò)么？

答：環(huán)境配置問(wèn)題或者模型格式和路徑問(wèn)題

回復：有訓練好的模型么？可以傳一份確定可以加載的模型排除一下問(wèn)題么？

問(wèn)：為啥是onnx文件路徑，onnx文件不是應該轉換成bin和xml文件嗎

答：都可以

回復：onnx是可以的吧

答：release運行

回復：

答：那就是模型有問(wèn)題

回復：用cv的dnn是可以加載的，有可以加載的模型么？

答：dnn和openvino用的格式不同，導出模型opset設置成10

回復：在轉換成onnx的代碼里面設置么？

6.問(wèn)：openvino 支持哪些模型，可以在哪里查到，最好是官方發(fā)布的，百度上面的感覺(jué)不全面

答：可以參考這兩個(gè)列表：

https://docs.openvino.ai/latest/model_zoo.html

https://docs.openvino.ai/cn/latest/omz_models_group_public.html
文檔中也有關(guān)于這些模型支持任務(wù)的分類(lèi)

7.問(wèn)：樹(shù)莓派用python調用opencv打開(kāi)攝像頭會(huì )報錯有沒(méi)有大佬能指點(diǎn)一下

答：500×700有點(diǎn)大，可以根據模型輸入大小調整下格式

8.問(wèn)：這。。。。。按的算opencv還是openvino。。。。

答：現在openvino也支持arm了？，他們不應該主要支持X86架構嗎？

回復：arm是社區支持的 不是官方

9.問(wèn)：有大神遇到這個(gè)報錯嗎

答：環(huán)境沒(méi)配好

答：你這個(gè)加載環(huán)境變量了嗎？官方demo可以跑成功嗎

10.問(wèn)：openvino  能在集成顯卡上跑嗎

答：可以

回復：在集成顯卡上跑和cpu上跑差別大嗎

問(wèn)：openvino  哪里設置集成顯卡跑

答：GPU

11.問(wèn)：這個(gè)GNA  是集成顯卡嗎

答：不是，這個(gè)是Intel的神經(jīng)網(wǎng)絡(luò )加速棒

12.問(wèn)：怎么用FP16做推理呢

這兩個(gè)地方改了不行，檢測的時(shí)候失敗了

是不是這個(gè)地方還要改呀，還是說(shuō)模型需要轉換成FP16的

答：是的，你的模型要轉換為FP16格式?，F在模型是什么格式？FP32嗎？你用openvino的模型優(yōu)化器轉成fp16就可以啦

13.問(wèn)：請問(wèn)有沒(méi)有人將PB轉IR模型的時(shí)候，遇到這個(gè)問(wèn)題

答：檢查一下安裝了模型優(yōu)化器的requirements.txt了嗎

14.問(wèn)：運行Gpu加速識別的圖片時(shí)不時(shí)是這種花的是怎么回事呢

答：做訓練還是推理呢？什么模型應用呢？可以詳細描述一下嗎

回復：?jiǎn)?wèn)題已經(jīng)解決了，是調用流程問(wèn)題，圖片數據有錯亂

15.問(wèn)：請教一下大家，CPU和核顯的速度差距大不大（電腦沒(méi)有核顯，YOLOv5s模型）

答：這個(gè)要看具體問(wèn)題具體分析，不同代不同系列的cpu帶的核顯性能也不一樣