使用 OpenVINO? 條件編譯功能，壓縮 Windows 應用體積

在 OpenVINO? 編譯過(guò)程中，我們可以根據應用對于硬件平臺的需求，關(guān)閉或開(kāi)指定推理后端的編譯，以達到簡(jiǎn)化 OpenVINO? 運行庫的目的，例如 cmake -DENABLE_INTEL_GPU=OFF 便可以取消 GPU plugin 庫的編譯。除此以外 OpenVINO? 還提供了條件編譯功能，用于針對特定模型進(jìn)行運行庫壓縮，接下來(lái)就讓我們一起來(lái)看下如何在 Windows 操作系統上實(shí)現這一功能。

環(huán)境安裝與配置

第一步，我們需要確保已經(jīng)在 Windows 上安裝了 Visual Studio 編譯環(huán)境。如果是第一次安裝 Visual Studio 可以通過(guò)以下鏈接下載。

https://visualstudio.microsoft.com/

在安裝組件過(guò)程中，選擇“使用C++的桌面開(kāi)發(fā)”。

圖：Visual Studio 安裝示例

安裝完畢后建議使用 Visual Studio 自帶的命令行工具“x64 Native Tools Command Prompt”對編譯環(huán)境進(jìn)行初始化。

圖：搜索“x64 Native Tools Command Prompt”

預編譯

在完成編譯環(huán)境初始化后，會(huì )看到以下提醒。接下來(lái)我們就可以在該命令行終端上輸入編譯指令了。

圖：編譯環(huán)境初始化成功

在這一步中，我們需要先利用 Ninja 編譯工具對 OpenVINO? 運行庫進(jìn)行預編譯，并使用 itt 組件來(lái)收集模型運行過(guò)程中的依賴(lài)數據?？梢酝ㄟ^(guò) cmake -DENABLE_PROFILING_ITT=ON -DSELECTIVE_BUILD=COLLECT ..  指令開(kāi)啟這一功能的編譯。以下是完整命令參考：

git clone https://github.com/openvinotoolkit/openvino.git 
set OPENVINO_HOME=D:work_pathopenvino
cd %OPENVINO_HOME%
git submodule update --init --recursive
md build_cc
cd build_cc
cmake -G Ninja -Wno-dev -DCMAKE_BUILD_TYPE=Debug -DENABLE_CPPLINT=OFF -DCMAKE_VERBOSE_MAKEFILE=ON -DCMAKE_COMPILE_WARNING_AS_ERROR=OFF -DENABLE_FASTER_BUILD=ON -DENABLE_SANITIZER=OFF -DTHREADING=TBB -DBUILD_SHARED_LIBS=OFF -DENABLE_PROFILING_ITT=ON -DSELECTIVE_BUILD=COLLECT -DENABLE_INTEL_GPU=OFF -DENABLE_MULTI=OFF -DENABLE_AUTO=OFF -DENABLE_AUTO_BATCH=OFF -DENABLE_HETERO=OFF -DENABLE_TEMPLATE=OFF -DENABLE_OV_ONNX_FRONTEND=OFF -DENABLE_OV_PADDLE_FRONTEND=OFF -DENABLE_OV_PYTORCH_FRONTEND=OFF -DENABLE_OV_JAX_FRONTEND=OFF -DENABLE_OV_TF_FRONTEND=OFF -DCMAKE_INSTALL_PREFIX=install -DENABLE_PYTHON=OFF ..
cmake --build . --config Debug

數據收集

完成預編譯后，我們需要針對特定模型，利用 itt 工具收集 OpenVINO? 運行庫在運行指定模型所需的依賴(lài)模塊。

cd %OPENVINO_HOME%build_cc
cmake --build . --config Debug --target sea_itt_lib
cd %OPENVINO_HOME%s
et PATH=%PATH%;%OPENVINO_HOME%temptbbbin
mkdir cc_data
cd %OPENVINO_HOME%cc_data
python3 ..thirdpartyitt_collectorruntoolsea_runtool.py --bindir ..binintel64Debug -o %OPENVINO_HOME%cc_datadata ! ..binintel64Debugbenchmark_app.exe -niter 1 -nireq 1 -m <your_model.xml> -d NPU

可以看到在以上命令中，我們將 benchmark app 所采集到的模型運行數據保存在 cc_data 目錄下，接下來(lái)就需要基于該數據來(lái)壓縮 OpenVINO? 運行庫的體積。

圖：OpenVINO? 運行依賴(lài)數據

運行庫編譯

使用 cmake -DSELECTIVE_BUILD=ON -DSELECTIVE_BUILD_STAT=%OPENVINO_HOME%cc_data*.cs 指令，我們可以利用上一步所采集的依賴(lài)數據，在正式編譯過(guò)程中刪除一些不必要的依賴(lài)組件或是函數，以達到針對指定模型優(yōu)化運行庫容量的目的。以下是完整的參考指令：

cd %OPENVINO_HOME%
md build
cd build
cmake -G "Visual Studio 16 2019" -A x64 -DENABLE_CPPLINT=OFF -DCMAKE_VERBOSE_MAKEFILE=ON -DCMAKE_COMPILE_WARNING_AS_ERROR=OFF -DCMAKE_BUILD_TYPE=Release -DENABLE_FASTER_BUILD=ON -DENABLE_PROFILING_ITT=OFF -DSELECTIVE_BUILD=ON -DENABLE_INTEL_GPU=OFF -DENABLE_MULTI=OFF -DENABLE_AUTO=OFF -DENABLE_AUTO_BATCH=OFF -DENABLE_HETERO=OFF -DENABLE_TEMPLATE=OFF -DENABLE_OV_ONNX_FRONTEND=OFF -DENABLE_OV_PADDLE_FRONTEND=OFF -DENABLE_OV_PYTORCH_FRONTEND=OFF -DENABLE_OV_JAX_FRONTEND=OFF -DENABLE_OV_TF_FRONTEND=OFF -DSELECTIVE_BUILD_STAT=%OPENVINO_HOME%cc_data*.csv -DBUILD_SHARED_LIBS=OFF -DENABLE_LTO=ON -DENABLE_ONEDNN_FOR_GPU=OFF -DENABLE_OV_TF_LITE_FRONTEND=OFF -DENABLE_PROFILING_FIRST_INFERENCE=OFF ..
cmake --build . --config Release

這里我們比較開(kāi)啟條件編譯功能和關(guān)閉條件編譯功能后，OpenVINO? 運行庫的大小。

圖：條件編譯前后對比

可以看到在只編譯 NPU plugin 以及 samples 示例的情況下，OpenVINO? 被壓縮了6MB左右的空間，其中 openvino.dll 動(dòng)態(tài)庫為主要壓縮對象。當然針對不同模型的壓縮效果也是不同的，以上數據僅為參考。

圖：openvino.dll 壓縮效果

小結

使用條件編譯功能可以最大限度壓縮 OpenVINO? 運行庫的體積，幫助應用瘦身，從而減少應用軟件在發(fā)行時(shí)由容量問(wèn)題帶來(lái)的網(wǎng)絡(luò )和磁盤(pán)壓力。關(guān)于 OpenVINO? 條件編譯功能更詳細的使用方法可以參考：

https://docs.openvino.ai/2024/openvino-workflow/deployment-locally/optimial-binary-size-conditional-compilation.html