MWC22|英特爾推出OpenVINO全新版本，賦能開(kāi)發(fā)者加速AI推理

最新消息：自2018年推出OpenVINO?以來(lái)，英特爾已經(jīng)幫助數十萬(wàn)開(kāi)發(fā)者大幅提升了AI推理性能，并將其應用從邊緣計算擴展到企業(yè)和客戶(hù)端。英特爾于2022年巴塞羅那世界移動(dòng)通信大會(huì )前夕，推出了英特爾?發(fā)行版OpenVINO工具套件的全新版本。其中的新功能主要根據開(kāi)發(fā)者過(guò)去三年半的反饋而開(kāi)發(fā)，包括更多的深度學(xué)習模型選擇、更多的設備可移植性選擇以及更高的推理性能和更少的代碼更改。

英特爾網(wǎng)絡(luò )與邊緣事業(yè)部OpenVINO開(kāi)發(fā)者工具副總裁Adam Burns表示：“最新版OpenVINO 2022.1根據數十萬(wàn)開(kāi)發(fā)者在過(guò)去三年多的反饋而開(kāi)發(fā)，旨在簡(jiǎn)化和自動(dòng)化優(yōu)化工作。最新版本增加了硬件自動(dòng)發(fā)現和自動(dòng)優(yōu)化功能，讓軟件開(kāi)發(fā)者可以在任意平臺上實(shí)現最優(yōu)性能。該軟件與英特爾芯片相結合，可實(shí)現顯著(zhù)的AI投資回報優(yōu)勢，并可輕松部署到用戶(hù)網(wǎng)絡(luò )中基于英特爾技術(shù)的解決方案中?！?/p>

關(guān)于OpenVINO：用于高性能深度學(xué)習的英特爾發(fā)行版OpenVINO工具套件基于oneAPI而開(kāi)發(fā)，以期在從邊緣到云的各種英特爾平臺上，幫助用戶(hù)更快地將更準確的真實(shí)世界結果部署到生產(chǎn)系統中。通過(guò)簡(jiǎn)化的開(kāi)發(fā)工作流程，OpenVINO可賦能開(kāi)發(fā)者在現實(shí)世界中部署高性能應用程序和算法。

重要意義：邊緣AI正在改變各行各業(yè)，賦能各種全新、增強的用例，包括制造、健康與生命科學(xué)應用，以及零售和安全保障。根據Omdia的研究，由于企業(yè)對邊緣AI推理的需求越來(lái)越高，全球邊緣AI芯片組的收入截至2025年將達到519億美元。邊緣推理降低了時(shí)延、減少了帶寬需求并提高了性能，從而滿(mǎn)足了新興物聯(lián)網(wǎng)設備和應用對及時(shí)處理越來(lái)越高的要求。

與此同時(shí)，開(kāi)發(fā)者的工作負載也在不斷增加和變化。因此，他們需要更簡(jiǎn)單、自動(dòng)化程度更高的流程和工具，這些工具需要具備全面的智能功能，從而優(yōu)化從構建到部署的性能。

關(guān)于OpenVINO 2022.1的功能：借助這些新功能，開(kāi)發(fā)者可以更輕松地在更廣泛的深度學(xué)習模型中采用、維護、優(yōu)化和部署代碼。亮點(diǎn)包括：

更簡(jiǎn)易的更新API

●   從框架轉換時(shí)減少代碼更改：現在通過(guò)保留精確格式減少轉換，模型不再需要布局轉換。

●   加速AI的更簡(jiǎn)單途徑：模型優(yōu)化器的API參數已減少，能夠最大限度地降低復雜性。

●   訓練時(shí)充分考慮到推理：OpenVINO訓練擴展和神經(jīng)網(wǎng)絡(luò )壓縮框架（NNCF）提供可選擇的模型訓練模板，這些模板可以進(jìn)一步提升性能，同時(shí)保持動(dòng)作識別、圖像分類(lèi)、語(yǔ)音識別、問(wèn)答和翻譯的準確性。

更廣泛的模型支持

●   支持更廣泛的自然語(yǔ)言可編程模型以及文本轉語(yǔ)音和語(yǔ)音識別等用例：動(dòng)態(tài)形狀支持可更好地賦能BERT系列和Hugging Face轉換器。

●   優(yōu)化和支持高級計算機視覺(jué)：Mask R-CNN系列現在已被進(jìn)一步優(yōu)化，并引入了對雙精度（FP64）模型的支持。

●   直接支持 PaddlePaddle 模型：模型優(yōu)化器現在可以直接導入 PaddlePaddle 模型，而無(wú)需先轉換到另一個(gè)框架。

可移植性和性能

●   更智能的設備使用，無(wú)需修改代碼：AUTO設備模式可根據模型要求自行發(fā)現可用的系統推理能力，因此應用程序無(wú)需再提前了解其計算環(huán)境。

●   工具套件內置專(zhuān)家級優(yōu)化：通過(guò)自動(dòng)批處理功能而提高設備性能，自動(dòng)調整和自定義適合開(kāi)發(fā)者的系統配置，和深度學(xué)習模型的吞吐量設置。因此使開(kāi)發(fā)者實(shí)現了可擴展并行處理以及優(yōu)化內存的使用體驗。

●   專(zhuān)為第12代英特爾?酷睿?打造：支持混合架構，為使用CPU和集成GPU進(jìn)行高性能推理提供了增強功能。

關(guān)于邊緣采用：通過(guò)“一次編寫(xiě)即可隨處部署”的方法，開(kāi)發(fā)者只需一次性編寫(xiě)應用程序或算法，之后即可部署到包括CPU、iGPU、Movidius VPU和GNA在內的廣泛的英特爾架構中。隨著(zhù)數據的爆炸式增長(cháng)，英特爾開(kāi)發(fā)了軟件，使開(kāi)發(fā)者能夠更加智能地處理數據，以解決挑戰并轉變商業(yè)模式。因此，人們越來(lái)越多地在邊緣采用全新、獨特的AI推理技術(shù)，并擴展到企業(yè)和客戶(hù)端。

作為Zeblok的AI平臺即服務(wù)，AI-MicroCloud是一款從云到邊緣的MLDevOps平臺，允許客戶(hù)大規?；齑預I獨立軟件開(kāi)發(fā)商和供應商，以交付邊緣AI應用程序，且同時(shí)支持完整的生命周期部署。將英特爾OpenVINO軟件集成到AI-MicroCloud后，使用英特爾處理器將大幅增強AI推理性能，并把每次洞察的成本降至最低。Zeblok的AI-MicroCloud平臺目前正在進(jìn)行評估，以支持全球各地城市的具體網(wǎng)絡(luò )拓撲。

Zeblok創(chuàng )始人兼首席執行官Mouli Narayanan表示：“我們的使命就是要考慮每次洞察的成本。通過(guò)采用英特爾處理器，我們實(shí)現了經(jīng)濟、高能效的AI推理，并產(chǎn)生了極高的投資回報。這個(gè)新版OpenVINO將為我們的生態(tài)系統創(chuàng )造更高的價(jià)值?！?/p>

American Tower已經(jīng)建設了六座邊緣數據中心，而且未來(lái)將會(huì )建設更多。該公司最近收購了CoreSite以加速5G邊緣部署。他們正在與英特爾和Zeblok合作，為客戶(hù)提供完整的交鑰匙解決方案。

American Tower創(chuàng )新副總裁Eric Watko表示：“憑借American Tower的邊緣基礎設施、英特爾的OpenVINO深度學(xué)習功能和Zeblok的AI平臺即服務(wù)，我們可以為市場(chǎng)提供完整的智能解決方案?！?/p>