OpenVINO? DevCon 2023重磅回歸!英特爾以創(chuàng )新產(chǎn)品激發(fā)開(kāi)發(fā)者無(wú)限潛能

在OpenVINO? 工具套件發(fā)布五周年之際，英特爾開(kāi)展OpenVINO? DevCon中國系列工作坊2023活動(dòng)，旨在通過(guò)每月一次的工作坊，持續助力開(kāi)發(fā)者系統學(xué)習、穩步提升?；诖?，英特爾成功舉辦了首期以“煥然五周年·瞰見(jiàn)新特性”為主題的 OpenVINO? DevCon 2023系列活動(dòng)，并在此次活動(dòng)上發(fā)布了功能更加強大的全新英特爾^?OpenVINO? 2023.0版本，以期在更大程度上幫助 AI 開(kāi)發(fā)者簡(jiǎn)化工作流程，提升部署效率。

英特爾中國區網(wǎng)絡(luò )與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇博士表示：“AI技術(shù)的每一次創(chuàng )新突破都會(huì )為開(kāi)發(fā)者帶來(lái)全新機遇與挑戰。在A(yíng)IGC的浪潮中，英特爾持續為開(kāi)發(fā)者賦能，通過(guò)打造和迭代以OpenVINO?工具套件為代表的創(chuàng )新產(chǎn)品，化解各種AI應用場(chǎng)景下的開(kāi)發(fā)難題，優(yōu)化開(kāi)發(fā)體驗，充分釋放開(kāi)發(fā)者的創(chuàng )新活力?！?/p>

作為一款深度學(xué)習推理工具，OpenVINO?已幫助數十萬(wàn)開(kāi)發(fā)者大幅提升了AI推理性能，使其僅憑借幾行代碼即可實(shí)現高性能“一次編寫(xiě)，任意部署”，并自動(dòng)為開(kāi)發(fā)者選擇最佳硬件配置，提升開(kāi)發(fā)效率。由于OpenVINO?能夠使訓練好的神經(jīng)網(wǎng)絡(luò )模型在不同硬件平臺上進(jìn)行高效且準確的推理，這項技術(shù)已被廣泛應用于教育、零售、醫療和工業(yè)等各個(gè)領(lǐng)域，為行業(yè)客戶(hù)提供了高效的深度學(xué)習推理技術(shù)，帶來(lái)了巨大價(jià)值。例如，在試卷批改場(chǎng)景中，學(xué)生和老師在鋪有點(diǎn)碼試卷上書(shū)寫(xiě)的筆跡可通過(guò)智慧筆進(jìn)行實(shí)時(shí)搜集，隨后分別被上傳到云端服務(wù)器上。云端渲染服務(wù)器會(huì )將筆跡渲染成圖像，并進(jìn)一步通過(guò)目標檢測模型和 OCR 模型檢測識別，將書(shū)寫(xiě)內容轉換為文本，最后將識別結果與題庫進(jìn)行綜合整理，生成作業(yè)報告。老師可以基于作業(yè)報告，針對學(xué)生進(jìn)行個(gè)性化教學(xué)。在此過(guò)程中，通過(guò) OpenVINO? 精度感知而量化出的模型推理速度相比于浮點(diǎn)模型有十幾倍的提升，且量化模型的召回率和準確率與浮點(diǎn)模型相當，在滿(mǎn)足精度要求的情況下，達到了推理實(shí)時(shí)性的要求。

自 2018 年首發(fā) OpenVINO? 工具套件以來(lái)，英特爾密切關(guān)注市場(chǎng)需求，著(zhù)眼未來(lái)發(fā)展趨勢，持續迭代更新，將其對模型的支持從計算機視覺(jué)擴展到自然語(yǔ)言處理，不斷賦予其更高性能，使其更加易用、更加靈活、更加開(kāi)放和更加全面。英特爾基于此次活動(dòng)發(fā)布的 OpenVINO?  2023.0 版本在以往的基礎上，新增了以下優(yōu)勢：

●   更多的集成, 最大限度減少代碼變更：OpenVINO? 2023.0使從訓練模型轉移到部署的過(guò)程變得更加輕松。在優(yōu)化模型時(shí)，開(kāi)發(fā)者無(wú)需離線(xiàn)轉換TensorFlow模型，而是可以自動(dòng)進(jìn)行。開(kāi)發(fā)者可采用標準的TensorFlow模型，并將其直接加載到OpenVINO? Runtime或OpenVINO? Model Server中。當需要最大性能時(shí)，仍然鼓勵離線(xiàn)轉換為OpenVINO?格式。

●   更廣泛的模型支持：OpenVINO? 2023.0具備更廣泛的生成式AI模型（CLIP BLIP、Stable Diffusion 2.0等）、文本處理模型（GPT、Transformer 模型等）及其他關(guān)鍵模型（Detectron2、PaddleSlim、RNN-T等）的支持。開(kāi)發(fā)者在利用GPU（CPU于2022年啟用）時(shí)不再需要更改為靜態(tài)輸入，這使其在編碼方面具有更大靈活性。與此同時(shí)，神經(jīng)網(wǎng)絡(luò )壓縮框架（NNCF）成為量化工具的一種選擇。通過(guò)壓縮模型中的數據，可以更輕松地實(shí)現大幅模型性能改進(jìn)。

●   出色的可移植性和性能：CPU設備插件現在在英特爾?第12代酷睿處理器及以上版本上提供線(xiàn)程調度，開(kāi)發(fā)者可根據應用程序的優(yōu)先級選擇在E核、P核或兩者上運行推理，根據需要優(yōu)化性能或節能。此外，無(wú)論開(kāi)發(fā)者使用哪種插件，OpenVINO?都將默認提供最佳性能格式。同時(shí)，OpenVINO? 2023.0還通過(guò)更高效的模型加載/編譯改進(jìn)了GPU上的模型緩存。

除了針對 OpenVINO? 的持續更新迭代，英特爾還于近期發(fā)布了“英特爾? Developer Cloud for the Edge”平臺公眾測試版。該平臺可滿(mǎn)足開(kāi)發(fā)者訪(fǎng)問(wèn)英特爾最新架構 CPU、GPU、VPU 和 FPGA 等硬件資源的需要，無(wú)需配置即可調用英特爾最新 OpenVINO? 工具套件等其他軟件資源。同時(shí)，該平臺還支持容器化和裸機應用部署，可確保開(kāi)發(fā)者獲得真實(shí)性能數據，加速人工智能方案開(kāi)發(fā)、驗證與部署落地過(guò)程，提高應用開(kāi)發(fā)效率和產(chǎn)品選型優(yōu)化?！坝⑻貭?Developer Cloud for the Edge”平臺將持續優(yōu)化中國區用戶(hù)體驗，引入本地參考實(shí)現和相關(guān)邊緣設備，擴建基礎服務(wù)硬件以支撐更多用戶(hù)訪(fǎng)問(wèn)，滿(mǎn)足不同用戶(hù)對測試設備多樣性的需求。

在創(chuàng )新產(chǎn)品的加持下，英特爾還正在與產(chǎn)業(yè)生態(tài)伙伴緊密協(xié)作，積極貢獻于標準化組織和開(kāi)源組織工作。英特爾網(wǎng)絡(luò )與邊緣事業(yè)部 OpenVINO? 亞太區產(chǎn)品營(yíng)銷(xiāo)及開(kāi)發(fā)者生態(tài)總監王珅表示：“在國內，英特爾推動(dòng)了多個(gè)開(kāi)源項目，其中包括 OpenVINO?、oneAPI 等，這些項目為本土開(kāi)發(fā)者和企業(yè)提供了更多選擇和支持。與此同時(shí)，我們還與國內廠(chǎng)商、創(chuàng )新企業(yè)和研究機構進(jìn)行深入合作，共同探索和實(shí)踐網(wǎng)絡(luò )與邊緣計算的應用和創(chuàng )新，并積極參與各種開(kāi)發(fā)者活動(dòng)和技術(shù)峰會(huì )，為開(kāi)發(fā)者提供更多技術(shù)交流和學(xué)習的機會(huì )?！?/p>

英特爾始終相信開(kāi)發(fā)者是推動(dòng) AI 產(chǎn)業(yè)創(chuàng )新發(fā)展的核心動(dòng)力。未來(lái)，英特爾將繼續秉承“水利萬(wàn)物而不爭”的生態(tài)理念，擁抱開(kāi)放、開(kāi)源的力量，助力開(kāi)發(fā)者在邊緣端基于英特爾軟硬件產(chǎn)品進(jìn)行創(chuàng )新，予力 AI 規?；涞?，推動(dòng)千行百業(yè)數智化升級。