Openvino是什么，與Movidius SDK的區別

AI的熱度似乎壓過(guò)了物聯(lián)網(wǎng)，但是兩者有著(zhù)必然的聯(lián)系，那就是物聯(lián)網(wǎng)設備收集了大量數據，才為AI進(jìn)行計算分析打下了基礎。根據IDC預測，到2020年全球會(huì )有超過(guò)500億的智能設備，超過(guò)2120億個(gè)傳感器。有研究機構預測，隨著(zhù)物聯(lián)網(wǎng)的快速發(fā)展，到2020年每個(gè)互聯(lián)網(wǎng)用戶(hù)一天將產(chǎn)生大約1．5GB的數據，每個(gè)智能醫院每天將產(chǎn)生超過(guò)3TB的數據；每輛自動(dòng)駕駛汽車(chē)每天將產(chǎn)生超過(guò)4TB的數據，一架聯(lián)網(wǎng)飛機每天將產(chǎn)生超過(guò)40TB的數據；一家智慧工廠(chǎng)，每臺設備上有很多個(gè)傳感器，時(shí)時(shí)刻刻都會(huì )產(chǎn)生數據，按照一千臺設備計算，那么整個(gè)工廠(chǎng)每天產(chǎn)生的數據量將是1PB，到2020年全世界每天產(chǎn)生的數據總量將是44ZB（注意：1ZB＝1x1012 GB）。

可見(jiàn)未來(lái)的世界就是一片數據的海洋，我們周?chē)汲涑庵?zhù)海量的數據。然而數據的價(jià)值在于分析利用，而非簡(jiǎn)單存儲。數據量在不斷在增長(cháng)，我們不可能把所有數據都通過(guò)網(wǎng)絡(luò )傳到云端，帶寬增長(cháng)的速度是慢于數據增長(cháng)的速度。對于實(shí)時(shí)性要求較高的應用場(chǎng)景，我們需要在邊緣對數據進(jìn)行判斷，比如自動(dòng)駕駛、無(wú)人駕駛等領(lǐng)域。對于隱私保護要求比較高的場(chǎng)景，比如醫療信息或者用戶(hù)不愿意進(jìn)行云端分享的數據，需要在本地進(jìn)行存儲。因此數據處理從云端轉移到邊緣端是一種必然趨勢。

數據處理從云端向邊緣遷移

英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區總經(jīng)理陳偉博士分析，“傳統的物聯(lián)網(wǎng)更多是線(xiàn)性思維，物體產(chǎn)生數據，通過(guò)互聯(lián)網(wǎng)傳到云端，分析產(chǎn)生價(jià)值，而如今的物聯(lián)網(wǎng)完全是立體三維的概念?，F在產(chǎn)生的數據90％被浪費了，有的數據產(chǎn)生以后從排氣管里面漏掉了，有的數據沒(méi)法挖掘，這是因為存儲和分析要有一個(gè)分布。如今分布式計算的概念已經(jīng)比較成熟，現在全球講物計算，就是云要拋到物里面，做云的人要把它的架構切到邊緣來(lái)，以解決邊緣的問(wèn)題，所以業(yè)界對邊緣計算完全有共識。關(guān)于應用，一是實(shí)時(shí)應用；二是成本問(wèn)題；三是分析和預測，過(guò)去只能是分析已經(jīng)發(fā)生的事件，那么怎么通過(guò)發(fā)生的事件了解預測未來(lái)？四是精準性的問(wèn)題，涉及信息安全、信息保密。

帶寬、存儲、延遲和安全性是邊緣計算的驅動(dòng)因素，預計2018年50％的物聯(lián)網(wǎng)部署將受到網(wǎng)絡(luò )瓶頸的限制，到2019難45％的數據將在邊緣進(jìn)行存儲、分析和處理，因此深度學(xué)習的采用率不斷增長(cháng)，2016年深度學(xué)習收入為6．55億，預計到2025年將增長(cháng)到350億美元。

在邊緣進(jìn)行數據處理也同樣需要人工智能算法，現在來(lái)看這一條件已經(jīng)成熟。英特爾中國區物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士分析，“從人工智能演進(jìn)過(guò)程中可以看到，從最早的人工智能計算，不管是訓練還是推理都發(fā)生在數據中心，這是因為深度學(xué)習需要大量的計算，只有在數據中心運用一些通用的處理器才能夠提供如此巨大的計算量，以及提供這些計算所需要的能耗。近年來(lái)隨著(zhù)人工智能技術(shù)的發(fā)展，無(wú)論在算法方面還是在芯片方面，人工智能都達到了一個(gè)很高的水平。在算法方面，很多網(wǎng)絡(luò )壓縮的算法已經(jīng)被廣泛使用，從而降低了人工智能的計算量，同時(shí)用于人工智能專(zhuān)用的芯片以及FPGA，使一些深度學(xué)習的運算可以從云端推送到邊緣，所以市面上出現了智能攝像機、智能網(wǎng)絡(luò )視頻存儲器、NVR等產(chǎn)品?！?/p>

注重視頻，OpenVINO助力邊緣側實(shí)現深度學(xué)習開(kāi)發(fā)

英特爾將視頻稱(chēng)為“眼睛AI”，也就是眼見(jiàn)為實(shí)，是因為視頻的數據量最大，也最復雜，濃度也最高，確實(shí)擠壓到了端到端的架構，人腦就在不斷處理通過(guò)眼睛看到的視頻內容，在A(yíng)I領(lǐng)域就是機器視覺(jué)處理。對比邊緣設備和云端設備，邊緣設備能夠承載的功耗，能夠支持的操作系統，能夠提供的內存容量都不同，所以在邊緣運行的算法要進(jìn)行特定優(yōu)化，因此對工具也有特定的要求。英特爾收購了Movidius和Altera將FPGA等產(chǎn)品引入進(jìn)來(lái)，性能和功耗比通用處理器表現更好。從硬件的角度來(lái)講，可以勾勒出一個(gè)功耗、成本最優(yōu)化的解決方案。有靈活、有多元、有高質(zhì)量的硬件是一個(gè)必要的條件，但是要將這些硬件直接應用到人工智能的應用上，還有很多的壁壘。

在整個(gè)系統端到端的網(wǎng)元里面，不同的網(wǎng)元所提供的計算量不同，支撐的操作系統不同，適合的芯片架構也不同。比如一個(gè)攝像機功耗大概15W，提供給智能運算的能量2－3W，選用ASIC架構最合適；數據中心對靈活度要求較高，適合采用通用的處理器。而不同的芯片往往有不同的開(kāi)發(fā)方法，也就是說(shuō)當工程師針對某一種芯片所開(kāi)發(fā)的軟件換一個(gè)架構就可能無(wú)法使用，這無(wú)形中就增加了開(kāi)發(fā)難度。為了幫助客戶(hù)更好地進(jìn)行視頻處理，英特爾面向中國市場(chǎng)推出了專(zhuān)注于加速深度學(xué)習并將視覺(jué)數據轉換為業(yè)務(wù)洞察的OpenVINO工具包，這將充分幫助企業(yè)在邊緣側快速實(shí)現高性能計算機視覺(jué)與深度學(xué)習的開(kāi)發(fā)，為智能視覺(jué)開(kāi)辟了一條堅實(shí)的創(chuàng )新路徑。

陳偉博士介紹，“OpenVINO工具包包括英特爾深度學(xué)習部署工具包，具有模型優(yōu)化器和推理引擎，以及面向OpenCV＊和OpenVx＊的優(yōu)化計算機視覺(jué)庫。模型優(yōu)化可以把開(kāi)發(fā)者基于一些開(kāi)放的深度學(xué)習的框架所開(kāi)發(fā)的網(wǎng)絡(luò )模型，針對開(kāi)發(fā)者所選用的目標平臺進(jìn)行優(yōu)化，把這些優(yōu)化的結果轉換成一個(gè)中間表示文件，建成IR文件。下一步，推理引擎會(huì )去讀取IR文件，然后利用相應的硬件插件把這些IR文件下載到相應目標平臺上進(jìn)行執行，所以這是當前的部署工具套件能夠解決的問(wèn)題。OpenVINO工具包可通過(guò)基于英特爾架構的處理器（CPU）及核顯（Integrated GPU）和深度學(xué)習加速器（FPGA、Movidius VPU）的深度學(xué)習加速芯片，增強視覺(jué)系統功能和性能?！?/p>

在計算機視覺(jué)領(lǐng)域，業(yè)界有兩類(lèi)方法被廣泛的使用。一類(lèi)是深度學(xué)習，另一類(lèi)是傳統的計算機視覺(jué)的方法。深度學(xué)習在做物體檢測、目標識別方面具有優(yōu)勢，在替代傳統的計算機視覺(jué)。另外一些應用的場(chǎng)景，計算機視覺(jué)仍然有自己的用武之地，比如一些光流的計算或者圖像的增強，利用均衡的方式去做圖像的增強，傳統計算機視覺(jué)仍然是適用的，這是因為深度學(xué)習的基礎是卷積神經(jīng)網(wǎng)絡(luò )，卷積神經(jīng)網(wǎng)絡(luò )對于目標檢測和目標識別比較有效，但是對于圖像增強并不十分適用。陳偉博士強調，“在OpenVINO里面，我們對這兩類(lèi)方法都有很好的支持，OpenVINO包含一個(gè)深度學(xué)習的部署工具套件，可以幫助開(kāi)發(fā)者把已經(jīng)訓練好的網(wǎng)絡(luò )模型部署到目標平臺之上進(jìn)行推理操作，因此，OpenVINO是幫助大家做推理的，而不是幫助大家做訓練的?！?/p>

OpenVINO與Movidius SDK的本質(zhì)區別

英特爾以前也推出了SDK，這款OpenVINO和它們有什么區別？張宇博士解釋?zhuān)坝⑻貭栁锫?lián)網(wǎng)事業(yè)部以前也推出過(guò)其它SDK，比如Movidius SDK，主要做媒體處理。OpenVINO實(shí)際上包含了Movidius SDK，我們在這個(gè)基礎之上做了進(jìn)一步的功能擴充，功能的擴充主要體現在幾個(gè)方面：一是增加了對深度學(xué)習功能的支持，其中包含一個(gè)深度學(xué)習的部署工具套件，里面包括了模型優(yōu)化器和推理引擎；另外，我們在Movidius SDK基礎之上，增加了對OpenCV、OpenVX等這些在傳統計算機視覺(jué)領(lǐng)域用的比較普遍的函數庫的支持，而且這些函數庫都在英特爾的CPU上做了優(yōu)化。與Movidius SDK相比，原來(lái)只是做編碼、解碼的加速，現在不僅能做編解碼的加速，也能做一些視頻處理工作，我們把MovidiusSDK結合在一起的目的是，我們看到一個(gè)完整的視頻處理系統，從它的處理流程來(lái)看，第一步要做編解碼，解碼以后，把解碼的圖片交給相應的處理引擎做深度學(xué)習或者是傳統的計算機視覺(jué)的一些處理操作，得到最終的結果。我們把在整個(gè)流水線(xiàn)里面所用到的所有工具打在一起放到OpenVINO里面，讓開(kāi)發(fā)者只用一個(gè)工具把所有的需求都能滿(mǎn)足?！?/p>

張宇博士強調，“OpenVINO具有兩個(gè)優(yōu)勢，第一可以通過(guò)一次訓練來(lái)滿(mǎn)足不同的硬件平臺，節約成本；第二可以加速產(chǎn)品化的過(guò)程，從芯片到做出產(chǎn)品，中間的周期變短了，產(chǎn)品可以更快的上市加速流轉?！?/p>

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請戳>> http://dyxdggzs.com/openvino