邊緣計算從概念到現實(shí)

一年前，當我們提出有關(guān)邊緣計算的展望時(shí)，該領(lǐng)域才剛剛開(kāi)始萌芽。去年，我們針對開(kāi)源技術(shù)的迅速發(fā)展以及在邊緣部署機器學(xué)習（ML）所需的不同編程范例開(kāi)展了演講。

除了數據科學(xué)家，很少有公司在其產(chǎn)品中積極深入地整合機器學(xué)習技術(shù)，因此，邊緣計算的優(yōu)勢只得到了定性認可。

我們在這里提到的邊緣計算，其優(yōu)勢包括節能和減少延遲。因為對數據進(jìn)行云處理，云存儲的成本高昂，且許多情況下帶寬也受限，從而限制了將數據傳輸到云端利用人工智能開(kāi)展決策。

此外，在邊緣節點(diǎn)利用人工智能做出快速決策，邊緣計算還可以帶來(lái)更好的用戶(hù)體驗。用戶(hù)向云端發(fā)送和在云端存儲的數據通常會(huì )因為對隱私和安全問(wèn)題的擔憂(yōu)而存在限制。

如今，在看到邊緣計算在實(shí)際系統上的部署并了解具體應用要求后，我們可以切身定量地感受到這些好處。

對每一單位電能“斤斤計較”

體會(huì )邊緣計算的好處，能耗和性能是最常用的評估指標。與將數據傳輸到云端的成本相比，更多工作能夠使用既有的能量在本地的邊緣節點(diǎn)完成。

我們以MobileNet為例（有關(guān)MobileNet的更多內容在稍后做詳細介紹），這是一種用于對象分類(lèi)的熱門(mén)神經(jīng)網(wǎng)絡(luò )（為了避免長(cháng)達數頁(yè)的分析，這里進(jìn)行了高度簡(jiǎn)化）。

拿MobileNet的一個(gè)版本舉例，譬如MobileNet_v1_1.0_224，需要大約5.59億次乘積累加（MAC）計算和50,176像素（224x224）的輸入圖像尺寸。保守一點(diǎn)，假設GPU上的10次MAC要耗費100皮焦耳，則559次MMAC將耗費大約0.001焦耳。與之對比的是，通過(guò)LPTE將圖像上傳到云端需要花費約0.02焦耳（假設每個(gè)像素8位且圖像未壓縮）。換句話(huà)說(shuō)，與處理圖像相比，傳輸所需的能量增加了一個(gè)能量級，而在云端，神經(jīng)網(wǎng)絡(luò )模型上的推理仍必須執行（在更加昂貴的設備上執行）。

對社會(huì )的好處

對于許多客戶(hù)而言，機器學(xué)習是新領(lǐng)域。經(jīng)常有人問(wèn)我們“機器學(xué)習適用于我的應用嗎”？當然，我們的回答是“看情況而定”。有一些基本的前提條件，如物理接口（例如，攝像頭、麥克風(fēng)、傳感器）、收集數據和為數據加標簽的能力（用于模型訓練）以及確定機器學(xué)習是否真的能為該應用帶來(lái)價(jià)值（即刺激產(chǎn)品銷(xiāo)量，帶來(lái)金錢(qián)價(jià)值）。在這些前提條件均滿(mǎn)足的情況下，我們認為或多或少的機器學(xué)習能夠被應用于非常廣泛且多樣的領(lǐng)域種，其中最有趣的是有益于社會(huì )或能夠提升用戶(hù)體驗的應用。

特別是隨著(zhù)人們對氣候的關(guān)注加深，機器學(xué)習有價(jià)值的應用領(lǐng)域之一，是在農業(yè)中使用機器學(xué)習來(lái)監控和節約用水量、開(kāi)展農藥的針對性噴灑、將無(wú)人機應用于作物分析中，這些應用都是為了提高生產(chǎn)力，最大限度減少全球食品生產(chǎn)帶來(lái)的影響。機器學(xué)習還可用于提高應用的工業(yè)生產(chǎn)力，如通過(guò)目視檢查對食品質(zhì)量進(jìn)行分類(lèi)、預測性維護與異常檢查以及加強設備操作員的安全。

另一個(gè)非常熱門(mén)的應用領(lǐng)域是使用機器學(xué)習來(lái)確保安全訪(fǎng)問(wèn)，這對于家用門(mén)禁系統、商用安全系統，如對安全區域的訪(fǎng)問(wèn)以及攔截或允許用戶(hù)接觸重型機械操作這一系列應用都具有非常重要的意義。在這些情況下為了加強安全訪(fǎng)問(wèn)，門(mén)鎖或用戶(hù)識別型的產(chǎn)品會(huì )同時(shí)驗證兩個(gè)參數來(lái)判斷是否允許訪(fǎng)問(wèn)，即同時(shí)應用人臉和語(yǔ)音識別或其他生物識別方法。通過(guò)使用活體檢測，可進(jìn)一步增強人臉識別，以防止欺騙攻擊。

公共安全已成為當代備受關(guān)注的一個(gè)問(wèn)題，而機器學(xué)習將成為其很好的解決方案。例如，基于機器學(xué)習可以開(kāi)發(fā)這樣的應用程序，讓機場(chǎng)、地鐵站臺或其他公共場(chǎng)所的安保攝像頭來(lái)確定古怪的行為模式或檢測是否有人遺落包裹或行李。如果出現以上情況，則系統可以做出恰當的響應，例如，將這一情況甚至具體發(fā)生的地點(diǎn)通知有關(guān)部門(mén)。另外，基于攝像頭利用機器學(xué)習，還可以計算城市交通系統中十字路口的車(chē)輛數、監控車(chē)流和調整紅綠燈時(shí)間——這不僅為駕駛員提供了便利，還能夠幫助提高駕駛效率。

在邊緣設備中實(shí)施機器學(xué)習是算法和處理解決方案領(lǐng)域巨大進(jìn)步的結果。然而，直到ImageNet大規模視覺(jué)識別挑戰賽在2010年拉開(kāi)帷幕，機器學(xué)習的時(shí)代才真正開(kāi)始發(fā)展。這一挑戰賽一直以來(lái)的目標是預測包含1000個(gè)可能的對象類(lèi)別之一的照片的內容。之后，AlexNet誕生，現在看來(lái)AlexNet有點(diǎn)過(guò)時(shí)了，但仍用于評測（由于其準確度較低，現在已通常不用于實(shí)際應用）。AlexNet的發(fā)展帶來(lái)了新型的分類(lèi)模型拓撲，如VGG、ResNet和Inception。

正如我在前面提到的，MobileNet是最近出現的新技術(shù)之一，由于其較小的尺寸與合理的準確度而倍受青睞。此外，通過(guò)使用遷移學(xué)習來(lái)針對特定對象類(lèi)進(jìn)行微調，可提高這些模型的準確度。

隨著(zhù)算法發(fā)展以及支持它們的訓練框架和推理引擎的巨大進(jìn)步，處理能力得到提升。雖然機器學(xué)習加速器正逐漸成為常態(tài)，嵌入式系統開(kāi)發(fā)人員仍努力在傳統設備中部署機器學(xué)習，從低成本MCU到包含多個(gè)CPU內核、GPU與DSP的高度集成應用處理器，覆蓋范圍十分廣泛。

現如今我們可以基于一個(gè)2美元的MCU實(shí)現一套人臉識別解決方案，該解決方案可在略大于200毫秒的時(shí)間內執行推理，且準確度高達95%，這是多么令人驚訝。

如果進(jìn)一步提高處理器性能以及內存容量，就能夠增強邊緣設備處理更復雜應用（如上所述）的能力，想象一下，如果邊緣設備的機器學(xué)習性能增加幾個(gè)數量級，您可以做些什么？

推動(dòng)邊緣計算發(fā)展

我們相信，我們的行業(yè)距離實(shí)現機器學(xué)習的所有潛力還有很長(cháng)的路要走。就此而言，工業(yè)、消費電子、物聯(lián)網(wǎng)和汽車(chē)應用的大多數系統開(kāi)發(fā)人員仍不理解機器學(xué)習目前能夠如何增強其產(chǎn)品。但是，機器學(xué)習不只是一時(shí)的潮流，我們已經(jīng)證明了其對社會(huì )和工業(yè)大有裨益。

展望未來(lái)，我們將看到越來(lái)越多的處理器集成機器學(xué)習加速。我們還將看到開(kāi)源工具和庫的大幅增加，以支持機器學(xué)習發(fā)展。通過(guò)機器學(xué)習技術(shù)在邊緣設備的積極部署，將會(huì )給數據分析和集體知識分配帶來(lái)巨大的改革，而我們正是這一改革的見(jiàn)證者。

*本文內容轉載自New Electronics，原文標題為“Edge Computing from Concept to Reality”。