AI效益發(fā)威 邊緣人工智能持續進(jìn)化

雖然人工智能還是有一些缺點(diǎn)，但在今天仍舊對作業(yè)質(zhì)量和生產(chǎn)力帶來(lái)重大的影響性。無(wú)論是醫療保健、國防，還是電子商務(wù)，都可以透過(guò)人工智能系統實(shí)現大規模的自動(dòng)化。

另一方面，在物聯(lián)網(wǎng)設備市場(chǎng)規模呈現指數級成長(cháng)背景下，各種的大量數據被產(chǎn)生出來(lái)，進(jìn)而推動(dòng)了邊緣運算技術(shù)的發(fā)展。邊緣運算是云端整體運算系統的重要組成部分，可以將部分的特殊處理和數據儲存，從云端系統轉移到邊緣網(wǎng)絡(luò )節點(diǎn)，而這些節點(diǎn)在物理基礎上，可以合理地就近將數據提供給終端用戶(hù)。

這種「終端式」的人工智能系統，不需要連接到云端執行本地的任務(wù)和操作。相反，這些單位都擁有獨立處理數據，和做出決定的能力。因此，邊緣運算是將人工智能的力量帶到單一的設備上，透過(guò)內建的微處理器和傳感器來(lái)獲得和處理數據。

邊緣計算＋人工智能＝邊緣人工智能
伴隨著(zhù)邊緣運算、人工智能和物聯(lián)網(wǎng)的快速發(fā)展，使得各種多個(gè)智能網(wǎng)絡(luò )間連接技術(shù)不斷地被開(kāi)發(fā)出來(lái)，這也被稱(chēng)為Edge AI、Edge AIoT（Artificial Intelligence of Things），或智慧物聯(lián)網(wǎng)（圖一）。目前，已經(jīng)有許多企業(yè)計劃采用邊緣運算與人工智能相結合的方式來(lái)提高效率，進(jìn)而降低生產(chǎn)/服務(wù)的整體成本。例如，只要使用設備之間的傳感器，或實(shí)時(shí)視訊傳輸來(lái)獲取數據，并提供實(shí)時(shí)監視能力來(lái)預見(jiàn)各種問(wèn)題，防止因為錯誤導致代價(jià)高昂的損失，或工作場(chǎng)所的傷害。

根據業(yè)界推估，目前生產(chǎn)過(guò)程中，因為設備的突發(fā)性停機所造成的損失，每年約為500億美元。這也將造成生產(chǎn)能力的降低、出貨延誤、客戶(hù)抱怨，以及收入減少。而這時(shí)，Edge AI就可以發(fā)揮出關(guān)鍵作用。


 
圖一 : 傳統的AI應用與Edge AI的比較（數據源:i Magazine、CTIMES整理）

典型的Edge AI導入趨勢
在未來(lái)，雖然Edge AI的應用，雖然可以幫助企業(yè)減輕網(wǎng)絡(luò )和其他IT基礎設施的負荷，并幫助降低營(yíng)運成本，但仍需依賴(lài)硬件和軟件的不斷改進(jìn)來(lái)獲得更先進(jìn)的系統。

例如，透過(guò)工廠(chǎng)生產(chǎn)在線(xiàn)設備，或連接互聯(lián)網(wǎng)的攝影系統，可以將實(shí)時(shí)影像發(fā)送給遠程的辦公室。從單一設備或端點(diǎn)進(jìn)行數據的傳輸，以今天的網(wǎng)絡(luò )技術(shù)來(lái)說(shuō)是相當容易的。但是，面對同時(shí)傳輸數據的設備數量增加時(shí)，瓶頸挑戰就出現了，因為當成千上萬(wàn)組的攝影終端同時(shí)進(jìn)行傳輸時(shí)，不僅影像質(zhì)量會(huì )因為延遲而受到影響，而且維護該傳輸帶寬的成本也會(huì )非常高。

不過(guò)，現在已經(jīng)能透過(guò)Edge AI克服上述挑戰，可以利用設備本身來(lái)分析所獲得的資料，而不是將數據發(fā)送到云端或中央位置，處理完畢之后再分析的結果儲存在云端系統后，來(lái)產(chǎn)生完整的生產(chǎn)線(xiàn)監控能力，因此利用終端的力量就可使企業(yè)更有效地利用剩余網(wǎng)絡(luò )資源。此外，在Edge AI的幫助下，工廠(chǎng)設備更可以在現場(chǎng)執行大部分的分析工作，可以大大減少需要通過(guò)網(wǎng)絡(luò )傳輸的數據，從而降低因為云端運算所產(chǎn)生的成本、提高分析速度，這就是利用Edge AI的主要優(yōu)勢（圖二）。



 
圖二 : 在生產(chǎn)在線(xiàn)進(jìn)行視訊分析系統的簡(jiǎn)單說(shuō)明（數據源:ACSICORP）

傳統上，視覺(jué)運算是人工智能的一個(gè)分支，被歸納為基于云端的IT流程。然而，今天處理系統的能力有顯著(zhù)提高之后，推動(dòng)了視覺(jué)運算模式的改變。特別是影像分類(lèi)和物體識別等神經(jīng)網(wǎng)絡(luò )的使用。對于視覺(jué)分析結構來(lái)說(shuō)，系統需要兩個(gè)主要能力：實(shí)時(shí)執行和快速矩陣計算，目前主流的手法是采用特定應用的數學(xué)算法模型。

而這個(gè)數學(xué)算法模型有兩種類(lèi)型的深度學(xué)習算法，分別為：

●一級檢測（基于回歸的物體檢測器），在這種情況下，僅需一次的檢測就能完成。

●兩級檢測（基于分類(lèi)的物體檢測器），檢測則需要以?xún)呻A段的方式進(jìn)行。

邊緣人工智能朝向分布式架構轉變
基于上述算法的計算能力，智能設備和高風(fēng)險應用（從擴增/虛擬現實(shí)（AR/VR）到無(wú)人機應用和自動(dòng)駕駛）等的新發(fā)展，已經(jīng)使基于云端的人工智能變得不足。這些實(shí)時(shí)應用無(wú)法承受延遲，必須在高可靠性下運行，即使在網(wǎng)絡(luò )連接中斷的情況下，還是可以持續運作。因此這些新的應用引發(fā)了研發(fā)人員對分布式、低延遲和可靠的人工智能的巨大興趣，推動(dòng)了數據的處理，從基于云端和集中式學(xué)習和分析，朝向邊緣人工智能的重大轉變。例如：

●學(xué)習數據不均勻地分布在邊緣設備的網(wǎng)絡(luò )上，如網(wǎng)絡(luò )基地臺（BSs）和/或行動(dòng)設備，包括電話(huà)、相機、車(chē)輛和無(wú)人機等。

●每個(gè)邊緣設備都能獲得極小部分的數據，讓學(xué)習和分析可以集體進(jìn)行的。

●每個(gè)邊緣設備可以相互通訊，并交換學(xué)習的模型（例如神經(jīng)網(wǎng)絡(luò )），而不是私有數據。

當第一個(gè)節點(diǎn)識別出產(chǎn)在線(xiàn)的產(chǎn)品缺陷時(shí)，它會(huì )將帶有標記ID的影像發(fā)送到第二個(gè)節點(diǎn)，讓該節點(diǎn)有提供額外的處理能力。然后，第二個(gè)節點(diǎn)的缺陷檢測模塊被觸發(fā)后，就會(huì )等待并持有GPU資源來(lái)進(jìn)一步處理。如果在處理過(guò)程中沒(méi)有發(fā)現缺陷，缺陷檢測模塊會(huì )發(fā)送一個(gè)觸發(fā)信息，中止缺陷跟蹤程序，并釋放第二節點(diǎn)的GPU資源。在第二個(gè)節點(diǎn)的過(guò)程中，在缺陷檢測其間，在云端服務(wù)器中標記了權限，可以幫助識別對該節點(diǎn)ID的授權用戶(hù)。此時(shí)，云端只會(huì )向檢測到缺陷的各個(gè)節點(diǎn)的認證用戶(hù)發(fā)送消息（圖三）。


 
圖三 : 使用多個(gè)第一邊緣節點(diǎn)、與第二邊緣節點(diǎn)和云端的檢測流程概念（數據源:ACSICORP）

使用Edge AI的一些顯著(zhù)優(yōu)勢是：

●可以在所連接的設備上進(jìn)行本地執行推理，大幅減少了因為數據發(fā)送到云端進(jìn)行預測，所造成的延遲和成本。

●與其將所有數據都發(fā)送到云端執行人工智能分析，不如直接在設備上進(jìn)行分析，只有在需要特殊處理時(shí)才將數據發(fā)送到云端。

●以極低的延遲獲得分析結果，對于確保一些關(guān)鍵性物聯(lián)網(wǎng)絡(luò )能夠快速響應，是一件至關(guān)重要的事情。

●與基于云端的人工智能不同，Edge AI具有隱私保護，訓練數據不會(huì )記錄在云端，而是保存在每個(gè)設備中，透過(guò)獲得和整合其他設備運算數據的更新，來(lái)學(xué)習全局共享模型。

●對大量用戶(hù)所產(chǎn)生的數據樣本進(jìn)行學(xué)習，這將有助于實(shí)現高精確度，甚至可能包括隱私敏感信息，如醫療記錄、工廠(chǎng)/網(wǎng)絡(luò )運行狀態(tài)和定位紀錄。

Edge AI的應用優(yōu)勢性
現在我們已經(jīng)看到了Edge AI解決方案，與傳統或基于云的計算系統相比的好處，以下是Edge AI一些常見(jiàn)的現實(shí)世界的應用。

音頻分析系統
識別音頻輸入和處理其中的數據數據，是當今許多設備的兩個(gè)關(guān)鍵要求。音訊分析可用于各種目的，例如識別和訪(fǎng)問(wèn)管理（IAM），或手機、高級車(chē)中的語(yǔ)音控制。深度學(xué)習和Edge AI被應用于降噪設備，以協(xié)助系統進(jìn)行各種聲音觸發(fā)，或失效。人工智能影響音頻分析的另一個(gè)例子是，安裝在汽車(chē)上的事故預防系統，可以透過(guò)視覺(jué)運算的影像以及聲音（甚至在嚴重的干擾和背景噪音中）來(lái)檢測接近的車(chē)輛，并采取預防措施來(lái)保護車(chē)內的人員。

此外，人聲分析也是音訊分析的一個(gè)重要部分?？梢酝高^(guò)人工神經(jīng)網(wǎng)絡(luò )和自然語(yǔ)言處理（NLP）工具，在語(yǔ)言和關(guān)鍵詞識別方面學(xué)習基于邊緣運算的AI模型，這一功能對于設備執行語(yǔ)音命令要求是很有用的。除此之外，Edge AI也可以實(shí)現文字到語(yǔ)音的轉換等應用，反之亦然。當然，Edge AI的音訊分析也常被用于人工智能驅動(dòng)的聊天機器人。

車(chē)用數據處理
Edge AI技術(shù)的另一個(gè)應用是車(chē)用設備的數據收集。由于隨著(zhù)網(wǎng)聯(lián)汽車(chē)的普及，數據利用也呈現多樣化和復雜化，例如，對于行車(chē)記錄器影像數據的需求將增加、發(fā)送到云端中心的通訊成本、云端中心的儲存成本等。目前可以透過(guò)Edge AI技術(shù)來(lái)作為解決方案。首先，利用在車(chē)內的Edge AI將所拍攝的影像中的物體，并且發(fā)送到云端。

例如，將招牌和汽車(chē)數量等識別結果，先轉換成文字畫(huà)數據，發(fā)送到云端中心。接下來(lái)，再依據云端中心的識別結果下，車(chē)用設備僅發(fā)送真正需要的影像數據(b)，可以大幅度降低與數據收集相關(guān)的成本，并且可以執行有效的數據收集（圖四）。



 
圖四 : Edge AI在車(chē)輛上的高效數據收集應用（數據源:DENSO TEN）

智能能源系統
互聯(lián)風(fēng)力發(fā)電站等應用可以透過(guò)Edge AI進(jìn)行概念化和無(wú)縫運轉。一般來(lái)說(shuō)，如果只使用云端運算系統，運行此類(lèi)系統的成本將高得驚人。相比之下，利用云端-邊緣組合系統進(jìn)行運算操作、數據獲取、管理和處理的成本也可以獲得較佳的控制。

風(fēng)力發(fā)電站需要基于終端的解決方案，因為在風(fēng)力渦輪機附近工作的員工，會(huì )利用多個(gè)監控攝影鏡頭、存取傳感器、生物識別安全傳感器等，來(lái)讓風(fēng)力發(fā)電站順利地運轉。而這些設備和傳感器就必須確保能夠有效地運轉，并以閃電般的速度來(lái)處理相關(guān)數據。因此，Edge AI解決方案對于降低風(fēng)能發(fā)電系統的成本，以及減少整體處理時(shí)間，和使用的帶寬量是很有用的。

視覺(jué)娛樂(lè )系統
Edge AI也被廣泛用于涉及AR、VR和MR的視覺(jué)娛樂(lè )系統。對于這些類(lèi)型的系統，數據處理和人工智能分析就必須在本地完成，達到節省時(shí)間和成本。眾所周知，AR系統需要用戶(hù)佩戴虛擬現實(shí)或3D的眼鏡，以充分享受其視覺(jué)上的沉浸式體驗。透過(guò)邊緣運算和人工智能技術(shù)，進(jìn)行邊緣服務(wù)器脫機處理，來(lái)達到小眼鏡尺寸的目標。

微軟的Hololens就是利用Edge AI和運算技術(shù)，應用在A(yíng)R相關(guān)娛樂(lè )產(chǎn)品。Hololens包括一個(gè)整合全息計算機（Holographic Computer）的可穿戴頭盔，讓使用者沉醉在A(yíng)R的世界中。未來(lái)甚至將會(huì )被應用復雜的游戲、數據分析，和醫療成像上。

智慧音箱和家庭助理
諸如亞馬遜的Alexa和Google Home這樣的智慧家庭助手，在當今依賴(lài)人工智能的世界里很流行。這類(lèi)設備和系統也是利用Edge AI來(lái)提升速度和數據傳輸，使智能家居的概念變得更實(shí)用化。

結語(yǔ)
人工智能對于任何一種數字操作來(lái)說(shuō)幾乎是完美的。Edge AI采用人工智能的概念，并在幾種不同的方式下改進(jìn)技術(shù)，來(lái)達到下一個(gè)進(jìn)化階段，相信Edge AI的應用將會(huì )比現在更加普遍。