新思科技大咖“私房菜”：邊緣計算如何引“爆”5G和IoT的未來(lái)

“顛覆性時(shí)代”或許是對我們所處時(shí)代最恰當的描述。

大數據、AI、5G、IoT……數年之內各項顛覆性技術(shù)漸次爆發(fā)、交相輝映,更有趣的是,這些具有顛覆能力的技術(shù)并不是獨立發(fā)展的,相反,它們是如此的盤(pán)根錯節、相輔相成。甚至,大數據、IoT 和 AI 的組合可以為未來(lái)帶來(lái)無(wú)限潛力,而能夠將這些技術(shù)“粘合”到一起的是邊緣計算。

何為邊緣計算?新思科技(Synopsys)產(chǎn)品營(yíng)銷(xiāo)經(jīng)理 Ron Lowman指出,邊緣計算有很多術(shù)語(yǔ),包括“邊緣云計算”和“霧計算”。邊緣計算的概念通常被描述為在本地服務(wù)器上運行的應用程序,旨在將云進(jìn)程更靠近終端設備。

當前,邊緣計算迎來(lái)了科技巨頭亞馬遜、谷歌和微軟的追捧,他們也正成為這一領(lǐng)域的領(lǐng)先者,除此之外,華為、富士通和諾基亞等企業(yè)也紛紛跟進(jìn)。邊緣計算究竟有何魔力,引來(lái)各路“英雄”的青睞?

邊緣計算的價(jià)值

傳統方式是,傳感器、攝像頭、麥克風(fēng)以及一系列不同的 IoT 和移動(dòng)設備從其位置收集數據,并將數據發(fā)送到集中式數據中心或云。

然而到了2020 年,全世界會(huì )有超過(guò)500億臺智能設備實(shí)現連接。這些設備每年將產(chǎn)生以ZB計的數據,到2025年數據將增長(cháng)到150ZB以上。 

互聯(lián)網(wǎng)的核心在于可靠地將設備彼此連接并與云連接,從而有助于確保數據包到達目的地。但是,如果將所有這些數據發(fā)送到云,還是會(huì )帶來(lái)一些重大問(wèn)題。

首先,150ZB 的數據會(huì )造成容量問(wèn)題。其次,就能源、帶寬和計算能力而言,將大量數據從其原始位置傳輸到集中式數據中心代價(jià)高昂。據估計,目前有12%的數據獲得其持有公司進(jìn)行分析,僅3%的數據有助于產(chǎn)生有意義的結果(也就是有97%的數據在收集和傳輸之后就被浪費了),而這些被浪費的數據卻概括了需要解決的運營(yíng)效率問(wèn)題。再者,存儲、傳輸和分析數據能耗巨大,因此,如何找到一種有效的方法來(lái)降低成本、減少浪費顯得尤為必要。

為了解決這些難題,邊緣計算應用而生。它能幫助在本地存儲數據并降低傳輸成本。除解決容量、能源和成本問(wèn)題外,它還可以提高網(wǎng)絡(luò )的可靠性,使應用程序在網(wǎng)絡(luò )中斷期間還能夠繼續運行。另外,它還能通過(guò)清除某些威脅配置文件(例如全局數據中心拒絕服務(wù)(DoS)攻擊),以提高安全性。

最重要的是,邊緣計算能夠為實(shí)時(shí)用例(例如虛擬現實(shí)商場(chǎng)和移動(dòng)設備視頻緩存)提供低延遲計算的能力,從而催生新的服務(wù),使設備能夠在自動(dòng)駕駛、游戲平臺或具有挑戰性的快節奏制造環(huán)境中提供更多創(chuàng )新型的應用。

簡(jiǎn)而言之,盡管“邊緣計算”的概念未必是革命性的,但它的實(shí)現將帶來(lái)更多可能?！斑@些實(shí)現將解決包括降低大型數據中心能耗,提高專(zhuān)用數據安全性,實(shí)現故障安全解決方案,降低信息存儲量和通信成本,以及通過(guò)降低延遲能力來(lái)開(kāi)創(chuàng )新應用等日益嚴重的問(wèn)題?！?a class="contentlabel" href="http://dyxdggzs.com/news/listbylabel/label/新思科技">新思科技產(chǎn)品營(yíng)銷(xiāo)經(jīng)理 Ron Lowman提到。

美國超微電腦股份有限公司(Supermicro)IoT和嵌入式設備副總裁兼總經(jīng)理Michael Clegg則以生活實(shí)例做類(lèi)比點(diǎn)明邊緣計算的意義:“通過(guò)邊緣計算處理信息,大大縮短信息處理延遲的時(shí)間。這就如同一家連鎖披薩餐廳在很多社區都開(kāi)設分店,不僅避免由從總店送餐帶來(lái)的不必要壓力,同時(shí)提高時(shí)效性且保證了食物的新鮮度?！?/p>

邊緣計算助力5G和IoT提高處理數據的效率

作為與邊緣計算同時(shí)代出現的顛覆性技術(shù),5G、IoT和邊緣計算三者的“相遇”又能碰撞出怎樣的火花?新思科技產(chǎn)品營(yíng)銷(xiāo)經(jīng)理 Ron Lowman表示:“5G基礎架構是邊緣計算最具說(shuō)服力的驅動(dòng)力之一。5G電信提供商發(fā)現了在其基礎架構之上提供服務(wù)的機會(huì )。除了傳統的數據和語(yǔ)音連接外,5G 電信提供商還可以通過(guò)構建生態(tài)系統的方式,托管本地獨特的應用。也就是說(shuō),通過(guò)將服務(wù)器置于所有基站旁邊,蜂窩流量提供商可以向第三方主機應用開(kāi)放其網(wǎng)絡(luò ),從而改善帶寬和延遲?！?/p>

據了解,Netflix 等流媒體服務(wù)通過(guò)其 Netflix Open Connect已與本地 ISP 合作,以將高流量?jì)热萃泄茉诰嚯x用戶(hù)更近的地方。借助5G的多接入邊緣計算 (MEC) 計劃,電信提供商發(fā)現了為流內容、游戲和未來(lái)的新應用提供類(lèi)似服務(wù)的機會(huì )。電信提供商認為,他們能以付費服務(wù)的方式,向所有人開(kāi)放這一功能,讓需要較低延遲的人可以為在邊緣而非在云端定位應用支付額外的費用。

Credence Research 認為,到 2026 年,整個(gè)邊緣計算市場(chǎng)的價(jià)值將為 96 億美元左右。電信行業(yè)更被認為是邊緣計算發(fā)展最快的增長(cháng)動(dòng)力,它們將占據邊緣計算市場(chǎng)總量的三分之一。除此之外,web scale、工業(yè)和企業(yè)集團也同時(shí)為其傳統市場(chǎng)提供邊緣計算硬件、軟件和服務(wù)開(kāi)創(chuàng )新的應用機遇。

其實(shí),我們利用邊緣計算可以極大地提高處理數據的效率。以美國快餐店Chick-fil-A為例,其成功地使用本地服務(wù)器將數百個(gè)傳感器和控制器與相對便宜的本地設備聚合在一起,實(shí)現了本地運行以防止任何網(wǎng)絡(luò )中斷。2018年Chick-Fil-A在其博客上評論道:“通過(guò)提高廚房設備智能化,我們能夠收集更多數據,并將其應用在餐廳應用中,構建更多的智能系統以進(jìn)一步拓展業(yè)務(wù)?！睆臄祿矫孀C明,采用邊緣計算的餐廳,能夠處理的業(yè)務(wù)量是最初計劃的三倍。

總而言之,成功的邊緣計算基礎架構需要結合本地服務(wù)器計算功能、AI 計算功能以及與移動(dòng)/汽車(chē)/IoT 計算系統的連接(圖 1)。

圖 1:邊緣計算通過(guò)使用微數據中心來(lái)分析和處理數據,從而使云計算過(guò)程更靠近終端設備。

對此,CompTIA首席技術(shù)推廣人James Stanger 博士進(jìn)一步講解到:“隨著(zhù)物聯(lián)網(wǎng) (IoT) 連接越來(lái)越多的設備,網(wǎng)絡(luò )正在從以高速公路和中央位置之間往返輸送的主要模式,過(guò)渡到類(lèi)似于媒介存儲和處理設備相互交織的蜘蛛網(wǎng)狀態(tài)。邊緣計算可以很好的實(shí)現這類(lèi)應用,一改在集中式數據處理倉庫中捕獲、存儲、處理和分析數據的做法,并將其轉移到生成數據的客戶(hù)端附近。因此,數據更應該存儲在網(wǎng)絡(luò )‘邊緣’的中間點(diǎn),而非始終存儲在中央服務(wù)器或數據中心?！?/p>

邊緣計算發(fā)揮改善延遲優(yōu)勢的實(shí)例

在實(shí)際用例中,邊緣計算又是如何改善延遲問(wèn)題呢?

羅格斯大學(xué)和 Inria 使用 Microsoft HoloLens 4來(lái)分析邊緣計算的可擴展性和性能。在實(shí)際用例中,HoloLens 首先讀取條形碼信息,再使用建筑物中的場(chǎng)景分割功能將用戶(hù)導航到指定房間,最后在Hololens中顯示箭頭。這一過(guò)程同時(shí)使用映射坐標的小數據包和連續視頻的較大數據包,以驗證和對比邊緣計算與傳統云計算延遲的改善。HoloLens 最初讀取二維碼,然后將坐標數據發(fā)送到邊緣服務(wù)器。該服務(wù)器使用4個(gè)字節加上標頭,僅花費1.2ms。然后服務(wù)器找到坐標,并通知用戶(hù)具體位置,全程耗時(shí) 16.22 ms。如果將同樣的數據包直接發(fā)送到云端,則大約需要 80ms(圖 2)。

圖 2:比較邊緣設備到云服務(wù)器與邊緣設備到邊緣云服務(wù)器的延遲。

同樣,他們測試在使用 OpenCV 進(jìn)行場(chǎng)景分割時(shí),將 Hololens 的用戶(hù)導航到適當位置帶來(lái)的延遲時(shí)間。如果將數據流傳輸到邊緣計算服務(wù)器,需要4.9ms,而OpenCV 處理圖像額外花費37ms,總計時(shí)47.7 ms。而傳統云服務(wù)器上的相同過(guò)程則花費將近115 ms時(shí)間,這一案例足以展示邊緣計算在降低延遲方面的明顯優(yōu)勢。

以此類(lèi)推,既然邊緣計算比云計算更具優(yōu)勢,那么將數據計算全都轉移到邊緣設備端會(huì )是最好的解決方案嗎?

事實(shí)并不是如此(圖 3)。在 HoloLens 案例研究中,數據使用的SQL數據庫太大,無(wú)法存儲在耳機中?，F在大多數的邊緣設備,特別是發(fā)生物理磨損的設備,沒(méi)有足夠的計算能力來(lái)處理大型數據集。拋開(kāi)計算能力不談,云或邊緣服務(wù)器上的軟件開(kāi)發(fā)成本更低。

圖 3:比較云計算和邊緣計算與端點(diǎn)設備。

邊緣計算對服務(wù)器系統 SoC有何影響?

許多邊緣計算應用的主要目標都是圍繞如何降低延遲而展開(kāi)的。為了達到較低的延遲,許多新系統都采用最新的行業(yè)接口標準,包括 PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于 PCIe 的 NVMe 以及其他基于新一代標準的技術(shù)。與上一代產(chǎn)品相比,這些技術(shù)都可以通過(guò)改進(jìn)帶寬來(lái)降低延遲。

所以,這些邊緣計算系統均增加了AI加速功能。

一般來(lái)講,服務(wù)器芯片通過(guò) x86 擴展AVX-512 向量神經(jīng)網(wǎng)絡(luò )指令(AVX512 VNNI) 等新指令提供 AI 加速。很多時(shí)候,這種額外的指令集不足以提供預期任務(wù)所需的低延遲和低功耗功能,所以大多數新系統中還添加了自定義 AI 加速器。

除了本地網(wǎng)關(guān)和聚合服務(wù)器系統外,單個(gè) AI 加速器通常無(wú)法提供足夠的性能,所以需要借助帶寬非常高的裸片到裸片 SerDes PHY 來(lái)幫助這些加速器。新思科技最新發(fā)布的 PHY 支持56G和112G連接。

此外,AI 算法正在突破內存帶寬要求的極限。例如,最新的 BERT 和 GPT-2 型號分別需要 345M 和 1.5B 參數。顯然,這不僅需要高容量的內存能力支持,還需把許多復雜的應用放在邊緣云執行。為了支持實(shí)現這種能力,設計人員正計劃在新的芯片組中采用 DDR5。除了容量挑戰之外,還需要存取 AI 算法的系數,以便進(jìn)行非線(xiàn)性中的大量計算。因此,HBM2e 迅速成為被廣泛采用的另一種最新技術(shù)應用,有些芯片實(shí)現了單芯片中的多次 HBM2e 實(shí)例化。

圖 4:通用 AI SoC 具有高速、高帶寬、內存、主機到加速器,以及高速芯片到芯片接口,用于擴展多個(gè) AI 加速器。

邊緣計算加入AI功能,應對不同場(chǎng)景需求

Ron Lowman所屬的開(kāi)發(fā)團隊研究了邊緣計算的不同類(lèi)型需求,發(fā)現區域數據中心、本地服務(wù)器和聚合網(wǎng)關(guān)都有不同的計算、延遲和功率需求。他認為:“未來(lái)需求顯然集中在降低往返響應的延遲,降低特定邊緣應用的功率,以及確保有足夠的處理能力來(lái)處理特定任務(wù)上?！?/p>

因此,新一代解決方案不僅具有更低的延遲和功耗,而且還需納入 AI 功能,也就是 AI 加速器。這些 AI 加速器的性能也會(huì )根據需求的擴展而不斷變化。

“AI 和邊緣計算的需求正在迅速變化,在過(guò)去兩年中我們看到許多解決方案已取得了進(jìn)步,并將繼續加以改進(jìn)。未來(lái),需要處理的數據將不斷變化,所以我們需要不斷提高性能、降低功耗和總體延遲?！盧on Lowman如是說(shuō)。

圖 5:新一代服務(wù)器 SoC 再加上 AI 加速器,大大提高邊緣計算速度。

總的來(lái)說(shuō),邊緣計算是實(shí)現數據快速連接的一項重要技術(shù)。它將云服務(wù)更靠近邊緣設備,降低延遲,為消費者提供新的應用和服務(wù);還將衍生出更多的 AI 功能,將其擴展到云以外。此外,它還將成為支持未來(lái)混合計算的基礎技術(shù)。