一文了解邊緣計算與云計算
加入技術(shù)交流群
但在全球各地實(shí)時(shí)運行的AI應用可能需要巨大的本地處理能力，而且往往是在遠離中央云服務(wù)器的偏遠地區。由于低時(shí)延或數據駐留要求，一些工作負載需要保留在本地或特定地點(diǎn)。
這就是為什么許多企業(yè)使用邊緣計算部署AI應用，邊緣計算能夠在產(chǎn)生數據的地點(diǎn)處理數據，在本地邊緣設備中處理和存儲數據，而不是在遙遠的中央數據存儲庫中進(jìn)行云處理。因此，此類(lèi)設備無(wú)需聯(lián)網(wǎng)就能作為一個(gè)獨立的網(wǎng)絡(luò )節點(diǎn)運行。
云和邊緣計算有許多優(yōu)點(diǎn)和用例，并且可以一起使用。
什么是云計算
云計算有許多優(yōu)點(diǎn)?！豆鹕虡I(yè)評論》中的“云轉型狀況”報告，83%的受訪(fǎng)者表示，云對企業(yè)機構的未來(lái)戰略和增長(cháng)極其重要。
云計算必定會(huì )日益普及。企業(yè)采用云基礎設施并將繼續這樣做的原因包括：
更低的前期成本：省去了購買(mǎi)硬件、軟件、IT管理以及24小時(shí)供電和冷卻的資本支出。云計算使企業(yè)機構能夠迅速將應用推向市場(chǎng)并降低進(jìn)入市場(chǎng)的財務(wù)門(mén)檻。
靈活的定價(jià)：企業(yè)只需為所使用的計算資源付費，因此可以更好地控制成本，減少意外情況。
無(wú)限的按需計算：云服務(wù)能夠通過(guò)自動(dòng)配置和刪除資源來(lái)即時(shí)應對和適應不斷變化的需求，從而降低成本，提高企業(yè)機構的整體效率。
簡(jiǎn)化的IT管理：云供應商為其客戶(hù)提供IT管理專(zhuān)家服務(wù)，使員工能夠專(zhuān)注于企業(yè)的核心需求。
易于更新：只需點(diǎn)擊一次就可以獲得最新的硬件、軟件和服務(wù)。
穩定可靠：由于可以在云供應商網(wǎng)絡(luò )上的多個(gè)冗余站點(diǎn)建立數據鏡像，因此能夠以更低的成本輕松地實(shí)現備份、災難恢復和業(yè)務(wù)連續性。
節省時(shí)間：企業(yè)在配置私有服務(wù)器和網(wǎng)絡(luò )時(shí)會(huì )浪費時(shí)間。有了按需提供的云基礎設施，企業(yè)能夠在很短的時(shí)間內部署應用并更快進(jìn)入市場(chǎng)。
什么是邊緣計算
通過(guò)在網(wǎng)絡(luò )邊緣處理數據，邊緣計算減少了大量數據在服務(wù)器、云和設備或邊緣位置之間傳輸的需求。這對于數據科學(xué)和AI等現代化應用尤為重要。
邊緣計算的優(yōu)點(diǎn)
Gartner預測：“在生產(chǎn)中部署邊緣用例的企業(yè)數量將從2019年的約5%增長(cháng)至2024年的約40%?！?strong style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box !important; overflow-wrap: break-word !important;">許多高性能計算應用已經(jīng)成為現代生活的支柱，例如深度學(xué)習和推理、數據處理和分析、模擬以及視頻流等。隨著(zhù)企業(yè)逐漸意識到這些應用由邊緣計算驅動(dòng)，生產(chǎn)中的邊緣用例數量也將會(huì )增加。
減少時(shí)延：邊緣數據處理避免或減少了數據的傳輸，因此可以更快洞悉具有低時(shí)延要求的復雜AI模型用例，例如全自動(dòng)駕駛汽車(chē)和增強現實(shí)等。
降低成本：與云計算相比，使用局域網(wǎng)進(jìn)行數據處理可以讓企業(yè)以更低的成本獲得更高的帶寬和存儲。此外，由于在邊緣進(jìn)行處理，因此需要發(fā)送到云或數據中心進(jìn)行進(jìn)一步處理的數據變得更少，這減少了需要傳輸的數據量，同時(shí)也降低了成本。
模型精度：AI依賴(lài)高精度模型，尤其是對于需要實(shí)時(shí)響應的邊緣用例。當網(wǎng)絡(luò )帶寬過(guò)低時(shí)，一般會(huì )通過(guò)降低輸入模型的數據大小來(lái)緩解。這會(huì )導致圖像尺寸減少、視頻跳幀和音頻采樣率降低。當部署在邊緣時(shí)，數據反饋回路可提高AI模型的精度，并且可以同時(shí)運行多個(gè)模型。
更廣泛的覆蓋范圍：互聯(lián)網(wǎng)接入是傳統云計算的必備條件。但邊緣計算可以在本地處理數據并且無(wú)需連接網(wǎng)絡(luò )，這將計算范圍擴大到了以前無(wú)法接入或遠程的位置。
數據主權：當數據在采集地點(diǎn)得到處理時(shí)，企業(yè)機構就可以通過(guò)邊緣計算將所有敏感數據和計算保留在局域網(wǎng)和公司防火墻內。這能降低云端遭受網(wǎng)絡(luò )安全攻擊的風(fēng)險，并使企業(yè)能夠更好地遵守嚴格而不斷變化的數據法律。
云計算在邊緣AI中扮演什么角色
云和邊緣容器的主要區別在于位置。邊緣容器位于網(wǎng)絡(luò )的邊緣，更接近數據源，而云容器則在數據中心運行。
已實(shí)施容器化云解決方案的企業(yè)機構可以十分輕松地將它們部署在邊緣。
企業(yè)機構一般會(huì )使用云原生技術(shù)來(lái)管理他們的邊緣AI數據中心。這是因為邊緣AI數據中心的服務(wù)器常常分布在成千上萬(wàn)個(gè)地點(diǎn)，而且這些地點(diǎn)無(wú)法既沒(méi)有物理安全保障也沒(méi)有受過(guò)培訓的人員。因此邊緣AI服務(wù)器必須是安全、有彈性并且易于大規模管理的。
何時(shí)使用邊緣計算和云計算？
云計算 | 非時(shí)延敏感型數據處理 |
可靠的網(wǎng)絡(luò )連接 | |
動(dòng)態(tài)工作負載 | |
存儲在云端的數據 |
邊緣計算 | 實(shí)時(shí)數據處理 |
網(wǎng)絡(luò )連接受限或無(wú)網(wǎng)絡(luò )連接的遠程地點(diǎn) | |
大型數據集的成本太高，無(wú)法發(fā)送到云 | |
高度敏感的數據和嚴格的數據法律 |
兩全其美的選擇：混合云架構
不同的企業(yè)機構所采用的混合云解決方案也有所不同，例如在云端訓練+在邊緣部署、在數據中心訓練+在邊緣使用云管理工具、在邊緣訓練+將模型集中到云端進(jìn)行聯(lián)合學(xué)習等。云與邊緣的結合可以創(chuàng )造無(wú)限的可能性。
來(lái)源：英偉達企業(yè)解決方案
*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。
