人工智能后的下一個(gè)風(fēng)口——邊緣AI賦能更安全高效的智慧世界
加入技術(shù)交流群
AI是研究使計算機來(lái)模擬人的某些思維過(guò)程和智能行為（如學(xué)習、推理、思考、規劃等）的學(xué)科，主要包括計算機實(shí)現智能的原理、制造類(lèi)似于人腦智能的計算機，使計算機能實(shí)現更高層次的應用。
本文引用地址：http://dyxdggzs.com/article/202312/453937.htmAI將是未來(lái)世界發(fā)展的核心，隨著(zhù)科技的進(jìn)步及人類(lèi)生活需求的提高，AI在計算機領(lǐng)域得到了前所未有的重視。并在機器人、經(jīng)濟政治決策、控制系統及仿真系統中得到應用。它可以通過(guò)邊緣投入到生產(chǎn)中，依靠零信任保障安全，并最終從量子技術(shù)處獲取源源不斷的動(dòng)力，實(shí)現擴展到全球系統所需的性能和效率。
而在A(yíng)I發(fā)展的同時(shí)，也在不斷產(chǎn)生新的分支并不斷地進(jìn)行進(jìn)化，AI進(jìn)化的下一步即可稱(chēng)之為邊緣AI，其發(fā)源于邊緣計算，在降低系統的處理負載的同時(shí)解決數據傳輸的延遲問(wèn)題。這樣的處理是在傳感器附近或設備產(chǎn)生數據的位置進(jìn)行的，因此稱(chēng)之為邊緣，其特點(diǎn)是規模小且更容易為大眾所使用。邊緣計算的發(fā)展意味著(zhù)邊緣AI正變得越來(lái)越重要。
傳統云AI與邊緣AI既有相同之處，又有很大差別。
傳統云AI需要在云端處理和存儲數據。這種工作方式的優(yōu)勢是軟件工程師在設計和構建云AI系統時(shí)提供了更大的靈活性和自由度。但云AI的運行必須要依賴(lài)互聯(lián)網(wǎng)連接，在工作效率及安全性方面存在很大問(wèn)題。而邊緣AI的主要特點(diǎn)是它在本地處理和存儲數據，因此無(wú)需依賴(lài)互聯(lián)網(wǎng)連接。這使得邊緣AI能夠實(shí)時(shí)生成數據并獨立作出決策。隨著(zhù)邊緣AI設備實(shí)現更高的計算能力，邊緣AI的應用可能會(huì )逐漸超過(guò)云AI。
而比較直觀(guān)的差距應該是在應用領(lǐng)域，云AI更多被應用于大數據分析、語(yǔ)音識別、自動(dòng)駕駛等領(lǐng)域。而邊緣AI則主要應用于智能家居、智能工廠(chǎng)、智能城市等IoT領(lǐng)域。邊緣AI通過(guò)在設備本地進(jìn)行智能決策，能夠提升物聯(lián)網(wǎng)系統的效率和安全性
舉個(gè)例子，工廠(chǎng)的機器人和自動(dòng)駕駛汽車(chē)都需要以最小的延遲高速處理數據。為了實(shí)現這些目標，邊緣計算可以在云上靠深度學(xué)習生成數據，而在數據原點(diǎn)——即設備本身（邊緣）執行模型的推斷和預測，是能夠提高工廠(chǎng)智能化程度的AI模型核心。從幫助醫院里的放射科醫生診斷病癥，到在高速路上駕駛汽車(chē)，再到幫助我們?yōu)橹参锸诜?，邊?AI 為我們創(chuàng )造了前所未有的可能性。
近年來(lái)，邊緣AI與常規云AI的對比說(shuō)法不一，作為常規AI的進(jìn)化物，它們執行不同任務(wù)時(shí)的效率及運行速度都不相同。所以并不能通過(guò)某些簡(jiǎn)單任務(wù)去進(jìn)行對比。但邊緣AI的優(yōu)勢還是有很多。
比如其因為能讓處理能力更接近邊緣，所以應用所需的互聯(lián)網(wǎng)帶寬變得更少，進(jìn)而顯著(zhù)降低網(wǎng)絡(luò )成本?；谠频腁I系統使用大量數據進(jìn)行操作，需要大帶寬才能正常運行。因此，對于嚴重依賴(lài)AI進(jìn)行日常運作的組織而言，與數據和帶寬使用相關(guān)的成本通常很高。邊緣AI將數據處理保持在設備本地，帶寬使用不會(huì )像使用傳統云AI的設備那么高。因此，可以控制帶寬成本。更重要的是邊緣AI用戶(hù)也能更快地獲得結果，因為他們的網(wǎng)絡(luò )和設備的網(wǎng)絡(luò )流量很低。
并且終端設備擁有更多自主權和強大性能。邊緣AI的主要特征之一是它為所有端點(diǎn)設備提供了更高的獨立性，由于邊緣AI的工作特點(diǎn)就是在本地而不需要在云端分析數據，此類(lèi)設備無(wú)需連接到中央服務(wù)器即可運行，因此不會(huì )因長(cháng)距離通信而延遲并且能夠實(shí)時(shí)響應用戶(hù)的需求，所以速度和效率始終很高。
相對于由標準AI驅動(dòng)的設備相比，支持邊緣AI的設備顯示出更高的響應能力和性能水平，由于在本低就能處理數據，邊緣AI憑借去中心化和離線(xiàn)能力而變得更加強大，所以提高了應用的可用性和可靠性。
最主要的，也是人們最關(guān)注的就是數據隱私和安全，傳統AI通過(guò)云計算網(wǎng)絡(luò )中的各種通信渠道傳輸數據有一部分可能性會(huì )造成數據丟失。主要原因是兩個(gè)或多個(gè)數據點(diǎn)之間有傳輸距離。所以傳統云計算及AI解決方案需要竭盡全力確保其數據得到有效保護。而邊緣 AI將這些數據保存在本地，只將分析和洞察上傳到云端，這進(jìn)一步加強了隱私。即便為了學(xué)習需上傳一些數據，也可以對數據進(jìn)行匿名處理以保護用戶(hù)身份。通過(guò)保護隱私，邊緣 AI 能夠簡(jiǎn)化數據合規性方面的挑戰，并且用戶(hù)還可以設置限制誰(shuí)可以訪(fǎng)問(wèn)存儲在其個(gè)人設備中的數據。因此，邊緣AI是用戶(hù)數據處理的更安全選擇。
邊緣AI工作時(shí)間越長(cháng)，應用就更準確，因為工作時(shí)產(chǎn)生了大量的數據，當邊緣 AI 應用遇到它無(wú)法準確處理的數據時(shí)，它通常會(huì )將該數據上傳，然后使用該數據重新訓練并從中學(xué)習，因此會(huì )越來(lái)越準確。
邊緣AI應用
邊緣AI可以提供增強用戶(hù)體驗的附加功能（如智能手機、智能電視、個(gè)人電腦/平板電腦），也可以提供對技術(shù)本質(zhì)至關(guān)重要的功能（如自動(dòng)駕駛汽車(chē)、工業(yè)機器人等，如果沒(méi)有AI，它們根本無(wú)法以所需要的方式工作）。
AI（實(shí)現自動(dòng)化和免提訪(fǎng)問(wèn)）和Wi-Fi連接是實(shí)現物聯(lián)網(wǎng)的兩項關(guān)鍵技術(shù)，在物聯(lián)網(wǎng)中，智能電器可以直接通信，因此，智能家居是AI（主要包括消費電子產(chǎn)品）的一個(gè)重要增長(cháng)渠道。除此之外，智能電視、智慧鏡面、虛擬現實(shí)（VR）設備、傳感器、廚房設備、清潔用具以及安全系統都可以通過(guò)應用AI和Wi-Fi進(jìn)入互聯(lián)狀態(tài)，通過(guò)具有AI功能的智能家居設備可以進(jìn)行免提訪(fǎng)問(wèn)和語(yǔ)音命令。在預測期內，將AI引入家庭所提供的機會(huì )，將在一定程度上反映消費電子垂直領(lǐng)域的增長(cháng)，預計到2034年，該行業(yè)將成為邊緣AI芯片營(yíng)收最高的行業(yè)。
邊緣應用AI芯片價(jià)值鏈
邊緣AI正在推動(dòng)工業(yè)、汽車(chē)、醫療、金融、能源等行業(yè)開(kāi)發(fā)出新的業(yè)務(wù)成果。各大廠(chǎng)商也在圍繞邊緣AI領(lǐng)域進(jìn)行研究。AI處理器針對不同的應用有不同的等級，邊緣AI芯片的性能要求已能夠與中高端智能手機AP（應用處理器）相媲美，目前邊緣計算市場(chǎng)上參與者眾多，不同陣營(yíng)廠(chǎng)商正以不同的路線(xiàn)共同推動(dòng)邊 緣計算快速發(fā)展。以英特爾、AMD 等為代表的芯片廠(chǎng)商積極推出 CPU、GPU、 FPGA、DPU、IPU 等邊緣算力芯片；亞馬遜、微軟等云服務(wù)廠(chǎng)商將云計算能力向 設備和用戶(hù)側延伸，擴充云數據中心的外延，將云原生的統一編程模式通過(guò)邊緣網(wǎng) 關(guān)的能力應用到設備構成的邊緣云，主打云邊協(xié)同一體化；以移動(dòng)、電信、聯(lián)通為 代表的 5G 運營(yíng)商將 IT 能力同基礎網(wǎng)絡(luò )承載與業(yè)務(wù)運營(yíng)融合，提供基站的邊緣計算服務(wù)及 5G 網(wǎng)絡(luò )接入管理。。
2024年~2034年邊緣AI芯片營(yíng)收預測
預計到2034年，消費電子、工業(yè)和汽車(chē)垂直領(lǐng)域將成為邊緣AI芯片的主要營(yíng)收來(lái)源
英特爾持續創(chuàng )新邊緣AI技術(shù)，攜手生態(tài)伙伴推進(jìn)城市數智化轉型
德州儀器推出全新視覺(jué)處理器系列，在智能攝像頭應用中實(shí)現可擴展的邊緣AI性能
TI推出全新處理器推動(dòng)邊緣AI普及并使其功耗減半
Microchip與韓國智能硬件公司IHWK合作開(kāi)發(fā)模擬計算平臺,加速邊緣AI/ML推理
同時(shí), 今年初英飛凌宣布收購初創(chuàng )公司Imagimob，后者是一家邊緣設備機器學(xué)習解決方案提供商，專(zhuān)注于邊緣AI市場(chǎng)。通過(guò)此次收購，英飛凌將顯著(zhù)補強其AI產(chǎn)品。并在8月宣布與Edge Impulse合作，為PSoC? 63低功耗藍牙 ?微控制器（MCU）擴展基于微型機器學(xué)習的AI開(kāi)發(fā)工具。
英飛凌攜手Edge Impulse擴展邊緣AI能力,為藍牙客戶(hù)帶來(lái)更多基于機器學(xué)習模型的平臺選擇
英飛凌為NVIDIA Jetson邊緣AI平臺提供AIROC? Wi-Fi/藍牙?解決方案
ST意法半導體也加入了邊緣AI的競爭戰場(chǎng)，今年意法半導體（ST）于年中推出了邊緣AI加速微處理器——第二代STM32 MPU。該處理器提高了工業(yè)和物聯(lián)網(wǎng)邊緣應用的性能和安全性，預計將于2024上半年批量生產(chǎn)，并后期又推出了X-CUBE-AWS-H5擴展包，讓物聯(lián)網(wǎng)設備能夠無(wú)縫、安全地接入AWS云。在這個(gè)軟件擴展包中有一套為專(zhuān)門(mén)終端設備STM32H5系列高性能微控制器設計的軟件庫和應用代碼示例。。
半導體執行副總裁Ricardo De Sa Earp表示：“新的微處理器進(jìn)一步加大了公司在應用處理器方面的投資，將64位內核與邊緣AI加速、高級多媒體功能、圖形處理和數字連接相結合?！?/p>
意法半導體發(fā)布安全軟件,保護STM32邊緣AI設備連接AWS IoT Core的安全
意法半導體推出第二代工業(yè)4.0級邊緣AI微處理器意法半導體推出NanoEdge AI免費部署服務(wù),打破邊緣AI應用障礙
萊迪思于今年也推出了結合低功耗、低延遲FPGA與英偉達Orin平臺的集成解決方案,將傳感器高效橋接至AI應用。
萊迪思與英偉達合作加速推進(jìn)網(wǎng)絡(luò )邊緣AI
萊迪思FPGA助力聯(lián)想新一代網(wǎng)絡(luò )邊緣AI體驗
大模型廠(chǎng)商也在加速布局移動(dòng)/邊緣端的相關(guān)應用。今年舉辦的谷歌I/O大會(huì )上，谷歌宣布其PaLM2大模型的最輕量化版本Gecko可在移動(dòng)端運行，開(kāi)拓了AI模型在邊緣側推理的場(chǎng)景。對此有消息機構表示，在邊緣側推理的輕量化大語(yǔ)言模型有望帶動(dòng)邊緣AI計算成長(cháng)，加速邊緣硬件市場(chǎng)更新迭代。除大模型外，龍頭廠(chǎng)商也紛紛布局輕量級模型，當前 Meta、谷歌、高通等公 司已開(kāi)始發(fā)力邊緣 AI。谷歌和 Meta 分別于今年 5 月 11 日和 7 月 19 日發(fā)布了 各自最新的大語(yǔ)言模型版本 PaLM 2 和 Llama 2，較以往版本實(shí)現測試數據、性 能等全面優(yōu)化，輕量化版本均能應用于邊緣端，其中最新發(fā)布的 Meta 大模型 Llama 2 更是開(kāi)放開(kāi)源免費使用，有望推動(dòng)邊緣 AI 迎來(lái)“安卓時(shí)刻”。此前，芯片 龍頭廠(chǎng)商高通也首次成功實(shí)現 Stable Diffusion 模型在手機端應用生成 AI 圖像， 并于 5 月 30 日宣布高通正在轉型為邊緣計算公司，全面下注邊緣 AI。
國內邊緣AI市場(chǎng)
在A(yíng)I的助力下，邊緣側終端和芯片迭代有望加速。目前國內布局邊緣AI芯片的廠(chǎng)商主要包括寒武紀、華為海思、瑞芯微、研華科技、凌華科技等。
瑞芯微推出RK3588 AIoT芯片，計算采用Quad A76 + Quad A55、Arm G610 MP4及6Tops NPU，感知采用48MISP,HDR/3DNR、多攝像頭輸入及多MIC陣列，支持安卓及Linux系統?？蓱糜谄桨?、只能座艙、AR/VR及網(wǎng)絡(luò )視頻錄像機等領(lǐng)域。
凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺，全球領(lǐng)先的邊緣計算和AI解決方案提供商——凌華科技，日前宣布推出DLAP-211-Orin系列和DLAP-411-Orin工業(yè)級邊緣AI平臺。通過(guò)搭載Orin 模塊，全新的 DLAP 平臺性能得到了大幅提升，成為一款緊湊的、經(jīng)過(guò)SWaP 優(yōu)化的、強大的工業(yè)級解決方案，AI 推理性能與前幾代產(chǎn)品相比，提高了 8 倍，達到了 275 TOPS。 這些先進(jìn)的系統旨在提供卓越的性能和耐用性，重新定義了智慧城市、零售、安全、工廠(chǎng)和制造等各個(gè)領(lǐng)域的AI應用基準。
凌華科技發(fā)布采用NVIDIA Jetson Orin模塊的下一代邊緣AI平臺
凌華科技發(fā)布IMB-M47 ATX主板,滿(mǎn)足高性能工業(yè)邊緣應用的需求凌華科技推出下一代IPC革新邊緣側行業(yè)應用，提供可擴展設計和定制功能模塊
基于NVIDIA Jetson? Orin的凌華科技ROScube-X RQX-59系列，重新定義 AI 性能
邊緣計算可以在任何產(chǎn)生數據的地方使用，從自動(dòng)化工廠(chǎng)車(chē)間和倉庫的工廠(chǎng)，自助結賬的零售商店，到具有車(chē)隊管理的交通，以及具有停車(chē)管理和智能建筑的智慧城市。AI和5G技術(shù)的推出，使邊緣計算更加靈活、智能和互聯(lián)。研華科技一直致力于提供Edge+邊緣智能解決方案，聚焦行業(yè)重點(diǎn)，側重在軟件、AI、無(wú)線(xiàn)連接和云集成，為AIoT多場(chǎng)景應用提供支持，且能夠提供全備軟硬件和更具行業(yè)經(jīng)驗的深度整合服務(wù)。并且，研華科技一直與英偉達、英特爾、AMD、ARM等頭部半導體廠(chǎng)商深度合作，在云端和邊緣側能夠提供自研的AI模型、訓練、算法以及開(kāi)發(fā)包。
揭秘研華科技Jelina物聯(lián)網(wǎng)管理平臺，迎接邊緣智能新機遇
研華AIR-030邊緣AI推理系統，專(zhuān)為機器人應用多設備連接AI運行設計
研華&Hailo聯(lián)合推出可擴展、高能效邊緣AI解決方案
研華推出支持雙NVIDIA GPU的高性能邊緣AI系統AIR-500D
布局Edge AI,研華以邊緣運算創(chuàng )新與產(chǎn)業(yè)驅動(dòng)應對全球新興行業(yè)挑戰
8月28日，在“第三屆滴水湖中國RISC-V產(chǎn)業(yè)論壇”上，國內知名AI技術(shù)廠(chǎng)商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V，目前已經(jīng)接近量產(chǎn)狀態(tài)。
作為國內首批AI技術(shù)廠(chǎng)商，成立于2014年的云天勵飛最初是主攻AI算法，通過(guò)攝像頭、端云協(xié)同的架構來(lái)做海量圖片的分析與處理，因此算法的泛化能力相對較弱，所以對于設備的調試要求就比較高，需要到各地去幫助客戶(hù)調試，這在當時(shí)耗費了云天勵飛很大的一部分精力。這也促使了云天勵飛開(kāi)始來(lái)做自研芯片，將自己的AI算法芯片化。
從2015年至今，云天勵飛已經(jīng)完成了三代指令集架構，4代神經(jīng)網(wǎng)絡(luò )處理器架構的研發(fā)。2022年，云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功，今年開(kāi)始在做產(chǎn)品化相關(guān)的工作，目前已經(jīng)接近準量產(chǎn)狀態(tài)。
當下，傳統硬件疲態(tài)漸顯，智能機/PC均進(jìn)入存量市場(chǎng)，智能音箱及耳機也增速放緩。但通過(guò)邊緣AI的賦能，相信將改變電子產(chǎn)業(yè)的增長(cháng)曲線(xiàn)，未來(lái)所有硬件都有重估值潛力。
評論