邊緣AI：徹底改變實(shí)時(shí)數據處理和自動(dòng)化

從智能家居助手（想想 Alexa、Google 和 Siri）到在駕駛員離開(kāi)車(chē)道時(shí)通知駕駛員的高級駕駛輔助系統 （ADAS），世界都依靠邊緣 AI 為這些日益常見(jiàn)和重要的設備提供實(shí)時(shí)處理（圖 1）。

邊緣 AI 直接在設備內使用人工智能，在數據源附近進(jìn)行計算，而不是在具有云計算的異地數據中心進(jìn)行計算。邊緣 AI 提供更低的延遲、更快的處理速度、減少對持續互聯(lián)網(wǎng)連接的需求，并降低隱私問(wèn)題。盡管如此，仍可能存在挑戰。

這項技術(shù)代表了數據處理方式的重大轉變。隨著(zhù)對實(shí)時(shí)智能的需求增長(cháng)，邊緣 AI 處于有利地位，可以繼續對工程師產(chǎn)生巨大影響。

邊緣 AI 最重要的價(jià)值是它可以為關(guān)鍵應用程序提供的速度。與云/數據中心 AI 不同，邊緣 AI 不會(huì )通過(guò)網(wǎng)絡(luò )鏈接發(fā)送數據，而是希望獲得合理的響應時(shí)間。相反，邊緣 AI 在本地計算（通常在實(shí)時(shí)作系統上），擅長(cháng)提供及時(shí)響應。對于 ADAS 等情況，工程師開(kāi)發(fā)了算法，使車(chē)輛能夠處理來(lái)自車(chē)載攝像頭和傳感器的數據，從而允許對導航、障礙物檢測和安全功能進(jìn)行實(shí)時(shí)決策，而無(wú)需依賴(lài)云處理。

用于實(shí)時(shí)處理的邊緣 AI

許多實(shí)時(shí)活動(dòng)推動(dòng)了對邊緣 AI 的需求。智能家居助手、患者監測和預測性維護等應用是該技術(shù)對工程師產(chǎn)生影響的顯著(zhù)用途。從快速響應家庭問(wèn)題到在本地分析生物識別數據的可穿戴健康設備，邊緣 AI 提供快速響應，同時(shí)最大限度地減少隱私問(wèn)題。

邊緣 AI

人工智能需要計算能力，但更高效的算法和專(zhuān)用硬件使其適用于邊緣節點(diǎn)。

很長(cháng)一段時(shí)間以來(lái)，我們已經(jīng)看到邊緣 AI 在供應鏈中表現良好，尤其是在倉儲和工廠(chǎng)方面。在過(guò)去十年中，運輸行業(yè)的技術(shù)也取得了長(cháng)足的發(fā)展，例如在云層等條件下導航的送貨無(wú)人機。

邊緣 AI 也為工程師做了很多偉大的事情，尤其是在醫療技術(shù)領(lǐng)域，這是一個(gè)關(guān)鍵的進(jìn)步領(lǐng)域。例如，開(kāi)發(fā)起搏器和其他心臟設備的工程師可以為醫生配備尋找異常心律的工具，同時(shí)還可以主動(dòng)對設備進(jìn)行編程，以指導何時(shí)尋求進(jìn)一步的醫療干預。Med-tech 將繼續增加對邊緣 AI 的使用并構建更多功能。

如何生成邊緣 AI 模型

隨著(zhù)日常生活中越來(lái)越多的系統集成了某種程度的機器學(xué)習 （ML） 交互，了解這個(gè)世界對于工程師和開(kāi)發(fā)人員規劃未來(lái)用戶(hù)交互變得至關(guān)重要。

邊緣 AI 的最大機會(huì )是 ML，它基于統計算法匹配模式。這些模式可能是感應到有人在場(chǎng)，有人剛剛為智能家居助手說(shuō)了“喚醒詞”（例如，Alexa 或“Hey Siri”），或者電機開(kāi)始晃動(dòng)。對于智能家居助手，喚醒詞是在邊緣運行的模型，不需要將您的聲音發(fā)送到云端。它會(huì )喚醒設備并讓它知道是時(shí)候調度進(jìn)一步的命令了。

生成 ML 模型可以采用多種途徑，例如使用集成開(kāi)發(fā)環(huán)境（如 TensorFlow 或 PyTorch）或使用軟件即服務(wù) （SaaS） 平臺（如 Edge Impulse）。構建一個(gè)好的 ML 模型的大部分 “工作” 都用于創(chuàng )建一個(gè)有代表性的數據集并對其進(jìn)行很好的標記。

目前，最流行的邊緣 AI ML 模型是監督模型。這是一種基于標記和標記樣本數據的訓練，其中輸出是一個(gè)已知值，可以檢查其正確性，就像讓導師檢查并在此過(guò)程中進(jìn)行正確的工作一樣。此訓練通常用于分類(lèi)工作或數據回歸等應用程序。監督式訓練可能很有用且高度準確，但它在很大程度上取決于標記的數據集，并且可能無(wú)法處理新的輸入。

運行邊緣 AI 工作負載所需的硬件

DigiKey 等公司完全有能力協(xié)助邊緣 AI 的實(shí)施，因為它們通常在微控制器、FPGA 和單板計算機 （SBC） 上運行。DigiKey 與頂級供應商合作，提供在邊緣運行 ML 模型的幾代硬件;例如，NXP 的 MCX-N 系列和 STMicroelectronics 的 STM32MP25 系列。

在過(guò)去幾年中，來(lái)自創(chuàng )客社區的開(kāi)發(fā)板在運行邊緣 AI 方面廣受歡迎，包括 SparkFun 的邊緣開(kāi)發(fā)板 Apollo3 Blue、Adafruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 和 Raspberry Pi 的 4 或 5。

神經(jīng)處理單元 （NPU） 在邊緣 AI 中越來(lái)越受歡迎。NPU 是專(zhuān)用 IC，旨在加速基于神經(jīng)網(wǎng)絡(luò )的 ML 和 AI 應用程序的處理，基于具有許多互連層的人腦結構，以及處理和傳遞信息的稱(chēng)為神經(jīng)元的節點(diǎn)。新一代 NPU 正在創(chuàng )建具有專(zhuān)用數學(xué)處理的 NPU，包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。

用于邊緣設備的 AI 加速器也在不斷涌現。不過(guò)，這個(gè)領(lǐng)域尚未確定，早期著(zhù)名的公司包括 Google Coral 和 Hailo。

機器學(xué)習傳感器的重要性

帶有 ML 模型的高速相機在供應鏈中已經(jīng)運行了很長(cháng)一段時(shí)間。它們已被用于決定在倉庫內將產(chǎn)品發(fā)送到何處或在生產(chǎn)線(xiàn)中查找有缺陷的產(chǎn)品。供應商現在正在創(chuàng )建低成本的 AI 視覺(jué)模塊，這些模塊可以運行 ML 模塊來(lái)識別物體或人。

盡管運行 ML 模型需要嵌入式系統，但更多產(chǎn)品將繼續作為支持 AI 的電子元件發(fā)布。這包括支持 AI 的傳感器，也稱(chēng)為 ML 傳感器。雖然向大多數傳感器添加 ML 模型不會(huì )提高它們在應用程序中的效率，但 ML 訓練可以使幾種類(lèi)型的傳感器以更高效的方式執行：

• 相機傳感器，其中可以開(kāi)發(fā) ML 模型來(lái)跟蹤幀中的物體和人員。

• IMU、加速度計和運動(dòng)傳感器，用于檢測活動(dòng)概況。

許多 AI 傳感器都預裝了隨時(shí)可以運行的 ML 模型。例如，用于感應人員的 SparkFun 評估板經(jīng)過(guò)預編程，可通過(guò) QWiiC I2C 接口檢測人臉并返回信息。一些 AI 傳感器，如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7，更加開(kāi)放，需要經(jīng)過(guò)訓練的 ML 模型來(lái)確定他們正在尋找什么（缺陷、對象等）。

使用神經(jīng)網(wǎng)絡(luò )提供計算算法，可以在物體和人員進(jìn)入攝像頭傳感器的視野時(shí)對其進(jìn)行檢測和跟蹤。

邊緣 AI 的未來(lái)

隨著(zhù)許多行業(yè)的發(fā)展并越來(lái)越依賴(lài)技術(shù)進(jìn)行數據處理，邊緣 AI 將繼續得到更廣泛的采用。通過(guò)在設備級別實(shí)現更快、更安全的數據處理，邊緣 AI 的創(chuàng )新將是深遠的。預計在不久的將來(lái)將擴展的一些領(lǐng)域包括：

1. 用于計算神經(jīng)網(wǎng)絡(luò )算術(shù)的專(zhuān)用處理器邏輯。

2. 與云計算的巨大能耗相比，低功耗替代方案的進(jìn)步。

3. AI Vision 部件等更多集成/模塊選項將包括內置傳感器和嵌入式硬件。

隨著(zhù) ML 訓練方法、硬件和軟件的發(fā)展，邊緣 AI 處于有利地位，可以呈指數級增長(cháng)并支持許多行業(yè)。