邊緣AI未必越大越好

為平衡性能、功耗和成本而選擇適當的硬件，可以使機器學(xué)習能夠在資源受限的平臺上運行。

核心要點(diǎn)
通過(guò)適配合適的硬件、集成開(kāi)發(fā)環(huán)境（IDEs）、開(kāi)發(fā)工具和套件、框架、數據集及開(kāi)源模型，工程師可以更輕松地開(kāi)發(fā)出支持機器學(xué)習（ML）和人工智能（AI）的邊緣處理產(chǎn)品。

邊緣上的機器學(xué)習
機器學(xué)習和人工智能（AI）起初主要依賴(lài)于高性能計算平臺，近年則逐步轉向云端處理。然而，如今越來(lái)越多的應用將計算部署在靠近數據源的位置進(jìn)行。這種適合物聯(lián)網(wǎng)（IoT）設備的邊緣處理方式無(wú)需將大量數據傳輸到云端，從而減少了延遲并提升了安全性。

邊緣處理中的ML/AI可使物聯(lián)網(wǎng)設備在源頭就進(jìn)行推理。這意味著(zhù)設備可以從經(jīng)驗中學(xué)習并改善其行為，例如通過(guò)算法分析數據以發(fā)現模式并做出決策。目前常用的機器學(xué)習方法包括監督學(xué)習、無(wú)監督學(xué)習和強化學(xué)習。

• 監督學(xué)習：機器使用標記數據進(jìn)行訓練。例如，智能監控攝像頭可以使用帶有行走、跑步等動(dòng)作的照片和視頻進(jìn)行訓練。

• 無(wú)監督學(xué)習：利用無(wú)標記數據（如K均值聚類(lèi)、主成分分析）來(lái)識別模式，適用于異常檢測。

• 強化學(xué)習：通過(guò)“試錯”過(guò)程進(jìn)行學(xué)習，通過(guò)獎勵或懲罰反饋來(lái)調整算法。

嵌入式系統與機器學(xué)習
ML/AI起初需要大量計算資源，如今則可以在嵌入式系統（如物聯(lián)網(wǎng)設備）中實(shí)現。圖像檢測和分類(lèi)可以在FPGA或微處理器單元（MPU）上實(shí)現，而簡(jiǎn)單的應用，如振動(dòng)監測，則可以在8位微控制器（MCU）上完成。

如今，嵌入式系統工程師可以利用硬件、軟件和工具，快速設計ML/AI產(chǎn)品。例如，Microchip的MPLAB X IDE集成了ML模型開(kāi)發(fā)插件，使得模型可直接部署到目標硬件。自動(dòng)機器學(xué)習（AutoML）則可自動(dòng)化模型開(kāi)發(fā)和訓練中的許多繁瑣任務(wù)。

小尺寸設計的機器學(xué)習
小型機器學(xué)習（tinyML）允許在資源受限的微控制器上運行模型。這類(lèi)MCU通常在1至400 MHz頻率下運行，配備2至512 kB的RAM，功耗僅為150 μW到23.5 mW，非常適合電池供電或能量采集的應用。

實(shí)現tinyML的關(guān)鍵
數據捕獲和準備在tinyML中至關(guān)重要，需要優(yōu)化數據集以避免數據過(guò)多導致內存不足，同時(shí)保持足夠的數據量以確保預測的準確性。模型壓縮技術(shù)（如“權重剪枝”和量化）可減少模型體積，從而更有效地在MCU上運行。

這些技術(shù)為開(kāi)發(fā)ML/AI邊緣產(chǎn)品提供了極大便利。盡管如此，切勿過(guò)度設計，否則會(huì )導致功耗和成本的上升。