MG24通過(guò)MLPerf Tiny基準測試套件讓機器變聰明，還省電！

物聯(lián)網(wǎng)結合機器學(xué)習（ML）在許多應用中越來(lái)越受歡迎，從小型物聯(lián)網(wǎng)設備到大型數據中心等。由于各種原因，如實(shí)時(shí)/離線(xiàn)操作、節省電池，甚至安全和隱私考量，最理想的是在生成數據的邊緣運行ML算法和數據處理。這些低功耗物聯(lián)網(wǎng)設備可以是嵌入式微控制器、無(wú)線(xiàn)SoC或集成到傳感器設備中的智能器件。

為了實(shí)現這一目標，半導體產(chǎn)品制造商需要小型、低功耗處理器或微控制器，以有效的方式運行必要的機器學(xué)習（ML）軟件，有時(shí)還支持內置在芯片中的硬件加速器。評估一個(gè)特定設備的性能并不簡(jiǎn)單，因為它在ML應用程序中的有效性比原始的數字運算更重要。

MLCommons?(一個(gè)開(kāi)放的工程聯(lián)盟)開(kāi)發(fā)了三個(gè)基準測試套件來(lái)比較來(lái)自不同供應商的ML產(chǎn)品。MLCommons專(zhuān)注于協(xié)作工程工作，通過(guò)基準測試、指標、公共數據集和最佳實(shí)踐使機器學(xué)習行業(yè)受益。

這些基準測試套件稱(chēng)為MLPerf?，在將訓練好的ML模型應用于新數據時(shí)，測量ML系統在推理時(shí)的性能?；鶞蕼y試還可選擇測量完成推理任務(wù)所使用的能量。由于基準是開(kāi)源的，并經(jīng)過(guò)同行評審，因此它們提供了一個(gè)客觀(guān)、公正的性能和能源效率測試。

在MLCommons提供的三個(gè)基準測試中，Silicon Labs（亦稱(chēng)“芯科科技”）已經(jīng)提交了MLPerf Tiny套件的解決方案。MLPerf Tiny是針對最小的低功耗設備，通常用于深度嵌入式應用，如物聯(lián)網(wǎng)或智能傳感。

Silicon Labs系統基準測試

Silicon Labs提交了EFR32MG24多協(xié)議無(wú)線(xiàn)SoC進(jìn)行基準測試。該SoC包括一個(gè)Arm Cortex?-M33核心(78 MHz, 1.5 MB Flash / 256 kB RAM)和一個(gè)Silicon Labs硬件加速器子系統。它支持多種2.4GHz射頻協(xié)議，包括低功耗藍牙(Bluetooth Low Energy)、藍牙mesh、Matter、OpenThread和Zigbee。它是網(wǎng)狀物聯(lián)網(wǎng)無(wú)線(xiàn)應用的理想選擇，如智能家居、照明和樓宇自動(dòng)化。這個(gè)緊湊的開(kāi)發(fā)平臺為智能和機器學(xué)習開(kāi)發(fā)提供了簡(jiǎn)單、省時(shí)的路徑。

SoC正在運行TensorFlowLite for Microcontrollers軟件，該軟件使ML推斷模型能夠在微控制器和其他具有小內存的低功耗設備上運行。它使用了Silicon Labs Gecko軟件開(kāi)發(fā)工具包（SDK）中的CMSIS-NN庫中的優(yōu)化神經(jīng)網(wǎng)絡(luò )內核。

測試結果

MLPerf?Tiny v1.0基準測試結果突出了Silicon Labs EFR32MG24平臺片上加速器的效率。推理計算從主CPU上卸載，允許它執行其他任務(wù)，甚至將其置于睡眠模式，以進(jìn)一步節省電力。

這對于滿(mǎn)足ML增強的低功耗無(wú)線(xiàn)物聯(lián)網(wǎng)解決方案日益增長(cháng)的需求至關(guān)重要，允許設備在一個(gè)硬幣電池上運作長(cháng)達十年。這些最新結果表明，與之前Tiny v0.7結果中的其他基準ML模型相比，速度提高了1.5到2倍，能耗降低了40-80%。

隨著(zhù)機器學(xué)習在嵌入式物聯(lián)網(wǎng)應用中得到越來(lái)越廣泛的應用，這種以低功耗運行推理的能力是必不可少的，這將使產(chǎn)品設計師能夠在新的用例和不同的設備中應用機器學(xué)習。