STM32Cube.AI v7.2現可支持深度量化神經(jīng)網(wǎng)絡(luò )

意法半導體近期發(fā)布的 STM32Cube.AI v7.2 帶來(lái)了對深度量化神經(jīng)網(wǎng)絡(luò )的支持功能，從而可以在現有微控制器上運行更準確的機器學(xué)習應用軟件。STM32Cube.AI 于 2019 年推出，用于把神經(jīng)網(wǎng)絡(luò )轉換為適合STM32 MCU 的代碼。該解決方案依附于 STM32CubeMX，這是一個(gè)幫助開(kāi)發(fā)人員初始化STM32芯片的圖形界面軟件。同時(shí)，STM32Cube.AI 還用到 X-CUBE-AI軟件包，其中包含用于轉換訓練好的神經(jīng)網(wǎng)絡(luò )的程序庫。開(kāi)發(fā)人員可以參照我們的入門(mén)指南，從STM32CubeMX內部開(kāi)始使用 X-CUBE-AI并體驗新功能。 目前，新增加的深度量化神經(jīng)網(wǎng)絡(luò )支持已經(jīng)出現在我們與施耐德電氣合作開(kāi)發(fā)的人數統計應用軟件中。

STM32Cube.AI: 從研究到實(shí)際軟件

神經(jīng)網(wǎng)絡(luò )是什么？

最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò )就是一系列網(wǎng)絡(luò )層。在神經(jīng)網(wǎng)絡(luò )中有一個(gè)輸入層和一個(gè)輸出層，以及介于兩者之間的一個(gè)或多個(gè)隱藏層。因此，深度學(xué)習是指三層以上的神經(jīng)網(wǎng)絡(luò )，其中“深度”這個(gè)詞表示有多個(gè)中間層。每一層都包含多個(gè)節點(diǎn)，每個(gè)節點(diǎn)都連接到下層的一個(gè)或多個(gè)節點(diǎn)。簡(jiǎn)而言之，信息通過(guò)輸入層進(jìn)入神經(jīng)網(wǎng)絡(luò )，穿過(guò)隱藏層，然后，從一個(gè)輸出節點(diǎn)出來(lái)。

量化神經(jīng)網(wǎng)絡(luò )和二值化神經(jīng)網(wǎng)絡(luò )分別是什么？

開(kāi)發(fā)人員在節點(diǎn)內使用權重和偏差兩種參數來(lái)決定信息在神經(jīng)網(wǎng)絡(luò )上的傳播方式。在數據通過(guò)網(wǎng)絡(luò )時(shí)，這兩個(gè)參數將會(huì )影響數據。權重是系數。當權重越復雜，網(wǎng)絡(luò )輸出越準確，但算量也隨即增大。每個(gè)節點(diǎn)還用激活函數來(lái)確定如何轉換輸入值。因此，為了提高網(wǎng)絡(luò )性能，開(kāi)發(fā)人員可以使用權重精度較低的量化神經(jīng)網(wǎng)絡(luò )。最高效的量化神經(jīng)網(wǎng)絡(luò )是權重值和激活函數值只用+1 和 -1兩個(gè)數值的二值化神經(jīng)網(wǎng)絡(luò ) (BNN)。因此，BNN神經(jīng)網(wǎng)絡(luò )對算力的要求非常低，然而準確度也最差。

為什深度量化神經(jīng)網(wǎng)絡(luò )很重要？

業(yè)界面臨的挑戰是找到一種簡(jiǎn)化神經(jīng)網(wǎng)絡(luò )的方法，以便在微控制器上運行推理運算，同時(shí)又不把準確度降到讓神經(jīng)網(wǎng)絡(luò )毫無(wú)用處的程度。為了解決這個(gè)問(wèn)題，意法半導體和意大利薩勒諾大學(xué)的研究人員在深度量化神經(jīng)網(wǎng)絡(luò )DQNN上展開(kāi)合作。DQNN網(wǎng)絡(luò )只用較小的權重值（1 位到 8 位），并且可以包含混合結構，即只有一部分層是二值化，而另一部分層則用位寬更高的浮點(diǎn)量化器。意法半導體和該大學(xué)的研究人員發(fā)表的研究論文論述了哪種混合結構可以產(chǎn)生最佳的結果，同時(shí)RAM 和 ROM的存儲占用空間最低。

STM32Cube.AI 的新版本是這些研究活動(dòng)的直接成果。7.2 版確實(shí)支持深度量化神經(jīng)網(wǎng)絡(luò )，充分利用二值化層的高效，同時(shí)不會(huì )喪失運算準確性。開(kāi)發(fā)人員可以先用 QKeras 或 Larq 等開(kāi)發(fā)框架訓練神經(jīng)網(wǎng)絡(luò )模型，然后再通過(guò) X-CUBE-AI處理訓練好的神經(jīng)網(wǎng)絡(luò )。改用DQNN網(wǎng)絡(luò )有助于節省內存占用空間，讓工程師能夠選用成本效益更好的芯片，或用一個(gè)微控制器代替多個(gè)元器件設計整個(gè)系統。因此，STM32Cube.AI 繼續為邊緣計算平臺帶來(lái)更強大的推理能力。

從演示軟件到市場(chǎng)趨勢

如何開(kāi)發(fā)人數統計演示軟件？

意法半導體和施耐德電氣最近推出了雙方合作利用 DQNN開(kāi)發(fā)的一個(gè)人數統計演示軟件。該系統通過(guò)處理熱傳感器圖像數據，在 STM32H7 上運行推理算法，來(lái)確定是否有人越過(guò)一條假想線(xiàn)，以及是從哪個(gè)方向進(jìn)出的。元器件的選擇非常引人注目，因為它宣揚物料成本相對較低。施耐德沒(méi)有選用更昂貴的處理器，而是使用深度量化神經(jīng)網(wǎng)絡(luò )來(lái)大幅降低內存和 CPU 的占用，從而縮減了應用系統面積，并為成本效益更高的解決方案打開(kāi)大門(mén)。兩家公司都在 2022 年 3 月的 TinyML 展會(huì )期間展示了該演示軟件。

如何克服邊緣機器學(xué)習的炒作問(wèn)題？

意法半導體是第一家提供類(lèi)似STM32Cube.AI 解決方案的 MCU廠(chǎng)商，根據 MLCommons 基準測試，我們的工具的性能繼續名列前茅。從學(xué)術(shù)論文到軟件發(fā)布，最新的發(fā)展歷程表明，意法半導體之所以表現出色，是因為我們優(yōu)先考慮有意義的影響實(shí)際應用的研究活動(dòng)。我們關(guān)心的是讓 AI 變得實(shí)用且可用，而不只是一個(gè)時(shí)髦術(shù)語(yǔ)。Gartner的市場(chǎng)分析師預計，嵌入式 AI 開(kāi)發(fā)企業(yè)將很快經(jīng)歷“幻滅低谷期”。通過(guò)爭做業(yè)界龍頭，以研究為動(dòng)力，專(zhuān)注實(shí)際應用和精心優(yōu)化，意法半導體克服了這一問(wèn)題。

參考文獻

• Check out STM32Cube.AI v7.2

1.      D. Pau, M. Lattuada, F. Loro, A. De Vita and G. Domenico Licciardo. “Comparing Industry Frameworks with Deeply Quantized Neural Networks on Microcontrollers”. 2021. IEEE International Conference on Consumer Electronics (ICCE)pp. 1-6, https://doi.org/10.1109/ICCE50685.2021.9427638. 

2.      “5 Trends Drive the Gartner Hype Cycle for Emerging Technologies, 2020.” www.gartner.com.