嵌入式人工智能/機器學(xué)習（AI/ML）以“生態(tài)+集成+定制”差異化發(fā)展

隨著(zhù)嵌入式處理器的能力不斷提升，超小型化的硬件加速器不斷被引入，以及原廠(chǎng)及商業(yè)的開(kāi)發(fā)環(huán)境和工具不斷出現，嵌入式人工智能/機器學(xué)習（AI/ML）技術(shù)在近幾年得到了快速的發(fā)展。同時(shí)因為這些技術(shù)與千姿百態(tài)的各種應用需求十分貼近，因此正在進(jìn)入差異化發(fā)展的新空間，未來(lái)其增長(cháng)速度將可以比肩甚至超過(guò)需要強大資源體系的、立足良好通信條件的和基于云的人工智能應用。

人工智能并不是一個(gè)近幾年才提出的名詞，但是在近幾年隨著(zhù)谷歌AlphaGo戰勝人類(lèi)圍棋世界冠軍等事件的推動(dòng)，才使諸如卷積神經(jīng)網(wǎng)絡(luò )、深度學(xué)習和機器學(xué)習等技術(shù)走進(jìn)了大眾的視野，同時(shí)也使“人工智能=數據+算法+算力”的模型得到廣泛的認同。

其結果是，在很多人的印象中，人工智能和機器學(xué)習就是在英特爾最新服務(wù)器處理器或者英偉達的GPU加速模組的基礎上的全新的、巨大的算法應用，特別是人工智能的訓練更是一場(chǎng)資源消耗戰，成為了進(jìn)入門(mén)檻很高的新興領(lǐng)域，傳統上設計MCU或者SoC的芯片企業(yè)基本上與高貴的AI/ML無(wú)緣。

但是人們很快發(fā)現在非常領(lǐng)先的人工智能企業(yè)所提供的解決方案中，不僅包括諸如自動(dòng)駕駛路況分析、自然語(yǔ)言處理、快速醫學(xué)影像識別和高頻金融交易等復雜功能，也包括更大量車(chē)牌識別、智能音箱喚醒詞識別、便攜智能健康監測設備、人臉識別開(kāi)機和智能家居安防等Lite級別的應用。

在市場(chǎng)強烈需求的拉動(dòng)下，隨著(zhù)谷歌的開(kāi)源TensorFlow Lite嵌入式機器學(xué)習架構和類(lèi)似產(chǎn)品的推出，以及諸如Imagination公司的PowerVR神經(jīng)網(wǎng)絡(luò )加速器（NNA）等硬件加速器在移動(dòng)設備或嵌入式設備上商用，各種功耗和成本更低的，以及更加小巧的嵌入式AI/ML功能解決方案不斷涌現。

通過(guò)分析，北京華興萬(wàn)邦管理咨詢(xún)有限公司認為：嵌入式AI/ML的廣泛興起，帶來(lái)了與傳統AI技術(shù)以“人工智能=數據+算法+算力”為中心的發(fā)展范式不同的新模式，針對特定或者一些應用和功能的嵌入式AI/ML的重點(diǎn)已轉向“生態(tài)+集成+定制”。下面我們從融入物聯(lián)網(wǎng)生態(tài)、硬件和商用開(kāi)發(fā)工具集成、以及基于RISC-V開(kāi)發(fā)定制處理器這三個(gè)方面來(lái)進(jìn)行分析：

為嵌入式AI/ML帶來(lái)最新Matter協(xié)議和物聯(lián)網(wǎng)大生態(tài)

Silicon Labs（亦稱(chēng)“芯科科技”）是一家全球領(lǐng)先的物聯(lián)網(wǎng)芯片、軟件和解決方案供應商，該公司在業(yè)界以支持最全面的物聯(lián)網(wǎng)通信協(xié)議和提供優(yōu)異的產(chǎn)品性能而著(zhù)名，其客戶(hù)包括智能家居、智慧城市、工業(yè)與商業(yè)、智慧醫療和能源等領(lǐng)域內的領(lǐng)導廠(chǎng)商。

今年初，該公司宣布推出其BG24和MG24系列2.4 GHz無(wú)線(xiàn)SoC，它們不僅都支持最新的Matter物聯(lián)網(wǎng)通信協(xié)議，還分別支持藍牙和多協(xié)議操作，同時(shí)還為電池供電的邊緣設備和應用提供了人工智能/機器學(xué)習功能，并帶來(lái)了高性能無(wú)線(xiàn)功能和物聯(lián)網(wǎng)大生態(tài)。

BG24和MG24無(wú)線(xiàn)SoC代表業(yè)界前沿的生態(tài)、功能和技術(shù)組合，其中包括支持無(wú)線(xiàn)多協(xié)議、長(cháng)電池壽命（低功耗）、機器學(xué)習、以及面向物聯(lián)網(wǎng)邊緣應用的安全性。Silicon Labs為它們提供的全新軟件工具包支持開(kāi)發(fā)人員通過(guò)一些常用的工具套件（如TensorFlow），來(lái)快速構建及部署AI/ML算法。

為了實(shí)現AI/ML算力，BG24和MG24系列率先集成了專(zhuān)用的AI/ML加速器，幫助開(kāi)發(fā)人員部署人工智能或機器學(xué)習功能并解決功耗難題。這種專(zhuān)用硬件旨在快速高效地處理復雜計算，內部測試顯示其性能提升最高達4倍，能效提升最多達6倍。由于機器學(xué)習計算是在本地設備上而不是在云端進(jìn)行，因此消除了網(wǎng)絡(luò )延遲，加快了決策和行動(dòng)。

此外，BG24和MG24系列還具有Silicon Labs產(chǎn)品組合中最大的閃存和隨機存取存儲器（RAM）容量，使其可支持多協(xié)議、Matter以及用大型數據集訓練ML算法。這些芯片載有獲得了PSA 3級認證的Secure VaultTM物聯(lián)網(wǎng)安全技術(shù)，可為門(mén)鎖、醫療設備和其他需小心部署的產(chǎn)品提供所需的高安全性。

高集成度嵌入式AI/ML配合領(lǐng)先商用開(kāi)發(fā)工具

IAR Systems是嵌入式開(kāi)發(fā)軟件和服務(wù)的全球領(lǐng)導者，其領(lǐng)先的IAR Embedded Workbench?工具鏈已在全球獲得廣泛采用。IAR Systems的開(kāi)發(fā)工具為Alif Semiconductor?高集成度的Ensemble?和Crescendo?系列芯片提供支持，打造了基于人工智能的、高效的微控制器（MCU）和融合處理器，賦能下一代嵌入式互聯(lián)應用。

對更多功能的集成代表了嵌入式AI/ML的一個(gè)發(fā)展方向，Alif Semiconductor的這些高能效產(chǎn)品系列提供多達4個(gè)處理內核，以及人工智能/機器學(xué)習（AI/ML）加速、多層安全、集成的LTE Cat-M1和NB-IoT連接、全球導航衛星系統（GNSS）定位等功能，從而使其應用范圍得到了大幅擴展。

為了讓這些功能得到更好的發(fā)揮，就需要利用諸如IAR Systems的Arm開(kāi)發(fā)工具這些在行業(yè)中已被驗證過(guò)的、領(lǐng)先的編譯器技術(shù)，對代碼大小和速度都進(jìn)行優(yōu)化，另外還提供高性能的調試功能，從而為企業(yè)提供了一個(gè)很好的平臺。

2021年11月，IAR Systems宣布其最新版本的IAR Embedded Workbench for Arm?增加了對Arm Cortex?-M55處理器的支持。該處理器是一款支持AI技術(shù)的Cortex-M系列處理器，帶來(lái)了節能的數字信號處理（DSP）和機器學(xué)習功能。

雙方此次合作可以支持Ensemble或Crescendo器件的應用開(kāi)發(fā)商利用IAR Embedded Workbench? for Arm開(kāi)發(fā)工具鏈，以實(shí)現高性能的且強大的代碼優(yōu)化功能，充分發(fā)揮器件的AI/ML潛能，同時(shí)又盡可能地保持能源效率。

RISC-V使嵌入式AI/ML可針對邊緣應用實(shí)現定制

多樣化的需求是嵌入式應用的特征之一，MCU供應商長(cháng)期以來(lái)是通過(guò)不同的處理器內核與外設搭配來(lái)滿(mǎn)足用戶(hù)的個(gè)性化需求。而RISC-V的興起，帶來(lái)了定制處理器這一新的潮流，這一潮流將繼續延伸到嵌入式AI/ML領(lǐng)域，并得到業(yè)內領(lǐng)先廠(chǎng)商的支持。

Codasip就是一家提供領(lǐng)先的RISC-V處理器IP和高級處理器設計工具的供應商，為IC設計者提供RISC-V開(kāi)放ISA的所有優(yōu)勢，以及定制處理器IP的獨特能力。Codasip在今年2月推出了兩款專(zhuān)為定制處理器而優(yōu)化的最新低功耗嵌入式RISC-V處理器內核L31和L11。

基于這些新內核，客戶(hù)可以很方便地使用Codasip Studio工具去定制處理器設計，以支持諸如神經(jīng)網(wǎng)絡(luò )、AI/ML等具有挑戰性的應用，包括例如物聯(lián)網(wǎng)邊緣計算等極小型化的、功率受限的應用。Codasip的內核可定制功能是其成功的基石，目前全球已有超過(guò)20億顆處理器使用了Codasip的IP。

Codasip L31/L11嵌入式內核運行在谷歌的TensorFlow Lite for Microcontrollers（TFLite Micro）上，并利用Codasip Studio工具定制一類(lèi)全新的嵌入式AI內核，可為AI/ML計算密集型和內部資源有限的嵌入式系統等應用提供足夠的性能。不同應用對器件的需求也有巨大的差異，而且現有的處理器并不能很好地加載AI/ML應用。

Codasip可提供“創(chuàng )造差異化設計”模式，意味著(zhù)使用其Studio工具的客戶(hù)，可以根據其特定系統、軟件及應用程序的要求來(lái)定制處理器。通過(guò)將TFLite Micro）、RISC-V定制指令以及Codasip處理器設計工具三者相結合，就可以為嵌入式的、高效率的邊緣神經(jīng)網(wǎng)絡(luò )處理功能帶來(lái)低延遲、高安全性、快速通信和低功耗等優(yōu)勢。

展望未來(lái):新的應用與新的技術(shù)都將不斷涌現

隨著(zhù)產(chǎn)業(yè)的發(fā)展，嵌入式AI/ML技術(shù)和應用都將得到進(jìn)一步的發(fā)展，基于華興萬(wàn)邦提出的“生態(tài)+集成+定制”新范式，以及不斷推陳出新的邊緣應用，我們可以看到在未來(lái)一些新的技術(shù)值得高度關(guān)注，比如新的、適合邊緣應用的硬件加速器和安全技術(shù)。

以硬件加速器為例，近年來(lái)廣泛興起并得到高度關(guān)注的xPU將會(huì )從云端走向嵌入式應用；在一些應用場(chǎng)景中，還需要針對算法和標準的演進(jìn)和升級對硬件進(jìn)行再編程，那么諸如Achronix公司的Speedcore嵌入式FPGA（eFPGA）這樣的IP產(chǎn)品也會(huì )從服務(wù)器和數據中心市場(chǎng)走入嵌入式AI/ML應用，推動(dòng)采用不同硬件加速器的異構計算模式向前發(fā)展。