RISC-V如何推動(dòng)邊緣機器學(xué)習的發(fā)展

圖源：ipopba/Stock.adobe.com

當你入了機器學(xué)習(ML)領(lǐng)域的門(mén)之后，很快就會(huì )發(fā)現，云端的數據存儲和處理成本竟然如此之高。為此，許多企業(yè)都上了內部部署基礎設施的車(chē)，試圖通過(guò)這些設施來(lái)承載其ML工作負載，從而限制上述成本?？杉幢闳绱?，這些內部的數據中心還是會(huì )帶來(lái)諸如功耗增加等代價(jià)，尤其是在規模較大的情況下。而功耗增加，就意味著(zhù)電費支出更高，還會(huì )給設備散熱制造麻煩，對可持續發(fā)展也會(huì )構成不利影響。

在云服務(wù)和內部部署場(chǎng)景中，這些開(kāi)銷(xiāo)與輸入到中心樞紐的數據量直接相關(guān)。而解決的辦法，就是在數據到達樞紐之前，盡可能過(guò)濾掉其中多余的部分，這就需要借助邊緣計算系統，在盡可能接近數據采集來(lái)源的地方分析輸入數據。

當然，這些邊緣計算系統能夠實(shí)現這種改變的前提，在于它們自身必須具備高能效，而新一代的RISC-V處理器恰在此時(shí)悄然面世。這些處理器能夠實(shí)現三倍于其他指令集架構(ISA)設備的單位性能能效。

邊緣ML中的RISC-V：指令更少，功耗更低

ML與邊緣計算的融合，使智能設備獲得了自主決策和實(shí)時(shí)適應的能力。對這類(lèi)數據處理層次的需求與RISC-V處理器技術(shù)的進(jìn)步不謀而合，后者已經(jīng)應用到了以下聯(lián)網(wǎng)邊緣應用中：

●   可穿戴設備：配備RISC-V處理器的健身追蹤器可在設備上執行活動(dòng)識別和健康監測，實(shí)時(shí)向用戶(hù)提供個(gè)性化的建議和反饋。

●   智能樓宇：RISC-V處理器已經(jīng)運用到樓宇自動(dòng)化設備中，這些設備可以實(shí)時(shí)執行物體檢測、異常識別、智能自動(dòng)化和安全防護。

●   機器人：配備RISC-V處理器的工業(yè)機器人可以實(shí)時(shí)處理圖像和檢測物體，從而適應不斷變化的環(huán)境，并自主執行復雜任務(wù)。

RISC-V將在轉變各種應用場(chǎng)景的過(guò)程中持續發(fā)揮關(guān)鍵作用，這部分源于它具有開(kāi)放、標準化的ISA以及高計算效率，可簡(jiǎn)化復雜AI算法在邊緣設備上的實(shí)現。這種效率源自RISC-V架構最基本的構件：指令集。

RISC-V以簡(jiǎn)化的ISA為基礎，具有一套基本的整數指令（RV32I或RV64I），同時(shí)處理器架構師可以添加可選擴展，以適應各種使用場(chǎng)景。其中，有兩個(gè)關(guān)鍵性的擴展顯著(zhù)提高了RISC-V處理器的ML運算能力：

●   向量擴展 (V)：該擴展提供了向量運算支持，這對高效矩陣乘法和許多ML算法中的基本運算而言是至關(guān)重要的。向量擴展可以讓處理器在多個(gè)數據元素上同時(shí)執行多種運算，從而顯著(zhù)提高性能。

●   壓縮擴展 (C)：該擴展引入了壓縮指令，編碼所需的位數更少，因此代碼量更小、內存占用更低。這對內存資源有限的邊緣設備尤為重要。

結合這些擴展，RISC-V處理器可在執行ML工作負載時(shí)實(shí)現高性能和高效率。RISC-V處理器IP公司SiFive正是借助向量擴展和其他微體系結構創(chuàng )新，實(shí)現了比競品高30%至40%的能效。^[1]

實(shí)際上，有研究表明，RISC-V設備在CPI方面往往優(yōu)于大多數現有指令集架構，這里的CPI是指執行一條指令所需的平均時(shí)鐘周期數。^[2]這些測試表明，RISC-V設備有能力在保持熱效率的同時(shí)，在更長(cháng)的時(shí)間內執行復雜的ML任務(wù)。

RISC-V生態(tài)系統和邊緣ML工具

RISC-V的模塊化ISA尤其適合開(kāi)發(fā)緊湊型高能效處理器。它的指令集更加直接，有助于優(yōu)化設計、縮短芯片設計和驗證時(shí)間、降低成本，當然還能降低功耗。

要在終端系統中實(shí)現所有這些優(yōu)勢，最終還是要靠開(kāi)發(fā)人員。RISC-V技術(shù)為何能在邊緣計算環(huán)境中得到快速應用？基于開(kāi)放標準的處理器硬件，以及圍繞它而產(chǎn)生并且共同成長(cháng)的軟件和工具生態(tài)系統，可謂功不可沒(méi)。

LLVM和GCC等流行的編譯器現在都支持RISC-V，可確保生成的代碼針對目標處理器進(jìn)行優(yōu)化，包括對ISA擴展的利用。與此同時(shí)，TensorFlow和PyTorch等流行的ML框架也正在向RISC-V移植，一眾嵌入式軟件企業(yè)也貢獻出了自己的ML庫、框架和中間件。

例如，Antmicro和Google Research合作為基于RISC-V的邊緣ML應用開(kāi)發(fā)了快速原型設計和投產(chǎn)前 (pre-silicon) 開(kāi)發(fā)解決方案，該解決方案由Renode仿真框架和Kenning裸機運行時(shí)組成（圖1）。這種聯(lián)合解決方案可以讓ML模型運行在模擬的RISC-V硬件上，幫助開(kāi)發(fā)人員加快工程開(kāi)發(fā)周期。最終，在投入昂貴的芯片制造工序之前，就可以對整個(gè)技術(shù)棧進(jìn)行評估和優(yōu)化。

圖1 Antmicro與Google Research合作推出的RISC-V仿真框架。它為加速ML開(kāi)發(fā)提供了硬件/軟件協(xié)同設計流程 （圖源：作者）

當然，RISC-V和ML開(kāi)發(fā)工具都還有有改進(jìn)空間。在這些生態(tài)系統共同發(fā)展的過(guò)程中，仍有一些挑戰需要克服，包括以下方面：

●   成熟度：與更加成熟的架構相比，RISC-V生態(tài)系統相對較新，因而經(jīng)驗豐富的開(kāi)發(fā)人員并不多，可供使用的工具和庫也不夠全面。

●   標準化：盡管有RISC-V International組織為供應商之間的合作和創(chuàng )新奠定基礎，但在開(kāi)放的生態(tài)系統中，產(chǎn)品的實(shí)現方式一定是多種多樣的，這可能會(huì )帶來(lái)架構碎片化和兼容性問(wèn)題。持續的標準化工作對于維持平穩統一的開(kāi)發(fā)流程至關(guān)重要。

●   硬件可及性：針對ML任務(wù)優(yōu)化的商用RISC-V處理器市場(chǎng)仍然很有限。不過(guò)，隨著(zhù)需求的增加，硬件格局也將隨之發(fā)展和擴大。

要應對這些挑戰，就需要業(yè)界領(lǐng)導者、研究機構和開(kāi)源社區開(kāi)展合作與投資。我們沒(méi)有任何理由認為業(yè)界或開(kāi)源和開(kāi)放標準社區會(huì )停止向RISC-V生態(tài)系統加以投入，也就沒(méi)有理由認為RISC-V技術(shù)會(huì )停止在高能效邊緣應用領(lǐng)域的發(fā)展。

RISC-V塑造邊緣ML的未來(lái)

從實(shí)現的角度而言，精簡(jiǎn)指令集計算機 (RISC) 和復雜指令集計算機 (CISC) 之間的爭論在很大程度上已經(jīng)過(guò)時(shí)?，F在，CPU的效率和性能主要取決于它的微架構，而架構又是通過(guò)其ISA和用于制造物理芯片的制程節點(diǎn)來(lái)實(shí)現的。

隨著(zhù)RISC-V和邊緣ML市場(chǎng)的發(fā)展，我們將持續見(jiàn)證硬件創(chuàng )新和更加專(zhuān)業(yè)化的RISC-V處理器。這些處理器可能會(huì )包含專(zhuān)用的加速器、優(yōu)化的內存架構和其他各種功能，以提高執行ML工作負載的整體性能和效率。

這些新增功能將繼續拓寬采用RISC-V的邊緣設備的應用領(lǐng)域，為其在從智能家居和醫療保健設備到工業(yè)自動(dòng)化系統和自動(dòng)駕駛汽車(chē)等各個(gè)領(lǐng)域的部署鋪平道路。憑借如此廣泛的應用范圍，基于RISC-V的處理器技術(shù)將持續作為智能、互聯(lián)邊緣ML系統的基本構件——這一趨勢已在多個(gè)領(lǐng)域的實(shí)際應用中占據主導地位。

隨著(zhù)RISC-V生態(tài)系統不斷成熟、開(kāi)發(fā)人員對該架構日益熟悉，更多的創(chuàng )新應用將不斷涌現，實(shí)現更加出色的ML應用。未來(lái)將是智能、互聯(lián)和高效創(chuàng )新的時(shí)代。

參考資料

[1] SiFive website, n.d., accessed February 16, 2024, https://www.sifive.com/.

[2] Wajid Ali. "Exploring Instruction Set Architectural Variations: x86, ARM, and RISC-V in Compute-Intensive Applications," Engineering: Open Access 1, no. 3, (2023):157–162.

作者簡(jiǎn)介

Brandon是一位有超過(guò)十年經(jīng)驗的深度技術(shù)記者、講述者和技術(shù)作家，從軟件初創(chuàng )公司到半導體巨頭都是他曾經(jīng)報道過(guò)的對象。他關(guān)注的領(lǐng)域包括嵌入式處理器、硬件、軟件和工具，因為它們都與電子系統集成、物聯(lián)網(wǎng)/工業(yè)4.0部署和邊緣人工智能等用例有關(guān)。他還是一名出色的播客、視頻博主、活動(dòng)主持人和會(huì )議發(fā)言人，并曾在多家電子工程貿易出版物中擔任主編和技術(shù)編輯。Brandon在不出席B2B技術(shù)受眾的大型活動(dòng)時(shí)，會(huì )通過(guò)電視指導菲尼克斯地區的體育特許經(jīng)營(yíng)公司。