異構計算帶來(lái)AI視覺(jué)新突破

作者 王瑩 王金旺 《電子產(chǎn)品世界》編輯

摘要：近年來(lái)，隨著(zhù)圖像處理及識別等關(guān)鍵研究領(lǐng)域的突破，使人工智能在視覺(jué)應用上獲得了前所未有的進(jìn)步，成為AI大規模應用推廣的第一個(gè)場(chǎng)景。為此，筆者采訪(fǎng)了華夏芯(北京)通用處理器技術(shù)有限公司首席執行官李科奕先生，并就相關(guān)內容進(jìn)行了解答。

視覺(jué)成為AI首推應用場(chǎng)景

　　在所有機器處理的感知系統中，機器視覺(jué)系統包含的信息量最大，也是計算機應用中最復雜和最具挑戰的研究領(lǐng)域之一。近年來(lái)，隨著(zhù)圖像處理及識別等關(guān)鍵研究領(lǐng)域的突破，包括卷積神經(jīng)網(wǎng)絡(luò )(Convolutional Neural Network，CNN)技術(shù)的成熟，以及大規模集成電路技術(shù)發(fā)展所帶來(lái)的處理性能的大幅度提升，使人工智能(Artificial Intelligence，AI)在視覺(jué)應用上獲得了前所未有的進(jìn)步，成為AI大規模應用推廣的第一個(gè)場(chǎng)景。例如，特定環(huán)境下的人臉識別、車(chē)輛識別、場(chǎng)景識別等技術(shù)，不管從識別準確度還是識別速度都已取得了驚人的成就，離理想的商業(yè)應用已經(jīng)不遠了，如廣州的高鐵安檢已經(jīng)開(kāi)始使用人臉識別與身份證信息對照對乘客進(jìn)行身份確認。

　　由于視覺(jué)在人類(lèi)的生產(chǎn)、生活中扮演著(zhù)重要的角色，AI視覺(jué)的應用一直是AI研發(fā)最活躍的領(lǐng)域之一，隨著(zhù)相關(guān)技術(shù)的突破，未來(lái)的AI視覺(jué)技術(shù)將會(huì )在安防監控、汽車(chē)輔助/自動(dòng)駕駛、無(wú)人機/機器人視覺(jué)領(lǐng)域得到廣泛應用。

AI視覺(jué)面臨的挑戰

　　AI視覺(jué)當下面臨著(zhù)眾多挑戰，從技術(shù)角度來(lái)看包括視頻圖像識別與處理算法、大數據分析、更先進(jìn)的傳感器、通訊網(wǎng)絡(luò )與覆蓋、存儲及軟硬件平臺等。同時(shí)，針對大規模公眾性AI視覺(jué)應用，還需要解決包括信息安全、個(gè)人隱私、運營(yíng)與服務(wù)品質(zhì)等一系列問(wèn)題。假如上述問(wèn)題陸續得到解決，可以預期在未來(lái)數年中，AI視覺(jué)產(chǎn)品與應用將無(wú)所不在。

　　另外，華夏芯首席執行官李科奕還特別指出，芯片設計架構上的創(chuàng )新和集成電路制造工藝的快速進(jìn)步為AI視覺(jué)的推廣奠定了堅實(shí)的硬件基礎。

AI視覺(jué)的訓練與推理

　　在有關(guān)AI視覺(jué)處理芯片的選擇上，華夏芯認為是由應用場(chǎng)景來(lái)決定。

　　而從目標和任務(wù)角度來(lái)看，AI在視頻應用領(lǐng)域的工作可以劃分為訓練與推理兩大類(lèi)。

　　高性能CPU/GPU集群或其它高性能計算平臺處理訓練

　　通常情況下，訓練工作適合在運維平臺(云端)來(lái)做，目前業(yè)界一般采用英偉達的GPU與賽靈思的FPGA來(lái)實(shí)現計算加速，也有采用基于Intel的CPU集群來(lái)實(shí)現的。主要原因在于在典型的訓練場(chǎng)景中，功耗、計算復雜度、實(shí)時(shí)性響應等指標雖然也很重要，但都不是要考量的第一要素。最重要的是必須確保算法在各種情況下都能獲得滿(mǎn)意的性能效果，包括動(dòng)態(tài)范圍好，收斂性好，適應性好等。為此而耗費較多的計算資源、功耗和時(shí)間對AI的參數進(jìn)行迭代與訓練，都是非常值得的。

　　所以，對于基于大數據的AI學(xué)習與訓練來(lái)說(shuō)，李科奕表示，很多廠(chǎng)家采用GPU、FPGA、配置矢量處理單元的CPU計算集群、甚至于針對特定應用更為優(yōu)化設計的神經(jīng)網(wǎng)絡(luò )加速器等，這些都不失為良好的學(xué)習和訓練平臺。盡管如此，每種平臺都有局限性，存在改進(jìn)和優(yōu)化的空間。

　　異構計算完成推理

　　對于前端嵌入式視頻圖像AI推理芯片主要從以下幾個(gè)方面考慮。第一，從算法角度講，AI推理的結構特性極不規則，例如，不等長(cháng)的、不同維度的、稀疏的矢量計算、矩陣計算等，傳統架構的CPU、DSP、GPU處理效率不高;第二，前端場(chǎng)景變化多端，圖像質(zhì)量屬性不一，如果要取得AI推理的良好性能，不能僅僅依靠AI算法自身，還需要輔助以更多手段與方法;第三，嵌入式的前端應用對于成本、性能、功耗、編程、生態(tài)、標準化的要求更高，而且同時(shí)存在著(zhù)控制與加速計算的需求。這些巨大的挑戰正是為什么目前市場(chǎng)上前端AI視頻芯片方案還非常少、即使已有芯片方案也還存在相當局限性的原因。

　　解決AI視頻前端推理的最好的芯片設計理念是新一代的異構計算架構。異構計算可以很好地支撐龐大而繁雜的前端智能的廣泛應用，并實(shí)現視頻應用相關(guān)的人工智能產(chǎn)業(yè)的標準化與規范化發(fā)展，創(chuàng )建健康的應用生態(tài)系統。而現有市場(chǎng)出現的前端智能推理芯片還不能很好地適應不規則的人工智能算法的架構特性，同時(shí)滿(mǎn)足高性能、低功耗、易編程優(yōu)化等需求。因此，基于新一代異構計算架構的CPU+DSP+硬件加速器的SoC芯片平臺有可能成為AI視頻的主流方案之一。因為這一方案很好地利用了DSP并行計算能力突出的特點(diǎn)：在大部分視頻應用場(chǎng)景中，新一代DSP的計算能力不亞于GPU與FPGA，但功耗更低、實(shí)時(shí)性更強，與單純的神經(jīng)網(wǎng)絡(luò )加速器相比則靈活性更強。

華夏芯獨特的異構計算架構理念

　　按照傳統理念進(jìn)行分類(lèi)的處理器產(chǎn)品在未來(lái)的芯片應用領(lǐng)域的空間會(huì )越來(lái)越小，取而代之的是多種計算單元融合的異構計算設計理念。針對這一發(fā)展趨勢，華夏芯在業(yè)界提出了“三合一”體系架構，推出滿(mǎn)足異構計算應用的新一代處理器IP，包括指令集、工具鏈以及在單一內核中實(shí)現同時(shí)滿(mǎn)足CPU、DSP與GPU的應用需求與計算特征的微架構。這樣的異構計算SoC設計既降低了用戶(hù)二次開(kāi)發(fā)與應用實(shí)現的門(mén)檻，又顯著(zhù)提升了產(chǎn)品的性能、功耗等核心指標，大幅度降低了用戶(hù)在研發(fā)投入方面的成本與規模。

　　針對AI領(lǐng)域的特殊需求，華夏芯研發(fā)了完全自主知識產(chǎn)權的處理器IP核，包括獨特、先進(jìn)的微架構，并推出了可變長(cháng)矢量(矩陣)處理單元，從而很好地滿(mǎn)足了AI算法處理中常出現的多維度、可變長(cháng)、高并發(fā)的計算特征的普遍需求。我們的技術(shù)較傳統的并行計算架構來(lái)說(shuō)，不僅僅在時(shí)延、性能、功耗等關(guān)鍵指標上顯著(zhù)提升，更重要的是用戶(hù)的編程門(mén)檻大幅度下降。

　　目前，華夏芯正和本地AI視覺(jué)算法廠(chǎng)商、系統廠(chǎng)商密切合作，即將推出一款基于異構計算融合概念的AI視覺(jué)專(zhuān)用SoC。這款產(chǎn)品既有通用、又有專(zhuān)用處理單元，主要用于對AI視覺(jué)性能要求很高的安防監控、汽車(chē)輔助駕駛、機器視覺(jué)等應用領(lǐng)域，它的定義和開(kāi)發(fā)是完全基于合作伙伴及應用廠(chǎng)商的定制化需求，李科奕自信地表示，我們相信這款SoC及配套開(kāi)發(fā)工具將成為理想的國產(chǎn)AI視覺(jué)開(kāi)發(fā)平臺。

　　另外，李科奕稱(chēng)，下一步，華夏芯將積極參與推動(dòng)相關(guān)產(chǎn)業(yè)聯(lián)盟的發(fā)展，共建國產(chǎn)AI處理器推廣應用平臺，與業(yè)界同仁一道，加速推動(dòng)我國AI相關(guān)產(chǎn)業(yè)的發(fā)展。

　　參考文獻：

　　[1]李韜,網(wǎng)絡(luò )處理器芯片的國產(chǎn)化之路[J].電子產(chǎn)品世界,2015(1):25-25.

　　[2]鄭小龍,國產(chǎn)嵌入式微處理器的探索與開(kāi)拓[J].電子產(chǎn)品世界，2015(8):20-21.

　　[3]王瑩,“CPU+”異構計算時(shí)代，華夏芯通過(guò)HSA搶占高地[J].電子產(chǎn)品世界, 2016 (9):15-17.

　　[4]陳俊穎,周順風(fēng),閔華清.基于CAPI FPGA的醫學(xué)超聲成像算法異構加速[J].電子產(chǎn)品世界,2016(10):41-44.

　　本文來(lái)源于《電子產(chǎn)品世界》2017年第7期第28頁(yè)，歡迎您寫(xiě)論文時(shí)引用，并注明出處。