AI在邊緣設備上的發(fā)展機會(huì )

智能設備對語(yǔ)音技術(shù)和視覺(jué)技術(shù)的需求

　　今天，智能設備主要依賴(lài)于基于語(yǔ)音的用戶(hù)接口，但是我們將看到它們越來(lái)越多地引入視覺(jué)技術(shù)成分。同時(shí)，人們已經(jīng)意識到AI不只適用于高端產(chǎn)品，現在越來(lái)越多的中檔產(chǎn)品也在采用AI。因此，需要在性能與差異化之間發(fā)掘出合理的平衡，同時(shí)還要提供高效率。對于神經(jīng)網(wǎng)絡(luò )，存儲帶寬是一個(gè)關(guān)鍵問(wèn)題，因此，中檔設備需要更加高效。而隨著(zhù)消費者對AI走向低端產(chǎn)品的期待不斷高漲，我們也應該給予更多關(guān)注。

　　我們現在正在看到更多具備AI功能的應用在沖擊市場(chǎng)，如汽車(chē)、無(wú)人機、安防系統和增強現實(shí)/虛擬現實(shí)(AR/VR);以機頂盒和數字電視為例，諸如自動(dòng)提供字幕、圖像增強以及用戶(hù)體驗提升等功能將被進(jìn)一步挖掘。

　　視覺(jué)技術(shù)在智能設備上的應用得到關(guān)注

　　智能設備主要依賴(lài)于基于語(yǔ)音的用戶(hù)接口，但是我們可以看到它們將開(kāi)始越來(lái)越多地引入視覺(jué)技術(shù)成分。

　　從語(yǔ)音的角度來(lái)看，設備需要一直處于開(kāi)啟狀態(tài)，因此需要一種低功耗的解決方案。而從視覺(jué)的角度來(lái)看，由于需要處理大量的數據，它的挑戰在于需要高性能。消費者期望無(wú)論是其智能手機還是冰箱，這些技術(shù)進(jìn)步都應該以標準的形式進(jìn)入設備。因此，支撐AI需求的解決方案應當是高效的，從而引出了對專(zhuān)用硬件的需求。

　　PowerVR Series2NX神經(jīng)網(wǎng)絡(luò )加速器

　　我們設計了自己全新的PowerVR Series2NX神經(jīng)網(wǎng)絡(luò )加速器，在非常低的功耗和極小芯片面積占用的前提下提供高性能的神經(jīng)網(wǎng)絡(luò )計算，其高度可擴展的架構可支撐它基于多樣化的、各種廣為采用的神經(jīng)網(wǎng)絡(luò )框架來(lái)承擔深度神經(jīng)網(wǎng)絡(luò )推算任務(wù)。隨著(zhù)深度神經(jīng)網(wǎng)絡(luò )持續在很多行業(yè)中推動(dòng)技術(shù)爆發(fā)式進(jìn)步，神經(jīng)網(wǎng)絡(luò )加速器注定會(huì )成為一種基礎性的處理器種類(lèi)，和CPU及GPU一樣極為重要。

嵌入式神經(jīng)引擎和專(zhuān)用智能處理器將AI引入前端設備

　　嵌入式神經(jīng)引擎和專(zhuān)用智能處理器將AI引入前端設備，消除了對云的依賴(lài)。前端處理的好處包括縮短延遲、全網(wǎng)覆蓋、提高隱私和安全性，并且減少與云的通信，從而降低成本。這些特性使得移動(dòng)設備可以利用AI的力量去實(shí)現以往人們認為是天方夜譚的功能。

　　前端處理的兩大挑戰

　　雖然前端處理的好處很明顯，但它也帶來(lái)諸多挑戰。首先是如何在細小的掌上型設備上執行來(lái)在大型服務(wù)器上的數據分析(data-crunching)，還要考慮到這個(gè)掌上設備的電池也要應對許多其他任務(wù)。因此，專(zhuān)用AI處理器對于成功的在前端實(shí)現AI是至關(guān)重要的。

　　另外，將現有的神經(jīng)網(wǎng)絡(luò )移植到嵌入式環(huán)境中，這可能需要大量的開(kāi)發(fā)時(shí)間并且成本非常高。但是，自動(dòng)工具可以實(shí)現一鍵式輕易轉換，針對嵌入式環(huán)境來(lái)分析和優(yōu)化網(wǎng)絡(luò )。對于這樣的工具來(lái)說(shuō)，重要的是要覆蓋大量先進(jìn)的網(wǎng)絡(luò )，以確保任何網(wǎng)絡(luò )都可以輕松優(yōu)化，以便在前端嵌入式設備上運行。

　　NeuPro AI處理器

　　CEVA公司的NeuPro AI處理器包含用于矩陣乘法、完全連接層、激活層和池化層的專(zhuān)用引擎。這款專(zhuān)用AI引擎與完全可編程的NeuPro VPU配合使用，后者可支持所有其他層類(lèi)型和NN拓撲。這些模塊之間的直接連接實(shí)現了無(wú)縫連接，無(wú)需寫(xiě)入內部存儲器。此外，DDR BW和DMA控制器可實(shí)現即時(shí)流水線(xiàn)處理，進(jìn)一步提升速度，同時(shí)降低功耗。

支持廣泛神經(jīng)網(wǎng)絡(luò )架構的VIP8000處理器

　　機器學(xué)習和神經(jīng)網(wǎng)絡(luò )處理技術(shù)承載著(zhù)嵌入式處理器下一個(gè)主要的市場(chǎng)機會(huì )。國際數據公司(IDC)預測，全球在A(yíng)I和機器學(xué)習方面的支出將從2016年的80億美元增長(cháng)到2020年的470億美元。AI爆發(fā)式增長(cháng)的背后有三個(gè)主要的驅動(dòng)力：算法的快速演進(jìn)、強大的技術(shù)平臺以及大數據。AI日益無(wú)處不在，這就要求消費電子、汽車(chē)電子、工業(yè)4.0等終端產(chǎn)品具備實(shí)時(shí)神經(jīng)網(wǎng)絡(luò )推理、可靈活升級至最新、最優(yōu)算法，以及從持續學(xué)習中收集有用信息的能力。

　　作為芯片設計平臺及服務(wù)提供商，芯原為包含移動(dòng)互聯(lián)設備、數據中心、IoT、汽車(chē)、工業(yè)和醫療設備在內的廣泛終端市場(chǎng)提供全面的系統級芯片和系統級封裝解決方案。隨著(zhù)最新的分級壓縮、適配的平鋪/緩存、裁剪、獲取、跳過(guò)以及圖像融合技術(shù)的引用，VIP8000為與其相關(guān)的處理器架構進(jìn)一步降低了內存帶寬需求。

　　VIP8000處理器

　　VIP8000支持寬泛的神經(jīng)網(wǎng)絡(luò )架構，如TensorFlow、Caffe、AndroidNN、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開(kāi)發(fā)者創(chuàng )建高性能神經(jīng)網(wǎng)絡(luò )模型和基于機器學(xué)習的應用。由于與Vivante GPU架構相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲器存取和時(shí)序安排，以及多環(huán)境并行處理的長(cháng)處。

　　對于終端設備來(lái)說(shuō)，有些AI應用并不是孤立的應用，而是可以同時(shí)增強現有許多不同應用。作為芯原Vivante IP產(chǎn)品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構，VIP8000神經(jīng)網(wǎng)絡(luò )引擎可以和任何Vivante GPU直接集成，以面向AR/VR等應用;還可以與芯原的ZSP音頻DSP集成，以面向智能音箱的應用;或是與ISP Nano集成，實(shí)現低延遲機器視覺(jué)攝像頭的設計;又或是與Hantro視屏編碼相結合，以實(shí)現更好的視頻內容壓縮。

AI從云端擴到邊緣端，對話(huà)式平臺得到廣泛應用

　　我們注意到AI有兩個(gè)顯著(zhù)加速的趨勢：

　　1)AI的部署和應用逐步從云端擴展至邊緣端，也就是直接部署運行在客戶(hù)端或IoT終端，滿(mǎn)足了一定的實(shí)時(shí)性和安全性等要求。例如：Apple的Face ID、Andriod離線(xiàn)版人臉識別等，這主要歸功于A(yíng)I芯片(或神經(jīng)處理單元NPU)在手機上的深度整合及場(chǎng)景落地。它解決了性能和功耗的平衡問(wèn)題，同時(shí)也強調了軟硬件結合來(lái)完成場(chǎng)景的落地。

　　2)對話(huà)式平臺的廣泛應用。對話(huà)式平臺將改變人們與技術(shù)進(jìn)行交互的方式。用戶(hù)通過(guò)語(yǔ)音發(fā)出命令或者問(wèn)題，對話(huà)式平臺進(jìn)行響應并執行一系列相應的功能。這其中包括語(yǔ)音識別、NLP等當下熱門(mén)的AI技術(shù)，同時(shí)也體現了AI時(shí)代更加自然和人性化的交互方式。

　　AI在邊緣端的部署和應用給終端CPU或者SoC帶來(lái)了特定任務(wù)，例如圖像識別等更大的計算壓力。這種壓力也導致了AI芯片產(chǎn)生，華為的麒麟 970芯片就是一個(gè)標志性的事件。它搭載了寒武紀的一款NPU，這款NPU在特定任務(wù)計算時(shí)的能效是手機CPU的50倍。我們有理由相信，隨著(zhù)更多AI場(chǎng)景的落地，AI架構的芯片會(huì )逐漸成為主流。當然，AI算法也會(huì )不斷地優(yōu)化，不斷在系統層面進(jìn)行融入。如何將芯片、系統與算法高效地融合則是AI場(chǎng)景能否落地的一個(gè)關(guān)鍵因素。

　　對話(huà)式平臺的廣泛應用開(kāi)啟新的交互革命

　　隨著(zhù)語(yǔ)音識別和NLP(自然語(yǔ)言處理)技術(shù)的大熱，聲紋識別技術(shù)也逐漸進(jìn)入大眾的視野，它將與人臉識別等生物認證技術(shù)一起在安全和個(gè)性化服務(wù)領(lǐng)域得到越來(lái)越多的普及。目前的語(yǔ)音識別和聲紋識別等語(yǔ)音技術(shù)受背景噪音、多人同時(shí)說(shuō)話(huà)等環(huán)境因素影響，準確度依然有很大的提升空間。

　　君林科技的麥克風(fēng)陣列技術(shù)(遠場(chǎng)拾音技術(shù))、去噪聲和混響算法以及高精度、高魯棒性的聲紋識別算法從軟硬件結合方式優(yōu)化了整條鏈路，在一定程度上消除了環(huán)境因素的影響，大幅提高了聲紋識別的準確度，從而加速了聲紋識別技術(shù)在智能硬件、銀行保險和公共安防等行業(yè)的場(chǎng)景落地。

　　參考文獻：

　　[1]胡郁.人工智能與語(yǔ)音識別技術(shù)[J].電子產(chǎn)品世界, 2016(4):23-25.

　　[2]王瑩.“CPU+”異構計算時(shí)代，華夏芯通過(guò)HSA搶占高地[J].電子產(chǎn)品世界, 2016(9):15-17.

　　[3]王瑩.人工智能的進(jìn)展及發(fā)展建議[J].電子產(chǎn)品世界, 2017(2-3):23-26.

　　[4]王瑩,王金旺.異構計算帶來(lái)AI視覺(jué)新突破[J].電子產(chǎn)品世界, 2017(7):28-29.

　　[5]任澤坤.芯片廠(chǎng)商引領(lǐng)廣電的人工智能化[J].電子產(chǎn)品世界, 2017(10):23-24.

　　本文來(lái)源于《電子產(chǎn)品世界》2018年第5期第13頁(yè)，歡迎您寫(xiě)論文時(shí)引用，并注明出處。