支持廣泛神經(jīng)網(wǎng)絡(luò )架構的VIP8000處理器

作者/芯原視覺(jué)圖像產(chǎn)品開(kāi)發(fā)副總裁 林尙宏

機器學(xué)習和神經(jīng)網(wǎng)絡(luò )處理技術(shù)承載著(zhù)嵌入式處理器下一個(gè)主要的市場(chǎng)機會(huì )。國際數據公司(IDC)預測，全球在人工智能和機器學(xué)習方面的支出將從2016年的80億美元增長(cháng)到2020年的470億美元。AI爆發(fā)式增長(cháng)的背后有三個(gè)主要的驅動(dòng)力：算法的快速演進(jìn)、強大的技術(shù)平臺以及大數據。AI日益無(wú)處不在，這就要求消費電子、汽車(chē)電子、工業(yè)4.0等終端產(chǎn)品具備實(shí)時(shí)神經(jīng)網(wǎng)絡(luò )推理、可靈活升級至最新最優(yōu)算法，以及從持續學(xué)習中收集有用信息的能力。

芯原是一家芯片設計平臺及服務(wù)（Silicon Platform as a Service，SiPaaS?）提供商，為包含移動(dòng)互聯(lián)設備、數據中心、物聯(lián)網(wǎng)(IoT)、汽車(chē)、工業(yè)和醫療設備在內的廣泛終端市場(chǎng)提供全面的系統級芯片(SoC)和系統級封裝(SiP)解決方案。芯原的機器學(xué)習和人工智能技術(shù)已經(jīng)全面布局智慧設備的未來(lái)發(fā)展?；赟iPaaS服務(wù)理念，芯原助力客戶(hù)在設計和研發(fā)階段領(lǐng)先一步，從而專(zhuān)注于差異化等核心競爭優(yōu)勢。芯原一站式端到端的解決方案則能夠在短時(shí)間內打造出從定義到測試封裝完成的半導體產(chǎn)品。寬泛靈活的SiPaaS解決方案為客戶(hù)帶去高效經(jīng)濟的半導體產(chǎn)品替代解決方案。

芯原還提供廣泛且多樣的處理器IP，如GPU、DSP、顯示控制IP、ISP、視頻CODEC，以及神經(jīng)網(wǎng)絡(luò )處理器IP等。其中，VIP8000神經(jīng)網(wǎng)絡(luò )處理器達到了業(yè)界最高的推理性能和能效水平，是目前市面上最為可擴展的神經(jīng)網(wǎng)絡(luò )處理平臺。該神經(jīng)網(wǎng)絡(luò )引擎運算速度范圍可從0.5到72萬(wàn)億次運行/秒(TeraOPS) ，在16nm工藝制程下功率效率可達10萬(wàn)億次運行/瓦。隨著(zhù)最新的分級壓縮、適配的平鋪/緩存、裁剪、獲取跳過(guò)以及圖像融合技術(shù)的引用，VIP8000為與其相關(guān)的處理器架構進(jìn)一步降低了內存帶寬需求。新一代神經(jīng)網(wǎng)絡(luò )引擎IP的推出，使得芯原成為這類(lèi)應用市場(chǎng)發(fā)展的重要推力。從永不斷電的電池驅動(dòng)類(lèi)IoT客戶(hù)端到AI服務(wù)器集群，性能領(lǐng)先業(yè)界的VIP8000處理器將持續擴大其應用空間。

VIP8000不僅優(yōu)于所有傳統的DSP、GPU，以及CPU混合系統，還通過(guò)了業(yè)界驗證，于1年半以前便授權給用戶(hù)使用。2017年，10家主要的ASIC設計廠(chǎng)商在通過(guò)評估各類(lèi)IP和SoC解決方案、并進(jìn)行嚴格的性能篩選后，最終選擇了采用VIP產(chǎn)品。芯原已將此類(lèi)IP成功授權給ADAS、自動(dòng)駕駛、安全監控、家庭娛樂(lè )和服務(wù)器專(zhuān)用ASIC等廠(chǎng)商。

VIP8000支持寬泛的神經(jīng)網(wǎng)絡(luò )架構，如TensorFlow、Caffe、AndroidNN、AmazonMachine Learning、ONNX、NNEF、AlexNet、VGG16、GoogLeNet、Yolo、Faster R-CNN、MobileNet、SqueezeNet、ResNet、RNN和LSTM等，此外，還提供大量軟件和硬件解決方案以幫助開(kāi)發(fā)者創(chuàng )建高性能神經(jīng)網(wǎng)絡(luò )模型和基于機器學(xué)習的應用。由于與Vivante GPU架構相同，VIP8000繼承了其OpenCL可編程性，硬件直接存儲器存取和時(shí)序安排，以及多環(huán)境并行處理的長(cháng)處。

對于終端設備來(lái)說(shuō)，有些AI應用并不是孤立的應用，而是可以同時(shí)增強現有的許多不同應用。作為芯原Vivante IP產(chǎn)品系列的一部分，VIP8000處理器可以在兼顧芯片尺寸和功耗的情況下，輕松地與其他芯原處理器IP相集成。例如，基于共同的架構，VIP8000神經(jīng)網(wǎng)絡(luò )引擎可以和任何Vivante GPU直接集成以面向AR/VR等應用；還可以與芯原的ZSP音頻DSP集成以面向智能音箱的應用；或是與ISP Nano集成實(shí)現低延遲機器視覺(jué)攝像頭的設計；又或是與Hantro視屏編碼相結合以實(shí)現更好的視頻內容壓縮。

AI已經(jīng)無(wú)處不在?；谡趯?zhuān)利申請中的神經(jīng)網(wǎng)絡(luò )壓縮技術(shù)，VIP8000系列產(chǎn)品可幫助設計者快速交付采用AI技術(shù)的嵌入式產(chǎn)品，我們已經(jīng)和從嵌入式產(chǎn)品到服務(wù)器應用的各個(gè)領(lǐng)先廠(chǎng)商展開(kāi)了深度合作。應用和算法都在快速演進(jìn)，芯原的AI技術(shù)與公司其他廣泛的IP組合將為客戶(hù)帶去突破性的解決方案，以加速AI技術(shù)實(shí)現其產(chǎn)業(yè)價(jià)值。