為差異化AIoT應用提供G PU 和神經(jīng)網(wǎng)絡(luò )加速器IP

　　Andrew?Grant（Imagination?Technologies人工智能產(chǎn)品營(yíng)銷(xiāo)?資深總監）

　　1 為AIoT提供神經(jīng)網(wǎng)絡(luò )加速器

　　Imagination Technologies專(zhuān)注于邊緣和終端上的人工智能物聯(lián)網(wǎng)（AIoT）。我們創(chuàng )建半導體知識產(chǎn)權（IP），SoC設計人員使用它們來(lái)開(kāi)發(fā)用于邊緣設備的芯片。我們可以為神經(jīng)網(wǎng)絡(luò )增加加速功能，以使它們能夠在終端上快速運行，進(jìn)而增強邊緣的能力。在某些AI任務(wù)中，神經(jīng)網(wǎng)絡(luò )加速器（NNA）的性能是典型嵌入式CPU的100倍，從而將以前只有在數據中心才能實(shí)現的性能直接帶給終端用戶(hù)。

　　我們看到的趨勢是，隨著(zhù)“網(wǎng)絡(luò )邊緣”逐步涵蓋智慧城市、機器人流程自動(dòng)化（RPA）和用于安防監控的智能攝像頭等智能設備，這一點(diǎn)正變得越來(lái)越重要。通過(guò)開(kāi)發(fā)可用于邊緣同時(shí)占用最小芯片面積的全能型IP，將推動(dòng)新一波邊緣設備面世。

　　2 如何簡(jiǎn)化AIoT終端設備的設計

　　簡(jiǎn)化物聯(lián)網(wǎng)（IoT）終端設備的需求就是將功能整合到盡可能小的芯片面積中，以節省芯片成本。Imagination的IP（GPU和NNA）具備的靈活性和支持的功能，意味著(zhù)能以極低的功耗為邊緣推理增加加速性能，這對于A(yíng)IoT設備而言是非常理想的。

　　如今機器學(xué)習和邊緣AI的創(chuàng )新速度十分迅速，意味著(zhù)幾乎每天都有新的進(jìn)展。通過(guò)與主要框架的開(kāi)發(fā)人員和終端用戶(hù)市場(chǎng)保持緊密聯(lián)系，Imagination一直身處于創(chuàng )新方法的前沿。Imagination不斷更新自己的軟件驅動(dòng)程序，以利用新的技術(shù)進(jìn)展和層操作運算方法。

　　3 針對具體應用的差異化方法將是人們渴望實(shí)現的最終目標

　　今天，市面上仍有8位、16位MCU，并新出現了RISC-V MCU。實(shí)際上，盡管純粹的性能始終是業(yè)界關(guān)鍵的成功因素之一，但針對具體應用采用差異化和優(yōu)化的方法將是人們渴望實(shí)現的最終目標。

　　無(wú)論如何，探求靈活的、可用于眾多領(lǐng)域的IP是非常重要的，同時(shí)使用可組合在一起以實(shí)現更高性能的IP構建模塊將是一個(gè)決定性因素。Imagination的AISynergy就是這方面一個(gè)很好的例子，利用AI Synergy技術(shù)，各層可以在NNA上加速，同時(shí)浮點(diǎn)運算和自定義層可在GPU上運行。通過(guò)使用Imagination的Hyperlane技術(shù)中預留的HyperLane通道，在保護任何圖形輸出的同時(shí)，還可以運行其他計算任務(wù)。