協(xié)同芯片（Companion chips）：AI的明智選擇？

　　多年來(lái)，半導體行業(yè)一直致力于將越來(lái)越多的組件緊密的集成到單個(gè)片上系統中(SoC)。畢竟這對于龐大的應用而言是非常實(shí)用的解決方案。通過(guò)優(yōu)化處理器的定位，存儲器和外部設備芯片廠(chǎng)商能夠將數據路徑調整到最短，從而提高功率效率并取得更高的性能，此外還能夠顯著(zhù)的降低成本。通過(guò)這些方法，該行業(yè)已經(jīng)取得了巨大的成功，SoC幾乎是我們所有消費電子產(chǎn)品的標準組件。

　　AI作為一種標準

　　隨著(zhù)更多的公司意識到利用神經(jīng)網(wǎng)絡(luò )處理各種任務(wù)(比如自然語(yǔ)言處理、圖片識別分類(lèi))的巨大潛力，引入人工智能要素的產(chǎn)品數量也在穩步增加。與此同時(shí)，這些任務(wù)的處理過(guò)程正在從基于云的架構遷移到本地終端設備來(lái)實(shí)現，現在專(zhuān)用硬件神經(jīng)網(wǎng)絡(luò )加速器也已經(jīng)嵌入到SoC器件中。

　　AI正集成到更多的SoC器件中

　　從語(yǔ)音激活的消費電子產(chǎn)品(比如虛擬助理)到高級的駕駛輔助系統(ADAS)，集成的神經(jīng)網(wǎng)絡(luò )人工智能(AI)所面臨的機會(huì )正在多個(gè)細分的市場(chǎng)中展開(kāi)，不可否認，人工智能(AI)被認為是許多解決方案必不可少的要素。

　　一種方法不能適用所有

　　然而，盡管AI應用程序的數量正在不斷增加，但這并不意味著(zhù)集成有AI加速功能的SoC能夠適用所有的場(chǎng)景。實(shí)際上，如果我們考慮AI能夠覆蓋大多數的細分市場(chǎng)，那么由于使用該技術(shù)的產(chǎn)品可能有很多不同的處理要求，自然就會(huì )產(chǎn)生碎片化的差異。細分的市場(chǎng)對于專(zhuān)用的SoC器件是一種挑戰，因此“一刀切”通用的方案不再適用。雖然一些市場(chǎng)(比如智能手機、ADAS)為SoC供應商提供了大量的機會(huì )，但是很多針對AI使用的市場(chǎng)目前仍然比較低迷。例如某些產(chǎn)品可能需要AI進(jìn)行語(yǔ)音處理或圖像識別，但不一定兩者都需要。同樣的智能家居供應商認為將傳統的智能手機SoC嵌入AI功能就集成到他們的產(chǎn)品中并不是很好的解決方案，因為這不符合成本效益。

　　認識AI協(xié)同芯片

　　現在臺式機CPU和移動(dòng)SoC大多都采用多核芯片，因為它們靈活的可擴展架構使其能夠按需提供不同的性能，AI“協(xié)同芯片”采用類(lèi)似的方法，它們不僅僅只被設計成一個(gè)，而是多個(gè)計算GPU和神經(jīng)網(wǎng)絡(luò )加速器(NNA)來(lái)為特定的應用提供足夠的性能，同時(shí)確保對硅片尺寸進(jìn)行優(yōu)化，將芯片的成本降至最低。這些處理器會(huì )緊挨著(zhù)主應用處理器(SoC)作為“協(xié)同芯片”，承載主應用處理器上的NNA內核需要處理的AI推理任務(wù)。

　　現在SoC供應商有機會(huì )創(chuàng )建一個(gè)傳統的通用應用處理器，能夠經(jīng)濟高效的適用于多個(gè)市場(chǎng)，同時(shí)可以配套AI協(xié)同芯片來(lái)滿(mǎn)足一些特定應用或小眾應用對于A(yíng)I功能的需求。

　　從OEM廠(chǎng)商的角度來(lái)看，他們現在可以選擇適當地擴展自己的產(chǎn)品解決方案，這取決于他們期望在整個(gè)應用方案中對于A(yíng)I處理操作的開(kāi)銷(xiāo)。

　　一個(gè)AI處理器的例子：根據不同應用NNA的數量可以靈活的增減

　　典型的協(xié)同AI SoC芯片包括負責內部事務(wù)的通用控制CPU、用于高性能計算的GPU內核(而不是專(zhuān)門(mén)用于處理圖形和3D變換操作)以及多個(gè)NNA(神經(jīng)網(wǎng)絡(luò )加速器)，根據不同的神經(jīng)網(wǎng)絡(luò )和推理引擎可靈活組合，此外還可以根據不同的任務(wù)采用不同的精度。舉個(gè)例子，在雙NNA系統中，其中一個(gè)NNA可以用來(lái)執行圖像識別任務(wù)，將結果傳遞給另一個(gè)NNA之前能夠識別出場(chǎng)景中的人臉部分，另一個(gè)NNA會(huì )將人臉部分劃分為單獨的特征從而識別出面部表情。

　　另一個(gè)例子就是汽車(chē)，對六核心的AI協(xié)同芯片進(jìn)行分區，其中三個(gè)NNA(每個(gè)NNA負責不同的方面)用來(lái)識別道路上的標志，與此同時(shí)另外三個(gè)將專(zhuān)門(mén)負責行人檢測。NNA的數量和任務(wù)的分配是根據應用的需求而確定的。這個(gè)概念可以擴展到一系列專(zhuān)用的AI處理器，每個(gè)處理器都會(huì )集成不同數量的NNA來(lái)滿(mǎn)足不同任務(wù)的性能需求。

　　從云端到本地

　　我們已經(jīng)看到了部署在云端的專(zhuān)用AI芯片，比如谷歌公司推出的TPU、微軟公司和英特爾合作的Brainwave項目采用Stratix FPGA作為解決方案，現在這些主要用于A(yíng)I的機器學(xué)習和算法的訓練。

　　典型的云端AI解決方案——太龐大了!

　　然而并不是所有的設備都會(huì )連接到云服務(wù)，面對眾多不用的市場(chǎng)應用，業(yè)界認為至少可以把一些AI任務(wù)用本地設備自身來(lái)完成，這么多市場(chǎng)需求非常的復雜，正如我們之前討論過(guò)的，沒(méi)有完全通用的解決方案。業(yè)界的所有供應商都已經(jīng)開(kāi)始利用神經(jīng)網(wǎng)絡(luò )來(lái)實(shí)現某些特殊的需求，而且向協(xié)同AI芯片的轉變有望成為AI處理解決方案又一令人興奮的一步。

　　最終的結果是協(xié)同AI芯片可能會(huì )比我們預期的更加的普遍，Imagination公司在半導體行業(yè)有著(zhù)超過(guò)25年的處理器內核創(chuàng )新經(jīng)驗，因此它無(wú)疑是這方面可靠的合作伙伴。想要了解PowerVR高級GPU和神經(jīng)網(wǎng)絡(luò )加速器技術(shù)如何幫助你創(chuàng )建下一代AI SoC，請訪(fǎng)問(wèn)我們的網(wǎng)站或者聯(lián)系Imagination了解更多詳情。