IP廠(chǎng)商談邊緣AI的機會(huì )

　　毛?爍?（《電子產(chǎn)品世界》，北京?100036）

　　1 AI多樣化，需要廣泛一致的生態(tài)

　　1.1 邊緣AI帶給工業(yè)的變化

　　AI是當今最激動(dòng)人心的技術(shù)革命之一，它將對市場(chǎng)產(chǎn)生巨大的影響，也將作用于各類(lèi)設備，包括網(wǎng)絡(luò )邊緣的計算存儲、自動(dòng)駕駛、數字電視圖像增強、家庭智能助手、不同類(lèi)型的智能手機等，并使物聯(lián)網(wǎng)設備更加智能化。

　　Arm預計，新一輪的AI增強技術(shù)將有助于加速物聯(lián)網(wǎng)在工業(yè)與醫療場(chǎng)景用例、以及智能攝像頭與傳感器（用于預測故障和維護）等設備中的應用。此外，人們希望看到幾乎所有傳感器的監測數據模式都能有所改進(jìn)。這些變化僅僅是一個(gè)開(kāi)始，因為AI正在有效解決以往的計算挑戰，并迸發(fā)出大量的潛能。

　　1.2 邊緣AI的技術(shù)挑戰

　　業(yè)界的挑戰在于，如何確保AI應用于各類(lèi)現代電子設備的同時(shí)，滿(mǎn)足智能設備所需的高功效和成本敏感性。因此，當你將計算的不斷演變特性和人們使用設備的方式考慮進(jìn)去時(shí)，就會(huì )明白AI不可能有一個(gè)放之四海而皆準的解決方案。

　　為了克服這些挑戰，在過(guò)去幾年中，Arm幾乎在每一代產(chǎn)品中都引入了主要的AI增強功能。然而，在將AI應用擴展到數十億臺設備的過(guò)程中，產(chǎn)品功能增強只是其中的一小部分。Arm還需要確保AI易于使用、修改和部署，這就需要通過(guò)投資高效好用的軟件和工具來(lái)實(shí)現，從而使生態(tài)系統中的軟硬件開(kāi)發(fā)人員都可以輕松使用。從根本上來(lái)看，Arm面臨的技術(shù)挑戰不僅限于設計計算架構。為此，Arm也不斷致力于在蓬勃發(fā)展的生態(tài)系統支持下，為市場(chǎng)提供廣泛、一致、易于訪(fǎng)問(wèn)的解決方案。

　　1.3 Arm的解決方案

　　從更高層面上來(lái)講，AI在現代設備中的應用確實(shí)存在兩類(lèi)挑戰：技術(shù)挑戰和生態(tài)挑戰。許多技術(shù)挑戰正在變得越來(lái)越清晰。例如，在云計算中，您可以利用幾近無(wú)限的資源來(lái)處理計算問(wèn)題，很多因素，諸如功耗，芯片成本，帶寬成本等，在云計算中已不再是什么大問(wèn)題。但是，對于A(yíng)rm日常使用的大多數智能設備來(lái)說(shuō)，Arm依舊需要在更加嚴格的功率和尺寸限制下提供更多的算力和功能。例如，在設計最初的AI專(zhuān)用處理器系列Ethos時(shí)，Arm就很快意識到，對海量數據的智能管理對Arm的設計至關(guān)重要，因此，Arm讓所有AI專(zhuān)用處理器都具備智能數據管理技術(shù)，如壓縮和重新加載最小化技術(shù)等。

　　Arm需要在高效、固定功能的硬件與更靈活、可以適應未來(lái)需求而又不影響效率的硬件之間找到一個(gè)適當平衡，Arm Ethos系列就是一個(gè)范例。隨著(zhù)AI和計算的不斷演進(jìn)，如何用更少的資源做更多的事情將繼續成為Arm技術(shù)與思維的核心。但是，正如前面提到的，世上沒(méi)有普適性標準，這就是為什么Arm設計了多款支持AI的處理器，并在功耗、性能、成本和靈活性方面進(jìn)行了多種平衡。 Arm的處理器解決方案旨在實(shí)現從微型傳感器、云服務(wù)器到基礎架構的全面AI。

　　2 Imagination談工業(yè)AI的機遇與挑戰

　　2.1 邊緣AI帶來(lái)的變化

　　邊緣AI將在未來(lái)幾年發(fā)生巨大變化。邊緣設備中的神經(jīng)網(wǎng)絡(luò )加速能力以指數級的速度向前發(fā)展，意味著(zhù)完全在設備上完成處理只是時(shí)間問(wèn)題。

　　例如，自動(dòng)化技術(shù)、機器人和傳感技術(shù)的進(jìn)步都會(huì )體現在我們身邊的各種機器上，這將意味著(zhù)工業(yè)安全的真正改善。由人工智能物聯(lián)網(wǎng)（AIoT）驅動(dòng)的智能機器可以檢查出當機械臂在其運動(dòng)范圍內快速擺動(dòng)時(shí)沒(méi)有人處于其運動(dòng)路徑上，還可以檢查過(guò)程和材料中的缺陷，這意味著(zhù)偏差會(huì )越來(lái)越小，質(zhì)量會(huì )進(jìn)一步提高。

　　自動(dòng)化程度的提高帶來(lái)的關(guān)鍵機會(huì )是可以提高過(guò)程智能，從而使設備不僅可以成為數據驅動(dòng)的設備，而且具有分享知識的能力，這一過(guò)程稱(chēng)為聯(lián)合學(xué)習或遷移學(xué)習。這將提高生產(chǎn)力、可靠性和質(zhì)量，降低成本，并增加產(chǎn)量。

　　2.2 工業(yè)AI的技術(shù)挑戰

　　上文提及的方案很快就會(huì )在您身邊的機器上有所體現，目前還有一些技術(shù)挑戰正待解決。例如，現在傳感器數據會(huì )被匯總并反饋至云端以進(jìn)行決策，這會(huì )增加延遲，產(chǎn)生連接和數據中心方面的成本。然而，我們越來(lái)越多地可以在嵌入式邊緣設備上進(jìn)行神經(jīng)網(wǎng)絡(luò )推理，使邊緣設備可以有效地做出自我決策，同時(shí)只需將重要信息傳達給中央控制端。隨著(zhù)這些設備的推出，我們將看到顯著(zhù)的改善，例如減少延遲、降低功耗，以及無(wú)需去“呼叫總部”。

　　在某些情況下，所面臨的挑戰是成本問(wèn)題，因為工業(yè)物聯(lián)網(wǎng)相當碎片化，某個(gè)特定的應用場(chǎng)景可能僅有小批量的需求，這意味著(zhù)系統構建者和SoC設計人員必須設計一個(gè)擁有廣泛用途的基本規范，從而將眾多小批量應用匯總成大批量。好消息是，神經(jīng)網(wǎng)絡(luò )加速器的進(jìn)步意味著(zhù)可以在比針頭或句尾的句號還小的芯片中添加支持這些應用的功能。這也意味著(zhù)“智能”可以被添加到嵌入式設備中，使這些設備可以運行各種各樣的神經(jīng)網(wǎng)絡(luò )模型和算法，進(jìn)而憑借足夠的靈活性去應對多種應用場(chǎng)景。

　　2.3 Imagination的解決方案

　　Imagination Technologies一直跟隨著(zhù)客戶(hù)的步伐，并希望通過(guò)自己的研發(fā)能力來(lái)預見(jiàn)到這些問(wèn)題。因此，Imagination可以憑借自己的神經(jīng)網(wǎng)絡(luò )加速器（NNA）為邊緣AI提供全面的計算解決方案，相比其他方法，NNA可以指數倍的速度運行神經(jīng)網(wǎng)絡(luò )層，同時(shí)具有運行自定義層所需的靈活性。有了神經(jīng)網(wǎng)絡(luò )加速功能，意味著(zhù)網(wǎng)絡(luò )可以在設備上運行，從而支持在邊緣進(jìn)行數據驅動(dòng)的決策。

　　Imagination還可以提供豐富的IP內核設計和各種性能配置，以滿(mǎn)足市場(chǎng)上所有領(lǐng)域的需求。Imagination支持非常小的尺寸，也支持非常強大的功能和卓越的性能，同時(shí)可以做到硅成本很低。

　　本文來(lái)源于科技期刊《電子產(chǎn)品世界》2019年第12期第17頁(yè)，歡迎您寫(xiě)論文時(shí)引用，并注明出處。