使用外部AI加速器，讓i.MX處理器機器學(xué)習處理更給力！

恩智浦精心打造了i.MX應用處理器、i.MX RT跨界微控制器（MCU）產(chǎn)品組合和芯片系列，可滿(mǎn)足廣泛的市場(chǎng)需求。從需要極低功耗的垂直產(chǎn)品，到需要配有多個(gè)CPU、2D-3D GPU、DSP和NPU機器學(xué)習加速器的復雜異構計算平臺的其他終端產(chǎn)品，我們的產(chǎn)品團隊需要解決多維優(yōu)化問(wèn)題。最終目標是提供各種應用和產(chǎn)品所需的所有計算能力和連接，同時(shí)最大限度地減少未使用的功能，從而滿(mǎn)足設備的占用空間面積、功耗和成本要求。 

說(shuō)到機器學(xué)習，有一些最終用途，例如自動(dòng)駕駛車(chē)輛和自然語(yǔ)言處理，將邊緣設備的計算要求推高到每秒數十萬(wàn)和數百萬(wàn)億次運算（TOP）的高極限。隨著(zhù)業(yè)界日益重視開(kāi)發(fā)專(zhuān)門(mén)面向邊緣的高效的ML模型，并使用量化和修剪等技術(shù)，許多邊緣機器學(xué)習應用適用于從Giga-Ops到較低的個(gè)位數TOPs的ML計算性能。恩智浦解決方案本身便可滿(mǎn)足這大部分AI處理需求。 

按細分市場(chǎng)劃分的ML應用和 TOPs計算需求 

如今，軟件投資主導著(zhù)硬件選擇，在考慮產(chǎn)品路線(xiàn)圖和多代產(chǎn)品時(shí)尤為如此。在開(kāi)發(fā)一系列終端產(chǎn)品時(shí)，選擇相同或類(lèi)似的應用處理器顯然有很大的優(yōu)勢，這樣開(kāi)發(fā)工作就可以轉化為更高的成熟度和質(zhì)量，還可以重復使用。不同的細分市場(chǎng)對應用的某些部分要求的性能不同，但不同版本和各級產(chǎn)品的基本功能保持不變。

可擴展的處理器系列（如i.MX應用處理器）使開(kāi)發(fā)人員能夠在各種高級功能和性能中靈活選擇，同時(shí)還可提供通用的基本計算架構和功能集供產(chǎn)品組合中的成員使用，還提供通用的軟件使能單元。恩智浦提供GStreamer和NNStreamer框架，通過(guò)ML簡(jiǎn)化視覺(jué)應用的部署。GStreamer被用作創(chuàng )建流媒體應用的框架，抽象出硬件層，允許使用任何i.MX SoC而無(wú)需改變底層的視覺(jué)pipeline軟件。 

即使產(chǎn)品在市場(chǎng)上推出后，應用要求和市場(chǎng)需求也會(huì )不斷變化。那么，當您需要所選擇的應用處理器提供更多功能時(shí)，您會(huì )怎么做？返回選擇流程并尋找更高性能的處理器通常不是首選。在需要時(shí)添加另一個(gè)器件來(lái)提供額外的加速是可行的途徑，特別是具有高速高帶寬、低延遲的芯片到芯片連接選項（如PCIe）。恩智浦的生態(tài)體系合作伙伴通過(guò)專(zhuān)用的ML加速器芯片助您一臂之力。 

Kinara是恩智浦的一個(gè)生態(tài)體系合作伙伴，開(kāi)發(fā)面向專(zhuān)用ML加速的Ara-1 Edge AI處理器。恩智浦提供基于Gstreamer和NNStreamer的視覺(jué)pipeline支持，Kinara開(kāi)發(fā)了Gstreamer兼容插件集，在這兩者的加持下，可無(wú)縫地將Ara-1集成到恩智浦推理pipeline，并且還能夠在功能需求改變時(shí)輕松地將設計遷移到不同的i.MX應用處理器。 

Kinara和恩智浦如何協(xié)作提升嵌入式平臺的AI性能，使其超越原生功能？了解詳情，請閱讀白皮書(shū)>> 

將恩智浦i.MX應用處理器的原生ML處理能力與恩智浦生態(tài)體系合作伙伴（如Kinara）提供的專(zhuān)用ML加速器相結合，在恩智浦原有可擴展性的基礎上進(jìn)一步提高，同時(shí)仍然可以使用相同的軟件。

本文作者

Ali Ors，恩智浦半導體邊緣處理AI機器學(xué)習戰略技術(shù)主管。Ali專(zhuān)門(mén)負責領(lǐng)導跨職能團隊，為機器學(xué)習和愿景處理領(lǐng)域提供創(chuàng )新產(chǎn)品和平臺。他目前在恩智浦負責全球AI機器學(xué)習戰略和技術(shù)。Ali曾在恩智浦汽車(chē)業(yè)務(wù)部負責ADAS和自主產(chǎn)品的AI戰略、戰略伙伴關(guān)系和平臺設計。加入恩智浦之前，Ali是CogniVue公司的工程副總裁，負責開(kāi)發(fā)視覺(jué)SoC解決方案和認知處理器IP內核。Ali持有加拿大渥太華卡爾頓大學(xué)的工程學(xué)學(xué)位。