機器學(xué)習成為主流——恩智浦eIQ?軟件開(kāi)發(fā)環(huán)境更智能、更友好

自物聯(lián)網(wǎng)（IoT）問(wèn)世以來(lái)出現了多項頗具顛覆性的創(chuàng )新，邊緣智能便是其中之一。物聯(lián)網(wǎng)帶來(lái)了數十億智能互聯(lián)設備，這些設備傳輸TB級海量傳感器數據，用于執行基于人工智能的云計算。除此之外，另一項革命正在進(jìn)行：邊緣設備上的機器學(xué)習（ML）。隨著(zhù)越來(lái)越多的智能設備遷移到網(wǎng)絡(luò )邊緣，恩智浦緊跟趨勢，提供成本、性能和功率優(yōu)越的處理解決方案，在多個(gè)市場(chǎng)和應用推動(dòng)機器學(xué)習技術(shù)，讓最終用戶(hù)享受到更強安全性、更高隱私性、更少延遲等優(yōu)勢。

以前，機器學(xué)習、深度學(xué)習和神經(jīng)網(wǎng)絡(luò )應用一直是數據科學(xué)家和人工智能專(zhuān)家的專(zhuān)屬領(lǐng)域。但是，越來(lái)越多的機器學(xué)習工具和技術(shù)問(wèn)世，消除了機器學(xué)習應用開(kāi)發(fā)方面的一些復雜性，這種情況逐漸改變。恩智浦的eIQ（“邊緣智能”）機器學(xué)習開(kāi)發(fā)環(huán)境就是一個(gè)很好的例子。eIQ提供一套全面的工作流程工具、推理引擎、神經(jīng)網(wǎng)絡(luò )（NN）編譯器，以及經(jīng)過(guò)優(yōu)化的庫和技術(shù)，幫助簡(jiǎn)化并加快機器學(xué)習開(kāi)發(fā)。從剛開(kāi)始第一個(gè)深度學(xué)習項目的嵌入式開(kāi)發(fā)人員，到專(zhuān)注研究高級目標識別、分類(lèi)、異常檢測或語(yǔ)音識別解決方案的專(zhuān)家，各種技能水平的用戶(hù)都可以使用eIQ。

eIQ機器學(xué)習軟件于2018年推出，經(jīng)過(guò)不斷開(kāi)發(fā)，可支持系統級應用和機器學(xué)習算法實(shí)現，適用于恩智浦i.MX系列從低功耗i.MX RT跨界微控制器（MCU），到基于A(yíng)rm^? Cortex^?-M和Cortex^?-A內核的多核i.MX 8和i.MX 8M應用處理器。

今日重大更新

為幫助機器學(xué)習開(kāi)發(fā)人員更熟練高效地運用恩智浦i.MX 8處理平臺，我們大力擴展了eIQ軟件環(huán)境，添加了全新eIQ Toolkit工作流程工具、基于GUI的eIQ門(mén)戶(hù)開(kāi)發(fā)環(huán)境，以及針對i.MX和i.MX RT設備進(jìn)行優(yōu)化的DeepViewRT?推理引擎。

圖1 eIQ Toolkit和eIQ門(mén)戶(hù)特性與工作流程的簡(jiǎn)要展示

下面詳細介紹eIQ軟件環(huán)境中，這些強大的新增工具如何幫助簡(jiǎn)化機器學(xué)習開(kāi)發(fā)，提高工作效率并為開(kāi)發(fā)人員提供更多選項和更大的靈活性。

eIQ Toolkit：實(shí)現“機器學(xué)習人人可用”

考慮到機器學(xué)習、神經(jīng)網(wǎng)絡(luò )和深度學(xué)習應用的潛在復雜性以及機器學(xué)習開(kāi)發(fā)人員的不同需求，簡(jiǎn)單的“萬(wàn)能”工具并不能實(shí)現“人人可用”。更好的方法是提供靈活的綜合工具套件，該套件應該能夠擴展，以滿(mǎn)足不同技能水平和經(jīng)驗水平的機器學(xué)習開(kāi)發(fā)人員。為此，我們在eIQ機器學(xué)習開(kāi)發(fā)環(huán)境中添加了強大而易用的eIQ Toolkit，使開(kāi)發(fā)人員能夠導入數據集和模型，并跨恩智浦i.MX 8M應用處理器系列和i.MX RT跨界MCU產(chǎn)品組合進(jìn)行訓練、量化、驗證和部署神經(jīng)網(wǎng)絡(luò )模型與機器學(xué)習工作負載。無(wú)論您是剛剛開(kāi)始第一個(gè)機器學(xué)習項目的嵌入式開(kāi)發(fā)人員，還是熟練的數據科學(xué)家或人工智能專(zhuān)家，都能在該工具套件中找到與您的技能水平相對應的功能，來(lái)幫助簡(jiǎn)化機器學(xué)習項目。

圖2 eIQ門(mén)戶(hù)提供數據集管理工具，幫助您注釋并整理所有訓練數據

eIQ Toolkit提供簡(jiǎn)單的工作流程和機器學(xué)習應用示例。此外，該工具套件在eIQ門(mén)戶(hù)中提供一個(gè)基于GUI直觀(guān)開(kāi)發(fā)選項，您也可以根據自己的喜好選擇使用命令行主機工具。如果您想要使用現成的開(kāi)發(fā)解決方案，或是需要恩智浦及我們值得信賴(lài)的合作伙伴提供的專(zhuān)業(yè)服務(wù)與支持，您可以通過(guò)該工具套件在eIQ市場(chǎng)中輕松訪(fǎng)問(wèn)Au-Zone Technologies等公司提供的選項列表，該列表將不斷更新。

圖3 eIQ門(mén)戶(hù)提供便捷的模型驗證和精度測量方法

通過(guò)eIQ門(mén)戶(hù)，您可以輕松創(chuàng )建、優(yōu)化、調試、轉換并導出機器學(xué)習模型，也可以從TensorFlow、ONNX和PyTorch機器學(xué)習框架中導入數據集和模型。您可以通過(guò)“自帶數據” （BYOD）流程，使用自己的數據訓練模型，從預訓練模型數據庫中選擇模型，或通過(guò)“自帶模型”（BYOM）流程導入預訓練模型，例如來(lái)自Au-Zone Technologies的高級檢測模型。通過(guò)遵循簡(jiǎn)單的BYOM流程，您可以使用基于公共云或私有云的工具構建經(jīng)過(guò)訓練的模型，然后將模型傳輸到eIQ Toolkit中，以便在適當的芯片優(yōu)化推理引擎上運行。

圖4 eIQ門(mén)戶(hù)提供靈活的BYOM和BYOD方法

針對目標的圖形級別分析功能讓開(kāi)發(fā)人員能夠在運行時(shí)深入了解運行情況，以便微調和優(yōu)化系統參數、運行時(shí)性能、內存使用和在i.MX設備上執行的神經(jīng)網(wǎng)絡(luò )架構。

最新eIQ推理引擎，實(shí)現恩智浦提速發(fā)展

推理引擎是機器學(xué)習開(kāi)發(fā)項目的核心，也是機器學(xué)習應用的運行時(shí)組件。eIQ機器學(xué)習軟件開(kāi)發(fā)環(huán)境支持使用針對Glow、ONNX和TensorFlow Lite等i.MX設備和MCU進(jìn)行優(yōu)化的各種基于社區的開(kāi)源推理引擎進(jìn)行推理，除此之外，我們還為其添加了DeepViewRT推理引擎。

DeepViewRT是恩智浦與合作伙伴Au-Zone Technologies聯(lián)合開(kāi)發(fā)的專(zhuān)有推理引擎，該引擎提供了長(cháng)期穩定的解決方案，由供應商進(jìn)行維護，用于補充基于社區的開(kāi)源引擎。

圖5 DeepViewRT為機器學(xué)習應用提供穩定靈活的生產(chǎn)就緒型推理引擎

在恩智浦MCUXpresso SDK和Yocto BSP版本中，DeepViewRT推理引擎可作為基于Linux?操作系統的開(kāi)發(fā)的中間件。

關(guān)于eIQ的更多優(yōu)勢

eIQ機器學(xué)習開(kāi)發(fā)環(huán)境及所有必要的基準支持，包括全新eIQ Toolkit、eIQ門(mén)戶(hù)和通過(guò)DeepViewRT實(shí)現的eIQ推理，均無(wú)許可費。

在恩智浦機器學(xué)習/人工智能培訓學(xué)院磨練技能

恩智浦的機器學(xué)習/人工智能培訓學(xué)院針對與機器學(xué)習開(kāi)發(fā)相關(guān)的各個(gè)主題提供自主學(xué)習模塊，并提供有關(guān)結合使用eIQ工具與恩智浦i.MX和i.MX RT設備的最佳實(shí)踐。機器學(xué)習/人工智能培訓學(xué)院面向所有恩智浦客戶(hù)開(kāi)放，提供一系列不斷擴展的培訓模塊，幫助您開(kāi)始進(jìn)行機器學(xué)習應用開(kāi)發(fā)。當前的Yocto Linux版本支持eIQ機器學(xué)習軟件，包括適用于i.MX應用處理器的DeepView RT推理引擎。適用于i.MX RT跨界MCU的eIQ機器學(xué)習軟件已完成集成到恩智浦的MCUXpresso SDK版本中。

作者：

Ali Ors

恩智浦半導體邊緣處理部門(mén)人工智能機器學(xué)習戰略技術(shù)總監

Ali在半導體行業(yè)擁有超過(guò)23年的經(jīng)驗，擅長(cháng)領(lǐng)導跨職能團隊來(lái)打造機器學(xué)習和視覺(jué)處理領(lǐng)域的創(chuàng )新產(chǎn)品和平臺。他目前主要負責全球人工智能機器學(xué)習戰略。