AI無(wú)所不在 前進(jìn)行動(dòng)裝置勢在必行

在通膨壓力與經(jīng)濟低迷的影響下，全球有超過(guò)半數的企業(yè)正面臨嚴重的人力與技術(shù)缺口。在此同時(shí)，企業(yè)也面臨營(yíng)運成本增加的壓力，IDC預測，AI的自動(dòng)化發(fā)展將成為企業(yè)解決壓力的重要投資。企業(yè)自動(dòng)化應用目前仍面臨AI應用擴展及協(xié)同串接的難題，并且在目前單模態(tài)的AI應用，已不足以滿(mǎn)足企業(yè)在實(shí)時(shí)決策、預測能力的需求。

放眼未來(lái)，能夠同步處理文本、視覺(jué)影像、音頻等應用的多模態(tài)AI，將有機會(huì )幫助企業(yè)解決面對的難題，提供更精準的自動(dòng)化性能，跨越企業(yè)內部各種業(yè)務(wù)流程的決策串流障礙。多模態(tài)AI的自動(dòng)化應用，已逐漸在智能能源與芯片開(kāi)發(fā)設計上嶄露頭角。IDC預測到 2023 年，持續的人才不足與技術(shù)缺口將促使 35%的企業(yè)開(kāi)始投資AI技能，并且預期在2026年將有40%的AI模型能涵蓋多模態(tài)的數據演算，這也成為未來(lái)企業(yè)展現營(yíng)運韌性不可或缺的必備條件。

人工智能無(wú)所不在
然而，現階段人工智能發(fā)展所面臨到的兩大挑戰，包括了大量人為介入導致的偏差與效率問(wèn)題，以及類(lèi)神經(jīng)網(wǎng)絡(luò )算法所帶來(lái)的信任問(wèn)題。根據IDC研究指出，目前的人工智能技術(shù)只能算是弱AI，意味著(zhù)只能應用在單一領(lǐng)域中。而這也讓下一代人工智能技術(shù)的發(fā)展，將朝向Omnipresent AI（無(wú)所不在人工智能）發(fā)展，讓人工智能可以真正做到算法融合、流程的自動(dòng)化、以及虛實(shí)整合。在這樣的發(fā)展基礎下，人工智能將可望更有效率地應用在多種不同的虛實(shí)融合場(chǎng)域，也讓AI的應用能更多元普及。人工智能朝向強AI發(fā)展，也將使企業(yè)對于人工智能的需求大幅提升。

IDC預估到2024年，50%的結構化可重復性的事務(wù)，將可實(shí)現全面自動(dòng)化。并且在未來(lái)10年內，達到人類(lèi)僅需在旁監督，不用直接下指令，機器便能自行進(jìn)行動(dòng)作，并決定事務(wù)執行方式的產(chǎn)業(yè)運作目標。


 
圖一 : 現階段人工智能發(fā)展面臨到的挑戰，包括大量人為介入導致的偏差與效率問(wèn)題，以及類(lèi)神經(jīng)網(wǎng)絡(luò )算法的信任問(wèn)題。

行動(dòng)神經(jīng)運算三大要素
除了企業(yè)端的導入，為了達到無(wú)所不在的人工智能，為行動(dòng)裝置導入AI能力與神經(jīng)運算已經(jīng)勢在必行，讓人工智能也能隨身帶著(zhù)走。Arm資深業(yè)務(wù)開(kāi)發(fā)經(jīng)理暨首席應用工程師沈綸銘指出，對于行動(dòng)裝置來(lái)說(shuō)，神經(jīng)運算最需要的要素有以下三點(diǎn)：

●機器學(xué)習推論（Machine learning influence） 的執行效率：在終端裝置提供有效率的神經(jīng)網(wǎng)絡(luò )執行效能，是用戶(hù)導入的第一個(gè)關(guān)鍵。

●功耗效率：省電絕對是行動(dòng)裝置持續的追求。在得到類(lèi)神經(jīng)運算之下，第二個(gè)要素就是降低功耗的需求，加速行動(dòng)裝置類(lèi)神經(jīng)運算導入市場(chǎng)。

●軟件框架的支持：目前人工智能的訓練框架各不相同，導致終端裝置要執行類(lèi)神經(jīng)運算無(wú)法直接使用，需要額外人力成本進(jìn)行模型轉換，同時(shí)也會(huì )造成模型經(jīng)度損失。所以行動(dòng)裝置執行類(lèi)神經(jīng)運算時(shí)，必須在項目規畫(huà)的初期，就選擇公開(kāi)兼容于各種訓練框架的軟件方案。


 
圖二 : 企業(yè)開(kāi)始運用集體智慧的力量來(lái)提高生產(chǎn)效率。

Arm架構神經(jīng)運算特色
Arm架構是目前多數行動(dòng)裝置所采用的運算核心。沈綸銘說(shuō)，行動(dòng)裝置上導入AI與ML伴隨了許多的挑戰，而Arm架構也針對這些問(wèn)題，進(jìn)行了以下的解決與優(yōu)化。

●持續在CPU、GPU增加AI 運算的能力：目前大多數的機器學(xué)習都是在A(yíng)rm CPU和GPU上進(jìn)行處理，因此Arm持續發(fā)布新的效率與功耗改進(jìn)項目，甚至可以在最小的終端裝置與傳感器上，運行機器學(xué)習模型。Arm機器學(xué)習解決方案結合硬件IP、軟件與人工智能開(kāi)發(fā)框架，可協(xié)助指導設計人員為云端、邊緣與端點(diǎn)建構次世代創(chuàng )新、可攜式的人工智能應用項目。

●持續優(yōu)化軟件效能整合度：Arm的機器學(xué)習SDK包含所有的Arm IP（CPU、繪圖處理器與 NPU），提供更好的機器學(xué)習效能。開(kāi)放原始碼的SDK支持常見(jiàn)的框架與模型格式（例如Tflite、TFLiteμ、Android NNAPI、PyTorch與ONNX），因此可以快速整合及打造流暢的開(kāi)發(fā)人員體驗。軟件可支持各種Arm處理器工作負載，只要開(kāi)發(fā)一次就能部署到各個(gè)地方。

●協(xié)助算法以及終端用戶(hù)合作開(kāi)發(fā)新的AI應用：Arm AI是多功能及可擴充的人工智能開(kāi)發(fā)環(huán)境，結合各種IP 、工具、軟件及支持，可幫助生態(tài)系伙伴創(chuàng )新，開(kāi)發(fā)新的AI應用。

沈綸銘說(shuō)，Arm持續致力于提供于省電的運算架構。神經(jīng)運算底層的行為，其實(shí)就是大量的矩陣運算跟數據的搬動(dòng)，不論是Arm設計的CPU、GPU、NPU，都會(huì )在設計的初期就考慮終端應用場(chǎng)景對功耗的要求。也因為這樣的特色，使得許多合作伙伴也選擇采用整套的Arm Total Solutions for IoT。例如奇景光電的客制化圖像處理芯片解決方案就是采用了Arm Corstone-300，且無(wú)縫的執行于A(yíng)rm虛擬硬件目標（AVH）之上，使其SoC更兼容于A(yíng)rm生態(tài)系的軟硬件支持架構。而AVH即將擴展到第三方裝置平臺，將使開(kāi)發(fā)流程更加順暢。這些都將能為開(kāi)發(fā)人員大幅縮短開(kāi)發(fā)流程與時(shí)間、可專(zhuān)注于特定使用場(chǎng)景，提升客戶(hù)的使用經(jīng)驗。

另外還有開(kāi)放的軟件框架支持。坊間神經(jīng)運算架構方案多半采用封閉的軟件框架，導致可以導入的使用場(chǎng)景十分有限，無(wú)法滿(mǎn)足行動(dòng)裝置所需的語(yǔ)音、影像，甚至是混合型（sensor fusion）的各面向應用場(chǎng)景。因此Arm在規劃神經(jīng)運算軟件架構時(shí)，便意識到這個(gè)問(wèn)題，在規劃CPU、GPU、NPU軟件架構時(shí)，便十分重視開(kāi)源的軟件生態(tài)。

結語(yǔ)
隨著(zhù)AI技術(shù)應用發(fā)展、終端智能裝置的增加，與企業(yè)數字轉型的浪潮推動(dòng)下，IDC觀(guān)察到有越來(lái)越多的企業(yè)開(kāi)始運用集體智慧的力量，搜集并啟用集群式的事物或機器，以提高生產(chǎn)效率、融合內部協(xié)作，達到知識管理與決策制定等目的。IDC認為這些多樣態(tài)的智慧終端，將經(jīng)由中心化、去中心化、與異質(zhì)化群體學(xué)習等方法，讓學(xué)習，預測，與行動(dòng)更加快速有效。預期制造業(yè)、零售業(yè)、醫療產(chǎn)業(yè)將在未來(lái)最有機會(huì )導入群體智慧發(fā)展，逐步邁向全自動(dòng)化，并創(chuàng )造更多產(chǎn)業(yè)發(fā)展機會(huì )。