當邊緣AI走進(jìn)日常...
加入技術(shù)交流群
人工智能(AI)技術(shù)已走進(jìn)我們的世界。每次您讓Alexa做事時(shí)，機器學(xué)習技術(shù)都會(huì )努力弄清楚您說(shuō)的內容，并試圖對您想讓它做的事情做出最佳判斷。每次Netflix或亞馬遜向您推薦“下一部電影”或“下一次購貨商品”時(shí)，都是基于復雜的機器學(xué)習算法，為您提供更有吸引力的推薦，這些推薦遠比過(guò)去的促銷(xiāo)更誘人。雖然我們可能不是每個(gè)人都有自動(dòng)駕駛汽車(chē)，但我們都敏銳地意識到了該領(lǐng)域的發(fā)展和自主導航的潛力。
本文引用地址：http://dyxdggzs.com/article/202409/463281.htm人工智能技術(shù)大有前途——它讓機器可以根據周?chē)氖澜缱龀鰶Q策，像人類(lèi)一樣處理信息，甚至處理方式還會(huì )優(yōu)于人類(lèi)。但是，如果您仔細想一想上面的這些例子，就會(huì )發(fā)現這里的人工智能承諾只能通過(guò)“大型機器”來(lái)實(shí)現——這些機器沒(méi)有功率、尺寸或成本限制，或者換言之，它們會(huì )發(fā)熱、擁有線(xiàn)路功率、尺寸很大，而且很貴。Alexa和Netflix依靠云端的大型、高耗電服務(wù)器來(lái)分析您的意圖。雖然自動(dòng)駕駛汽車(chē)很可能要依賴(lài)電池供電，但考慮到電池必須能夠驅動(dòng)車(chē)輪和轉向，因此需要提供很高的容量，即便與非常昂貴的人工智能決策相比，它也要消耗大量的能源。
目前，人工智能的發(fā)展的很不錯，但是人工智能的“小型化，邊緣化”卻滯后了。那些由小型電池供電或存在成本和尺寸限制的設備無(wú)法實(shí)現機器的視覺(jué)和聽(tīng)覺(jué)分析功能。目前，這些小型機器只能利用簡(jiǎn)單的人工智能技術(shù)：也許只是聽(tīng)一個(gè)關(guān)鍵詞，或者分析低維信號，比如用光容積描記術(shù)(PPG)來(lái)測量心率。
但是，小型設備能夠看到和聽(tīng)到是否有實(shí)用價(jià)值呢？思考一下，像門(mén)鈴攝像頭這樣的小產(chǎn)品需要使用自動(dòng)駕駛或自然語(yǔ)言處理等大的人工智能技術(shù)嗎？似乎也沒(méi)有必要。因此可以考慮采用不太復雜、處理強度不大的小型化的，邊緣的人工智能計算，比如詞匯識別、語(yǔ)音識別和圖像分析。
普通的門(mén)鈴攝像頭和消費類(lèi)安保攝像頭經(jīng)常會(huì )被一些無(wú)關(guān)緊要的事件觸發(fā)，比如刮風(fēng)引起的植物擺動(dòng)、云彩引起的劇烈光線(xiàn)變化、甚至是狗或貓在攝像頭前跑動(dòng)。這些事件可能會(huì )導致誤觸發(fā)，從而使需要房主去操作忽視并清除此類(lèi)觸發(fā)事件。尤其糟糕的是，如果房主正好在世界其它地方旅行，而家里的攝像頭卻對日出、云彩、日落造成的光線(xiàn)變化發(fā)出了誤警報會(huì )影響他們睡眠和旅行。然后一個(gè)智能攝像頭能夠基于更具體的事件觸發(fā)，例如在所監控的畫(huà)面中出現了一個(gè)人。
門(mén)鎖或其它出入口可使用面部識別，甚至是語(yǔ)音識別來(lái)授予人員訪(fǎng)問(wèn)權限，在某些情況下不需要鑰匙或胸卡。
很多攝像頭都希望在發(fā)生某些特定事件時(shí)觸發(fā)：例如，跟蹤攝像頭可能希望在畫(huà)面中出現鹿時(shí)被觸發(fā)，安保攝像頭可能希望在畫(huà)面中有人或出現開(kāi)門(mén)或腳步聲等噪音時(shí)被觸發(fā)，而個(gè)人攝像頭可能希望通過(guò)語(yǔ)音命令來(lái)觸發(fā)。
雖然有很多“HeyAlexa”這樣的簡(jiǎn)單解決方案，但多詞匯量命令在很多應用中都非常有用。如果您具備識別20個(gè)或更多單詞的詞匯表，就可以在工業(yè)設備、家居自動(dòng)化、烹飪設備和大量其它設備中應用，以簡(jiǎn)化人機交互。
這些例子只觸及表層：讓小型機器看到、聽(tīng)到和解決過(guò)去需要人為干預的問(wèn)題，這就是一種很強大的思路，而且我們每天都不在不斷發(fā)現智能化的創(chuàng )造的新用例。
那么，如果人工智能對小型機器具有如此實(shí)用價(jià)值，為什么我們還沒(méi)有開(kāi)發(fā)出來(lái)呢？答案是計算能力。人工智能推理是神經(jīng)網(wǎng)絡(luò )模型計算的結果?？梢园焉窠?jīng)網(wǎng)絡(luò )模型看作是大腦處理圖像或聲音的粗略近似形態(tài)，將其分解為非常小的片段，然后在這些小碎片組合在一起時(shí)識別出模型?，F代化視覺(jué)問(wèn)題的主要模型是卷積神經(jīng)網(wǎng)絡(luò )(CNN)。這類(lèi)模型在圖像分析方面非常出色，在音頻分析方面也非常有用。問(wèn)題在于，這些模型需要數百萬(wàn)或數十億次的數學(xué)計算。用傳統的設計方法，這些應用在實(shí)施時(shí)會(huì )面臨一個(gè)困難的抉擇：
使用低成本、低功耗的微控制器解決方案。雖然平均功耗可能很低，但卷積神經(jīng)網(wǎng)絡(luò )可能需要幾秒鐘的時(shí)間來(lái)計算，這意味著(zhù)人工智能推理不是實(shí)時(shí)的，意味著(zhù)它會(huì )消耗大量的電池電量。
購置一個(gè)昂貴的高性能處理器，就能在規定的延遲內完成這些數學(xué)運算。這些處理器通常很大，需要很多外部組件，包括散熱器或類(lèi)似的冷卻組件。不過(guò)，它們執行人工智能推理的速度非?？?。
低功耗微控制器解決方案的速度太慢，無(wú)法發(fā)揮作用，而高性能處理器方法會(huì )超出成本、尺寸和電源預算，可以說(shuō)上述兩種方案都不夠理想，難以實(shí)施
我們需要的是一個(gè)從頭開(kāi)始構建的嵌入式人工智能解決方案，盡可能減少卷積神經(jīng)網(wǎng)絡(luò )計算所需的能耗。人工智能推理需要以比傳統微控制器或處理器解決方案更少的能量來(lái)執行，并且無(wú)需借助能耗高、尺寸大、成本大的外部組件（如存儲器）。如果人工智能推理解決方案實(shí)際上能夠消除機器視覺(jué)的能量損失，那么即使是最小的設備也能看到并識別周?chē)澜绨l(fā)生的事情。
幸運的是，我們現在已經(jīng)處于這場(chǎng)“小型機器”革命的開(kāi)端。我們在市場(chǎng)上已經(jīng)推出的產(chǎn)品——MAX78000，一款新型AI微控制器，能夠使神經(jīng)網(wǎng)絡(luò )以超低功耗運行，已經(jīng)消除人工智能推理的能源成本，并實(shí)現電池供電的機器視覺(jué)功能。
MAX78000是一款新型的AI微控制器，使神經(jīng)網(wǎng)絡(luò )能夠在互聯(lián)網(wǎng)邊緣端以超低功耗運行，將高能效的AI處理與經(jīng)過(guò)驗證的Maxim超低功耗微控制器相結合。通過(guò)這款基于硬件的卷積神經(jīng)網(wǎng)絡(luò )(CNN)加速器，即使是電池供電的應用也可執行AI推理，同時(shí)功耗僅為微焦耳級。
作為一款先進(jìn)的片上系統， MAX78000 集成帶FPU CPU的Arm ? Cortex ? -M4內核，通過(guò)超低功耗深度神經(jīng)網(wǎng)絡(luò )加速器實(shí)現高效的系統控制。CNN引擎具有442KB的權重存儲器，可支持1、2、4和8位權重（支持高達350萬(wàn)權重的網(wǎng)絡(luò )）。該CNN權重存儲器基于SRAM，因此可進(jìn)行AI網(wǎng)絡(luò )的即時(shí)更新。同時(shí)，CNN引擎還集成了512KB的數據存儲器。高度靈活的CNN架構允許用戶(hù)通過(guò)PyTorch ? 和TensorFlow ? 等傳統工具集訓練網(wǎng)絡(luò )，然后經(jīng)Maxim提供的工具轉換后在MAX78000上運行。
除CNN引擎的存儲器之外，MAX78000還具備適配微控制器內核的大型片內系統存儲器，具有512KB的閃存和高達128KB的SRAM，支持多個(gè)高速和低功耗的通信接口，包括I2S和并行攝像頭接口(PCIF)。
評論