傳感器端也能實(shí)現AI推理
加入技術(shù)交流群
作者 王瑩
本文引用地址：http://dyxdggzs.com/article/201805/380771.htm網(wǎng)絡(luò )邊緣計算革命蓄勢待發(fā)，不過(guò)，只有具備AI系統專(zhuān)長(cháng)的開(kāi)發(fā)人員方可駕輕就熟。隨著(zhù)用戶(hù)尋求更高級別的智能，對于靠近IoT(物聯(lián)網(wǎng))數據源的低功耗推理的需求將與日俱增。這些傳感器端，尤其是超低功耗的傳感器端如何實(shí)現人工智能?
近日，萊迪思半導體公司推出了超低功耗 Lattice SensAI。公司亞太區資深事業(yè)發(fā)展經(jīng)理陳英仁先生稱(chēng)其低功耗FPGA將與MCU(微控制器)競爭，主攻低功耗、對計算精度要求不是很高、低成本、小尺寸的嵌入式AI市場(chǎng)。
哪些場(chǎng)景需要傳感器“AI推理”?
如果說(shuō)控制是rule driven(規則驅動(dòng))，那么AI是data driven(數據驅動(dòng))的。眾所周知，AI主要做培訓和推理。云端做培訓較多，萊迪思定位的傳感器端AI只做推理，“這些毫瓦級功耗FPGA將為機器學(xué)習推理在大眾市場(chǎng)物聯(lián)網(wǎng)應用中實(shí)現快速部署創(chuàng )造機遇?！?/p>
圖1 sensAI的核心是倒數第二行的“IP核”和第三行的“軟件工具”
就像做壽司的師傅的手指運動(dòng)，許多手指動(dòng)作無(wú)需傳到大腦，是有經(jīng)驗的習慣性動(dòng)作。同樣，有些推理也無(wú)需傳到云端或用復雜的計算芯片，例如人在室內靜止不動(dòng)，智能照明系統有可能沒(méi)有發(fā)現人而自動(dòng)關(guān)閉，如果有低功耗的人臉檢測就不會(huì )發(fā)生這種事了。智能門(mén)鎖通常用紅外感測，人走近密碼小門(mén)打開(kāi)，但狗或動(dòng)物走近，也會(huì )打開(kāi)，人臉檢測能感測到人走近，密碼小門(mén)才會(huì )打開(kāi)。超市可以用人臉檢測統計人流，或識別性別以推送個(gè)性化廣告等。再有，智能音箱通常是聯(lián)網(wǎng)的，需要云端處理，有時(shí)為了隱私安全，也希望一些音樂(lè )存在音箱里，在線(xiàn)下就能控制和聽(tīng)音樂(lè )。有時(shí)近似的聲音聽(tīng)不了，例如音箱知道“你好”，有時(shí)你叫“李浩”，音箱也會(huì )有所反應，因此就要給音箱一些小智慧。工廠(chǎng)中的馬達聲音有異常，上傳到云端來(lái)不及，傳感器端就可立即做出應急反應。
具體地，如何教給音箱識別“你好”和“李浩”?就像訓練小孩一樣，可以說(shuō)：“李浩，你好?！被颍骸袄詈撇皇悄愫谩?。只要有足夠多的樣本去描述要檢測的目標，AI音箱就可以學(xué)會(huì )，變成一個(gè)算法。
sensAI是什么?
Lattice sensAI是一種結合模塊化硬件套件、神經(jīng)網(wǎng)絡(luò )IP核、軟件工具、參考設計和定制化設計服務(wù)的完整技術(shù)集合，旨在促進(jìn)機器學(xué)習推理的大眾市場(chǎng) IoT應用。如圖1，sensAI的核心主要是倒數第二的“IP核”和第三行的“軟件工具”。
Lattice sensAI提供經(jīng)優(yōu)化的解決方案，具有超低功耗(低于 1 mW~1 W)、封裝尺寸小(5.5~100 mm2)、接口靈活(諸如MIPI? CSI-2、LVDS、GigE 等)和批量?jì)r(jià)格低(約 1~10 美元)等優(yōu)勢，可加速實(shí)現更接近數據源的網(wǎng)絡(luò )邊緣計算。
圖2 sensAI的市場(chǎng)定位
從圖2可見(jiàn)，Lattice sensAI的主要競爭者是MCU。與MCU相比，Lattice sensAI的優(yōu)勢是靈活支持各類(lèi)傳統接口，且功耗極低，只有1 mW~1 W。
適用于解決網(wǎng)絡(luò )邊緣的計算問(wèn)題，Lattice sensAI優(yōu)勢包括：1.模塊化硬件平臺—— 基于 ECP5?器件的視頻接口平臺(VIP)，包括嵌入式視覺(jué)開(kāi)發(fā)套件和基于 iCE40 UltraPlus?器件的移動(dòng)開(kāi)發(fā)平臺(MDP);2.IP核——卷積神經(jīng)網(wǎng)絡(luò )(CNN)加速器和二值神經(jīng)網(wǎng)絡(luò )(BNN)加速器;3.軟件工具——從 Caffe/TensorFlow到 FPGA的神經(jīng)網(wǎng)絡(luò )編譯器工具、Lattice RadiantTM 設計軟件和 Lattice Diamond設計軟件;4.參考設計——人臉檢測、關(guān)鍵詞檢測、對象計數、面部跟蹤和速度標志牌檢測;5.設計服務(wù)。
評論