邊緣AI在智能攝像頭的機會(huì )

作者/Imagination副總裁Russell James

很多人認為是英偉達做的數據訓練非常成功。但隨著(zhù)行業(yè)逐步加深，應用逐步增多，發(fā)現僅僅在服務(wù)器端還不夠的，端側可以做極大延伸。例如，安防從嵌入式視覺(jué)系統到視覺(jué)導向的自主系統，即過(guò)去紅外攝像頭，保安和監控人員要看一二十個(gè)小時(shí)，現在把人眼看的部分，通過(guò)算法和數據集中到服務(wù)器端，下一步希望減少服務(wù)器的負擔，在端側——攝像頭去做識別。這樣做的好處，首先是可以減少網(wǎng)絡(luò )帶寬，因為網(wǎng)絡(luò )存儲等成本非常高；其次是性能，端處理回傳會(huì )延時(shí)；第三是隱私性。

在智能攝像頭監控方面，可用于大規模的實(shí)時(shí)分析，例如用人臉識別來(lái)進(jìn)行目標跟蹤，發(fā)現大型場(chǎng)館入口處的人的可疑行為等，另外還可對車(chē)隊和物體進(jìn)行監控識別，以發(fā)現可疑的路徑和物體。

市面上有很多各種方案：1.CPU盡管什么都可以做，但處理神經(jīng)網(wǎng)絡(luò )效率低，2.DSP最大的問(wèn)題是有非常少的人員可以基于DSP去做編程，沒(méi)有標準化和可覆蓋。3.固定功能的硬化，一旦硬化后只能做一件事，遠遠不夠產(chǎn)業(yè)化。4.GPU，英偉達證明了非常適合處理AI（人工智能），GPU有標準化的編程方式，但功耗較大。那么，是否有功耗非常低又非常靈活的方案？為此，Imagination推出了第5種方案：“GPU+NNA（神經(jīng)網(wǎng)絡(luò )加速器）”方案，特點(diǎn)是提供靈活的IP內核來(lái)達到高性能，特點(diǎn)是功耗低、帶寬較低的場(chǎng)景。

近日，Imagination推出了兩款PowerVR2NX神經(jīng)網(wǎng)絡(luò )加速器（NNA）內核，適合智能監控等、移動(dòng)、工業(yè)等場(chǎng)景。名為AX2185和AX2145的內核，設計目的是在極小芯片面積上以極低功耗實(shí)現神經(jīng)網(wǎng)絡(luò )高性能計算。它們是基于Imagination革命性的神經(jīng)網(wǎng)絡(luò )加速器（NNA）架構PowerVRSeries2NX設計的，該架構可以使“智能”從云端轉移至邊緣設備，從而實(shí)現更高的效率和實(shí)時(shí)響應。

PowerVR Series2NX架構是完全重新設計的，旨在為移動(dòng)和嵌入式平臺中的高效神經(jīng)網(wǎng)絡(luò )推理提供硬件加速。其靈活的位寬可基于每一層去支持權重和數據，這意味著(zhù)PowerVR Series2NX可以保持高推理精度，同時(shí)降低帶寬/功耗要求。它是唯一支持16位到4位位寬的解決方案，可在較低的帶寬和功耗下實(shí)現更高的性能。

嵌入式視覺(jué)聯(lián)盟（Embedded Vision Alliance）創(chuàng )始人Jeff Bier評價(jià)道：“視覺(jué)智能為各種應用帶來(lái)了令人矚目的功能，但是其計算需求是具有挑戰性的。Imagination的兩款新型PowerVR Series2NX神經(jīng)網(wǎng)絡(luò )加速器內核針對性能和內存帶寬進(jìn)行了優(yōu)化，為芯片設計人員提供了受其歡迎的選擇，可以支持他們在嵌入式設備和移動(dòng)設備上部署高要求的、基于深度學(xué)習的計算機視覺(jué)算法?！?/p>