使用萊迪思FPGA加速低功耗AI應用的創(chuàng )新

ABI公司的研究表明，截至2024年，具備設備端AI推理能力的設備比例預計將達到60%。印證了過(guò)去幾年里AI的快速創(chuàng )新，這就要求在從云端向網(wǎng)絡(luò )邊緣轉變的過(guò)程中，工程師需要開(kāi)發(fā)更加靈活的設計模型。這一趨勢的驅動(dòng)力包括對超低延遲、安全性能的需求以及帶寬限制和隱私保護等。

萊迪思FPGA和軟件解決方案能夠幫助設計人員使用現有的芯片加速實(shí)現面向未來(lái)的模型。本文將探索萊迪思FPGA和軟件解決方案在計算機視覺(jué)和網(wǎng)絡(luò )邊緣AI設計中的一些應用示例。

為何FPGA是網(wǎng)絡(luò )邊緣計算和AI應用的最佳選擇

FPGA本身具有靈活性和適應性，是網(wǎng)絡(luò )邊緣計算和AI應用的理想之選。

FPGA是一種并行計算引擎，能夠以較低的時(shí)鐘頻率運行，因此功耗較低。此外整個(gè)架構還擁有靈活的資源，包括DSP、存儲器、分散且互連的可編程邏輯單元，與那些AI專(zhuān)用的新型ASIC有諸多相似之處。然而，與ASIC和其他處理器不同的是，FPGA的靈活性能夠持續優(yōu)化系統內現有的用例，并且還能引入全新的用例，而無(wú)需使用新的硬件。

當萊迪思將FPGA與ASIC的設計周期進(jìn)行比較時(shí)，可以看到系統設計人員可以使用FPGA進(jìn)行多次迭代，快速引入新應用并推向市場(chǎng)。而使用ASIC的系統設計人員必須等待下次迭代才能達到相同的性能水平，這不僅會(huì )推遲上市時(shí)間，并且在系統需要適應能力時(shí)整體效率更低。

在今年的嵌入式視覺(jué)峰會(huì )上，萊迪思展示了一個(gè)基于CertusPro?-NX器件的演示，該演示可以并行運行多個(gè)AI引擎和并發(fā)線(xiàn)程，降低了系統的整體延遲，并在完整的系統實(shí)施中可以實(shí)現更高的FPS。

幫助系統設計人員加速開(kāi)發(fā)AI應用

在演講的后半部分，萊迪思簡(jiǎn)要介紹了其如何利用其各種軟件解決方案（包括萊迪思sensAI? 解決方案集合）幫助系統設計人員（通常是軟件開(kāi)發(fā)人員，而非FPGA專(zhuān)家）進(jìn)行開(kāi)發(fā)。萊迪思sensAI包括了一系列工具、硬件、加速IP、軟件工具、參考設計和演示、定制設計服務(wù)、以及為特定終端市場(chǎng)的AI應用構建的端到端解決方案。

sensAI中包括了萊迪思的sensAI Studio設計軟件，系統設計人員可以在數小時(shí)內完成用例驗證，無(wú)需花費幾天或幾周。他們可以使用sensAI Studio導入軟件模型庫中已有的模型或者他們自己的模型，然后進(jìn)行遷移學(xué)習，評估模型的訓練情況，采集和標記數據，配置和測試模型，然后為開(kāi)發(fā)板上特定的器件進(jìn)行編譯。

在最后的問(wèn)答部分談到了萊迪思的一位農業(yè)客戶(hù)如何使用sensAI Studio構建了一個(gè)檢測田間漿果的AI系統。這個(gè)例子表明，對于那些希望構建各類(lèi)AI應用，但又缺乏相關(guān)經(jīng)驗的系統設計人員，sensAI Studio這樣的工具真的十分重要。

實(shí)現下一代智能PC體驗

如今PC用戶(hù)對感知力更強的智能設備越來(lái)越感興趣，同時(shí)他們還需要強大的安全性來(lái)保護隱私。此外，他們還想要體驗更加出色的協(xié)作功能，例如優(yōu)秀的電話(huà)會(huì )議音頻和視頻體驗。筆記本電腦的系統設計人員在為市場(chǎng)引入不同形態(tài)的產(chǎn)品時(shí)面臨著(zhù)各種挑戰，這也帶來(lái)了系統方面的挑戰；如何將所有這些數據從攝像頭傳輸到系統的其他部分？

萊迪思基于AI的解決方案可以幫助系統設計人員解決這方面的問(wèn)題，幫助他們開(kāi)發(fā)全新的功能，包括存在檢測、旁觀(guān)者檢測和視頻通話(huà)的人臉取景。萊迪思的解決方案還能實(shí)現注意力跟蹤功能，用戶(hù)在使用電腦時(shí)注意力離開(kāi)屏幕的時(shí)間達到45%，可獲得高達28%的額外電池使用時(shí)長(cháng)。