AI加速器為Raspberry Pi 5帶來(lái)低功耗生成式AI

EdgeCortex 宣布，其行業(yè)領(lǐng)先的 AI 加速器模塊 SAKURA-II M.2 現已可用于基于 Arm 的平臺，包括 Raspberry Pi 5 和 AETINA Rockchip 平臺。該模塊為邊緣 AI 計算應用提供高性能和高效率，同時(shí)使實(shí)時(shí)生成式 AI 功能大眾化。

SAKURA-II M.2 模塊的設計注重低功耗和高 AI 吞吐量，使開(kāi)發(fā)人員能夠直接在緊湊、經(jīng)濟實(shí)惠的平臺上運行高級深度學(xué)習模型，例如 Raspberry Pi 5 和其他基于 Arm 的平臺，而無(wú)需依賴(lài)云基礎設施。嵌入式 Arm 平臺的生成式 AI 功能有望推動(dòng)下一波智能自主系統的發(fā)展。

EdgeCortex 創(chuàng )始人兼首席執行官 Sakyasingha Dasgupta 博士表示：“將我們的低功耗 AI 加速技術(shù)帶給 Raspberry Pi 5 用戶(hù)，為世界各地的創(chuàng )新者和企業(yè)打開(kāi)了一扇大門(mén)，讓他們能夠快速構建更智能、更快、更高效的邊緣 AI 驅動(dòng)設備和系統。

“將 Raspberry Pi 5 與 EdgeCortex 的 SAKURA-II 配對，為邊緣的實(shí)時(shí)生成 AI 提供了一個(gè)非常高效和可擴展的平臺”，Novo Tellus Capital Partners 的風(fēng)險合伙人兼 Lantronix 和 Tessolve 的董事會(huì )成員 Sailesh Chittipeddi 說(shuō)。同樣引人注目的是 SAKURA-II 能夠加速各種基于 Arm 的系統，使下一代物聯(lián)網(wǎng)和邊緣應用工程師能夠在各種應用中部署高性能 AI，而不會(huì )產(chǎn)生傳統數據中心硬件的成本或功耗負擔。

該模塊帶有 Raspberry Pi 5 和其他支持 Arm 的平臺，能夠以最小的延遲和功耗在設備上直接執行最新的生成式 AI，包括視覺(jué)轉換器、小語(yǔ)言模型和視覺(jué)語(yǔ)言模型 （VLM） 等高級 AI 模型。此外，SAKURA-II 和 Raspberry Pi 以傳統產(chǎn)品的一小部分成本提供強大的邊緣 AI，從而減少基礎設施需求并實(shí)現經(jīng)濟高效的擴展。

該模塊針對 Arm 進(jìn)行了優(yōu)化，可從 Arm 處理器無(wú)縫卸載 AI 工作負載，從而實(shí)現性能和效率的平衡。開(kāi)發(fā)人員可以使用帶有經(jīng)過(guò)認證的 Raspberry Pi 5 和其他 Arm 平臺的生產(chǎn)就緒型 SAKURA-II M.2 模塊，從原型快速擴展到生產(chǎn)。

這種組合非常適合在 SWaP-C 受限環(huán)境中實(shí)現自主 AI，非常適合無(wú)人機、機器人、智能農業(yè)和安全，這些領(lǐng)域需要高效的設備端智能。

借助這些 Arm 平臺，EdgeCortix 正在為開(kāi)發(fā)人員和硬件創(chuàng )新者的廣泛生態(tài)系統提供支持，以構建經(jīng)濟高效、生產(chǎn)就緒的邊緣 AI。這使初創(chuàng )公司和企業(yè)能夠在不依賴(lài)云的情況下部署智能應用程序，以最低的功耗要求在設備上運行生成式 AI。