用于汽車(chē)的Tensilica AI協(xié)處理器

Cadence Design Systems 開(kāi)發(fā)了一種可配置的協(xié)處理器，為汽車(chē)神經(jīng)處理單元提供更大的靈活性。

Tensilica NeuroEdge 130 AI 協(xié)處理器 （AICP） 是一類(lèi)新型處理器，旨在補充高級汽車(chē)、消費電子、工業(yè)和移動(dòng) SoC 上代理和物理 AI 網(wǎng)絡(luò )的任何神經(jīng)處理單元 （NPU）。

該內核基于 Tensilica Vision DSP 系列的成熟架構，可在不影響性能的情況下節省 30% 以上的面積和超過(guò) 20% 的動(dòng)態(tài)功耗和能源。它還運行相同的軟件、AI 編譯器、庫。

基于 Tensilica Xtensa VLIW 的 SIMD 架構允許自定義擴展，這可以提供與內部 NPU 的兼容性，與其特定于應用的前代產(chǎn)品相比，可以提高端到端性能和效率。

它向作為控制處理器的 NPU 發(fā)出指令和命令，其中包含優(yōu)化指令以運行非 NPU 最佳任務(wù)，例如 ReLU、sigmoid 和 tanh。它使用 512 個(gè) 8×8 乘法累加 （MAC） 單元發(fā)出 512 條寬指令，還包括一個(gè)新的高帶寬直接接口 （HBDI） 來(lái)饋送 NPU。

Cadence 表示，目前正在進(jìn)行多個(gè)客戶(hù)參與，包括 indie Semiconductor 和 Neuchips。Dream Chip 還將 Tensilica 內核用于汽車(chē)設計。

• 用于嵌入式 AI 的下一代 Tensilica 內核

Cambrian AI Research 創(chuàng )始人兼首席分析師 Karl Freund 表示：“隨著(zhù) AI 處理在自動(dòng)駕駛汽車(chē)、機器人、無(wú)人機、工業(yè)自動(dòng)化和醫療保健等物理 AI 應用中的迅速普及，NPU 正發(fā)揮著(zhù)更加關(guān)鍵的作用?！叭缃?，NPU 處理大部分計算密集型 AI/ML 工作負載，但大量非 MAC 層包括前處理和后處理任務(wù)，這些任務(wù)可以更好地卸載到專(zhuān)用處理器。然而，當前的 CPU、GPU 和 DSP 解決方案涉及權衡，該行業(yè)需要一種低功耗、高性能的解決方案，該解決方案針對協(xié)處理進(jìn)行了優(yōu)化，并允許適應未來(lái)快速發(fā)展的 AI 處理需求。

“Cadence 已經(jīng)通過(guò)我們的 Tensilica DSP 驗證了 AI 協(xié)處理器用例。隨著(zhù) AI 工作負載的轉變和領(lǐng)域范圍的減少，我們的 AI SoC 和系統客戶(hù)一直在尋求一種小型、高效的、以 AI 為中心的協(xié)處理器，以實(shí)現更好的 PPA 和面向未來(lái)的需求?！把永m我們在 IP 創(chuàng )新方面的記錄，我們推出了一種專(zhuān)門(mén)構建的新型處理器。Tensilica NeuroEdge 130 AICP 設計為 NPU 伴侶，提高了性能效率的標準，以滿(mǎn)足客戶(hù)最苛刻的 AI 應用需求。

“AI 和計算機視覺(jué)在越來(lái)越多的嵌入式應用中發(fā)揮著(zhù)重要作用，”Edge AI 和視覺(jué)聯(lián)盟創(chuàng )始人 Jeff Bier 說(shuō)?！暗?AI 模型和相關(guān)的前處理和后處理步驟正在迅速發(fā)展;例如，如今許多開(kāi)發(fā)人員正在采用基于 transformer 的多模態(tài)模型和基于 LLM 的 AI 代理。我們贊賞 Cadence 在靈活高效處理器方面的持續創(chuàng )新，這是實(shí)現邊緣 AI 和視覺(jué)廣泛部署的關(guān)鍵。

Cadence NeuroWeave 軟件開(kāi)發(fā)套件 （SDK） 支持 NeuroEdge? 130 AICP，該套件是 Cadence 所有 AI IP 中使用的單一 SDK。它使用 Tensor Virtual Machine （TVM） 堆棧來(lái)調整、優(yōu)化和部署其 AI 模型，以用于 Cadence 的 AI IP。它還配備了一個(gè)輕量級的獨立 AI 庫，允許在新處理器上直接對 AI 層進(jìn)行編程，并繞過(guò)某些編譯器框架的潛在開(kāi)銷(xiāo)。

作為面向汽車(chē)市場(chǎng)的 SoC 解決方案的領(lǐng)導者，indie 專(zhuān)注于 SoC 架構創(chuàng )新，以提供高性能、面積和功耗效率。為了實(shí)現這一目標，我們將處理元件集成到最適合特定計算功能的 SoC 中，確保我們的解決方案能夠滿(mǎn)足 ADAS 系統對計算機視覺(jué)、雷達和傳感器融合的需求。indie 已成功在多個(gè)量產(chǎn) ADAS SoC 中部署 Tensilica DSP。我們歡迎 Cadence 的 NeuroEdge AICP IP產(chǎn)品組合以及支持工具、軟件庫和生態(tài)系統的加入，以滿(mǎn)足不斷發(fā)展的 AI 支持汽車(chē)應用的需求。

MulticoreWare 與 Cadence 的長(cháng)期合作伙伴關(guān)系使我們能夠支持 OEM 和一級合作伙伴在汽車(chē)和其他邊緣環(huán)境中部署 AI 工作負載。通過(guò)這些合作，我們親眼目睹了 NPU 作為完整、獨立的 AI 部署解決方案往往無(wú)法滿(mǎn)足要求。NeuroEdge AICP 硬件和 SDK 巧妙地解決了這一差距。圍繞 NeuroEdge AICP 構建的 AI SoC 模塊不僅為當今的領(lǐng)先模型提供峰值性能，而且還提供了適應未來(lái) AI 創(chuàng )新的靈活性，“MulticoreWare 首席技術(shù)官 John Stratton 說(shuō)。

“Neuchips 正在通過(guò)尖端 SoC 徹底改變數據中心和服務(wù)器場(chǎng)，這些 SoC 旨在處理大型語(yǔ)言模型和轉換器的巨大處理需求。由于 SoC AI 子系統經(jīng)常面臨支持前處理和后處理階段的挑戰，因此很高興看到 NeuroEdge AICP 旨在管理此類(lèi)任務(wù)。Cadence 成熟的 Tensilica 工具鏈和軟件基礎設施有助于將這種新 IP 輕松集成到復雜的 SoC 設計中，“Neuchips 首席執行官 Ken Lau 表示。