超越思維，用人工智能輔助SoC設計

當芯片規格發(fā)展到7nm時(shí)，人們對摩爾定律的質(zhì)疑聲越來(lái)越大，也開(kāi)始恐慌未來(lái)芯片設計該如何發(fā)展？不僅是芯片體積的問(wèn)題，隨著(zhù)計算量的增加，數據處理單元的數量也在不斷上生，僅靠單一芯片將很難滿(mǎn)足未來(lái)市場(chǎng)的需求，因此，必須轉換思路尋找新的解決辦法。有很多廠(chǎng)商選擇在板卡上集成多顆芯片協(xié)同工作，但這樣做就要面臨如何連通各種芯片，并且降低功耗的問(wèn)題。后來(lái)人工智能的發(fā)展為一些芯片廠(chǎng)商帶來(lái)了新思路，他們開(kāi)始設計神經(jīng)網(wǎng)絡(luò )處理器，期望利用智能計算用一顆芯片完成大多數的工作量。但這其實(shí)是繞道而行，并不能真正解決。只有正面芯片間互聯(lián)互通的問(wèn)題，才是真正的SoC設計。而NetSpeed利用人工智能完成了這一步跨越。

這群來(lái)自硅谷的工程師們經(jīng)過(guò)7年的準備工作，推出業(yè)內首款以人工智能為基礎的SoC芯片內部互連解決方案Orion AI。該方案支持多播與廣播等先進(jìn)特性，能極大提升人工智能SoC與加速器ASIC的性能與效率，可廣泛應用于數據中心、自動(dòng)駕駛、AR/VR，以及先進(jìn)視頻分析。Orion AI由NetSpeed經(jīng)過(guò)硅驗證的Orion IP構建而成，這些Orion IP已經(jīng)授權給地平線(xiàn)機器人、寒武紀、百度以及Esperanto等領(lǐng)先的人工智能公司。NetSpeed Systems大中華區銷(xiāo)售總監黃啓弘詳細解析了這款具有劃時(shí)代意義的產(chǎn)品。

NetSpeed Systems大中華區銷(xiāo)售總監黃啓弘

從人工智能思潮“大爆發(fā)”時(shí)起，電子圈內廠(chǎng)商就進(jìn)入了一場(chǎng)思維較量的晉級賽。誰(shuí)更能理解人工智能的含義？誰(shuí)能率先掌握人工智能的核心架構和發(fā)展趨勢？誰(shuí)又能將人工智能為己用？誰(shuí)就能搶占先機。而目前人工智能的主要挑戰有三點(diǎn)：人工智能工作負載具備獨特性，在訓練側與推理側都需要大型矩陣乘法；人工智能架構具備獨特性，內核數量多，大量并行結構，點(diǎn)對點(diǎn)通信；極高帶寬要求，未來(lái)要求會(huì )更高。

“這些新SoC內部體現出的是一種新的數據流，”NetSpeed首席執行官Sundari Mitra說(shuō)道，“一般來(lái)說(shuō)，想實(shí)現快速有效的點(diǎn)對點(diǎn)數據交換，就需要大量的計算單元。傳統架構運行方式不同，采用中央存儲作為數據交換系統。而人工智能系統需要任意位置數據交換，這可以通過(guò)廣泛的接口而實(shí)現，并需要支持長(cháng)突發(fā)傳輸。Orion AI的一個(gè)關(guān)鍵優(yōu)勢就是能夠支持多重多播請求，并支持非阻塞傳輸。”

Orion AI在SoC設計中具有非常明顯的技術(shù)優(yōu)勢：

s解耦架構：分層堆疊，每層均可擴展或收縮；

s可編程多播：最早也是目前唯一支持基于廣播推送的可配置多播網(wǎng)絡(luò )IP；

s非凡的服務(wù)質(zhì)量（QoS）：以具備端到端QoS規劃的非阻塞路徑來(lái)控制帶寬與延遲；

s極致性能：萬(wàn)億字節每秒（TB/s）吞吐量-數據帶寬高達1024位總線(xiàn)，2GHz+,1000個(gè)內核；

s終極效率：采用先進(jìn)低功耗管理技術(shù)以提升能效；

s內置人工智能：利用先進(jìn)人工智能算法，在解決方案空間搜尋最有效率解決方案。

Orion AI架構概覽

OrionAI由NetSpeed的圖靈機器學(xué)習引擎提供支持，該引擎使用監督學(xué)習來(lái)探索和優(yōu)化SoC設計與架構。Linley Group首席分析師Linley Gwennap表示，這是一種以人工智能為核心的設計方法，“就像有一位隨時(shí)在線(xiàn)的建筑大師給出設計建議。處理器架構師可以采納圖靈的建議，然后花時(shí)間去解決SoC設計中的其他難題。”NetSpeed提供的智能設計環(huán)境從架構要求的規格書(shū)開(kāi)始，助力設計師在數不勝數的設計方案中化繁為簡(jiǎn)，開(kāi)放設計空間探索以尋求最佳解決方案，并提供持續的設計反饋。