Arm帶來(lái)AI基礎設施關(guān)鍵技術(shù)，新一代Neoverse CSS N3和CSS V3

近年來(lái)，隨著(zhù)第四次科技革命浪潮的驅動(dòng)，基礎設施領(lǐng)域不再局限于芯片、服務(wù)器或機架，而是牽系著(zhù)整個(gè)數據中心，它正在轉向更復雜的倉庫級計算。如今全球正邁入一個(gè)新的階段，即生成式人工智能（GenAI）時(shí)代，Arm認為2024年及未來(lái)，預計將出現大規模的創(chuàng )新應用。作為基礎設施領(lǐng)域技術(shù)變革的基石，Arm再次帶來(lái)創(chuàng )新。

2024年2月22日，Arm召開(kāi)技術(shù)媒體溝通會(huì )，宣布推出兩款基于全新第三代Neoverse IP構建的新的Arm? Neoverse?計算子系統 (CSS)，主要包括Arm Neoverse CSS V3以及Arm Neoverse CSS N3。

打造協(xié)同設計新模式，滿(mǎn)足計算基礎設施需求

Arm基礎設施事業(yè)部產(chǎn)品解決方案副總裁Dermot O’Driscoll表示，從兩個(gè)將推動(dòng)未來(lái)基礎設施發(fā)展的重要顛覆性趨勢來(lái)看，人們希望對支持云計算關(guān)鍵工作負載的計算進(jìn)行優(yōu)化，以及頭部企業(yè)正在打造定制芯片，并需要一種行之有效的方式來(lái)實(shí)現這一目標。而軟件和硬件在過(guò)去分別由不同的公司負責開(kāi)發(fā)，這樣老舊的模式已經(jīng)無(wú)法滿(mǎn)足現在客戶(hù)對性能的需求，也無(wú)法適配軟件或硬件的復雜性?？蛻?hù)希望其部署的硬件，甚至是微架構層面，都能被優(yōu)化，以便順利運行其軟件工作負載。此類(lèi)聯(lián)合優(yōu)化很難實(shí)現，需要軟硬件雙方做出巨大的投入才能夠完成。

在這樣的背景下，Arm的合作式IP業(yè)務(wù)模式和計算子系統在其中可以發(fā)揮關(guān)鍵作用。據Dermot O’Driscoll表示，“通過(guò)與Arm的協(xié)作模式，合作伙伴可以在我們IP的開(kāi)發(fā)過(guò)程中，在對應IP的典型系統上運行其工作負載。這種協(xié)作模式直接影響Arm架構的發(fā)展方向，以及我們在IP產(chǎn)品中實(shí)現微架構的方式。在交付IP之后，我們也將為合作伙伴提供貫穿整個(gè)芯片開(kāi)發(fā)周期的支持。通過(guò)模擬和仿真，我們幫助他們評估由Arm提供的設計選擇，并在開(kāi)發(fā)與配置的全流程中提供支持，從而縮短產(chǎn)品上市進(jìn)程?！?/p>

Dermot O’Driscoll認為，“我們與合作伙伴通力協(xié)作為定制計算開(kāi)辟了一條獨特路徑，以滿(mǎn)足當今計算基礎設施的需求，這種協(xié)同設計并不局限于 CPU。為了深入優(yōu)化TCO，就必須著(zhù)眼于整個(gè)平臺。而只有Arm能夠在平臺級別上調優(yōu)內存和I/O，并添加自定義工作負載加速器?！?/p>

Arm于去年推出了Neoverse CSS，有助于更快地開(kāi)發(fā)芯片或小芯片。在Neoverse CSS中，Arm負責配置、優(yōu)化和驗證一套完整的計算子系統，并針對基礎設施市場(chǎng)的各種關(guān)鍵用例進(jìn)行配置，使其合作伙伴能夠專(zhuān)注于針對特定系統級工作負載塑造差異化競爭優(yōu)勢，比如軟件調優(yōu)、定制加速等。此外，客戶(hù)還能從CSS中額外獲得選購優(yōu)勢，他們能夠加速產(chǎn)品上市時(shí)間、降低工程成本，同時(shí)還能夠善用前沿的處理器技術(shù)。

值得一提的是，以Neoverse CSS為基礎的Arm全面設計（Arm Total Design）生態(tài)項目也在去年下半年推出。Arm 基礎設施事業(yè)部營(yíng)銷(xiāo)副總裁 Eddie Ramirez表示，Arm全面設計（Arm Total Design）生態(tài)項目在推出后四個(gè)月內，已經(jīng)有20多家成員加入。其中包括新的EDA和配套IP提供商，以及來(lái)自包括韓國、中國臺灣、中國大陸和印度等戰略市場(chǎng)的芯片設計合作伙伴，這些市場(chǎng)存在巨大的發(fā)展潛力。Arm正在與三家主要代工廠(chǎng)合作，以確保其CSS產(chǎn)品能在其先進(jìn)工藝節點(diǎn)上進(jìn)行優(yōu)化。

CSS定制芯片強力輔助，新一代Arm Neoverse技術(shù)功能深度優(yōu)化

Arm發(fā)布的新一代Neoverse技術(shù)包括通過(guò)性能效率更優(yōu)異的 N 系列新 IP 擴展Arm Neoverse CSS產(chǎn)品路線(xiàn)圖，即Neoverse CSS N3；以及首次將計算子系統引入性能優(yōu)先的V系列產(chǎn)品線(xiàn)，即新的Neoverse CSS V3。

01.Arm Neoverse CSS N3每瓦性能提高20%

本次Arm推出了N系列新的CSS產(chǎn)品——Neoverse CSS N3，新產(chǎn)品在N2的基礎之上更新了許多功能。據Arm介紹，CSS N3是基于新的Neoverse N3 IP平臺打造，為新的N系列產(chǎn)品引入了Armv9.2功能，能為每個(gè)核心提供2MB的專(zhuān)用L2緩存，并支持最新的PCIe和CXLI/O標準以及UCIe芯粒標準。

性能方面，與CSS N2相比，CSS N3每核心的每瓦性能可提高20%，單芯片可支持8到32核。此外，CSS N3的首個(gè)實(shí)例可提供 32 核，熱設計功耗(TDP)低至40W，可擴展性非常強，可覆蓋電信、網(wǎng)絡(luò )和DPU等一系列應用。在AI 數據分析工作負載方面，通過(guò)有效的微架構調整，N3的性能提升高達 196%。

合作方面，Arm透露，智原科技正在構建基于芯粒的服務(wù)器芯片，該芯片將搭載64顆N系列核心，并基于英特爾代工服務(wù)的18A工藝節點(diǎn)進(jìn)行生產(chǎn)制造。同時(shí)，ADTechnology將提供高性?xún)r(jià)比的16核CSS N系列邊緣服務(wù)器平臺，他們將與三星代工廠(chǎng)合作，為邊緣計算釋放更強大的算力。

02. Arm Neoverse CSS V3單芯片性能提高了 50%

Arm Neoverse CSS V3是Arm首次針對Neoverse V系列CPU內核提供該IP的現成CSS版本。

Arm Neoverse CSS V3是基于新的Neoverse V3核心打造，是Arm目前單線(xiàn)程性能最高的Neoverse核心，并為Arm機密計算架構（CCA）提供硬件支持。與N3核心一樣，V3也可提供業(yè)界領(lǐng)先的專(zhuān)用L2緩存大小，顯著(zhù)改善性能表現。

從性能上看，與CSS N2產(chǎn)品相比，Arm Neoverse CSS V3單芯片性能可提高50%，在單芯片上最多可擴展至128核，同時(shí)還支持最新的高速內存和I/O標準。在AI 數據分析工作負載方面，相較于V2，V3的性能提升了84%。不過(guò)至于功耗方面，Arm并未提及更多內容。

從內部結構看，Arm Neoverse CSS V3每個(gè)集群擁有64個(gè)核心，每個(gè)插槽最多有128個(gè)核心，支持PCIe Gen5、CXL 3.0甚至HBM3等現代功能。此外，據Arm透露，Socionext正在設計一款32核Neoverse CSS V3小芯片，將在臺積電(TSMC)生產(chǎn)。

Dermot O’Driscoll表示，新產(chǎn)品全方位地實(shí)現了非常良好的提升，從視頻處理到 SQL 數據庫的性能均有所躍進(jìn)。N系列在壓縮方面取得了性能優(yōu)勢，可降低云服務(wù)運營(yíng)商的成本，并最終降低云服務(wù)客戶(hù)的成本，同樣地V系列顯著(zhù)提高了協(xié)議緩沖區的性能，這是在數據中心內傳輸數據的一項關(guān)鍵功能。以下是基于Neoverse N系列和V系列打造的芯片在一些關(guān)鍵工作負載下的性能數據。

Arm指出，憑借兩款全新的Neoverse CSS產(chǎn)品CSS N3和CSS V3，Arm專(zhuān)注于釋放芯粒等新技術(shù)的潛力，并更大限度地優(yōu)化實(shí)際工作負載的TCO，這對于整個(gè)生態(tài)系統至關(guān)重要，其中包括AI、數據庫、網(wǎng)絡(luò )等。

這次的發(fā)布會(huì )中，Arm還向業(yè)界披露了其下一代CSS V系列（代號：CSS Vega）和N系列（代號：CSS Ranger）平臺的代號，其中，Dionysus將是下一個(gè)N系列核心，Adonis將是下一個(gè)V系列核心。而Lycius將是下一個(gè)Neoverse E系列核心。但Arm只是公布了下一代產(chǎn)品代號，并未介紹更多技術(shù)細節。

“隨著(zhù)越來(lái)越多的AI工作負載被采用，并貫穿于整個(gè)計算流程，涵蓋從大型數據中心到網(wǎng)絡(luò )、服務(wù)器以及計算基礎設施的方方面面。Arm Neoverse V3和N3提供了支撐這一轉型所需的計算性能和效率，而在A(yíng)rm全面設計生態(tài)項目的支持下，我們的計算子系統能夠加速產(chǎn)品上市時(shí)間，并加大對創(chuàng )新的投資力度?！盇rm高級副總裁兼基礎設施事業(yè)部總經(jīng)理Mohamed Awad在會(huì )上表示。

此外，基于 Arm 全面設計生態(tài)伙伴的反饋意見(jiàn)，Arm 近期發(fā)布芯粒系統架構 （Chiplet System Architecture，CSA）。CSA 旨在定義一個(gè)功能強大、支持通用的芯粒生態(tài)系統，以提高多個(gè)供應商之間的組件（包括物理設計 IP、軟 IP 等）復用率。