Supermicro攜手英偉達為AI加速，搭載Grace CPU超級芯片的服務(wù)器上市在即

橫空出世的ChatGPT，在全球掀起生成式人工智能熱潮，“大模型+大算力”讓AI實(shí)現范式突破，也讓算力成為搶手資源。而在算力的背后，是數據中心和“電老虎”的競賽。

5月29日，在COMPUTEX2023（中國臺北國際計算機展）上，IT解決方案提供商Supermicro提出了兩個(gè)關(guān)鍵詞：加速和降耗。Supermicro采用Server Building Block Solutions服務(wù)器構建方法，整合Intel、AMD和NVIDIA的最新CPU及GPU技術(shù)，設計和制造服務(wù)器和存儲系統，以應對AI、云計算、5G以及從數據中心到邊緣計算的大量需求。

“我們的機架級液冷方案可以將數據中心的電力支出降低40%，并能加快上市時(shí)間，每月向全球發(fā)運4000機架，預計到年底將提高到5000以上?！?Supermicro總裁兼首席執行官梁見(jiàn)后（Charles Liang）表示。

Supermicro已有產(chǎn)品組合可為人工智能工作負載和其他垂直領(lǐng)域提供支持?；诘谒拇鶬ntel Xeon可擴展處理器和第四代AMD EPYC 處理器的單插槽和雙插槽機架安裝系統，提供1U、2U、4U、5U和8U規格，并支持1到10 GPU。此外還包括在8U機箱中支持20個(gè)NVIDIA H100 GPU的密度優(yōu)化型SuperBlade系統，以及專(zhuān)門(mén)針對物聯(lián)網(wǎng)和邊緣環(huán)境設計的SuperEdge系統。最新發(fā)布的E3.S Petascale存儲系統在利用超大規模的人工智能數據集進(jìn)行訓練時(shí)，其性能、容量、吞吐量、耐用性以及能效表現都較好。

在英偉達發(fā)布超大規模生成式AI加速平臺這一算力“殺器”的同一時(shí)間，Supermicro宣布，基于NVIDIA Grace CPU超級芯片的新產(chǎn)品系列將很快上市。這些新服務(wù)器均包含144個(gè)核心，雙CPU及900 GB/s 一致性接口，可運行高響應度的人工智能應用程序和需要極低延遲響應的應用程序。此外，CPU以500W TDP的速度運行，該系統將為云原生工作負載和下一代人工智能應用降低能耗。

NVIDIA超大規模和高性能計算副總裁Ian Buck表示：“面對嚴苛的客戶(hù)需求，NVIDIA與Supermicro快速為新的服務(wù)器設計帶來(lái)創(chuàng )新。隨著(zhù)Supermicro采用Grace CPU 超級芯片的服務(wù)器上市在即，以及H100 GPU在全球范圍的使用普及，我們正在共同努力，將人工智能帶到廣泛的市場(chǎng)和應用中?！?/p>

生成式AI給算力帶來(lái)了巨大的挑戰，Supermicro的應對方案是GPU服務(wù)器集成雙CPU和多達8個(gè)NVIDIA HGX H100 GPU，并用液體冷卻降低運營(yíng)成本。此外，Supermicro正在支持新的NVIDIA MGX參考架構，該架構將為一系列人工智能、高性能計算和Omniverse應用提供超過(guò)100種服務(wù)器配置。這種模塊化的參考架構包括CPU、GPU和DPU，適用于多代處理器。

Supermicro還將在廣泛的解決方案中納入最新的NVIDIA Spectrum-X網(wǎng)絡(luò )平臺。該平臺是第一個(gè)專(zhuān)門(mén)為提高基于以太網(wǎng)的AI云的性能和效率而設計的平臺。Spectrum-X建立在由NVIDIA Spectrum-4以太網(wǎng)交換機與NVIDIA BlueField-3數據處理單元（DPU）緊密耦合的網(wǎng)絡(luò )創(chuàng )新之上。這項突破性技術(shù)實(shí)現了1.7倍的整體人工智能性能和能源效率提升，同時(shí)在多租戶(hù)環(huán)境中實(shí)現了一致、可預測的性能。

目前，數據中心消耗的電力占到了全球電力需求的1%至1.5%，因此綠色計算對于數據中心至關(guān)重要。Supermicro機架級液冷解決方案可以大幅降低對傳統冷卻方法的需求。通過(guò)冗余和熱插拔電源和泵，機架上的所有高性能AI和HPC優(yōu)化服務(wù)器都能夠得到有效冷卻，不用擔心電源或泵發(fā)生任何故障。該解決方案還為CPU和GPU量身定制了水冷板，相較于傳統設計能夠更有效地去除熱量。如果數據中心利用Supermicro技術(shù)將其PUE降低至近1.0，能節省高達100億美元的能源成本，相當于減少建造30座化石燃料發(fā)電廠(chǎng)。

機架級集成是數據中心運營(yíng)商所需的另一項核心競爭力。要想給生產(chǎn)效率加速，就必須將隨時(shí)可用的全部機架及時(shí)交付給數據中心。Supermicro的 L11和L12服務(wù)器集群已通過(guò)全面測試并且進(jìn)行適當配置，可以在必要時(shí)實(shí)現大規模液體冷卻。