NVIDIA GH200 CPU+GPU超級芯片大升級！史無(wú)前例282GB HBM3e內存

快科技8月9日消息，NVIDIA官方宣布了新一代GH200 Grace Hopper超級芯片平臺，全球首發(fā)采用HBM3e高帶寬內存，可滿(mǎn)足世界上最復雜的生成式AI負載需求。

NVIDIA 2022年3月推出了Grace Hopper超級芯片，首次將CPU、GPU融合在一塊主板上，不過(guò)直到今年5月份才量產(chǎn)。

其中，Grace CPU擁有72個(gè)Armv9 CPU核心、198MB緩存，支持1TB/s高帶寬的LPDDR5X ECC內存，還支持PCIe 5.0。

Hopper GPU則采用臺積電4nm定制工藝，800億晶體管，集成18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級緩存，支持6144-bit HBM高帶寬內存，此前版本配備的是96GB HBM3。

雙路配置的系統中，兩顆新一代GH200超級芯片可帶來(lái)144個(gè)CPU核心、8PFlops(8千萬(wàn)億次浮點(diǎn)計算每秒) AI性能、282GB HBM3e內存，容量是現在的3.5倍，而高達10TB/s的帶寬也是現在的3倍。

基于NVLink高速總線(xiàn)，GH200超級芯片還可以繼續拓展互連，GPU可以訪(fǎng)問(wèn)全部的CPU內存，雙路配置下總容量可達1.2TB。

NVIDIA沒(méi)有透露采用的HBM3e來(lái)自哪家供應商，很可能是SK海力士。

首批基于GH200超級芯片的系統將在2024年第二季度出貨。

順帶一提，AMD Instinct MI300A、MI300X AI加速器分別配備128GB、192GB HBM3，后者帶寬超過(guò)5TB/s。