英偉達爆出又一重磅產(chǎn)品：含256個(gè)GPU的AI超級計算機！

5月29日，英偉達在2023臺北電腦展大會(huì )上發(fā)布了多項重磅消息，其中最引人注目的是其Grace Hopper超級芯片已經(jīng)全面投產(chǎn)。這些芯片是英偉達新推出的DGX GH200人工智能超級計算平臺和MGX系統的核心組件，它們專(zhuān)為處理海量的生成型人工智能任務(wù)而設計。

新型超級計算機：DGX GH200

英偉達宣布推出搭載256顆GH200 Grace Hopper超級芯片的新型DGX GH200人工智能超級計算機。新的DGX系統擁有更大的內存容量和更大規模的模型能力，據悉DGX GH200的內存儲量將是英偉達目前DGX A100系統的近500倍。

自去年年底OpenAI發(fā)布ChatGPT以來(lái)，生成式人工智能（AIGC）就成為熱度居高不下的新趨勢，該項技術(shù)需要通過(guò)超強算力來(lái)創(chuàng )建文本、圖像、視頻等內容。而芯片巨頭英偉達所生產(chǎn)的人工智能芯片對該領(lǐng)域至關(guān)重要，計算能力方面的突破將使得AIGC應用再次獲得巨大提升。

英偉達CEO黃仁勛在COMPUTEX 2023的主題演講中表示，“DGX GH200人工智能超級計算機，集成了英偉達最先進(jìn)的加速計算和網(wǎng)絡(luò )技術(shù)，以拓展人工智能的前沿?！?/p>

英偉達預計，其新型超級計算機將允許開(kāi)發(fā)人員為人工智能聊天機器人以及復雜的算法構建更好的語(yǔ)言模型，并創(chuàng )建更有效的欺詐檢測和數據分析。有海外知名媒體對此評價(jià)道，英偉達的新人工智能超級計算機將改變“游戲規則”。

超強算力

Grace Hopper超級芯片是英偉達開(kāi)發(fā)的基于A(yíng)rm架構的CPU+GPU集成方案，它將72核的Grace CPU、Hopper GPU、96GB的HBM3和512GB的LPDDR5X集成在同一個(gè)封裝中，共有2000億個(gè)晶體管。這種組合提供了CPU和GPU之間驚人的數據帶寬，高達1TB/s，為某些內存受限的工作負載提供了巨大的優(yōu)勢。

DGX GH200的細節還不太清楚，但已確認英偉達使用了一種新的NVLink Switch系統，包含36個(gè)NVLink Switch芯片將256個(gè)GH200 Grace Hopper芯片和144TB的共享內存連接成一個(gè)單元。

DGX GH200人工智能超級計算平臺是英偉達針對最高端的人工智能和高性能計算工作負載而設計的系統和參考架構，目前的DGX A100系統只能將8個(gè)A100 GPU聯(lián)合起來(lái)作為一個(gè)單元，考慮到生成型人工智能的爆炸式增長(cháng)，英偉達的客戶(hù)迫切需要更大、更強大的系統。