吞吐量30倍提升！NVIDIA秀Blackwell性能：打破MLPerf記錄居第一

4月3日消息，NVIDIA在官網(wǎng)表示，在最新的MLPerf V5.0基準測試中，NVIDIA的Blackwell平臺取得了令人矚目的成績(jì)。

MLPerf是一個(gè)衡量人工智能硬件、軟件和服務(wù)性能的標準化基礎測試平臺，它由圖靈獎得主大衛·帕特森聯(lián)合谷歌、斯坦福、哈佛大學(xué)等頂尖企業(yè)和學(xué)術(shù)機構成立，是權威性最大、影響力最廣的國際AI性能基準測試。

最新更新的MLPerf 添加了Llama 3.1 405B，這是最大和最難以運行的開(kāi)放權重模型之一。

NVIDIA表示，雖然許多公司在其硬件上運行MLPerf基準測試以衡量性能，但只有NVIDIA及其合作伙伴提交并發(fā)布了Llama 3.1 405B基準測試的結果。

具體來(lái)看，GB200 NVL72系統通過(guò)連接72個(gè)NVIDIA Blackwell GPU，作為一個(gè)單一的超大GPU運行，在Llama 3.1 405B基準測試中，與H200 NVL8相比，實(shí)現了高達30倍的吞吐量提升。

據介紹，在生產(chǎn)環(huán)境中，推理部署通常受到兩個(gè)關(guān)鍵指標的延遲限制：首次響應時(shí)間（TTFT）和每個(gè)輸出令牌的時(shí)間（TPOT）。

新的Llama 2 70B Interactive基準測試將TPOT縮短了5倍，TTFT降低了4.4倍，模擬了更快的用戶(hù)體驗。

在這一測試中，NVIDIA使用8個(gè)Blackwell GPU的DGX B200系統，性能比使用8個(gè)H200 GPU的系統高出三倍，為這一更具挑戰性的Llama 2 70B基準測試設定了新的高標準。