打破16項AI性能記錄！英偉達A100 GPU要無(wú)人能敵？

2020年7月30日，MLPerf組織發(fā)布第三個(gè)版本MLPerf Training v0.7基準測試（Benchmark）結果。結果顯示，英偉達基于今年5月最新發(fā)布的Ampere架構GPU A100，和HDR InfiniBand實(shí)現多個(gè)DGX A100 系統互聯(lián)的龐大集群——DGX SuperPOD系統在性能上分別開(kāi)創(chuàng )了八個(gè)全新里程碑，共打破16項紀錄。

打破MLPerf Training最新基準測試16項記錄

MLPerf是2018年5月成立的行業(yè)基準測試組織，在AI備受關(guān)注的當下，獲得了芯片巨頭和AI芯片公司以及AI業(yè)界的廣泛關(guān)注。為了能夠讓機器學(xué)習處理器的基準測試也像CPU那樣，MLPerf組織囊括了該行業(yè)中的所有知名企業(yè)和機構，比如英特爾、英偉達、Google、亞馬遜、阿里巴巴和百度、微軟、斯坦福大學(xué)等。

巨頭公司們樂(lè )于通過(guò)MLPerf的成績(jì)證明其AI實(shí)力，平頭哥在去年11月MLPerf首個(gè)版本基準測試成績(jì)公布之后就強調其自主研發(fā)的AI芯片含光800在Resnet50基準測試中獲得單芯片性能第一。

作為AI的領(lǐng)軍者，英偉達自然也不會(huì )錯過(guò)MLPerf的基準測試。2018年12月，英偉達首次在MLPerf訓練基準測試中創(chuàng )下了六項紀錄，次年7月英偉達再次創(chuàng )下八項紀錄。在最新MLPerf Training v0.7基準測試中，有兩項新的測試和一項經(jīng)大幅修訂的測試。

其中一項基準測試對推薦系統的性能進(jìn)行了排名，推薦系統是日益普及的一項AI任務(wù)。另一項基準測試對使用BERT的對話(huà)式AI進(jìn)行了測試，BERT是現有最復雜的神經(jīng)網(wǎng)絡(luò )模型之一。還有，強化學(xué)習測試中使用了Mini-go和全尺寸19x19 圍棋棋盤(pán)，該測試是本輪最復雜的測試，內容涵蓋從游戲到訓練的多項操作。

特別值得一提的是，英偉達是唯一一家在MLPerf Training v0.7測試中均采用市售商用產(chǎn)品的公司。其他大多數提交使用的要么是預覽類(lèi)別（preview category），其所用的產(chǎn)品預計需要幾個(gè)月后才會(huì )面市，使用研究類(lèi)別的產(chǎn)品，更是較長(cháng)一段時(shí)間內都不會(huì )面市。

另外，在此次提交結果的九家公司中，除英偉達外，還有六家公司多家生態(tài)系統合作伙伴也提交了基于英偉達GPU的MLPerf測試結果。包括三家云服務(wù)提供商（阿里云、谷歌云和騰訊云）和三家服務(wù)器制造商（戴爾、富士通和浪潮）。

18個(gè)月內實(shí)現AI性能4倍提升

創(chuàng )造紀錄的英偉達DGX SuperPOD系統是基于A(yíng)mpere架構以及Volta架構。雷鋒網(wǎng)此前報道，5月份發(fā)布的最近Ampere架構GPU A100基于臺積電7nm工藝，面積高達826平方毫米，集成了540億個(gè)晶體管。相比Volta架構實(shí)現了高達20倍的性能提升，并且可以同時(shí)滿(mǎn)足AI訓練和推理的需求。

A100對比V100

由8個(gè)安培A100 GPU打造的NVIDIA DGX A100 AI系統單節點(diǎn)性能達到了創(chuàng )紀錄的5 petaflops。

此次，英偉達在Selene上運行了系統的MLPerf測試，Selene是基于DGX SuperPOD的內部集群。DGX SuperPOD是針對大規模GPU集群的公共參考架構，可在數周內完成部署。

根據測試結果，相較于首輪MLPerf訓練測試中使用的基于V100 GPU的系統，如今的DGX A100系統能夠以相同的吞吐率，在18個(gè)月內實(shí)現了4倍的性能提升。

能夠取得里程碑的成就除了強大的硬件，還有兩大關(guān)鍵——軟件和網(wǎng)絡(luò )連接。

A100 GPU搭配CUDA-X庫的軟件更新，為通過(guò)Mellanox HDR 200Gb/s InfiniBand網(wǎng)絡(luò )構建的擴展集群提供支持。HDR InfiniBand可實(shí)現極低的延遲和高數據吞吐量，同時(shí)通過(guò)可擴展分層聚合和縮減協(xié)議（SHARP）技術(shù)，提供智能深度學(xué)習計算加速引擎。

英偉達A100能否無(wú)人能敵？

英偉達A100發(fā)布之后，就有業(yè)內人士表示GPU的性能又上了一個(gè)臺階，AI芯片初創(chuàng )公司想要超越英偉達的難度有增加了。

但相比硬件的超越，雷鋒網(wǎng)認為軟硬件生態(tài)才是巨頭公司更大的優(yōu)勢所在。據悉，通過(guò)最新的軟件優(yōu)化，基于NVIDIA V100的DGX-1 系統也可實(shí)現2倍的性能提升。

就此次最新基準測試而言，提交了基于英偉達GPU的MLPerf測試結果的公司大多采用了英偉達的軟件中心NGC容易，以及用于參賽的公開(kāi)框架。另外，包括這些MLPerf合作伙伴在內的近二十家云服務(wù)提供商和OEM組成的生態(tài)系統，已采用或計劃采用A100 GPU來(lái)打造在線(xiàn)實(shí)例、服務(wù)器和PCIe卡。

英偉達表示，A100進(jìn)入市場(chǎng)的速度也比以往英偉達的GPU更快，發(fā)布之初用于英偉達的第三代DGX系統，正式發(fā)布僅六周后，A100就正式登陸了Google Cloud 。

當然，英偉達也在通過(guò)更多行業(yè)軟件吸引用戶(hù)。比如今年5月，英偉達發(fā)布了兩個(gè)應用框架——用于對話(huà)式AI的Jarvis和用于推薦系統的Merlin。還有面向汽車(chē)行業(yè)市場(chǎng)的NVIDIA DRIVE，面向醫療健康市場(chǎng)的Clara，面向機器人技術(shù)市場(chǎng)的Isaac，以及面向零售/智能城市市場(chǎng)的Metropolis。

性能和生態(tài)都足夠好的A100，能讓英偉達在A(yíng)I市場(chǎng)無(wú)人能敵嗎？?jì)r(jià)格會(huì )是阻礙嗎？