寧暢AI服務(wù)器首次亮相GTC

12月15日至19日，NVIDA GTC中國以線(xiàn)上形式舉辦。寧暢信息產(chǎn)業(yè)（北京）有限公司（以下簡(jiǎn)稱(chēng)“寧暢”）受邀，以黃金贊助商身份首次攜X640 G30等多款AI服務(wù)器產(chǎn)品亮相GTC。

圖說(shuō) GTC中國線(xiàn)上大會(huì )寧暢展區

與會(huì )期間，寧暢方面表示伴隨人工智能、云計算的高速發(fā)展，異構計算模式的AI服務(wù)器已成為IT行業(yè)重要算力支撐，為使GPU等核心部件性能得到充分發(fā)揮，寧暢憑借多年行業(yè)積累，通過(guò)定制模式滿(mǎn)足用戶(hù)對極致性能、穩定性等諸多需求。

多維保障GPU潛能全發(fā)揮

回顧2020年GPU領(lǐng)域，最重要莫過(guò)7nm 制程的NVIDIA A100 Tensor Core GPU發(fā)布，其強大的第三代Tensor Core、第三代NVLink技術(shù)，讓大數據模型“推理”與“訓練”效率顯著(zhù)提升。但要完全釋放這顆業(yè)內頂級GPU潛力，則考驗服務(wù)器廠(chǎng)商技術(shù)與設計硬實(shí)力。

寧暢工程師介紹，充分釋放GPU性能第一步需要保證AI服務(wù)器有豐富擴展性。以寧暢AI服務(wù)器X640系列為例，在滿(mǎn)配8個(gè)NVIDIA A100 /V100 Tensor Core GPU或16個(gè)NVIDIA T4 Tensor Core GPU后，X640仍有豐富PCI-E接口用于網(wǎng)絡(luò )、存儲和其他IO擴展。

豐富擴展設計，保障了定制化方案的靈活。此外，X640可通過(guò)硬件鏈路重新布局以實(shí)現靈活GPU 拓撲結構，并針對不同應用場(chǎng)景和模型進(jìn)行GPU互聯(lián)優(yōu)化。這將極大便利用戶(hù)“訓練”大數據模型。

AI服務(wù)器散熱也是用戶(hù)關(guān)注重點(diǎn)。為保障全年24小時(shí)運行的AI服務(wù)器穩定，寧暢散熱團隊先后開(kāi)發(fā)出“一體閉式循環(huán)液冷散熱器”以及“分體式開(kāi)環(huán)冷板液冷散熱器”方案，讓用戶(hù)不懼長(cháng)時(shí)間GPU滿(mǎn)功率運行。

圖說(shuō) 寧暢閉式/開(kāi)式液冷散熱方案設計圖示

通過(guò)定制化，寧暢液冷散熱方案可滿(mǎn)足GPU產(chǎn)品400-800W范圍的散熱需求，并可根據客戶(hù)機房設備條件，選擇不同模塊化配套制冷機柜進(jìn)行部署，從而解決客戶(hù)由于液冷適配而進(jìn)行外圍改造的困擾。能效比方面，定制液冷方案，節省風(fēng)扇能耗超60%，噪音降幅達50%以上，而成本也可控制在15-20%的提升。

除架構、硬件、散熱等定制優(yōu)化外，在運維、軟件層面，寧暢可提供BIOS、BMC等諸多監管、運維接口定制。用戶(hù)只需接上電源、網(wǎng)線(xiàn)，便可將批量的寧暢AI服務(wù)器納入到現有的智能管理平臺，第一時(shí)間讓GPU發(fā)揮效能。

滿(mǎn)足企業(yè)未來(lái)算力需求

除保障已上市GPU產(chǎn)品的性能全面發(fā)揮外，寧暢作為NVIDIA重要合作伙伴，可第一時(shí)間了解NVIDA前沿GPU技術(shù)與產(chǎn)品，依托多年來(lái)行業(yè)經(jīng)驗與技術(shù)積累，寧暢可預研采用新GPU架構并符合用戶(hù)標準的定制服務(wù)器產(chǎn)品。

寧暢介紹，考慮成熟服務(wù)器產(chǎn)品的研發(fā)周期，通過(guò)定制預研模式用戶(hù)不僅可在新品GPU產(chǎn)發(fā)售第一時(shí)間，批量獲得基于此定制的AI服務(wù)器，還可提前與寧暢一起規劃AI服務(wù)器技術(shù)路線(xiàn)，滿(mǎn)足企業(yè)未來(lái)對特定AI場(chǎng)景的算力需求。

如今通過(guò)提供定制化服務(wù)，寧暢AI服務(wù)器已廣泛應用于知名互聯(lián)網(wǎng)、云計算公司，支撐語(yǔ)義識別、圖像分析、機器翻譯、訓練推理等AI場(chǎng)景。在2020年10月，AI基準性能評測平臺MLPerf官網(wǎng)顯示，搭載NVIDIA T4 /A100 GPU的寧暢X640 G30 AI服務(wù)器，在ResNet、BERT、DLRM等基準測試中更是取得30項性能第一。