從最強AI算力到“元腦”2.0，智算加速產(chǎn)業(yè)變革

AI模型的數據量、結構的復雜程度不斷增加，帶來(lái)了大規模AI算力的龐大需求。

2020年7月，OpenAI實(shí)驗室推出擁有1750億參數的NLP模型GPT-3，其訓練數據集規模超過(guò)500GB，算力需求達到了3640 Petaflop/s-day。2021年1月，Google Brain宣布他們設計的簡(jiǎn)化稀疏架構（Switch Transformer）可以將語(yǔ)言模型的參數量擴展到1.6 萬(wàn)億，參數量是GPT-3的近10倍。要讓這些模型有效有效運轉需要AI芯片和AI服務(wù)器。

據浪潮估計，2020年，以GPU為代表的AI加速芯片所交付的算力已經(jīng)超過(guò)同類(lèi)CPU，預計到2025年，AI加速芯片所提供的算力可能在超過(guò)80%。而據最新的IDC數據統計，浪潮人工智能服務(wù)器的市場(chǎng)占有率在全球為16.4%，已經(jīng)排到全球第一位，而在中國，浪潮AI服務(wù)器已經(jīng)連續四年排名第一，市場(chǎng)份額超50%。

在A(yíng)I計算方面，一些新變化正在發(fā)生。在近日的IPF 2021（浪潮合作伙伴大會(huì )）上，浪潮信息總裁彭震指出，視頻數據處理將會(huì )成為未來(lái)AI計算賦能的重點(diǎn)，同時(shí)，業(yè)界已發(fā)布超過(guò)100多種芯片，多元化的算力會(huì )促進(jìn)產(chǎn)業(yè)智能化轉型?；谏鲜鲒厔?，浪潮推出了相應的AI服務(wù)器產(chǎn)品，并不斷完善產(chǎn)業(yè)智能化轉型的“元腦”生態(tài)。

推出最強AI服務(wù)器，全方位打造AI計算產(chǎn)品陣列

首先，浪潮聯(lián)合寒武紀推出了AI服務(wù)器“揚子江”，這是業(yè)界首款一體搭載8顆寒武紀最新思元290人工智能芯片的AI服務(wù)器。

基于浪潮的AI服務(wù)器架構，融合寒武紀多芯高速互聯(lián)技術(shù)，提供高達4096Tops的峰值計算性能，為AI訓練、推理或混合型人工智能計算加速任務(wù)提供超強AI算力支撐。

據介紹，揚子江AI服務(wù)器適用于構建大規模并行計算集群，支持跨節點(diǎn)互聯(lián)帶寬高達448 GB/s，滿(mǎn)足超大型AI模型訓練需求。

同時(shí)，搭載寒武紀AI芯片的揚子江系統兼容×86開(kāi)發(fā)生態(tài)、支持TensorFlow、PyTorch等業(yè)界主流深度學(xué)習框架，適配浪潮AIStation高效資源平臺，可幫助客戶(hù)提升模型開(kāi)發(fā)效率3倍、提升業(yè)務(wù)遷移效率20倍。

寒武紀聯(lián)合創(chuàng )始人、副總裁劉道福稱(chēng)，在A(yíng)I服務(wù)器領(lǐng)域，浪潮和寒武紀聯(lián)合，推出了基于寒武紀思元100、思元270、思元290等AI芯片的服務(wù)器產(chǎn)品，在互聯(lián)網(wǎng)、云計算、智算中心等諸多行業(yè)和領(lǐng)域實(shí)現了規?；穆涞夭渴饝?。

浪潮全新還發(fā)布了NF5488 AI服務(wù)器，支持部署8顆NVLink高速互聯(lián)的A100GPU，并率先實(shí)現500W液冷、風(fēng)冷同代兼容，以及CPU到GPU單層的Switch通信拓撲。

相比上一代的計算產(chǎn)品，NF5488的性能最高提升20倍。其4U空間搭載2顆Icelake CPU和8顆A100 GPU，極致空間優(yōu)化，較業(yè)界提升40%。其次，浪潮自研NVLINK A100 GPU基板，在業(yè)界率先實(shí)現CPU-GPU間單層PCIe switch通信，通信效率提升1倍。在海量數據的預處理、清洗、訓練中，NF5488可為用戶(hù)帶來(lái)更高的收益，同時(shí)結合其龐大的算力，可縮短一半的開(kāi)發(fā)周期。

2020年，浪潮NF5488 AI服務(wù)器在全球權威AI基準測試MLPerf中共創(chuàng )造19項性能紀錄，成為創(chuàng )紀錄最多的AI服務(wù)器，在眾多AI計算場(chǎng)景中均表現出最強性能。

浪潮還發(fā)布高效能AI視頻加速器（Video Processing Unit）M10A，是業(yè)界首款在8W超低功耗實(shí)現16路1080P視頻處理加速產(chǎn)品，網(wǎng)絡(luò )帶寬利用率翻倍，計算CPU負荷降至2%，為直播、短視頻、視頻會(huì )議、云游戲等行業(yè)客戶(hù)帶來(lái)超高效能的加速體驗。

浪潮AI&HPC產(chǎn)品線(xiàn)總經(jīng)理劉軍表示，這款產(chǎn)品的推出主要是為了有效應對當前視頻業(yè)務(wù)數據爆發(fā)和AI計算帶來(lái)的巨大挑戰，解決海量視頻AI處理過(guò)程的業(yè)務(wù)瓶頸，推動(dòng)視頻產(chǎn)業(yè)加速發(fā)展。

總之，向著(zhù)高算力、高可擴展性、高性?xún)r(jià)比的目標，浪潮已推出的AI計算產(chǎn)品陣列可以全方位地滿(mǎn)足不同訓練和推理場(chǎng)景的算力需求。

元腦生態(tài)2.0升級，解決智能化轉型多重挑戰

為了幫助行業(yè)更好地進(jìn)行智慧化轉型，加速AI技術(shù)方案提供方和需求方之間的匹配效率，浪潮于2019年提出了元腦生態(tài)計劃。目前，生態(tài)已經(jīng)發(fā)展了15000千多個(gè)合作方，包括2200多個(gè)行業(yè)ISV。在人工智能百強企業(yè)中，85%都與浪潮有深度合作。

今年，元腦生態(tài)升級到2.0版本。其中，新增的“AI Store”功能類(lèi)似于手機可以下載應用的App Store，通過(guò)AI Store，傳統企業(yè)可以選擇與業(yè)務(wù)需求匹配的AI解決方案，提高與AI企業(yè)的需求對接效率。

值得一提的是，為了應對愈加復雜的應用場(chǎng)景和異構產(chǎn)品組合，浪潮還發(fā)布了業(yè)界首款智算操作系統元腦OS，方便統一管理和調度資源管控中心平臺和智算中心。

通過(guò)元腦產(chǎn)品體系，浪潮進(jìn)一步加速落地智算中心，以智算能力驅動(dòng)應用創(chuàng )新和產(chǎn)業(yè)升級。

比如，榮聯(lián)科技、趨動(dòng)科技、浪潮攜手助力西湖大學(xué)智算中心建設，是一個(gè)“AI算力配置+AI集群優(yōu)化+實(shí)施運維能力”的頂級智算中心方案交付配置。

在POC方案設計階段，針對西湖大學(xué)的AI集群方案，進(jìn)行了高標準的設計規劃，浪潮提供了當時(shí)最全套的硬件平臺設備。同時(shí)，通過(guò)將浪潮的AIstation AI集群調度系統與趨動(dòng)科技的OrionX AI算力池化加速方案進(jìn)行無(wú)縫的融合，對AI算力和應用負載進(jìn)行精細化管理，提升50%AI算法開(kāi)發(fā)部署效率，提升5倍以上的AI資源利用率，總體TCO降低約80%。

通過(guò)元腦生態(tài)，他們希望建立強有力的生態(tài)合作伙伴體系，以此來(lái)滿(mǎn)足產(chǎn)業(yè)的智慧化轉型服務(wù)需求。

浪潮認為，計算正在向智算轉型，多元算力融合成為關(guān)鍵，智算中心基建化是未來(lái)計算產(chǎn)業(yè)的新格局。