智算中心發(fā)展趨勢淺析
本文分享自天翼云開(kāi)發(fā)者社區《智算中心發(fā)展趨勢淺析》,作者:3****m
從國家到地方再到各類(lèi)市場(chǎng)主體,都在大力推進(jìn)算力資源布局建設,智算中心發(fā)展呈現算力的規模需求快速增加、圍繞算法的服務(wù)模式持續完善、普適樸實(shí)普惠的服務(wù)生態(tài)逐步構建、綠色低碳的發(fā)展格局加速形成等新趨勢。
(一)智能算力的發(fā)展需求快速擴大
算力資源是數字經(jīng)濟發(fā)展的重要底座。隨著(zhù)數字經(jīng)濟蓬勃發(fā)展,數字化新事物、新業(yè)態(tài)、新模式推動(dòng)應用場(chǎng)景趨向多元化發(fā)展,算力規模不斷擴大,算力需求持續攀升。
智能算力需求規??焖僭鲩L(cháng)。5G、工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、人工智能等信息技術(shù)加速發(fā)展帶動(dòng)數據量爆炸式增長(cháng)。隨著(zhù)人工智能技術(shù)的高速發(fā)展,智能化正以前所未有的速度重塑各行各業(yè),我國算力結構也隨之不斷演化,對智能算力的需求與日俱增。數據顯示,2021年中國智能算力規模達155.2 EFLOPS(FP16), 預計到2026年中國智能算力規模將達到1,271.4 EFLOPS。2021- 2026 年期間,預計中國智能算力規模年復合增長(cháng)率達52.3%,同期通用算力規模年復合增長(cháng)率為18.5%。
智算中心建設布局浪潮快速掀起。智算中心能夠提供大規模數據處理和高性能智能計算支撐,將經(jīng)濟、社會(huì )、產(chǎn)業(yè)中各種模型、經(jīng)驗固化下來(lái),形成新的生產(chǎn)力,并支撐智能化的產(chǎn)業(yè)、服務(wù)和治理。智算中心是具有強公共屬性的開(kāi)放服務(wù),能夠實(shí)現對大區域的數字化輻射帶動(dòng),成為經(jīng)濟發(fā)展的新動(dòng)力引擎。隨著(zhù)“東數西算”工程、新型基礎設施等國家政策規劃出臺,我國智算中心掀起落地熱潮。當前我國超過(guò)30個(gè)城市正在建設或提出建設智算中心,整體布局以東部地區為主,并逐漸向中西部地區拓展。未來(lái),隨著(zhù)我國智算中心布局的持續優(yōu)化與完善,以及人工智能應用場(chǎng)景的不斷創(chuàng )新和解鎖,智能算力需求將得到更大釋放,智算中心的賦能作用將被進(jìn)一步激發(fā)。
復雜場(chǎng)景計算需要多元算力的開(kāi)發(fā)生態(tài)體系。智算中心的芯片、服務(wù)器、固件、操作系統等可能由多方提供,易存在多型號硬件無(wú)法兼容、軟件投入和應用難以支撐上層業(yè)務(wù)發(fā)展等問(wèn)題,嚴重制約了智算中心的應用。因此,智算中心應該兼容適配更多技術(shù)體系,通過(guò)開(kāi)源、開(kāi)放的方式建立可兼容底層硬件差異的異構開(kāi)發(fā)方式,突破異構算力適配、異構算力調度等關(guān)鍵技術(shù),加速基礎軟件、商用軟件和開(kāi)源軟件的生態(tài)構建,與各領(lǐng)域的知識模型、機理模型、物理模型相疊加,做到從硬件到軟件、從芯片到架構、從建設模式到應用服務(wù)開(kāi)放化、標準化,打通人工智能軟硬件產(chǎn)業(yè)鏈,從而加速人工智能算力技術(shù)和產(chǎn)業(yè)生態(tài)形成。
(二)通用智能的算法模型快速演進(jìn)
人工智能算法結構日益復雜、參數和樣本規模持續擴大, 算法的快速演進(jìn)正改變傳統計算范式。大模型加速人工智能在千行百業(yè)中應用。大規模、大參數量預訓練模型的出現不斷提升人工智能模型的認知能力。 “預訓練大模型+下游任務(wù)微調”的新范式已成為解決人工智能技術(shù)落地難問(wèn)題的突破口,加速推進(jìn)人工智能實(shí)用化、通 用化和普惠化發(fā)展進(jìn)程。自2011年以來(lái),全球人工智能領(lǐng)軍 企業(yè)和研究機構紛紛加入人工智能大模型研究,人工智能模 型參數急劇增長(cháng)。在短短三四年時(shí)間內,參數規??焖購膬|級突破至萬(wàn)億級。代表性大模型如谷歌發(fā)布的BERT,OpenAI發(fā)布的GPT-3、ChatGPT等。通過(guò)構建大模型提升人工智能處理性能、增強人工智能通用性、加速人工智能廣泛應用已成為各界共識,未來(lái)大模型將覆蓋更多生產(chǎn)生活領(lǐng)域,賦能千行百業(yè)的智能化升級。
多模態(tài)智能計算成為實(shí)現通用人工智能的關(guān)鍵。每一種信息的來(lái)源或者形式,都可以稱(chēng)為一種模態(tài)。例如,人有觸覺(jué)、聽(tīng)覺(jué)、視覺(jué)、嗅覺(jué),信息的媒介有語(yǔ)音、視頻、文字等。多模態(tài)更貼合人類(lèi)對多感知模態(tài)的認知過(guò)程,通過(guò)多種模態(tài)的數據,可以突破自然語(yǔ)言處理和計算機視覺(jué)的界限,在圖文生成、看圖問(wèn)答等視覺(jué)語(yǔ)言任務(wù)上具有更強的表現。當前,多模態(tài)大模型引發(fā)了業(yè)界廣泛的關(guān)注,并在 以文生圖等領(lǐng)域取得了巨大進(jìn)步,代表性模型有OpenAI發(fā)布的DALLE-2等。
(三)普適普惠的服務(wù)生態(tài)逐步構建
智算中心作為經(jīng)濟社會(huì )重要的算力載體,正向標準化、低成本、低門(mén)檻方向發(fā)展,形成集算力、算法、數據、運營(yíng)于一體的服務(wù)生態(tài),使智能計算可以像水電一樣,成為社會(huì )基本公共服務(wù),造福社會(huì )大眾,讓千行百業(yè)共享智算中心建設成果。
算法應用普適化。在經(jīng)濟活動(dòng)各環(huán)節的智能化升級中,人工智能需要與各行業(yè)的業(yè)務(wù)流程、信息系統、生產(chǎn)系統等深度結合才能產(chǎn)生價(jià)值,存在一定應用門(mén)檻,在一定程度上阻礙了各行業(yè)的智能化轉型升級。依托智算中心的超大規模預訓練能力,各行業(yè)人工智能應用將不必從零開(kāi)始開(kāi)發(fā)。人工智能模型可以實(shí)現在眾多場(chǎng)景通用、泛化和規?;瘡椭?,只需結合領(lǐng)域數據進(jìn)行調整和增量,即可形成具有良好精度和性能的下游應用,助力各行業(yè)智能化升級,實(shí)現智能算法應用的普適化。
(四)綠色低碳的發(fā)展格局加速形成
在“碳中和、碳達峰”目標背景下,建設技術(shù)先進(jìn)、綠色低碳的智算中心成為踐行綠色發(fā)展理念的大勢所趨。
算力基礎設施的能效指標更加嚴格具體。我國數據中心總體上還處于小而散的粗放建設階段,大型、超大型數據中心占比不高。據統計,2021年度全國數據中心PUE為1.49,有相當數量的數據中心PUE超過(guò)1.8甚至2.0。為約束大型算力基礎設施的能效,國家發(fā)改委、科技部、工信部、國家能源局等多部門(mén)陸續出臺文件,對新建大型、超大型數據中心的PUE要求已從2017年的1.5降至2021年的1.3以下,國家樞紐節點(diǎn)PUE更是要求進(jìn)一步降到1.25以下?!皷|數西 算”工程要求東部地區PUE目標不超過(guò)1.25,西部地區不超過(guò)1.2,能效指標更加嚴格。
節能降耗的先進(jìn)技術(shù)成為發(fā)展重點(diǎn)。智算中心具有高功率密度屬性,隨著(zhù)服務(wù)器主流芯片的功耗不斷增長(cháng),用于A(yíng)I訓練的機器單機柜功率密度將大幅增加,傳統的風(fēng)冷模式已無(wú)法滿(mǎn)足智算中心的制冷散熱需求,液冷技術(shù)的應用為智算中心綠色化運轉提供了解決思路。液冷是指借助高比熱容的液體作為熱量傳輸介質(zhì)滿(mǎn)足服務(wù)器等IT設備散熱需求的一種冷卻方式,比傳統風(fēng)冷具備更強的冷卻能力,其冷卻力是空氣的1,000-3,000倍,熱傳導能力是空氣的25倍。同等散熱時(shí),液冷系統相比傳統風(fēng)冷系統約節電30%-50%,數據中心PUE值可降至1.2以下,甚至趨于1。
*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。