AI服務(wù)器爆火，這些芯片賽道進(jìn)入狂歡期

在當今社會(huì )，人工智能的應用場(chǎng)景愈發(fā)廣泛，如小愛(ài)同學(xué)、天貓精靈等 AI 服務(wù)已深入人們的生活。隨著(zhù)人工智能時(shí)代的來(lái)臨，AI 服務(wù)器也開(kāi)始在社會(huì )各行業(yè)發(fā)揮重要作用。那么，AI 服務(wù)器與傳統服務(wù)器相比，究竟有何獨特之處？為何 AI 服務(wù)器能在人工智能時(shí)代中逐漸取代普通服務(wù)器，成為主流呢？

AI 服務(wù)器與傳統服務(wù)器的區別

AI 服務(wù)器和傳統服務(wù)器之間有顯著(zhù)的區別。

AI 服務(wù)器是一種專(zhuān)門(mén)設計用于執行人工智能、機器學(xué)習（ML）、深度學(xué)習（DL）等計算密集型任務(wù)的高性能服務(wù)器。它可以通過(guò)收集數據、分析數據和模擬數據來(lái)學(xué)習如何有效地運行服務(wù)器，也可以根據不同的應用程序和用戶(hù)請求來(lái)調整服務(wù)器的性能，從而提供更好的服務(wù)器性能。

而傳統服務(wù)器雖然也可以處理大量數據，但是需要人工干預來(lái)提高服務(wù)器性能。

從服務(wù)器的硬件架構來(lái)看，AI 服務(wù)器通常配備有高效能的中央處理器（CPU）、圖形處理器（GPU）、張量處理器（TPU）或專(zhuān)用的 AI 加速器，以及大量的內存和存儲空間。在異構方式上，AI 服務(wù)器可以為 CPU＋GPU、CPU＋FPGA、CPU＋TPU、CPU＋ASIC 或 CPU＋多種加速卡。

目前，產(chǎn)品中最常見(jiàn)的是 CPU+多塊 GPU 的方式。具體的設計和配置可以根據需要進(jìn)行大量并行處理的具體任務(wù)來(lái)進(jìn)行調整。

傳統服務(wù)器主要以 CPU 為算力提供者，但是在運作的過(guò)程中需要引入大量分支跳轉中斷處理，這使得 CPU 的內部結構復雜，并不能滿(mǎn)足 AI 時(shí)代的需求。

AI 服務(wù)器的主要優(yōu)勢：

大數據處理：AI 服務(wù)器能夠處理和分析大量數據，這是訓練 AI 和 ML 模型的關(guān)鍵。

并行計算：由于 AI 和 ML 算法需要對大量數據進(jìn)行復雜的計算，AI 服務(wù)器通常使用可以并行處理大量數據的硬件，如 GPU。

存儲和內存：AI 服務(wù)器通常具有大量的存儲空間和內存，以便存儲和處理大量的數據。

網(wǎng)絡(luò )能力：AI 服務(wù)器需要高速和低延遲的網(wǎng)絡(luò )連接，以便快速傳輸大量的數據。

事實(shí)上，這也正是大模型熱潮之后，AI 服務(wù)器搶購潮涌現的原因所在。大模型內部蘊含的數據參數極其龐大，無(wú)論是訓練還是運行，都需要更強大的計算資源來(lái)支撐。因此，為了滿(mǎn)足這種需求，高性能的 AI 服務(wù)器變得至關(guān)重要，從而引發(fā)了搶購熱潮。

呈現在具體應用中，AI 服務(wù)器廣泛應用于深度學(xué)習、高性能計算、醫療、搜索引擎、游戲、電子商務(wù)、金融、安全等行業(yè)。比如在醫學(xué)圖像智能分析應用中，AI 服務(wù)器可以通過(guò)機器視覺(jué)、知識地圖、深度學(xué)習等人工智能技術(shù)，模擬醫學(xué)專(zhuān)家思維、推理診斷，幫助醫生定位疾病，協(xié)助診斷；在安全監控的應用中，AI 服務(wù)器可以應用于人體分析、圖像分析、車(chē)輛分析、行為分析等安全場(chǎng)景。

AI 服務(wù)器的兩大類(lèi)別

按照 AI 應用場(chǎng)景的需求，AI 服務(wù)器主要分為兩類(lèi)：深度學(xué)習訓練型和智能應用推理型。

訓練任務(wù)對服務(wù)器算力要求較高，需要訓練型服務(wù)器提供高密度算力支持；推理任務(wù)則是利用訓練后的模型提供服務(wù)，對算力無(wú)較高要求。

簡(jiǎn)單來(lái)說(shuō)，訓練過(guò)程就是一個(gè)學(xué)習的過(guò)程，訓練是一個(gè)搜索和求解模型最優(yōu)參數的階段； 推理是將深度學(xué)習訓練成果投入使用的過(guò)程，即模型參數已經(jīng)求解出來(lái)，使用和部署模型階段。

根據使用需求的不同，不同 AI 服務(wù)器對 GPU 的采用也不同。

訓練階段要求 GPU 具有強大的計算能力和高存儲帶寬，以應對大規模的數據處理和復雜的數學(xué)運算。因此，在選擇用于訓練階段的 GPU 時(shí)，通常需要關(guān)注其性能、功耗、可靠性和軟件兼容性等方面。具有高頻率、多核心和大顯存的 GPU 產(chǎn)品通常更適合訓練階段的需求。拿英偉達來(lái)說(shuō)，訓練時(shí)可以選 A100V100A800 等顯卡。

推理階段主要關(guān)注的是模型的快速響應和準確輸出。這一階段的計算量相對較小，但要求 GPU 能夠快速且穩定地執行預訓練好的模型。因此，推理階段對 GPU 的需求更注重其穩定性和能效比。英偉達的 P4、T4、A10 等顯卡，更適合推理階段的需求。

AI 服務(wù)器出貨量激增

AI 服務(wù)器作為算力的發(fā)動(dòng)機，算力需求的增長(cháng)將迎來(lái) AI 服務(wù)器需求的快速增長(cháng)。

據 IDC 統計，2023 年全球 AI 服務(wù)器市場(chǎng)規模預計為 211 億美元，2025 年將達到 17.9 億美元，2023-2025 年 CAGR 為 22.7%。出貨量方面，根據 TrendForce 數據，2023 年 AI 服務(wù)器出貨量逾 120 萬(wàn)臺，占據服務(wù)器總出貨量的近 9%，年增長(cháng)達 38.4%。預計 2026 年，AI 服務(wù)器出貨量為 237 萬(wàn)臺，占比達 15%，復合年增長(cháng)率預計保持 25%。

再看中國市場(chǎng)，IDC 預計 2023 年中國 AI 服務(wù)器市場(chǎng)規模將達到 91 億美元，同比增長(cháng) 82.5%；2027 年將達到 134 億美元，年均復合增長(cháng)率為 21.8%。主要原因是國內各大廠(chǎng)商紛紛布局 AI 服務(wù)器產(chǎn)業(yè)，升級產(chǎn)品技術(shù)規格。處理器方面，浪潮信息產(chǎn)品主要通過(guò)搭建四代英特爾 CPU+英偉達 H800GPU 超高算力組合，華為的昇騰系列和鯤鵬系列服務(wù)器主要搭載自研鯤鵬處理器及昇騰處理器，中科可控搭載海光處理器滿(mǎn)足算力需求。此外，廠(chǎng)商普遍配置有 32 個(gè) DDR4 內存插條和 SAS/SATA 硬盤(pán)，以及支持 0/1/10/5/50/6/60RAID。

計算芯片和存儲是服務(wù)器的核心構成，在 AI 服務(wù)器發(fā)展如日中天的當下，計算芯片和存儲自然而然跟隨著(zhù) AI 服務(wù)器的步伐走上快車(chē)道。

這些芯片賽道，進(jìn)入狂歡期

國產(chǎn) CPU 迎來(lái)發(fā)展好時(shí)機

上文提到，如今的算力芯片通常是 CPU+多塊 GPU 的方式。

當下主流的服務(wù)器 CPU 架構包括 X86、ARM、MIPS 和 RISC-V 等。其中 X86 架構處理器統治著(zhù) PC 和服務(wù)器市場(chǎng)，Arm 架構處理器統治著(zhù)移動(dòng)市場(chǎng)和 IoT 市場(chǎng)，MIPS 是基于 RISC 的衍生架構之一，近年來(lái) RISC-V 架構則憑借著(zhù)開(kāi)源、指令精簡(jiǎn)、可擴展等優(yōu)勢，在注重能效比的物聯(lián)網(wǎng)領(lǐng)域大受追捧，并開(kāi)始進(jìn)入更高性能需求的服務(wù)器市場(chǎng)。

當前市場(chǎng)格局中，英特爾和 AMD 兩大巨頭憑借深厚的技術(shù)積累和市場(chǎng)布局，占據了市場(chǎng)的絕大部分份額。

然而，隨著(zhù) AI 技術(shù)的飛速發(fā)展，中國作為服務(wù)器市場(chǎng)的增長(cháng)引擎，也為眾多服務(wù)器芯片公司提供了前所未有的發(fā)展機遇。這些公司紛紛瞄準這一黃金時(shí)期，加大研發(fā)力度，提升產(chǎn)品性能，以期在激烈的市場(chǎng)競爭中脫穎而出，分得一杯羹。

如今，國產(chǎn)服務(wù)器 CPU 正處于奮力追趕的關(guān)鍵時(shí)期，主流的廠(chǎng)商包括海光、兆芯、飛騰、華為鯤鵬、龍芯、申威。

海光完全兼容 X86 架構，擁有指令集永久授權，不僅具備了獨立設計 CPU 內核和 SoC 的能力，也可以對指令集進(jìn)行自主擴展和優(yōu)化。海光 CPU 系列產(chǎn)品中，海光三號為 2023 年主力銷(xiāo)售產(chǎn)品，海光四號、海光五號處于研發(fā)階段。海光 CPU 既支持面向數據中心、云計算等復雜應用領(lǐng)域的高端服務(wù)器；也支持面向政務(wù)、企業(yè)和教育領(lǐng)域的信息化建設中的中低端服務(wù)器以及工作站和邊緣計算服務(wù)器，已經(jīng)應用于電信、金融、互聯(lián)網(wǎng)、教育、交通、工業(yè)設計、圖形圖像處理等領(lǐng)域。

再看飛騰，飛騰已與 1600 余家國內軟硬件廠(chǎng)商打造完整生態(tài)體系，并已完成與 6 大類(lèi) 1000 余種整機產(chǎn)品、2600 余種軟件和外設的適配?；陲w騰桌面 CPU 的終端已形成較為完整的生態(tài)圖譜，可覆蓋從整機硬件、基礎軟件到上層的應用。

去年四月，龍芯推出 2023 款 HPC CPU:3D5000，擁有 32 核高達 2 GHz 和 300W TDP，據稱(chēng)比典型 Arm 芯片快 4 倍。龍芯 3D5000 的推出，進(jìn)一步滿(mǎn)足了數據中心對性能的需求，也標志著(zhù)龍芯中科在服務(wù)器 CPU 芯片領(lǐng)域進(jìn)入國內領(lǐng)先行列。

此外國內企業(yè)還在加快部署 RISC-V 芯片。比如去年 10 月，山東大學(xué)成功部署了基于 RISC-V CPU 的服務(wù)器集群，該系統擁有 3072 個(gè)核心，并配置了 48 個(gè) 64 位 RISC-V CPU 節點(diǎn)。中國科學(xué)院 (CAS) 正在開(kāi)發(fā)「香山」RISC-V 芯片。

目前，從架構路線(xiàn)上看，x86 更具發(fā)展空間和潛力。

X86 不僅是國際廣泛認可的通用計算架構，而且國產(chǎn) CPU 廠(chǎng)商通過(guò)獲得 X86 架構和指令集的授權，不斷消化、吸收與創(chuàng )新，目前已具備高度的自主發(fā)展和自由迭代的能力。

在自主發(fā)展方面，X86 架構為國產(chǎn) CPU 廠(chǎng)商提供了一個(gè)廣闊的舞臺。他們不僅可以在架構的基礎上進(jìn)行微架構創(chuàng )新，還可以根據國內市場(chǎng)的特殊需求，定制和優(yōu)化指令集，開(kāi)發(fā)出更符合本土用戶(hù)習慣和應用場(chǎng)景的 CPU 產(chǎn)品。這種定制化的能力使得國產(chǎn) CPU 在性能和功能上能夠與國際大廠(chǎng)的產(chǎn)品相媲美，甚至在某些特定領(lǐng)域實(shí)現超越。其次，在自由迭代方面，國產(chǎn) CPU 廠(chǎng)商具備了對 X86 架構進(jìn)行持續升級和優(yōu)化的能力。

因此，在安全性方面，國產(chǎn) X86 CPU 廠(chǎng)商具備自主可控的能力，他們可以通過(guò)自主研發(fā)和創(chuàng )新，確保 CPU 產(chǎn)品在設計和制造過(guò)程中的安全性。

GPU 廠(chǎng)商更是進(jìn)入黃金時(shí)刻

GPU 市場(chǎng)的火熱程度還要遠遠夸張于 CPU 市場(chǎng)。

盡管 FPGA、各類(lèi) ASIC 芯片也能執行大量運算，但 GPU 的通用性無(wú)疑讓它更具吸引力。

在 AI 服務(wù)器的構建中，GPU 的價(jià)值量顯著(zhù)高于 CPU。一臺 AI 服務(wù)器通常僅搭載 1-2 塊 CPU，但 GPU 的數量則可能大大增加。根據 GPU 數量的不同，AI 服務(wù)器可分為四路、八路和十六路服務(wù)器，其中搭載 8 塊 GPU 的八路 AI 服務(wù)器最為常見(jiàn)。這種配置使得 AI 服務(wù)器在處理大規模數據和高復雜度算法時(shí)具有更高的效率和穩定性。

以浪潮的服務(wù)器產(chǎn)品為例，我們可以更直觀(guān)地感受到 GPU 在 AI 服務(wù)器中的價(jià)值。浪潮的通用服務(wù)器 NF5280M6 采用 1~2 顆第三代 Intel Xeon 可擴展處理器，每顆 CPU 的售價(jià)約為 64000 元，因此該服務(wù)器的芯片成本大約在 64000~128000 元之間。然而，在浪潮的 AI 服務(wù)器 NF5688M6 中，情況則大不相同。該服務(wù)器采用了 2 顆第三代 Intel Xeon 可擴展處理器和 8 顆英偉達 A800 GPU 的組合。據英偉達官網(wǎng)顯示，每顆 A800 的售價(jià)高達 104000 元。因此，僅計算芯片成本，該 AI 服務(wù)器的芯片成本就達到了約 96 萬(wàn)元。

可以看到，隨著(zhù) AI 服務(wù)器的廣泛普及和應用，GPU 也迎來(lái)量?jì)r(jià)齊升。

作為全球領(lǐng)先的 GPU 制造商，英偉達憑借其卓越的技術(shù)和創(chuàng )新能力，成功抓住了 AI 發(fā)展的黃金機遇。不斷推出性能更強大、功能更豐富的 GPU 產(chǎn)品，滿(mǎn)足了 AI 服務(wù)器日益增長(cháng)的計算需求。英偉達不僅收獲了接到手軟的訂單，還成功占領(lǐng)了 AI 服務(wù)器市場(chǎng)的制高點(diǎn)。

當然，國產(chǎn) GPU 廠(chǎng)商也不會(huì )錯過(guò)這一好時(shí)機。他們加大研發(fā)力度，努力提升產(chǎn)品性能和質(zhì)量，以滿(mǎn)足國內 AI 服務(wù)器市場(chǎng)的迫切需求。

2023 年上半年，中國加速芯片的市場(chǎng)規模超過(guò) 50 萬(wàn)張。從技術(shù)角度看，GPU 卡占有 90% 的市場(chǎng)份額；從品牌角度看，中國本土 AI 芯片品牌出貨超過(guò) 5 萬(wàn)張，占比整個(gè)市場(chǎng) 10% 左右的份額。

國產(chǎn) GPU 有兩條主要的發(fā)展路線(xiàn)：分別為傳統的 2D/3D 圖形渲染 GPU 和專(zhuān)注高性能計算的 GPGPU，近年來(lái)，國產(chǎn) GPU 廠(chǎng)商在圖形渲染 GPU 和高性能計算 GPGPU 領(lǐng)域上均推出了較為成熟的產(chǎn)品。

國產(chǎn)算力 GPU 的主要廠(chǎng)商包括海光信息、寒武紀、平頭哥、華為昇騰、天數智芯、燧原科技、摩爾線(xiàn)程、壁仞科技、沐曦等公司，部分產(chǎn)品的單卡指標和參數已經(jīng)與英偉達產(chǎn)品接近或持平。目前國產(chǎn)算力 GPU 芯片在推理場(chǎng)景應用較多且具備一定競爭力，如含光 800、思元 370、MTTS3000 等等。

隨著(zhù)國家對自主可控技術(shù)的重視和支持力度不斷加大，國產(chǎn) GPU 廠(chǎng)商的發(fā)展前景十分廣闊。他們有望在未來(lái)通過(guò)技術(shù)創(chuàng )新和市場(chǎng)拓展，逐步縮小與國際巨頭的差距，實(shí)現國產(chǎn) GPU 在 AI 服務(wù)器市場(chǎng)的更大突破。

DDR5、HBM 成為 AI 服務(wù)器標配

HBM（高帶寬內存）以其高帶寬、高容量、低延時(shí)和低功耗的優(yōu)勢，成為 AI 服務(wù)器中 GPU 的搭載標配。英偉達推出的多款用于 AI 訓練的芯片 A100、H100 和 H200，均采用 HBM 顯存：

• A100 采用 80GB HBM2 顯存，峰值帶寬高達 1.6TB/s。

• H100 采用 80GB HBM3 顯存，峰值帶寬高達 3.2TB/s。

• H200 采用 96GB HBM3 顯存，峰值帶寬高達 5.12TB/s。

HBM 顯存的應用，大幅提升了 AI 訓練的速度和效率，是當前 AI 計算領(lǐng)域必不可少的重要技術(shù)。

此外，針對 AI 服務(wù)器的高性能要求，更強大的內存——DDR5 需求隨之提升。與 DDR4 相比，DDR5 具備更高速度、更大容量和更低能耗等特點(diǎn)。DDR5 內存的最高傳輸速率達 6.4Gbps，比 DDR4 高出一倍。

美光科技此前曾表示，AI 服務(wù)器對 DRAM 和 NAND 的容量需求分別是常規服務(wù)器的 8 倍和 3 倍。AI 服務(wù)器的增長(cháng)，對內存的拉動(dòng)可謂是肉眼可見(jiàn)，而且需求相當明確。中金公司此前指出，2023-2025 年僅 AI 即會(huì )為存儲帶來(lái) 80 億美元增量市場(chǎng)。

央企加快智算中心建設，國產(chǎn) AI 服務(wù)器機遇大增

2 月 19 日，國務(wù)院國資委召開(kāi)中央企業(yè)人工智能專(zhuān)題推進(jìn)會(huì )。明確指出中央企業(yè)要加快布局和發(fā)展人工智能產(chǎn)業(yè)，加快建設一批智能算力中心：同時(shí)開(kāi)展 AI+專(zhuān)項行動(dòng)，加快重點(diǎn)行業(yè)賦能，構建一批產(chǎn)業(yè)多模態(tài)優(yōu)質(zhì)數據集，打造從基礎設施、算法工具、智能平臺到解決方案的大模型賦能產(chǎn)業(yè)。央企帶頭加速智算中心建設、推動(dòng) AI 賦能產(chǎn)業(yè)，有望提升國產(chǎn)算力需求，帶動(dòng)相關(guān)產(chǎn)業(yè)發(fā)展。

根據 2023 年 10 月，中國電信發(fā)布的《AI 算力服務(wù)器（2023-2024 年）集中采購項目》中標候選人結果顯示，總金額約為 84.63 億元，包括 AI 服務(wù)器 4175 臺以及 IB 交換機 1182 臺，其中使用國產(chǎn)（鯤鵬）芯片的 AI 服務(wù)器 1977 臺，占整體采購數量的 47.35%。

近日，中國聯(lián)通發(fā)布 2024 年人工智能服務(wù)器集中采購項目資格預審公告，公告顯示，2024 年中國聯(lián)通人工智能服務(wù)器集中采購項目已批準，招標人為中國聯(lián)合網(wǎng)絡(luò )通信有限公司及省分公司、聯(lián)通數字科技有限公司等。此次中國聯(lián)通將采購人工智能服務(wù)器合計 2503 臺，關(guān)鍵組網(wǎng)設備 RoCE 交換機合計 688 臺，本次采購不劃分標包。

在信創(chuàng )、國產(chǎn)化趨勢下，此次招標中國產(chǎn)服務(wù)器或占大多數，而隨著(zhù)運營(yíng)商招投標國產(chǎn)服務(wù)器占比的提升，國產(chǎn)服務(wù)器廠(chǎng)商有望受益。

以下是數家在「AI 服務(wù)器」概念領(lǐng)域中備受矚目，被視為未來(lái)市場(chǎng)潛力巨大的黑馬公司。

IDC 數據顯示，2023 年上半年，從銷(xiāo)售額來(lái)看，浪潮、新華三、寧暢位居前三，占據了 70% 以上的市場(chǎng)份額；從出貨臺數看，浪潮、坤前、寧暢位居前三名，占近 60% 的市場(chǎng)份額。

浪潮信息，主營(yíng)通用服務(wù)器、邊緣服務(wù)器、AI 服務(wù)器和存儲等。從 2020 年至 2022 年，服務(wù)器業(yè)務(wù)的銷(xiāo)售收入在浪潮信息總營(yíng)收中占比始終保持在 95% 以上。2023 年上半年，浪潮信息的服務(wù)器及部件業(yè)務(wù)實(shí)現營(yíng)收 244.99 億元，在總營(yíng)收中占比高達 98.80%。長(cháng)期以來(lái)，浪潮服務(wù)器在中國市場(chǎng)份額都在 30% 左右，位居中國第一，全球第二。

新華三為紫光股份旗下的核心企業(yè)，新華三擁有計算、存儲、網(wǎng)絡(luò )、5G、安全、終端等全方位的數字化基礎設施整體能力。2023 年上半年，新華三服務(wù)器以 16% 的市場(chǎng)份額穩居中國市場(chǎng)第二，其中刀片服務(wù)器（一種高度整合的高性能服務(wù)器系統）以 54% 的市場(chǎng)份額蟬聯(lián)中國市場(chǎng)第一。

寧暢信息創(chuàng )立于 2019 年，成立時(shí)間雖短，但寧暢團隊在服務(wù)器領(lǐng)域已有 15 年，公司員工中超 90% 是研發(fā)人員，是服務(wù)器領(lǐng)域的「黑馬」公司之一。2023 年上半年，寧暢液冷服務(wù)器市占率增速位居第一，市場(chǎng)占有率增速高達 500%。

坤前計算機成立于 2012 年，是一家成熟服務(wù)器生產(chǎn)商，包含 AI 服務(wù)器、通用服務(wù)器、存儲服務(wù)器、邊緣計算服務(wù)器、高密度服務(wù)器以及國產(chǎn)服務(wù)器系列。中興通訊也是我國知名的服務(wù)器供應商之一。據 IDC 發(fā)布數據，2022 年中興通訊服務(wù)器銷(xiāo)售額和機架服務(wù)器出貨量提升至國內前五。在電信行業(yè)，中興通訊服務(wù)器及存儲產(chǎn)品發(fā)貨量多年蟬聯(lián)第一，市場(chǎng)份額超過(guò) 30%，是中國移動(dòng)、中國聯(lián)通、中國電信三大運營(yíng)商的主流供應商。