大模型迭代引發(fā)一體機市場(chǎng)熱潮，IDC啟動(dòng)大模型推理算力系列研究

2025年1月以來(lái)，中國市場(chǎng) AI 創(chuàng )企深度求索開(kāi)發(fā)的 AI開(kāi)源 大模型 DeepSeek的爆火引起廣泛關(guān)注，近期DeepSeek等大模型的迭代也推動(dòng)了一體機產(chǎn)品的密集發(fā)布，吸引了包括服務(wù)器、云服務(wù)、行業(yè)應用開(kāi)發(fā)、大模型技術(shù)供應商等多方參與，根據IDC統計，市場(chǎng)上已迅速有接近百家廠(chǎng)商推出AI一體機產(chǎn)品。

未來(lái)AI算力市場(chǎng)服務(wù)模式如何演變？AI一體機有哪些市場(chǎng)機會(huì )？基于市場(chǎng)上的普遍問(wèn)題，IDC進(jìn)行了總結，旨在為技術(shù)供應商和行業(yè)用戶(hù)提供參考：

中國市場(chǎng)AI算力服務(wù)的模式

DeepSeek等大模型的迭代推動(dòng)了AI算力服務(wù)模式的更新升級，一方面，用戶(hù)端對AI算力建設提出新的需求，包括算力效率提升、推理需求增加、供應方式多樣化等；另一方面，供應側，AI算力基礎設施服務(wù)模式也不斷創(chuàng )新。中國市場(chǎng)的AI算力建設，走出了一條具備中國特色的差異化路線(xiàn)。

當前提供AI計算服務(wù)的模式主要有以下幾種：

●   公有云算力服務(wù)：在公有云上提供算力基礎設施，即公有云廠(chǎng)商的AIaaS服務(wù)。

●   智算中心：由政府牽頭，國資平臺發(fā)起智算中心項目，由集成商作為總包，智算中心廠(chǎng)商參與建設。建成之后可供地方政府、企業(yè)訓練、調優(yōu)與部署AI應用。

●   私有云：由企業(yè)自主采購、自主建設AI私有云，支撐內部的模型訓練與部署。

●   AI一體機：主要用于支撐本地部署AI應用。

AI一體機的市場(chǎng)機會(huì )

AI一體機，是專(zhuān)為AI大模型應用和部署而設計的集成計算設備，通常包含CPU/GPU等算力組合、存儲器、操作系統、AI平臺軟件及各類(lèi)模型算法、推理服務(wù)等軟硬組件。從去年開(kāi)始，AI一體機市場(chǎng)上主要產(chǎn)品形態(tài)包含訓推一體機、推理一體機等，訓推一體機具備開(kāi)箱即用、私有化部署等特性，支持完整的AI模型開(kāi)發(fā)流程（包括訓練和推理部署等多個(gè)環(huán)節）。也有部分推理一體機，專(zhuān)注于高效能推理場(chǎng)景。目前搭載DeepSeek的AI一體機方案存在差異，能支持運行蒸餾版、滿(mǎn)血版V3/R1模型，但Deepseek一體機的實(shí)際應用效果仍有待觀(guān)察，有些行業(yè)用戶(hù)則結合自己的應用場(chǎng)景考量?jì)?yōu)先選擇預制了參數規模更小的大模型、成本更低的一體機做嘗試，預計能夠滿(mǎn)足一些行業(yè)的應用需求。

由于DeepSeek事件，帶動(dòng)了整個(gè)中國市場(chǎng)對AI應用的樂(lè )觀(guān)發(fā)展預期，如果在驅動(dòng)更多企業(yè)（尤其是中小等長(cháng)尾企業(yè)）部署AI的假設下，AI一體機市場(chǎng)將會(huì )迎來(lái)進(jìn)一步發(fā)展。隨著(zhù)基礎大模型開(kāi)啟另一開(kāi)發(fā)新范式，大模型從千億參數向行業(yè)精調模型演進(jìn)，AI一體機通過(guò)軟硬一體的集成解決方案，能夠實(shí)現特定場(chǎng)景的私有化部署，縮短部署周期，降低中小企業(yè)大模型的使用門(mén)檻。對于一些具備大量敏感數據的用戶(hù)，私有化部署確保數據安全處理/避免敏感信息外流，能夠滿(mǎn)足教育/科研、政務(wù)與公共服務(wù)、制造、能源、醫療、金融等領(lǐng)域的一些應用需求。

IDC啟動(dòng)大模型推理算力系列研究

隨著(zhù)AI應用的不斷落地，算力建設的重點(diǎn)也將從以支持訓練為主開(kāi)始轉向越來(lái)越多的支持推理。在此背景下，IDC啟動(dòng)大模型推理算力系列研究。主要包含下列研究報告：

●   《中國大模型推理計算指數研究報告，2025》：希望從大模型推理的角度，幫助用戶(hù)建立推理算力選型的參考、驗收的標準以及持續運營(yíng)的支持。如下表所示，技術(shù)能力、服務(wù)能力、規?；芰?、供應鏈以及安全，將是我們考量的維度。

●   《中國AI大模型訓推一體機市場(chǎng)分析與品牌推薦，2025》：AI大模型一體機市場(chǎng)囊括了服務(wù)器、云服務(wù)、行業(yè)應用開(kāi)發(fā)、大模型技術(shù)供應商等多方參與，市場(chǎng)以往更關(guān)注基礎功能和性能，今年可能更強調成本、效果更佳的AI模型能力集成、軟硬件協(xié)同優(yōu)化和行業(yè)定制化、安全性等。IDC將啟動(dòng)市場(chǎng)追蹤與品牌推薦研究，輔助行業(yè)用戶(hù)更好的選型AI大模型一體機產(chǎn)品。

免責聲明

本文中的內容和數據均來(lái)源于IDC所發(fā)布的報告，所有內容及數據均為我公司所有。未經(jīng)IDC書(shū)面許可，任何機構和個(gè)人不得以任何形式翻版、復制、刊登、發(fā)表或引用。