定制芯片市場(chǎng)，被巨頭瞄準了

最近，有消息傳出英偉達正在建立一個(gè)新的業(yè)務(wù)部門(mén)，這個(gè)部門(mén)專(zhuān)注為云計算公司和其他公司設計定制芯片（ASIC）。

這個(gè)新的部門(mén)將由半導體資深人士 Dina McKinney 領(lǐng)導。McKinney 曾擔任負責 AMD CPU 設計和 Marvell 基礎設施處理器的副總裁，他將負責監督為云計算、5G 電信、游戲、汽車(chē)等領(lǐng)域構建定制芯片的團隊。

那么，英偉達為什么要下場(chǎng)定制芯片（ASIC 芯片），英偉達下場(chǎng)后能夠在 ASIC 市場(chǎng)中稱(chēng)王稱(chēng)霸嗎？

為什么英偉達選擇 ASIC？

英偉達選擇 ASIC 的原因，其實(shí)從其新部門(mén)面向客戶(hù)中可以窺見(jiàn)一二。新部門(mén)面向的主要是云計算公司，這和英偉達目前在主要的北美 CSP（云計算供應商）企業(yè)重疊，包括 Google Cloud、AWS、Microsoft Azure 和 Meta 等企業(yè)。

這些企業(yè)都已經(jīng)開(kāi)始進(jìn)行自家芯片的開(kāi)發(fā)，例如 Google 的 TPU 和微軟的 AI 加速器 Maia 及專(zhuān)為 Azure 設計的 CPU「Cobalt」。

因此英偉達進(jìn)軍 ASIC 的原因有二：第一，占領(lǐng)新的市場(chǎng)。第二，保護自己免受替代。

先來(lái)看占領(lǐng)新的市場(chǎng)。數據中心定制芯片的蛋糕并不小，據研究公司 650 Group 估計，數據中心定制芯片市場(chǎng)今年將增長(cháng)至 100 億美元，到 2025 年將翻一番。

Needham 分析師 Charles Shi 表示，2023 年更廣泛的定制芯片市場(chǎng)價(jià)值約為 300 億美元，約占全球芯片年銷(xiāo)售額的 5%。

數據中心的定制芯片的市場(chǎng)中有兩大巨頭：博通和 Marvell。在高端 ASIC 市場(chǎng)，博通以 35％的市占率，穩坐龍頭寶座，Marvel 以 12％的市占率居次。博通和 Marvell 其實(shí)都認為隨著(zhù)數據中心處理器變的多樣，會(huì )讓定制芯片的模式重新煥發(fā)生機。

原因在于，AI 時(shí)代中，ASIC 芯片也能撐起一片天。

這就談回了一個(gè)老問(wèn)題：ASIC、GPU，誰(shuí)是最合適的 AI 芯片？其實(shí)這兩類(lèi)芯片有各自的特點(diǎn)，但在滿(mǎn)足算力需求上是相互競爭的。簡(jiǎn)單來(lái)說(shuō)，GPU 有先發(fā)優(yōu)勢，技術(shù)發(fā)展時(shí)間長(cháng)，使用成本較低，但是功耗高。ASIC 面向特定用戶(hù)需求設計的定制芯片，在吞吐量、功耗、算力水平等方面都有優(yōu)勢。

在 20 世紀 90 年代時(shí)，很多大型企業(yè)都渴望設計和提供針對特定應用的定制 ASIC 設備，同時(shí)提供更好的性能。Sony、Toshiba 和 IBM 最初設計的用于 Sony Playstation 3 的 Cell Processor 就是一個(gè)例子。不過(guò)，由于 ASIC 的成本高，隨著(zhù)為特定產(chǎn)品設計 ASIC 變得越來(lái)越難以合理規模，ASIC 的歲月似乎過(guò)去。

ASIC 和 GPU 的分歧就在這：成本。

因為從性能來(lái)看，針對特定場(chǎng)景或應用所設計的 ASIC 芯片，會(huì )比英偉達所賣(mài)的通用 GPU 更有優(yōu)勢。以前一直使用 GPU，也帶火了英偉達等廠(chǎng)商的業(yè)績(jì)和股價(jià)，但后來(lái)大家發(fā)現，隨著(zhù)機器學(xué)習、邊緣計算發(fā)展，算法更加成熟和穩定，自己完全有足夠的計算需求去分攤 ASIC 的成本。

尤其 ChatGPT 爆火以后，英偉達 GPU 產(chǎn)品掉隊，很多企業(yè)都是靠著(zhù)服務(wù)器 CPU+ASIC 的形式，來(lái)滿(mǎn)足用戶(hù)對于 AI 訓練和推理的算力需求。

這就展示出 ASIC 在 AI 時(shí)代的作用。Marvell 的計算與定制集團技術(shù)副總裁 Mark Kuemerle 觀(guān)察到：「關(guān)于這些數據中心客戶(hù)的有趣事實(shí)是，如果他們的系統中出現輕微的瓶頸點(diǎn)，問(wèn)題會(huì )被放大 1000 倍甚至更多（因為它們部署在超大規模中）?！惯@樣的瓶頸點(diǎn)可能導致 NIC 卡住?，F成的機器學(xué)習設備可能無(wú)法匹配工作負載或滿(mǎn)足靈活性或可編程性的需求。

Kuemerle 說(shuō)：「這些超大規模數據中心真的必須將一切精確調整到他們的工作負載。那么，他們投資建設定制芯片絕對是值得的?！?/span>

ASIC 早已成為 GPU 面臨的強大競爭者。

雖說(shuō)各大廠(chǎng)商購買(mǎi)英偉達 GPU，花錢(qián)如流水，既然都是流水，為什么不定制更適合自家應用場(chǎng)景的芯片呢？要定制就要花錢(qián)，英偉達同樣想把大廠(chǎng)定制芯片的錢(qián)，納入自己的錢(qián)包。

再來(lái)看「免受替代」是怎么回事。目前，谷歌、亞馬遜、特斯拉和 Meta 都推出了 ASIC 芯片。

谷歌 2015 年發(fā)布首款 ASIC 芯片 TPU v1，去年已經(jīng)迭代到了 v5。根據官方提供的數據，每個(gè) TPU v5p pod 在三維環(huán)形拓撲結構中，通過(guò)最高帶寬的芯片間互聯(lián)（ICI），以 4,800 Gbps/chip 的速度將 8,960 個(gè)芯片組合在一起，與 TPU v4 相比，TPU v5p 的 FLOPS 和高帶寬內存（HBM）分別提高了 2 倍和 3 倍。

谷歌使用 TPU v5p 壘起一道抵御英偉達 GPU 的高墻。

對于谷歌來(lái)說(shuō)，要錢(qián)有錢(qián)，要技術(shù)有技術(shù)，要應用場(chǎng)景有應用場(chǎng)景，可以說(shuō)是各大科技巨頭中在自研 AI 芯片這條路上走得最遠的，其他廠(chǎng)商目前還在源源不斷地給英偉達賬戶(hù)打錢(qián)，但谷歌卻早已做好了兩手準備。

微軟則也是打響了「逃離英偉達」的信號槍。最新的消息，微軟正在開(kāi)發(fā)一款新的網(wǎng)卡，可以提高其 Maia AI 服務(wù)器芯片的性能，并有可能減少該公司對芯片設計商 Nvidia 的依賴(lài)。

有知情人士表示，微軟首席執行官薩蒂亞·納德拉 (Satya Nadella ) 已任命網(wǎng)絡(luò )設備開(kāi)發(fā)商瞻博網(wǎng)絡(luò ) (Juniper Networks) 聯(lián)合創(chuàng )始人普拉迪普·辛杜 (Pradeep Sindhu) 來(lái)領(lǐng)導網(wǎng)卡工作。

看來(lái)出于成本和自主率考慮，大廠(chǎng)還是更愿意使用自家的 ASIC。買(mǎi)英偉達的 GPU 不但價(jià)格高昂，并且受制于人。不過(guò)，使用自家芯片多一些，那就用英偉達 GPU 少一些。

英偉達能稱(chēng)霸嗎？

谷歌推出自家 ASIC 的背后，與博通有很大關(guān)系。去年說(shuō)到最紅火的企業(yè)是英偉達，而背后還有一個(gè)賣(mài)鏟人也在悶聲發(fā)財——博通。目前博通的市值已經(jīng)達到了 5741.98 億美元，已經(jīng)超過(guò)了臺積電的市值。

其實(shí)從收入來(lái)看，博通是全球第二大人工智能芯片公司，僅次于英偉達。博通加速器的銷(xiāo)售額往往高達數十億美元。

谷歌與博通合作，負責谷歌 TPU 的物理設計，本質(zhì)上是基于谷歌的設計圖紙開(kāi)發(fā)芯片。此外，博通還負責監督臺積電的芯片代工業(yè)務(wù)。自谷歌和博通開(kāi)始合作以來(lái)，谷歌每?jì)赡曜笥野l(fā)布新一代 TPU。知情人士稱(chēng)，谷歌和博通把每一代 TPU 的性?xún)r(jià)比提高了至少 50%。

博通與各大巨頭公司合作定制芯片。不但參與了谷歌每一代 TPU 處理器的設計，還與 Meta、蘋(píng)果等公司達成合作，共同設計生產(chǎn)芯片。

研究機構 SemiAnalysis 創(chuàng )始人表示，博通定制芯片業(yè)務(wù)規模達 100 億美元，美滿(mǎn)電子規模達 20 億美元，英偉達的參與確實(shí)是一個(gè)威脅。

英偉達能否稱(chēng)霸 ASIC 市場(chǎng)關(guān)鍵也是看兩點(diǎn)能力：設計和議價(jià)能力。

先來(lái)看設計能力。作為定制芯片，芯片設計的好壞肯定直接會(huì )影響到 CSP 大廠(chǎng)數據中心的運行能力，以及成本高低。對于大廠(chǎng)來(lái)說(shuō)，只要能夠提供強大的性能，即使芯片的價(jià)格偏高，也會(huì )愿意買(mǎi)單。

我們先來(lái)看看一臺 AI 服務(wù)器究竟需要哪些芯片？如果拆開(kāi)一臺 AI 服務(wù)器內部，以 HGX H100 8-GPU 為例，8 塊 H100 GPU 在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的帶寬，該服務(wù)器內部包含 NVLink、PCIe 和 QPI 等主板總線(xiàn)。GPU 之間的互聯(lián)通過(guò) NVSwitch 芯片來(lái)實(shí)現，CPU 與 GPU 之間的互聯(lián)則通過(guò) PCIe 5.0 總線(xiàn)實(shí)現。

英偉達自家的高速傳輸 NV Link、開(kāi)發(fā)者軟件 CUDA 和 Omniverse 等軟件套件，這些帶了極大優(yōu)勢。

但是 PCle Switch 也很重要，而這個(gè)領(lǐng)域是博通的天下。全球 PCle Switch 三大供應商，博通、微芯、祥碩科技三家，共占有全球約 58% 的份額。博通作為 PCI Express 交換領(lǐng)域的領(lǐng)導者，出貨量超過(guò) 10 億個(gè)。

前文我們提到博通參與了很多公司的定制芯片，為什么各大公司都看中博通呢？不僅僅是芯片設計的能力，博通有自己的「護城河」芯片間的通信。

博通是 SerDes（串行器/解串器）的通信技術(shù)無(wú)可爭議的壟斷巨頭。SerDes 接口通過(guò)在傳輸之前將低速并行數據轉換為高速串行數據，然后在接收端轉換回并行數據，目的在于允許數據從一個(gè) TPU 高速移動(dòng)到另一個(gè) TPU，提升信號傳輸效率。在全球 50GB/S 的 SerDes 市場(chǎng)中，博通占據了 76% 的市場(chǎng)份額。

這么來(lái)看，英偉達、博通在芯片設計方面，都有自己的「護城河」。

從芯片議價(jià)能力來(lái)說(shuō)，英偉達在晶圓的采購量上要比博通、邁威爾大得多。在這樣的狀況下，議價(jià)能力也相對較高。沿用此邏輯來(lái)看，即使 CSP 廠(chǎng)擁有強大的 IC 設計團隊，也不見(jiàn)得可取得最佳價(jià)格。

如果 CSP 能與臺積電簽訂具價(jià)格競爭力的長(cháng)約，有機會(huì )在價(jià)格上獲得優(yōu)勢，打破英偉達的壟斷局面。

結語(yǔ)

總的來(lái)說(shuō)，由于仍有許多存在于云端大廠(chǎng)外的語(yǔ)言模型，因此通用型 GPU 仍有生存空間。

目前英偉達是否會(huì )成立 ASIC 部門(mén)還未確認。一名 IC 設計代工管理層透露，英偉達一直都有在看 ASIC 市場(chǎng)，曾經(jīng)找上門(mén)希望能外包部分 ASIC 方案。換句話(huà)說(shuō)，當時(shí)的英偉達即使正生產(chǎn)通用型芯片，仍一面通過(guò)外包的方式，吃下 ASIC 市場(chǎng)。

如今，ASIC 的市場(chǎng)需求日益壯大，作為 AI 霸主英偉達自然不會(huì )視而不見(jiàn)，加上還擁有如高速傳輸 NV Link、開(kāi)發(fā)者軟件 CUDA 等技術(shù)優(yōu)勢。目前 ASIC 競爭對手如博通（Broadcom）、Marvell 亦多有布局，博通執行長(cháng)更在傳出加入 Meta 董事會(huì )，英偉達的新策略是否沖擊市場(chǎng)，值得持續關(guān)注。