英偉達H100交貨時(shí)間從4個(gè)月降至8-12周

據Digitimes報道，戴爾臺灣地區總經(jīng)理Terence Liao報告稱(chēng)，英偉達（Nvidia）H100 AI GPU的交付周期在過(guò)去幾個(gè)月中已從3-4個(gè)月縮短到僅2-3個(gè)月（8-12周）。服務(wù)器 ODM 顯示，與 2023 年相比，供應終于有所緩解，當時(shí)幾乎不可能獲得 Nvidia 的 H100 GPU。

盡管交貨時(shí)間縮短，但Terence Liao表示，對具有人工智能功能的硬件的需求仍然非常高。具體來(lái)說(shuō)，人工智能服務(wù)器的購買(mǎi)正在取代企業(yè)中的通用服務(wù)器購買(mǎi)，盡管人工智能服務(wù)器的成本非常高。但是，他認為采購時(shí)間是造成這種情況的唯一原因。

2-3 個(gè)月的交付窗口是 Nvidia H100 GPU 的最短交貨時(shí)間。就在6個(gè)月前，交貨時(shí)間達到了 11 個(gè)月，這意味著(zhù)英偉達的大多數客戶(hù)不得不等待一年才能完成他們的 AI GPU 訂單。

進(jìn)入2024年以來(lái)，交貨時(shí)間顯著(zhù)縮短。首先，我們看到今年早些時(shí)候大幅減少到 3-4 個(gè)月?，F在，交貨時(shí)間又縮短了一個(gè)月。按照這個(gè)速度，我們可以看到交貨時(shí)間在年底或更早之前完全消失。

這種行為可能是一些公司擁有過(guò)剩的 H100 GPU并轉售部分供應以抵消未使用庫存的高昂維護成本的連鎖反應的結果。此外，AWS 使通過(guò)云租用 Nvidia H100 GPU變得更加容易，這也有助于緩解部分 H100 需求。

唯一在供應限制中苦苦掙扎的英偉達客戶(hù)是像OpenAI這樣的大公司，它們正在開(kāi)發(fā)自己的LLM。這些公司需要數以萬(wàn)計的 GPU 來(lái)快速有效地訓練他們的 LLM。

好消息是，這應該不會(huì )成為長(cháng)期的問(wèn)題。如果交貨時(shí)間繼續呈指數級縮短，就像過(guò)去4個(gè)月一樣，英偉達最大的客戶(hù)應該能夠獲得他們需要的所有GPU，至少在理論上是這樣。

CoWoS封裝產(chǎn)能是關(guān)鍵

交貨時(shí)間縮短，表明臺積電擴增的CoWoS封裝產(chǎn)能開(kāi)始釋放。據悉，臺積電要在2024年底前將相關(guān)產(chǎn)能從2023年中的水平增加一倍，從目前的情況來(lái)看，臺積電及其合作伙伴的CoWoS產(chǎn)能擴增進(jìn)展快于預期，使得以H100為代表的高性能GPU交貨時(shí)間大幅縮短。

產(chǎn)業(yè)人士分析，從2023年7月到年底，臺積電積極調整CoWoS封裝產(chǎn)能，已逐步擴充并穩定量產(chǎn)，去年12月，臺積電CoWoS月產(chǎn)能增加到1.4萬(wàn)~1.5萬(wàn)片。

雖然臺積電在積極擴產(chǎn)，但只有這一家的產(chǎn)能還是無(wú)法滿(mǎn)足市場(chǎng)需求，因此，英偉達已經(jīng)在2023年向臺積電以外的專(zhuān)業(yè)封測代工廠(chǎng)（OSAT）尋求幫助，主要包括日月光和安靠（Amkor），其中，安靠在2023年第四季度已開(kāi)始提供相關(guān)產(chǎn)能，日月光投控旗下矽品也于2024年第一季度開(kāi)始供應CoWoS封裝產(chǎn)能。

2024年，AI芯片用先進(jìn)封裝產(chǎn)能依然會(huì )供不應求，包括臺積電、日月光、安靠、力成、京元電在內的專(zhuān)業(yè)封測代工廠(chǎng)，將會(huì )在今年擴大資本支出，以布局先進(jìn)封裝產(chǎn)能。

根據臺積電的擴產(chǎn)節奏，預計到今年第四季度，該晶圓代工龍頭的CoWoS月產(chǎn)能將大幅擴充到3.3萬(wàn)~3.5萬(wàn)片。

今年，日月光的資本支出規模將同比增長(cháng)40%~50%，其中，65%的投資用于封裝，特別是先進(jìn)封裝項目。日月光投控營(yíng)運長(cháng)吳田玉表示，今年的先進(jìn)封裝與測試營(yíng)收占比會(huì )更高，AI相關(guān)先進(jìn)封裝收入將翻倍，今年相關(guān)營(yíng)收至少增加2.5億美元。力成也在擴大先進(jìn)封裝產(chǎn)能，該公司董事長(cháng)蔡篤恭表示，下半年將積極擴大資本支出，規模有望達到100億元新臺幣。力成主要布局扇出型基板封裝（fan out on substrate）技術(shù)，整合ASIC和HBM先進(jìn)封裝，在A(yíng)I用HBM內存方面，力成有望在今年第四季度量產(chǎn)相關(guān)產(chǎn)品。為滿(mǎn)足CoWoS封裝后的晶圓測試需求，今年，京元電相關(guān)晶圓測試產(chǎn)能將擴充兩倍。

H100轉售潮

隨著(zhù)交貨周期的縮短，一些之前囤積了H100的公司開(kāi)始考慮轉售其過(guò)剩的庫存。這一現象在A(yíng)WS、谷歌云和微軟Azure等大型云服務(wù)提供商的影響下尤為明顯。這些公司提供了便捷的芯片租賃服務(wù)，使得用戶(hù)無(wú)需大量購買(mǎi)和囤積硬件，從而降低了成本并提高了靈活性。

盡管H100的可用性有所改善，但AI芯片的需求仍然旺盛，尤其是在訓練大型語(yǔ)言模型（LLM）的領(lǐng)域。

英偉達作為全球領(lǐng)先的GPU制造商，在A(yíng)I芯片市場(chǎng)占有重要地位。然而，隨著(zhù)AMD、Intel等公司在A(yíng)I芯片領(lǐng)域的不斷投入和發(fā)展，市場(chǎng)競爭愈發(fā)激烈。

隨著(zhù)AI技術(shù)的廣泛應用，AI芯片市場(chǎng)正迎來(lái)快速增長(cháng)期。盡管AI芯片供應問(wèn)題有所緩解，但市場(chǎng)需求仍然旺盛，市場(chǎng)競爭依然激烈。英偉達等公司在擴大生產(chǎn)規模、提高供應鏈效率的同時(shí)，也需要關(guān)注競爭對手的動(dòng)態(tài)和市場(chǎng)變化，以應對未來(lái)可能出現的挑戰和機遇。