英偉達：GPU供應問(wèn)題涉及封裝而非芯片晶圓

Nvidia 副總裁兼 HPC 驅動(dòng) DGX 系統總經(jīng)理出面澄清了該公司 GPU 容量問(wèn)題的具體所在。博伊爾表示，問(wèn)題并非來(lái)自英偉達錯誤計算需求或其制造合作伙伴臺積電的晶圓產(chǎn)量問(wèn)題。

相反，制造足夠的 GPU 來(lái)滿(mǎn)足消費者和專(zhuān)業(yè)工作負載（由于人工智能的蓬勃發(fā)展）需求的瓶頸在于隨后的芯片封裝步驟。英偉達的 H 級 GPU 采用臺積電的 2.5D 晶圓基片芯片 (CoWoS) 封裝技術(shù)，這是一種多步驟、高精度的工程步驟，其復雜性降低了可在一個(gè)芯片中組裝的 GPU 數量。給定的時(shí)間范圍。這可能會(huì )對供應產(chǎn)生不成比例的影響；所需 GPU 數量與可用 GPU 數量之間的差異甚至導致埃隆·馬斯克 (Elon Musk) 表示，事實(shí)證明，它們「比藥品更難獲得」。

Charlie Boyle，英偉達 DGX 副總裁兼總經(jīng)理說(shuō)道：因此，當人們使用 GPU 短缺這個(gè)詞時(shí)，他們實(shí)際上是在談?wù)撝靼迳夏承┙M件的短缺或積壓，而不是 GPU 本身。這些東西的全球制造有限……但我們預測了人們想要什么，以及世界可以建造什么。

在芯片成為可用的 GPU 之前，需要經(jīng)過(guò)從芯片設計到制造的多個(gè)步驟。其一，芯片設計階段的問(wèn)題可能會(huì )因設計疏忽而造成制造瓶頸，從而降低設計的良率（良率是指完全蝕刻的晶圓中可用芯片的百分比）。稀土金屬或其他材料（例如最近受到限制的鎵）的缺乏將影響長(cháng)物流鏈中的其他步驟；材料污染、能源中斷和許多其他因素也會(huì )如此，正如我們多年來(lái)已經(jīng)看到的那樣。

但 CoWoS 的瓶頸問(wèn)題可能比預想的更嚴重。臺積電本身也表示，預計需要 1.5 年（以及完成額外晶圓廠(chǎng)和擴建現有設施）才能使封裝工藝積壓恢復正常。這可能意味著(zhù)英偉達將不得不決定什么產(chǎn)品用什么樣的封裝技術(shù)——因為沒(méi)有足夠的時(shí)間和能力來(lái)封裝所有產(chǎn)品。

供應問(wèn)題可能來(lái)自臺積電的封裝，但最終，英偉達通過(guò)其（根據帕特·基辛格的說(shuō)法）「令人難以置信的執行力」在人工智能領(lǐng)域占據主導地位。就臺積電而言，它是少數擁有功能性高性能封裝技術(shù)的廠(chǎng)商之一，而這種技術(shù)是性能擴展的絕對要求。AI 領(lǐng)域肯定需要更多的競爭，比如 RX 7900 XTX 等 AMD 游戲 GPU 也被認為正走向 AI 數據中心。

AMD 于 6 月 13 日發(fā)布可用于 ChatGPT 等 AI 模型的 MI300x 芯片，挑戰目前占有 AI 芯片市場(chǎng)超八成份額的英偉達。

用于生成式 AI 的大型語(yǔ)言模型需要大量的運算，因此需要很大的內存支持。AMD 于 6 月曾演示了 MI300x 運行 400 億參數的 Falcon 模型，而 OpenAI 的 GPT-3 模型有 1750 億個(gè)參數。

AMD 公司的這款 MI300x 芯片及其 CDNA 架構專(zhuān)為大型語(yǔ)言模型和其他先進(jìn)的 AI 模型而設，可用于 192GB 內存，也就是說(shuō)能用于更大規模的人工智能模型，相比之下，英偉達的 H100 芯片只能支持 120GB 內存。

除此以外，蘇姿豐還介紹了使用配置 MI300x 芯片的 AMD Infinity 架構平臺，用于生成式 AI 的推理和訓練，可在一個(gè)系統中集合八個(gè) MI300x 加速器。而英偉達和谷歌（http://GOOG.US）也開(kāi)發(fā)出類(lèi)似的系統，可在一個(gè)盒中集合八個(gè)或以上的 GPU 用于 AI 應用。

目前眾多大型科技公司都在布局 AI 和大模型，對這類(lèi)芯片的需求殷切，AMD 積極加入這個(gè)市場(chǎng)顯然并非僅僅為了一兩個(gè)季度業(yè)績(jì)好看，而是為了更長(cháng)遠的發(fā)展。

需要注意的是，對比于其較為成熟的產(chǎn)品，當前 AI 應用產(chǎn)品的貢獻雖增長(cháng)強勁，卻占比較小，尚不足以帶來(lái)壓倒性的推動(dòng)，在可預見(jiàn)的將來(lái)難以帶來(lái)肉眼可見(jiàn)的提升作用，可能要到明年或以后。

而且制造方面也需要競爭。英特爾的代工服務(wù) (IFS) 有望為高性能 GPU 游戲帶來(lái)另一位玩家；與此同時(shí)，人們還希望三星至少能夠縮小其相對于臺積電的制造技術(shù)差距，從而使其芯片具有足夠的吸引力，吸引另一家制造商參與競爭。三星在封裝方面的投資數額巨大，但業(yè)界一致認為三星在封裝技術(shù)方面落后于臺積電。三星電子需要一記 "重拳"，才能在封裝領(lǐng)域趕超臺積電。

臺積電于 2012 年首次引入 CoWoS 技術(shù)，此后不斷升級其封裝能力。如今，英偉達、蘋(píng)果和 AMD 的旗艦產(chǎn)品都離不開(kāi)臺積電及其先進(jìn)封裝技術(shù)的支持。這也解釋了為什么三星電子在 2022 年領(lǐng)先臺積電一步完成了 3nm 量產(chǎn)，但英偉達和蘋(píng)果等巨頭仍然希望使用臺積電的生產(chǎn)線(xiàn)。

為了超越臺積電的 CoWoS，三星正在開(kāi)發(fā)更先進(jìn)的 I-cube 和 X-cube 封裝技術(shù)。此外有消息稱(chēng)，三星將研究重點(diǎn)放在了 3D 封裝上，將多個(gè)芯片垂直堆疊以提高性能。一位半導體業(yè)內人士表示：「很快三星和臺積電在封裝上就會(huì )發(fā)生正面沖突?！?/p>