HBM 4，SK海力士確認

雖然2023 年記憶體市場(chǎng)低迷，不過(guò)，SK 海力士卻把握住了伺服器市場(chǎng)更換DDR5記憶體及生成式人工智能（AI）爆發(fā)的機會(huì )，憑借針對性的產(chǎn)品線(xiàn)和市場(chǎng)策略，拿下了不少市場(chǎng)占有率。而且，在成為英偉達高頻寬記憶體的合作伙伴之后，SK海力士延續了HBM市場(chǎng)的領(lǐng)導地位，甚至出現了「贏(yíng)家通吃」的局面。

近日，SK海力士在介紹2024年儲存產(chǎn)品線(xiàn)的時(shí)候，已確認2024年將啟動(dòng)下一代HBM4的開(kāi)發(fā)工作，為資料中心和人工智慧產(chǎn)品提供動(dòng)力。其實(shí)，在2023年在第四季，包括三星和美光就已先后確認正在開(kāi)發(fā)HBM4，預計分別在2025年和2026年正式推出。

HBM已經(jīng)經(jīng)過(guò)5個(gè)世代的發(fā)展，其中在HBM3E是HBM3的擴展版本，而HBM4將是第6 代產(chǎn)品。SK海力士表示，HBM3E會(huì )在2024年進(jìn)入大量生產(chǎn)，而啟動(dòng)HBM4的開(kāi)發(fā)工作代表著(zhù)HBM產(chǎn)品的持續發(fā)展邁出了重要的一步。

先前有報導指出，下一代HBM4 設計會(huì )有重大的變化，記憶體堆疊將采用2048位元介面。事實(shí)上，自2015年以來(lái)，每個(gè)HBM堆疊都是采用1024位元介面。因此，將位元頻寬翻倍是HBM 記憶體技術(shù)推出后最大的變化。如果HBM4能保持現有的接腳速度，代表著(zhù)頻寬將從現在HBM3E的1.15TB/s，提升到2.3TB/s的水準，提升會(huì )相當明顯。

另外，預計HBM4在堆疊的層數上也有所變化，除了首批的12層垂直堆疊之外，2027年還將有16層垂直堆疊的產(chǎn)品。同時(shí)HBM還會(huì )往更為客制化的方向發(fā)展，不僅將安裝在SoC主芯片旁邊，部分還會(huì )轉向堆疊在主芯片之上，為其提供帶來(lái)更大的效益。

擴展閱讀：

SK海力士正在加速開(kāi)發(fā)新工藝“混合鍵合”，以保持其在高帶寬存儲器（HBM）領(lǐng)域的全球領(lǐng)先地位。業(yè)界正在密切關(guān)注SK海力士能否率先應用這一夢(mèng)想封裝技術(shù)，從而繼續引領(lǐng)特種內存領(lǐng)域。

據行業(yè)官員12月18日透露，SK海力士本月在美國舉行的全球半導體會(huì )議IEDM 2023上宣布，其已確保HBM制造中使用的混合鍵合工藝的可靠性。SK海力士報告稱(chēng)，其第三代HBM（HBM2E）采用8層堆疊DRAM，在使用混合鍵合工藝制造后通過(guò)了所有可靠性測試。在此次測試中，SK海力士評估了HBM在高溫下的使用壽命，并檢查了產(chǎn)品發(fā)貨后客戶(hù)在芯片焊接過(guò)程中可能出現的潛在問(wèn)題等，涵蓋四個(gè)類(lèi)別。

混合鍵合被認為是 HBM 行業(yè)的“夢(mèng)想工藝技術(shù)”。到目前為止，HBM 在 DRAM 模塊之間使用一種稱(chēng)為“微凸塊”的材料進(jìn)行連接。然而，通過(guò)混合鍵合，芯片可以在沒(méi)有凸塊的情況下連接，通過(guò)消除充當橋梁的凸塊來(lái)顯著(zhù)減小芯片的厚度。

HBM 芯片的標準厚度為 720 μm。預計將于 2026 年左右量產(chǎn)的第 6 代 HBM（HBM4）需要垂直堆疊 16 個(gè) DRAM，這對當前的封裝技術(shù)滿(mǎn)足客戶(hù)滿(mǎn)意度來(lái)說(shuō)是一個(gè)挑戰。因此，Hybrid Bonding工藝在下一代HBM中的應用被業(yè)界認為是必然的。

SK海力士今年已宣布計劃將混合鍵合應用于其HBM4產(chǎn)品。雖然本次測試是在第三代產(chǎn)品上進(jìn)行的，其要求遠低于 HBM4 規格，而且 DRAM 層數僅為一半（8 層），但對于外部展示 Hybrid Bonding 的潛力具有重要意義。

SK海力士是今年半導體行業(yè)HBM熱潮的關(guān)鍵參與者。該公司今年率先在第五代 HBM 的生產(chǎn)中引入了大規?；亓鞒尚偷撞刻畛?(MR-MUF) 工藝，從而保持了 HBM 行業(yè)領(lǐng)導者的地位。

HBM封裝，SK海力士有了新想法

SK 海力士正準備推出“2.5D 扇出”封裝作為其下一代存儲半導體技術(shù)。由于今年在高帶寬內存（HBM）領(lǐng)域的成功表現，SK海力士對下一代芯片技術(shù)領(lǐng)域充滿(mǎn)信心，似乎正在加緊努力，通過(guò)開(kāi)發(fā)“專(zhuān)業(yè)”內存產(chǎn)品來(lái)確保技術(shù)領(lǐng)先地位。

11月26日業(yè)內人士透露，SK海力士正準備將2.5D Fan-out封裝技術(shù)集成到繼HBM之后的下一代DRAM中。

這項新技術(shù)將兩個(gè) DRAM 芯片水平排列，然后將它們組合起來(lái)，就像它們是一個(gè)芯片一樣。一個(gè)特征是芯片變得更薄，因為它們下面沒(méi)有添加基板。這使得信息技術(shù) (IT) 設備中安裝的芯片厚度顯著(zhù)減小。SK海力士預計最早將于明年公開(kāi)披露使用這種封裝制造的芯片的研究結果。

SK海力士的嘗試相當獨特，因為2.5D Fan-out封裝此前從未在內存行業(yè)嘗試過(guò)。該技術(shù)主要應用于先進(jìn)系統半導體制造領(lǐng)域。全球領(lǐng)先的半導體代工廠(chǎng)臺積電于2016年首次將扇出晶圓級封裝（FOWLP）商業(yè)化，用于生產(chǎn)iPhone的應用處理器，從而獲得了蘋(píng)果的信任。三星電子從今年第四季度開(kāi)始將這項技術(shù)引入到 Galaxy 智能手機的先進(jìn) AP 封裝中。

SK海力士在存儲半導體領(lǐng)域應用扇出封裝的一個(gè)主要原因被解讀為封裝成本的降低。業(yè)界將2.5D扇出封裝視為一種可以通過(guò)跳過(guò)硅通孔（TSV）工藝同時(shí)增加輸入/輸出（I/O）接口數量來(lái)降低成本的技術(shù)。業(yè)界推測這種封裝技術(shù)將應用于圖形DRAM（GDDR）和其他需要擴展信息I/O的產(chǎn)品。

SK海力士利用這項技術(shù)搶占內存產(chǎn)品小批量多樣化的IT趨勢的戰略正在變得更加清晰。SK海力士正在鞏固與世界知名圖形處理單元（GPU）公司Nvidia的合作，該公司在HBM市場(chǎng)處于領(lǐng)先地位，該市場(chǎng)作為下一代DRAM而受到關(guān)注。還有一個(gè)例子是，SK海力士為蘋(píng)果新AR設備“Vision Pro”中安裝的“R1”計算單元生產(chǎn)并提供了特殊DRAM。SK海力士總裁Kwak No-jung表示：“在人工智能時(shí)代，我們將把存儲半導體創(chuàng )新為針對每個(gè)客戶(hù)的差異化專(zhuān)業(yè)產(chǎn)品?！?/p>

誰(shuí)才是新方向？

雖然目前業(yè)界都在集中研發(fā)HBM3的迭代產(chǎn)品，但是廠(chǎng)商們?yōu)榱藸帄Z市場(chǎng)的話(huà)語(yǔ)權，對于未來(lái)HBM技術(shù)開(kāi)發(fā)有著(zhù)各自不同的見(jiàn)解與想法。

?? 三星

三星正在研究在中間件中使用光子技術(shù)，光子通過(guò)鏈路的速度比電子編碼的比特更快，而且耗電量更低。光子鏈路可以飛秒速度運行。這意味著(zhù)10-1?個(gè)時(shí)間單位，即四十億分之一（十億分之一的百萬(wàn)分之一）秒。在最近舉行的開(kāi)放計算項目（OCP）峰會(huì )上，以首席工程師李彥為代表的韓國巨頭先進(jìn)封裝團隊介紹了這一主題。

除了使用光子集成電路外，另一種方法是將 HBM 堆棧更直接地連接到處理器（上圖中的三星邏輯圖）。這將涉及謹慎的熱管理，以防止過(guò)熱。這意味著(zhù)隨著(zhù)時(shí)間的推移，HBM 堆?？梢陨?，以提供更大的容量，但這需要一個(gè)涵蓋該領(lǐng)域的行業(yè)標準才有可能實(shí)現。

?? SK海力士

據韓媒報道，SK海力士還在研究 HBM 與邏輯處理器直接連接的概念。這種概念是在混合使用的半導體中將 GPU 芯片與 HBM 芯片一起制造。芯片制造商將其視為 HBM4 技術(shù)，并正在與英偉達和其他邏輯半導體供應商洽談。這個(gè)想法涉及內存和邏輯制造商共同設計芯片，然后由臺積電（TSMC）等晶圓廠(chǎng)運營(yíng)商制造。

這有點(diǎn)類(lèi)似于內存處理（PIM）的想法，如果最終不能成為行業(yè)標準的話(huà)，很可能會(huì )變成事實(shí)上的廠(chǎng)商獨占。

?? 美光

Tom's Hardware 報道稱(chēng)，美光與市場(chǎng)上的其他公司正在開(kāi)展 HBM4 和 HBM4e 活動(dòng)。美光目前正在生產(chǎn) HBM3e gen-2 內存，采用 8層垂直堆疊的 24GB 芯片。美光的 12 層垂直堆疊 36GB 芯片將于 2024 年第一季度開(kāi)始出樣。它正與半導體代工運營(yíng)商臺積電合作，將其 gen-2 HBM3e 用于人工智能和 HPC 設計應用。

美光表示，其目前的產(chǎn)品具有高能效，對于安裝了1000萬(wàn)個(gè)GPU的設備來(lái)說(shuō)，每個(gè)HBM堆棧能節省約5瓦的功耗，預計五年內將比其他HBM產(chǎn)品節省高達5.5億美元的運營(yíng)開(kāi)支。

下一代HBM

2015年以來(lái)，從HBM1到HBM3e，它們都保留了相同的1024位(每個(gè)堆棧)接口，即具有以相對適中的時(shí)鐘速度運行的超寬接口，為了提高內存傳輸速率，下一代HBM4可能需要對高帶寬內存技術(shù)進(jìn)行更實(shí)質(zhì)性的改變，即從更寬的2048位內存接口開(kāi)始。

出于多種技術(shù)原因，業(yè)界打算在不增加 HBM 存儲器堆棧占用空間的情況下實(shí)現這一目標，從而將下一代 HBM 存儲器的互連密度提高一倍。HBM4 會(huì )在多個(gè)層面上實(shí)現重大技術(shù)飛躍。在 DRAM 堆疊方面，2048 位內存接口需要大幅增加內存堆疊的硅通孔數量。同時(shí)，外部芯片接口需要將凸塊間距縮小到遠小于 55 微米，而 HBM3 目前的凸塊總數（約）為 3982 個(gè)，因此需要大幅增加微型凸塊的總數。

內存廠(chǎng)商表示，他們還將在一個(gè)模塊中堆疊多達 16 個(gè)內存模塊，即所謂的 16-Hi 堆疊，從而增加了該技術(shù)的復雜性。(從技術(shù)上講，HBM3 也支持 16-Hi 堆疊，但到目前為止，還沒(méi)有制造商真正使用它）這將使內存供應商能夠顯著(zhù)提高其 HBM 堆疊的容量，但也帶來(lái)了新的復雜性，即如何在不出現缺陷的情況下連接更多的 DRAM 凸塊，然后保持所產(chǎn)生的 HBM 堆疊適當且一致地短。

在阿姆斯特丹舉行的臺積電 OIP 2023 會(huì )議上，臺積電設計基礎設施管理主管這樣說(shuō)道："因為[HBM4]不是將速度提高了一倍，而是將[接口]引腳增加了一倍。這就是為什么我們要與所有三家合作伙伴合作，確保他們的 HBM4（采用我們的先進(jìn)封裝方法）符合標準，并確保 RDL 或 interposer 或任何介于兩者之間的產(chǎn)品都能支持（HBM4 的）布局和速度。因此，我們會(huì )繼續與三星、SK 海力士和美光合作"。

目前，臺積電的 3DFabric 存儲器聯(lián)盟目前正致力于確保 HBM3E/HBM3 Gen2 存儲器與 CoWoS 封裝、12-Hi HBM3/HBM3E 封裝與高級封裝、HBM PHY 的 UCIe 以及無(wú)緩沖區 HBM（由三星率先推出的一項技術(shù)）兼容。

美光公司今年早些時(shí)候表示，"HBMNext "內存將于 2026 年左右面世，每堆棧容量介于 36 GB 和 64 GB 之間，每堆棧峰值帶寬為 2 TB/s 或更高。所有這些都表明，即使采用更寬的內存總線(xiàn)，內存制造商也不會(huì )降低 HBM4 的內存接口時(shí)鐘頻率。

總結

與三星和 SK海力士不同，美光并不打算把 HBM 和邏輯芯片整合到一個(gè)芯片中，在下一代HBM發(fā)展上，韓系和美系內存廠(chǎng)商涇渭分明，美光可能會(huì )告訴AMD、英特爾和英偉達，大家可以通過(guò) HBM-GPU 這樣的組合芯片獲得更快的內存訪(fǎng)問(wèn)速度，但是單獨依賴(lài)某一家的芯片就意味著(zhù)更大風(fēng)險。

美國的媒體表示，隨著(zhù)機器學(xué)習訓練模型的增大和訓練時(shí)間的延長(cháng)，通過(guò)加快內存訪(fǎng)問(wèn)速度和提高每個(gè) GPU 內存容量來(lái)縮短運行時(shí)間的壓力也將隨之增加，而為了獲得鎖定的 HBM-GPU 組合芯片設計（盡管具有更好的速度和容量）而放棄標準化 DRAM 的競爭供應優(yōu)勢，可能不是正確的前進(jìn)方式。

但韓媒的態(tài)度就相當曖昧了，他們認為HBM可能會(huì )重塑半導體行業(yè)秩序，認為IP（半導體設計資產(chǎn)）和工藝的重大變化不可避免，還引用了業(yè)內人士說(shuō)："除了定制的'DRAM 代工廠(chǎng)'之外，可能還會(huì )出現一個(gè)更大的世界，即使是英偉達和 AMD 這樣的巨頭也將不得不在三星和 SK 海力士制造的板材上進(jìn)行設計。"

當然SK 海力士首席執行官兼總裁 Kwak No-jeong的發(fā)言更值得玩味，他說(shuō)：“HBM、計算快速鏈接（CXL）和內存處理（PIM）的出現將為內存半導體公司帶來(lái)新的機遇，這種濱化模糊了邏輯半導體和存儲器之間的界限，內存正在從一種通用商品轉變?yōu)橐环N特殊商品，起點(diǎn)將是 HBM4?！?/p>

由此看來(lái)，下一代HBM技術(shù)路線(xiàn)的選擇，可能會(huì )引發(fā)業(yè)界又一輪重大的洗牌，誰(shuí)能勝出，我們不妨拭目以待。

來(lái)源：半導體芯聞