處在黃金風(fēng)口上的HBM是什么？

HBM儼然成為了當前存儲行業(yè)競爭中最為鮮美的一塊蛋糕。近日，臺積電宣布結合N12FFC+和N5制程技術(shù)，生產(chǎn)用于HBM4的基礎裸片，為HBM 4做好擴產(chǎn)準備，并且CoWoS先進(jìn)封裝產(chǎn)能多次擴產(chǎn)，只為滿(mǎn)足行業(yè)高漲的HBM需求。三大存儲原廠(chǎng)也動(dòng)態(tài)不斷，此前SK海力士、三星、美光均表示近兩年HBM產(chǎn)能已售罄，近期，三星和SK海力士?jì)杉冶硎緸榱藵M(mǎn)足需求，他們將超過(guò)20%的DRAM產(chǎn)線(xiàn)轉換為HBM產(chǎn)線(xiàn)。隨著(zhù)HBM3E和HBM4的持續推進(jìn)，帶動(dòng)行業(yè)生態(tài)發(fā)生變革，三大存儲原廠(chǎng)與臺積電比以往更加緊密的聯(lián)系在一起。

01

概述

1.HBM

圖片來(lái)源：AMD

如上圖所示，HBM是由多個(gè)DRAM堆疊而成，主要利用TSV（硅通孔）和微凸塊（Micro bump）將裸片相連接，多層DRAM die再與最下層的Base die連接，然后通過(guò)凸塊（Bump）與硅中階層（interposer）互聯(lián)。同一平面內，HBM與GPU、CPU或ASIC共同鋪設在硅中階層上，再通過(guò)CoWoS等2.5D先進(jìn)封裝工藝相互連接，硅中介層通過(guò)CuBump連接至封裝基板上，最后封裝基板再通過(guò)錫球與下方PCB基板相連。該產(chǎn)品巧妙的設計大大縮小了尺寸面積，容量擴大的同時(shí)，實(shí)現了高帶寬、低延遲、低功耗的效果。

AI時(shí)代隨著(zhù)計算需求的不斷提升，高端GPU、存儲器等需求供不應求。當前GPU補位CPU功能，并不斷強化自身算力。但是處理器的性能以每年大約55%速度快速提升，而內存性能的提升速度則只有每年10%左右。目前傳統顯存GDDR5等也面臨著(zhù)帶寬低、功耗高等瓶頸，GPUCPU也算不過(guò)來(lái)了。

GPU顯存一般采用GDDR或者HBM兩種方案，但行業(yè)多數據顯示，HBM性能遠超GDDR。此處來(lái)看看AMD關(guān)于HBM與DDR（Double Data Rate）內存的參數對比，以業(yè)界最為火爆的GDDR5為例。

圖片來(lái)源：AMD

根據AMD數據，從顯存位寬來(lái)看，GDDR5為32-bit,HBM為其四倍，達到了1024-bit；從時(shí)鐘頻率來(lái)看，HBM為500MHz，遠遠小于GDDR5的1750MHz；從顯存帶寬來(lái)看，HBM的一個(gè)stack大于100GB/s,而GDDR5的一顆芯片為25GB/s。在數據傳輸速率上，HBM遠高于GDDR5。而從空間利用角度來(lái)看，HBM由于與GPU封裝在一塊，從而大幅度減少了顯卡PCB的空間，而GDDR5芯片面積為HBM芯片三倍，這意味著(zhù)HBM能夠在更小的空間內，實(shí)現更大的容量。因此，HBM可以在實(shí)現高帶寬和高容量的同時(shí)節約芯片面積和功耗，被視為GPU存儲單元理想解決方案。

但是HBM對比GDDR5/DDR5等依舊存在一定劣勢。TrendForce集邦咨詢(xún)研究顯示，在相同制程及容量下，HBM顆粒尺寸較DDR5大35%~45%；良率（包含TSV封裝良率），則比起DDR5低約20%~30%；生產(chǎn)周期（包含TSV）較DDR5多1.5-2個(gè)月，整體從投片到產(chǎn)出與封裝完成需要兩個(gè)季度以上。從長(cháng)遠發(fā)展角度看，在A(yíng)I浪潮之下，業(yè)界大廠(chǎng)率先考慮搶奪HBM就變得十分合理了。

據TrendForce集邦咨詢(xún)最新研究，三大原廠(chǎng)開(kāi)始提高先進(jìn)制程的投片，繼存儲器合約價(jià)翻揚后，公司資金投入開(kāi)始增加，產(chǎn)能提升將集中在今年下半年，預期1alpha nm（含）以上投片至年底將占DRAM總投片比重約40%。其中，HBM由于獲利表現佳，加上需求持續看增，故生產(chǎn)順序最優(yōu)先。但受限于良率僅約50~60%，且晶圓面積相較DRAM產(chǎn)品，放大逾60%，意即所占投片比重高。以各家TSV產(chǎn)能來(lái)看，至年底HBM將占先進(jìn)制程比重35%，其余則用以生產(chǎn)LPDDR5(X)與DDR5產(chǎn)品。

目前HBM已然成為AI服務(wù)器、數據中心、汽車(chē)駕駛等高性能計算領(lǐng)域的標配，未來(lái)其適用市場(chǎng)還在不斷拓寬。據TrendForce集邦咨詢(xún)研究顯示，產(chǎn)能方面，2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%，至2025年占比預估將超過(guò)10%。產(chǎn)值方面，2024年起HBM之于DRAM總產(chǎn)值預估可逾20%，至2025年占比有機會(huì )逾三成。展望2025年，由主要AI解決方案供應商的角度來(lái)看，HBM規格需求大幅轉向HBM3e，且將會(huì )有更多12hi的產(chǎn)品出現，帶動(dòng)單芯片搭載HBM的容量提升。2024年的HBM需求位元年成長(cháng)率近200%，2025年可望將再翻倍。

2.優(yōu)勢

HBM在帶寬、功耗、封裝體積方面具備明顯優(yōu)勢。按照不同應用場(chǎng)景，行業(yè)標準組織JEDEC將DRAM分為三個(gè)類(lèi)型：標準DDR、移動(dòng)DDR以及圖形DDR，圖形DDR中包括GDDR和HBM。相比于標準的DDR4、DDR5等產(chǎn)品，以GDDR和HBM為代表的圖形DDR具備更高的帶寬，其中HBM在實(shí)現更大帶寬的同時(shí)也具備更小的功耗和封裝尺寸。

GDDR和HBM有效解決了內存墻的問(wèn)題，在中高端GPU中得到廣泛應用。過(guò)去20年中，處理器的峰值計算能力增加了90,000倍，但是內存/硬件互連帶寬卻只是提高了30倍。存儲性能的提升遠遠跟不上處理器性能提升，導致內存性能極大限制了處理器性能的發(fā)揮，對指令和數據的搬運（寫(xiě)入和讀出）的時(shí)間將是處理器運算所消耗時(shí)間的幾十倍乃至幾百倍，而且引發(fā)了高能耗，即出現了“內存墻”問(wèn)題。具備更高帶寬的GDDR和HBM相比傳統DDR有更高的帶寬，因此有效的解決了該問(wèn)題，GDDR和成為中高端GPU搭載的主流內存方案，HBM也在部分高端GPU中得到應用。

3.HBM有望替代GDDR成為主流方案

AI大模型對于數據傳輸提出了更高的要求，HBM有望替代GDDR成為主流方案：

GDDR5功耗更高，高功耗未來(lái)會(huì )限制GPU的性能提升；GDDR5為了實(shí)現更高帶寬，需要電路承載更大的電壓，導致電路尺寸偏大。NAND、DRAM和Optics等技術(shù)將受益于片上集成，但在技術(shù)上并不兼容。

主流數據中心GPU均采用HBM技術(shù)。英偉達V100、A100、H100均采用HBM內存，同樣，AMDMI100、MI200、MI300也都采用HBM內存，目前HBM內存在數據中心GPU中逐步占據主導地位。

4.HBM持續迭代，帶寬、速率提升

自2013年SK海力士推出第一代HBM以來(lái)，在三大原廠(chǎng)的競合下，至今已歷經(jīng)第二代（HBM2）、第三代（HBM2E）、第四代（HBM3）、第五代（HBM3E）產(chǎn)品。

今年HBM3e將是市場(chǎng)主流，集中在今年下半年出貨。另外據行業(yè)消息，第六代（HBM4）也正在研發(fā)中，變革較大，一改一代至五代的1024位內存接口，集中采用2048位內存接口，有望使傳輸速度再次翻倍。今天我們的關(guān)注焦點(diǎn)也將集中在HBM3E及HBM4上。

其一，「HBM3進(jìn)階到HBM3e」，預期NVIDIA將于今年下半年開(kāi)始擴大出貨搭載HBM3e的H200，取代H100成為主流，隨后GB200及B100等亦將采用HBM3e。AMD則規劃年底前推出MI350新品，期間可能?chē)L試先推MI32x等過(guò)渡型產(chǎn)品，與H200相抗衡，均采HBM3e。

其二，「HBM搭載容量持續擴增」，為了提升AI服務(wù)器整體運算效能及系統頻寬，將由目前市場(chǎng)主要采用的NVIDIA H100（80GB），至2024年底后將提升往192~288GB容量發(fā)展；AMD亦從原MI300A僅搭載128GB，GPU新品搭載HBM容量亦將達288GB。

其三，「搭載HBM3e的GPU產(chǎn)品線(xiàn)，將從8hi往12hi發(fā)展」，NVIDIA的B100、GB200主要搭載8hi HBM3e，達192GB，2025年則將推出B200，搭載12hi HBM3e，達288GB；AMD將于今年底推出的MI350或2025年推出的MI375系列，預計均會(huì )搭載12hi HBM3e，達288G。

相較于普通存儲芯片，HBM芯片價(jià)格相對較高，且有繼續上升趨勢。TrendForce集邦咨詢(xún)表示，HBM3e的TSV良率目前僅約40~60%，仍有待提升，加上并非三大原廠(chǎng)都已經(jīng)通過(guò)HBM3e的客戶(hù)驗證，故HBM買(mǎi)方也愿意接受漲價(jià)，以鎖定質(zhì)量穩定的貨源。并且未來(lái)HBM每Gb單價(jià)可能因DRAM供應商的可靠度，以及供應能力產(chǎn)生價(jià)差，對于供應商而言，未來(lái)平均銷(xiāo)售單價(jià)將會(huì )因此出現差異，并進(jìn)一步影響獲利。

02

制造工藝

1.HBM制造工藝包括TSV、Bumping和堆疊等工藝環(huán)節

HBM是由多個(gè)DRAMdie堆疊而成，利用硅通孔（TSV）和微凸塊（Microbump）將die之間相連接，多層DRAMdie再與最下層的Basedie連接，然后通過(guò)凸塊（Bump）與硅中階層（interposer）互聯(lián)。HBM與GPU、CPU或ASIC共同鋪設在硅中階層上，通過(guò)CoWoS等2.5D封裝工藝相互連接，硅中介層通過(guò)CuBump連接至封裝基板（Package Substrate）上，最后封裝基板再通過(guò)錫球與下方的PCB基板相連。

2.存儲大廠(chǎng)高度聚焦先進(jìn)封裝，HBM4或將直接放置在處理器上

根據全球半導體觀(guān)察，目前HBM存儲芯片的整體良率在65%左右，HBM良率的高低主要受到其堆疊架構復雜性的影響，這涉及到多層次的內存結構和作為各層連接之用的直通TSV技術(shù)。這些復雜技術(shù)增加了制程缺陷的風(fēng)險，可能導致良率低于設計較簡(jiǎn)單的內存產(chǎn)品。因此存儲大廠(chǎng)紛紛加碼HBM先進(jìn)封裝，提升HBM良率并降低功耗。此外，根據CFM，SK海力士擬將新一代HBM4堆棧直接放置在處理器上，通過(guò)3D堆疊的形式進(jìn)一步提高I/O數量。

3.SK海力士憑借MR-MUF技術(shù)占據HBM市場(chǎng)份額，三星考慮將MUF用于3DSRDIMM

SK海力士在HBM2E和HBM3的生產(chǎn)中引入了大規?；亓鞒尚偷撞刻畛洌∕R-MUF）工藝，提高了HBM超過(guò)10萬(wàn)個(gè)微凸塊互連的質(zhì)量，此外，該工藝充分增加了熱虛擬凸塊的數量，同時(shí)由于采用了高導熱率的模制底部填充（MUF）材料，因此散熱性能更加出色。根據全球半導體觀(guān)察，三星認為MUF非常適合3DSRDIMM，而目前3DSRDIMM使用TSV技術(shù)制造，主要應用于服務(wù)器上，三星正在考慮在其下一代DRAM中MUF技術(shù)。若三星也導入MUF，相關(guān)制造材料或將持續受益。

03

發(fā)展現狀

1.國際

近日，美光宣布已開(kāi)始量產(chǎn)其HBM3E高帶寬內存解決方案。英偉達H200TensorCoreGPU將采用美光8層堆疊的24GB容量HBM3E內存，并于2024年第二季度開(kāi)始出貨。美光HBM3E引腳速率超過(guò)9.2Gb/s，提供超過(guò)1.2TB/s的內存帶寬。與HBM3相比，HBM3E將數據傳輸速率和峰值內存帶寬提高了44%，這對于英偉達H200等需要大量帶寬的處理器來(lái)說(shuō)尤其重要。美光利用其1β（1-beta）技術(shù)、先進(jìn)的硅通孔（TSV）和其他實(shí)現差異化封裝解決方案來(lái)生產(chǎn)HBM3E產(chǎn)品，有助于公司在數據中心級產(chǎn)品上提升技術(shù)競爭實(shí)力和市場(chǎng)占有率。

三星發(fā)布首款36GB HBM3E 12HDRAM，目前為三星容量最大的HBM。三星HBM3E12H支持全天候最高帶寬達1280GB/s，產(chǎn)品容量也達到了36GB。相比三星8層堆疊的HBM38H，HBM3E12H在帶寬和容量上大幅提升超過(guò)50%。HBM3E12H采用了先進(jìn)的熱壓非導電薄膜（TCNCF）技術(shù)，使得12層和8層堆疊產(chǎn)品的高度保持一致，以滿(mǎn)足當前HBM封裝的要求。相比HBM38H，HBM3E12H搭載于人工智能應用后，公司預計人工智能訓練平均速度可提升34%，同時(shí)推理服務(wù)用戶(hù)數量也可增加超過(guò)11.5倍。

SK海力士率先量產(chǎn)HBM3E，HBM4或于2026年推出。根據半導體行業(yè)觀(guān)察，SK海力士于1月中旬正式結束了HBM3E的開(kāi)發(fā)工作，并順利完成英偉達歷時(shí)半年的性能評估，計劃于3月開(kāi)始大規模生產(chǎn)HBM3E產(chǎn)品，這批HBM3E將用于英偉達下一代Blackwell系列的AI芯片旗艦產(chǎn)品B100上，而英偉達則計劃于2024年第二季度末或第三季度初推出該系列產(chǎn)品。根據TrendForce，HBM4預計規劃于2026年推出，或采取HBM堆棧在SoC主芯片之上的封裝方式。

2.國內

國內存儲廠(chǎng)商入局HBM市場(chǎng)。根據采招網(wǎng)，近日，武漢新芯發(fā)布《高帶寬存儲芯粒先進(jìn)封裝技術(shù)研發(fā)和產(chǎn)線(xiàn)建設》招標項目，利用三維集成多晶圓堆疊技術(shù)，打造更高容量、更大帶寬、更小功耗和更高生產(chǎn)效率的國產(chǎn)高帶寬存儲器（HBM）產(chǎn)品，推進(jìn)多晶圓堆疊工藝產(chǎn)業(yè)化，新增生產(chǎn)設備約17臺/套，擬實(shí)現月產(chǎn)出能力≥3000片（12英寸）。國內存儲廠(chǎng)商在HBM技術(shù)上的加速突破，有望在A(yíng)I大浪潮的需求下提升競爭實(shí)力，相關(guān)產(chǎn)業(yè)鏈也或將受益。

04

競爭格局

1.寡頭壟斷，SK海力士占過(guò)半份額

HBM市場(chǎng)格局集中，SK海力士占有主導地位。根據Trendforce數據，2023年SK海力士市占率預計為53%，三星市占率38%、美光市占率9%。。

HBM市場(chǎng)競爭白熱化。2023年市場(chǎng)主要HBM代際是HBM2、HBM2e和HBM3，算力卡性能提升刺激HBM產(chǎn)品更迭，2023年下半年伴隨NVIDIAH100與AMDMI300的搭載，HBM3滲透率提升。2024年伊始，SK海力士完成HBM3e開(kāi)發(fā)，并送樣英偉達測試，有望于上半年量產(chǎn)。預計三星電子和美光科技即將送樣HBM3e，也有望于上半年量產(chǎn)，其中美光科技跳過(guò)了HBM3，直接研發(fā)HBM3e。三家原廠(chǎng)在HBM領(lǐng)域的競爭日趨白熱化。

2.更多DRAM廠(chǎng)商正切入HBM賽道，國產(chǎn)HBM有望突破

二線(xiàn)、三線(xiàn)DRAM廠(chǎng)商也正在切入HBM賽道。華邦電于2023年8月介紹了其類(lèi)HBM高帶寬產(chǎn)品CUBEx，采用1~4層TSVDRAM堆疊，I/O速度500M~2Gbps，總帶寬最高可達1024GB/s，顆粒容量為0.5~4GB，功耗低至不足1pJ/bit。這種比常規HBM擁有更高帶寬的CUBEx可用于A(yíng)R、VR、可穿戴等領(lǐng)域。

國產(chǎn)DRAM廠(chǎng)商有望突破HBM。目前一線(xiàn)廠(chǎng)商DRAM制程在1alpha、1beta水平，國產(chǎn)DRAM制程在25~17nm水平，中國臺灣DRAM制程在25~19nm水平，國內DRAM制程接近海外。且國內擁有先進(jìn)封裝技術(shù)資源和GPU客戶(hù)資源，有強烈的國產(chǎn)化訴求，未來(lái)國產(chǎn)DRAM廠(chǎng)商有望突破HBM。

05

市場(chǎng)測算

1.AI刺激服務(wù)器存儲容量擴充，HBM需求強勁

（1）AI服務(wù)器刺激更多存儲器用量，大容量?jì)却鏃l、HBM、eSSD需求旺盛

根據Trendforce，目前服務(wù)器DRAM（模組形態(tài)為常規內存條RDIMM和LRDIMM）的普遍配置約為500~600GB，而AI服務(wù)器在單條模組上則多采64~128GB，單臺服務(wù)器搭載16~36條，平均容量可達1TB以上。對于企業(yè)級SSD，由于A(yíng)I服務(wù)器追求的速度更高，其要求優(yōu)先滿(mǎn)足DRAM或HBM需求，在SSD的容量提升上則呈現非必要擴大容量的態(tài)勢，但配置也顯著(zhù)高于常規服務(wù)器。

（2）隨著(zhù)算力卡更新迭代，HBM規格持續提升

未來(lái)在A(yíng)I模型逐漸復雜化的趨勢下，服務(wù)器的數據計算和存儲需求將快速增長(cháng)，并同步帶動(dòng)服務(wù)器DRAM、企業(yè)級SSD以及HBM的需求成長(cháng)。相較于一般服務(wù)器而言，AI服務(wù)器多增加GPGPU的使用，以NVIDIAA100/H10080GB配置8張計算，HBM用量約為640GB，超越常規服務(wù)器的內存條容量，H200、B100、MI300等算力卡將搭載更高容量、更高速率HBM。

2.通用服務(wù)器呈現弱復蘇態(tài)勢，AI服務(wù)器快速增長(cháng)

（1）傳統服務(wù)器呈現弱復蘇態(tài)勢，2024年出貨量同比增長(cháng)2%

根據Trendforce，2024年服務(wù)器出貨驅動(dòng)力以北美CSP為主，但受限于通貨膨脹高，企業(yè)融資成本居高不下，壓縮資本支出，整體需求尚未恢復至疫情前成長(cháng)幅度，預計2024年全球服務(wù)器整機出貨量約1365.4萬(wàn)臺，同比增長(cháng)2.05%。

（2）受益于北美CSP訂單帶動(dòng)，AI服務(wù)器ODM對2024年展望樂(lè )觀(guān)

1）廣達：預計2024年AI服務(wù)器出貨雙位數增長(cháng)，訂單主要來(lái)自于Microsoft及AWS等；2）Supermicro：預計2024年AI服務(wù)器出貨量有機會(huì )翻倍成長(cháng)，訂單主要來(lái)自CoreWeave與Tesla，積極拓展Apple、Meta等客戶(hù)AI訂單；3）Inventec：除了北美CSP需求，中國客戶(hù)如ByteDance需求最強，預估2024年AI服務(wù)器出貨量年成長(cháng)可達雙位數，占比約10~15%；4）Foxconn：獲得Oracle、AWS訂單，預計2024年服務(wù)器ODM出貨量增長(cháng)5~7%。

3.2024年HBM市場(chǎng)容量有望接近9億GB

通過(guò)測算全球算力卡的HBM需求，結論是：

（1）從容量看

2023年HBM市場(chǎng)容量為2.8億GB，預計2024年增長(cháng)至8.9億GB，2026年增長(cháng)至14.1億GB，2023~2026年CAGR為71%。增長(cháng)驅動(dòng)因素是：算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量。

AI服務(wù)器出貨增速遠高于傳統服務(wù)器、手機、PC+NB等傳統市場(chǎng)，且單機DRAM容量增速更快，因此HBM在全球DRAM市場(chǎng)的占比將逐步提升，2023年容量占比為1%（2023年大宗DRAM市場(chǎng)容量為275億GB），2026年將提升至3%。

（2）從產(chǎn)值看

2023年HBM市場(chǎng)規模為40億美元，預計2024年增長(cháng)至148億美元，2026年增長(cháng)至242億美元，2023~2026年CAGR為82%。增長(cháng)驅動(dòng)因素是：算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量、技術(shù)迭代帶來(lái)單GBHBM單價(jià)提升。

大宗DRAM具備強商品屬性，價(jià)格周期性明顯，HBM具備定制品屬性，技術(shù)迭代催動(dòng)ASP提升，長(cháng)期看HBM在DRAM市場(chǎng)的占比會(huì )持續提升，2023年HBM銷(xiāo)售額在DRAM市場(chǎng)的占比為8%，2026年將提升至17%。

4.HBM市場(chǎng)測算明細及關(guān)鍵假設

關(guān)鍵假設：1）對2025年之后的算力卡增長(cháng)采用保守假設：2023-2024年算力卡維持緊缺，假設2025年供需平衡，增長(cháng)趨緩。2）HBM滲透率假設：2023年HBM市場(chǎng)的主流代際為HBM2、HBM2e和HBM3，預計2024年主流代際轉變?yōu)镠BM3e，由于各家原廠(chǎng)的HBM4方案未定，2025~2026年保守假設以HBM3e為主。3）HBM價(jià)格假設：定價(jià)上HBM3e>HBM3 >HBM2e >HBM2，并且隨著(zhù)產(chǎn)品迭代，老產(chǎn)品價(jià)格有自然年降。其中HBM3e有24GB和36GB版本，以24GB版本測算。4）大宗DRAM的容量和銷(xiāo)售額來(lái)自Gartner預測，包含了2024~2025年的漲價(jià)周期和2026年周期頂部的假設，數據中不含HBM。

06

相關(guān)公司

1.通富微電

2.中微公司

3.拓荊科技

4.芯源微

5.其他相關(guān)公司

07

HBM4

HBM4可看做是HBM技術(shù)一個(gè)新的分水嶺，一方面是HBM領(lǐng)域先進(jìn)封裝技術(shù)獲得長(cháng)足發(fā)展，更為重要的是產(chǎn)業(yè)鏈出現三大方面的改變。其一，主要內存制造商正計劃對高帶寬內存技術(shù)進(jìn)行更實(shí)質(zhì)性的改變，一改往常的1024位接口，從更寬的2048位內存接口開(kāi)始。其二，行業(yè)生態(tài)改變，三大存儲原廠(chǎng)SK海力士、三星、美光與臺積電展開(kāi)高度緊密合作。畢竟在此之前，三家原廠(chǎng)的芯片基本基于本公司自己的制程工藝開(kāi)展芯片生產(chǎn)。其三，HBM芯片的定制化趨勢更為明顯。

幾家大廠(chǎng)HBM4進(jìn)度幾何？

2024年4月19日，SK海力士宣布，公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進(jìn)封裝技術(shù)，將與臺積電公司密切合作，雙方近期簽署了諒解備忘錄（MOU）。5月2日，SK海力士在韓國舉行的記者招待會(huì )上表示，其HBM4量產(chǎn)時(shí)間從2026年提至2025年。具體來(lái)說(shuō)，SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品，而16層堆疊HBM稍晚于2026年推出。因為當前距離量產(chǎn)時(shí)間還較早，還沒(méi)有相關(guān)產(chǎn)品參數出來(lái)。

SK海力士在HBM方面一直處于領(lǐng)先地位，由其主導并采用的HBM以硅通孔技術(shù)（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進(jìn)封裝技術(shù)在行業(yè)享有盛名。目前隨著(zhù)HBM芯片堆疊層數的增加，MR-MUF技術(shù)容易翹曲、導致晶圓末端彎曲、空洞現象（即保護材料在某些區域分布不均勻）的問(wèn)題引起行業(yè)高度關(guān)注。SK海力士方表示，正在推進(jìn)TSV和MR-MUF的技術(shù)發(fā)展。與HBM開(kāi)發(fā)初期相比，他們成功地減少了翹曲現象，目前正在開(kāi)發(fā)克服這一問(wèn)題的技術(shù)。下一步，抉擇會(huì )聚焦在減少空隙。

此外，SK海力士還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進(jìn)封裝技術(shù)的開(kāi)發(fā)，以支持半導體存儲器和邏輯芯片之間的異構集成，同時(shí)促進(jìn)新型半導體的發(fā)展。當中，Hybrid bonding也是被看作是HBM封裝的又一個(gè)新選擇。但根據之前的計劃不一樣，SK海力士打算在下一代的HBM 4中持續采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現的混合鍵合技術(shù)預計由于HBM標準的放寬而緩慢引入。

三星方面則計劃通過(guò)針對高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù)，將16H技術(shù)融入下一代HBM4中。據三星的規劃，HBM 4將在2025年生產(chǎn)樣品。另外據外媒報道，三星在早前的一個(gè)會(huì )議上表示，正在考慮在HBM 4中使用混合鍵合或NCF。其認為，混合鍵合更具優(yōu)勢，因為它們可以緊湊地添加更多堆疊，而無(wú)需使用填充凸塊進(jìn)行連接的硅通孔(TSV)。使用相同的技術(shù)，HBM上的核心芯片DRAM也可以變得更厚。

這里值得關(guān)注的便是三星在HBM封裝上采用的TC-NCF非導電薄膜熱壓縮先進(jìn)封裝技術(shù)。這是一種與SK海力士MR-MUF略有不同的技術(shù)。在每次堆疊芯片時(shí)，都會(huì )在各層之間放置一層不導電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護連接點(diǎn)免受撞擊。隨著(zhù)發(fā)展，三星逐漸減少了NCF材料的厚度，將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點(diǎn)是可以最大限度地減少隨著(zhù)層數增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構建更高的堆棧。

美光是這場(chǎng)HBM戰局中的半路殺出者，畢竟它一入局，便將目光投向了HBM3。如下圖所示，美光曬出了其HBM3E和HBM4產(chǎn)品路線(xiàn)圖。方案路線(xiàn)圖顯示，其HBM4預計在2026年推出，而到2028年則由HBM4E接棒。

圖片來(lái)源：美光

關(guān)于未來(lái)的布局，美光披露了暫名為HBMnext的下一代HBM內存，業(yè)界猜測這有可能便是其HBM 4。美光預計HBMNext將提供36 GB和64 GB容量，這意味著(zhù)多種配置，例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能，美光宣稱(chēng)每個(gè)堆棧的帶寬為1.5 TB/s–2+TB/s，這意味著(zhù)數據傳輸速率超過(guò)11.5 GT/s/pin。

2024年4月19日，SK海力士宣布，公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進(jìn)封裝技術(shù)，將與臺積電公司密切合作，雙方近期簽署了諒解備忘錄（MOU）。5月2日，SK海力士在韓國舉行的記者招待會(huì )上表示，其HBM4量產(chǎn)時(shí)間從2026年提至2025年。具體來(lái)說(shuō)，SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品，而16層堆疊HBM稍晚于2026年推出。因為當前距離量產(chǎn)時(shí)間還較早，還沒(méi)有相關(guān)產(chǎn)品參數出來(lái)。

SK海力士在HBM方面一直處于領(lǐng)先地位，由其主導并采用的HBM以硅通孔技術(shù)（TSV：Through Silicon Via）、批量回流模制底部填充（MR-MUF：Mass Reflow-Molded Underfill）先進(jìn)封裝技術(shù)在行業(yè)享有盛名。目前隨著(zhù)HBM芯片堆疊層數的增加，MR-MUF技術(shù)容易翹曲、導致晶圓末端彎曲、空洞現象（即保護材料在某些區域分布不均勻）的問(wèn)題引起行業(yè)高度關(guān)注。SK海力士方表示，正在推進(jìn)TSV和MR-MUF的技術(shù)發(fā)展。與HBM開(kāi)發(fā)初期相比，他們成功地減少了翹曲現象，目前正在開(kāi)發(fā)克服這一問(wèn)題的技術(shù)。下一步，抉擇會(huì )聚焦在減少空隙。

此外，SK海力士還致力于芯粒（Chiplet）及混合鍵合（Hybrid bonding）等下一代先進(jìn)封裝技術(shù)的開(kāi)發(fā)，以支持半導體存儲器和邏輯芯片之間的異構集成，同時(shí)促進(jìn)新型半導體的發(fā)展。當中，Hybrid bonding也是被看作是HBM封裝的又一個(gè)新選擇。但根據之前的計劃不一樣，SK海力士打算在下一代的HBM 4中持續采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現的混合鍵合技術(shù)預計由于HBM標準的放寬而緩慢引入。

三星方面則計劃通過(guò)針對高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù)，將16H技術(shù)融入下一代HBM4中。據三星的規劃，HBM 4將在2025年生產(chǎn)樣品。另外據外媒報道，三星在早前的一個(gè)會(huì )議上表示，正在考慮在HBM 4中使用混合鍵合或NCF。其認為，混合鍵合更具優(yōu)勢，因為它們可以緊湊地添加更多堆疊，而無(wú)需使用填充凸塊進(jìn)行連接的硅通孔(TSV)。使用相同的技術(shù)，HBM上的核心芯片DRAM也可以變得更厚。

這里值得關(guān)注的便是三星在HBM封裝上采用的TC-NCF非導電薄膜熱壓縮先進(jìn)封裝技術(shù)。這是一種與SK海力士MR-MUF略有不同的技術(shù)。在每次堆疊芯片時(shí)，都會(huì )在各層之間放置一層不導電的粘合膜。該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護連接點(diǎn)免受撞擊。隨著(zhù)發(fā)展，三星逐漸減少了NCF材料的厚度，將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點(diǎn)是可以最大限度地減少隨著(zhù)層數增加和芯片厚度減小而可能發(fā)生的翹曲，使其更適合構建更高的堆棧。

美光是這場(chǎng)HBM戰局中的半路殺出者，畢竟它一入局，便將目光投向了HBM3。如下圖所示，美光曬出了其HBM3E和HBM4產(chǎn)品路線(xiàn)圖。方案路線(xiàn)圖顯示，其HBM4預計在2026年推出，而到2028年則由HBM4E接棒。

圖片來(lái)源：美光

關(guān)于未來(lái)的布局，美光披露了暫名為HBMnext的下一代HBM內存，業(yè)界猜測這有可能便是其HBM 4。美光預計HBMNext將提供36 GB和64 GB容量，這意味著(zhù)多種配置，例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能，美光宣稱(chēng)每個(gè)堆棧的帶寬為1.5 TB/s–2+TB/s，這意味著(zhù)數據傳輸速率超過(guò)11.5 GT/s/pin。

談?wù)凥BM4以后的專(zhuān)業(yè)化、定制化趨勢

在談及HBM4時(shí)，臺積電以及SK海力士、三星、美光均提及專(zhuān)業(yè)定制化趨勢。據悉，目前三大原廠(chǎng)目前與英偉達、AMD、微軟簽訂的HBM供應協(xié)議早已開(kāi)啟了定制條款。

SK海力士認為，市場(chǎng)將更傾向于專(zhuān)業(yè)化(Specialized)和定制化(Customized)產(chǎn)品，以滿(mǎn)足客戶(hù)需求。他強調，對于新一代HBM，卓越的性能是基本條件，同時(shí)，還須具備滿(mǎn)足不同客戶(hù)的特定需求、超越傳統存儲器性能的優(yōu)勢。

三星則表示，業(yè)界越來(lái)越認識到，處理器和內存公司各自?xún)?yōu)化其產(chǎn)品的孤立努力不足以釋放AGI時(shí)代所需的創(chuàng )新。因此，“定制HBM”成為潮流，這也代表了實(shí)現處理器和內存之間協(xié)同優(yōu)化以加速這一趨勢的第一步。為此，三星利用其在內存、代工、系統LSI和先進(jìn)封裝方面的綜合能力。

在剛剛結束的美光科技交流會(huì )上，美光透露出一條重磅消息，在HBM產(chǎn)能不足的背景下，業(yè)內已經(jīng)越來(lái)越傾向于定制化的HBM產(chǎn)品，主要是因為下游客戶(hù)越發(fā)個(gè)性化的需求。為了解決客戶(hù)對于性能、功能、尺寸、形態(tài)、功效等方面的差異化需求，市場(chǎng)將更傾向于打造專(zhuān)業(yè)化(Specialized)和定制化(Customized)HBM產(chǎn)品。

此前，行業(yè)針對HBM大規模擴產(chǎn)的行為產(chǎn)生未來(lái)是否會(huì )過(guò)剩擔憂(yōu)。行業(yè)人士表示，專(zhuān)業(yè)化和定制化可以有效解決這類(lèi)問(wèn)題。由于定制化的存儲產(chǎn)品與客戶(hù)需求高度耦合，未來(lái)存儲廠(chǎng)商和客戶(hù)會(huì )有更深的綁定關(guān)系。這一改變可以增加HBM下游供給的確定性，使得存儲廠(chǎng)商在做產(chǎn)能規劃的時(shí)候更有計劃性。