HBM（高帶寬內存）技術(shù)展望：2024年及以后

HBM（高帶寬內存）技術(shù)是即將到來(lái)的“內存內計算/處理”時(shí)代的一種“近內存計算（Near Memory Computing）/處理”階段。由于人工智能/機器學(xué)習的高需求，三星、SK海力士和美光這三大內存制造商正在HBM技術(shù)的開(kāi)發(fā)上競相角逐。HBM是一種具有高帶寬和寬通道的3D堆疊DRAM器件，這意味著(zhù)它非常適合高性能計算（HPC）、高性能圖形處理單元（GPU）、人工智能和數據中心應用所需的高能效、高性能、大容量和低延遲內存。因此，對于內存制造商而言，硅通孔（TSV）工藝集成和3D HBM DRAM芯片堆疊技術(shù)是最重要的關(guān)鍵詞。隨著(zhù)HBM DRAM制造商為每一代產(chǎn)品開(kāi)發(fā)和采用新技術(shù)，我們預計即將推出的HBM4（2025-2026年）和HBM4E（2027-2028年）器件將擁有48GB甚至64GB，16Hi和1.6TB/s或更高。

在HBM技術(shù)和產(chǎn)品方面，英偉達推出了配備HBM2E和HBM3器件的Hoper H100 Tensor Core GPU、Grace Hopper GH100和GH200。請參考SK海力士在市場(chǎng)上所有世代（HBM1、HBM2、HBM2E、HBM3、HBM3E和HBM4）HBM DRAM芯片的功能摘要[1]。自2013年以來(lái)，SK海力士發(fā)布了用于A(yíng)MD和英偉達GPU的HBM芯片。帶寬從HBM Gen1的約1 Gbps和HBM Gen2的2 Gbps，增加到HBM2E的3.6 Gbps，再到現在的HBM3的6.4 Gbps和HBM3E的9.6 Gbps。
對于Gen1和Gen2 HBM器件，SK海力士在HBM DRAM芯片堆疊中采用了TC-NCF方法，而對于Gen3和Gen4則采用了MR-MUF工藝。SK海力士在此基礎上進(jìn)行了更多優(yōu)化，并為Gen5開(kāi)發(fā)了先進(jìn)的MR-MUF以改善散熱。即將推出的Gen6 HBM4可能會(huì )結合使用這種技術(shù)和新的混合鍵合技術(shù)。