存儲產(chǎn)業(yè)的下一個(gè)“新寵”是？

人工智能AI浪潮下，以HBM為代表的新型DRAM存儲器迎來(lái)了新一輪的發(fā)展契機，而與此同時(shí)，在服務(wù)器需求推動(dòng)下，存儲產(chǎn)業(yè)的另一大“新寵”MRDIMM/MCRDIMM也開(kāi)始登上“歷史舞臺”。

當前，AI及大數據的快速發(fā)展帶動(dòng)服務(wù)器CPU內核數量同步增加，為滿(mǎn)足多核CPU中各內核的數據吞吐要求，需要大幅提高內存系統的帶寬，在此情況下，服務(wù)器高帶寬內存模組MRDIMM/MCRDIMM應運而生。

01
JEDEC公布DDR5 MRDIMM標準細節

當地時(shí)間7月22日，JEDEC宣布即將推出DDR5多路復用雙列直插式內存模組 (MRDIMM) 和下一代LPDDR6壓縮連接內存模組 (CAMM)先進(jìn)內存模組標準，并介紹了這兩項內存的關(guān)鍵細節，旨在為下一代高性能計算和人工智能發(fā)展提供支持。

JEDEC表示，這兩項新技術(shù)規范均由JEDEC的JC-45 DRAM模組委員會(huì )開(kāi)發(fā)。

作為JEDEC的JESD318 CAMM2內存模組標準的后續，JC-45正在開(kāi)發(fā)用于LPDDR6的下一代CAMM模組，目標是最大速度超過(guò)14.4GT/s。按照計劃，該模組還將提供24bit位寬子通道、48bit位通道并支持“連接器陣列”，以滿(mǎn)足未來(lái)高性能計算和移動(dòng)設備的需求。

圖片來(lái)源：JEDEC

而DDR5 MRDIMM內存支持多路復用列，能夠在單個(gè)通道上組合和傳輸多個(gè)數據信號，有效提升帶寬而無(wú)需額外的物理連接。據悉，JEDEC規劃了多代DDR5 MRDIMM內存，最終目標是將其帶寬提升至12.8Gbps，較DDR5 RDIMM內存目前的6.4Gbps翻倍并提高引腳速度。

在JEDEC的設想中，DDR5 MRDIMM將利用與現有DDR5 DIMM相同的引腳、SPD、PMIC等設計，與RDIMM平臺兼容，并利用現有的LRDIMM生態(tài)系統進(jìn)行設計與測試。

JEDEC表示，這兩項新技術(shù)規范的推出，預計將為內存市場(chǎng)帶來(lái)新一輪的技術(shù)革新。

02
美光MRDIMM DDR5下半年批量出貨

2023年3月，AMD在Memcom 2023活動(dòng)上表示，正在和JEDEC合作，開(kāi)發(fā)新的DDR5 MRDIMM標準內存，其目標傳輸速率高達17600 MT/s。據TomsHardware當時(shí)的報道，第一代DDR5 MRDIMM的目標速率是8800MT/s，之后會(huì )逐步提高，第二代將達到12800MT/s，然后第三代會(huì )提升至17600MT/s。

MRDIMM的全稱(chēng)為“Multiplexed Rank DIMM”，即將兩個(gè)DDR5 DIMM合二為一，從而提供雙倍的數據傳輸率，同時(shí)可訪(fǎng)問(wèn)兩個(gè)Rank。

7月22日，存儲大廠(chǎng)美光宣布推出全新的MRDIMM DDR5，目前已經(jīng)出樣，可為人工智能AI、高性能計算HPC應用提供超大容量、超高帶寬、超低延遲，將于2024年下半年開(kāi)始批量出貨。

圖片來(lái)源：美光

MRDIMM可以提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能。美光表示，在加速內存密集型虛擬化多租戶(hù)、高性能計算和AI數據中心工作負載方面，表現優(yōu)于當前的TSV RDIMM。

據官方介紹，與傳統的RDIMM DDR5相比，MRDIMM DDR5可實(shí)現有效內存帶寬提升高達39%，總線(xiàn)效率提升超過(guò)15%，延遲降低高達40%。

MRDIMM支持從32GB到256GB的容量選擇，涵蓋標準和高型兩種外形規格（TFF），適用于高性能的1U和2U服務(wù)器，其中256GB TFF MRDIMM對比類(lèi)似容量的TSV RDIMM，性能可以領(lǐng)先35%。

該款全新內存產(chǎn)品為美光MRDIMM系列的首代，將與英特爾至強處理器兼容。美光表示，后續幾代MRDIMM產(chǎn)品將繼續提供比同代RDIMM高45%的單通道內存帶寬。

03
SK海力士下半年推出MCRDIMM產(chǎn)品

作為全球最大的存儲廠(chǎng)商，為提升產(chǎn)品速度，SK海力士在A(yíng)MD與JEDEC之前便推出了類(lèi)似MRDIMM的MCRDIMM。

MCRDIMM全稱(chēng)為“Multiplexer Combined Ranks Dual In-line Memory Module”，是將多個(gè)DRAM結合在基板上的模組產(chǎn)品，通過(guò)同時(shí)操作模組的兩個(gè)基本信息處理運算單位Rank。

2022年底，SK海力士與英特爾和瑞薩合作，開(kāi)發(fā)出了DDR5多路合并陣列雙列直插內存模組（MCR DIMM），成為當時(shí)業(yè)界最快的服務(wù)器DRAM產(chǎn)品。根據瀾起科技2023年年報，MCRDIMM也可以視為MRDIMM的第一代產(chǎn)品。

圖片來(lái)源：SK海力士

傳統DRAM模組每次只能向CPU傳輸64個(gè)字節的數據，而在SK海力士的MCRDIMM模組中，兩個(gè)內存列同時(shí)運行可向CPU傳輸128個(gè)字節的數據。每次傳輸到CPU的數據量的增加使得數據傳輸速度提高到8Gbps以上，是單個(gè)DRAM的兩倍。

SK海力士彼時(shí)預計，在高性能計算對于內存帶寬提升需求的驅動(dòng)下，MCR DIMM的市場(chǎng)將會(huì )逐步打開(kāi)。據SK海力士在其2024財年第二季度財務(wù)報告最新透露，公司將在下半年推出適用于服務(wù)器的32Gb DDR5 DRAM和用于高性能計算的MCRDIMM產(chǎn)品。

04
MRDIMM未來(lái)可期

MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基礎架構，需要搭配1顆MRCD芯片及10顆MDB芯片。從概念來(lái)看，MCRDIMM/MRDIMM允許并行訪(fǎng)問(wèn)同一個(gè)DIMM中的兩個(gè)陣列，從而大幅提升DIMM模組的容量和帶寬。

與RDIMM相比，MCRDIMM/MRDIMM可以提供更高的帶寬，同時(shí)與現有RDIMM成熟的生態(tài)系統有較好的兼容性。此外，使用MCRDIMM/MRDIMM有望顯著(zhù)提升服務(wù)器整體性能，減少企業(yè)的總擁有成本（TCO）。

MRDIMM和MCRDIMM同屬于DRAM內存模組范疇，而內存模組與HBM的應用場(chǎng)景不同，各自的市場(chǎng)空間較為獨立。作為行業(yè)標準的封裝內存，HBM以較小的尺寸，在給定容量下可以實(shí)現更高的帶寬和能效，但其價(jià)格貴、容量較小、不可擴展等特點(diǎn)限制它只能在少數領(lǐng)域使用。因此從產(chǎn)業(yè)角度來(lái)說(shuō)，內存模組是大容量、高性?xún)r(jià)比、可擴展內存的主流解決方案。

瀾起科技認為，基于高帶寬、大容量的優(yōu)勢，MRDIMM有望成為未來(lái)AI和高性能計算主內存的優(yōu)選方案。而根據JEDEC的規劃，未來(lái)用于服務(wù)器的新型高帶寬內存模組MRDIMM，將支持更高的內存帶寬，進(jìn)一步滿(mǎn)足HPC及AI應用場(chǎng)景對內存帶寬的需求。