三星CXL全球首創(chuàng )，3D DRAM路線(xiàn)圖公布

據報道，三星推出了一款名為 CXL 分層內存混合內存模塊 (CMM-H TM：CXL Memory Module-Hybrid for Tiered Memory) 的新型 Compute Express Link (CXL)附加卡，該卡添加了可由 CPU 和加速器遠程訪(fǎng)問(wèn)的額外 RAM 和閃存。該擴展卡混合了高速DRAM和NAND閃存，旨在提供一種經(jīng)濟高效的方式來(lái)提高服務(wù)器的內存容量，而無(wú)需使用本地安裝的DDR5內存，而這在超額認購的服務(wù)器中通常是不可行的。

三星的解決方案在Compute Express Link (CXL)上運行，這是一種開(kāi)放式行業(yè)標準，可在 CPU 和加速器之間提供緩存一致性互連，從而允許 CPU 使用與利用 CXL 的連接設備相同的內存區域。遠程存儲器（或者在本例中為混合 RAM/閃存設備）可通過(guò) PCIe 總線(xiàn)訪(fǎng)問(wèn)，但代價(jià)是大約 170-250 納秒的延遲，或者大約是 NUMA 跳的成本。

CXL 于 2019 年推出，目前處于第三個(gè)版本，支持 PCIe 6.0。

CXL 規范支持三種類(lèi)型的設備：Type 1 設備是缺乏本地內存的加速器，Type 2 設備是具有自己內存的加速器（例如具有 DDR 或 HBM 的 GPU、FPGA 和 ASIC），Type 3 設備由內存設備組成。三星設備屬于 Type 3 類(lèi)別。

CMM-H TM 是三星CMM-H CXL 內存解決方案的一個(gè)分支。三星表示，它是世界上第一個(gè)基于FPGA的分層 CXL 內存解決方案，旨在“應對內存管理挑戰，減少停機時(shí)間，優(yōu)化分層內存的調度，并最大限度地提高性能，同時(shí)顯著(zhù)降低總擁有成本?！?/p>

這種新的 CMM-H 速度不如 DRAM；然而，它通過(guò)閃存增加了強大的容量，但通過(guò)擴展卡內置的巧妙的內存緩存功能隱藏了大量延遲。熱數據被轉移到卡的 DRAM 芯片中以提高速度，而較少使用的數據則存儲在 NAND 存儲中。三星表示，這種行為會(huì )自動(dòng)發(fā)生，但某些應用程序和工作負載可以通過(guò) API 向設備發(fā)出提高性能的提示。當然，這會(huì )增加緩存數據的一些延遲，這并不適合所有用例，特別是那些依賴(lài)嚴格 99% 性能的用例。

三星的新型擴展卡將為客戶(hù)提供擴展服務(wù)器內存容量的新方法。隨著(zhù)更先進(jìn)的大型語(yǔ)言模型繼續要求其主機和加速器提供更多內存，這種新的設計范例變得越來(lái)越重要。

三星公布3D DRAM規劃

全球最大的存儲芯片制造商三星電子公司計劃于2025年推出人工智能行業(yè)游戲規則改變者三維(3D) DRAM，目前以規模較小的競爭對手SK海力士公司主導的全球人工智能半導體市場(chǎng)。

3D為主導的DRAM芯片通過(guò)垂直互連單元而不是像目前那樣水平放置它們，能將單位面積的容量增加了三倍。相比之下，高帶寬內存（HBM）垂直互連多個(gè)DRAM芯片。據首爾的半導體行業(yè)消息知情人士周二透露，三星上個(gè)月在加利福尼亞州圣何塞舉行的全球芯片制造商聚會(huì )Memcon 2024上公布了其3D DRAM開(kāi)發(fā)路線(xiàn)圖。

這家總部位于韓國水原的巨頭計劃于2025年推出基于垂直溝道晶體管技術(shù)的早期版本3D DRAM，該技術(shù)在構成單元的晶體管中該垂直設置溝道（電子流動(dòng)的通道），并用充當開(kāi)關(guān)的門(mén)。公司還計劃在2030年推出一個(gè)式DRAM，將包括在內部的所有單元都在一起。

目前 DRAM 在主板上包含多達 620 億個(gè)單元，晶體管在平面上密集集成，這使得不可能避免漏電流和干擾。由于 3D DRAM 中的晶體管由于可以在同一上放置更多單元，因此3D DRAM預計將增加單位芯片內的容量。

3D DRAM的基本容量為100 GB，幾乎是當前可用DRAM最大容量36 GB的三倍。有消息稱(chēng)，到2030年，全球3D DRAM市場(chǎng)可能會(huì )增長(cháng)到1000億美元，但由于市場(chǎng)仍處于起步階段AI半導體市場(chǎng)的領(lǐng)導者該技術(shù)有望幫助三星審視全球AI半導體行業(yè)的王座，擊敗目前在A(yíng)I芯片領(lǐng)域主導地位的SK海力士，他們在A(yíng)I應用的HBM、DRAM全球市場(chǎng)中占有90%的份額”業(yè)內人士表示。

盡管三星的競爭對手（包括SK海力士和美光科技公司）一直在研究該技術(shù)，但尚未公布任何3D DRAM的路線(xiàn)圖。SK海力士在各個(gè)行業(yè)會(huì )議上介紹了其3D DRAM的概念。美光于2019年開(kāi)始開(kāi)發(fā)3D DRAM，擁有約30項該技術(shù)專(zhuān)利，是三大芯片制造商中最多的。

十多年來(lái)，隨著(zhù)智能手機等配備DRAM的電子設備變得更小、功能更多，全球DRAM行業(yè)一直在開(kāi)發(fā)具有更大數據處理能力的更小芯片。人工智能的快速發(fā)展需要快速大規模處理數據，這一趨勢正在加劇。3DDRAM預計將滿(mǎn)足此類(lèi)芯片的需求，因為它比現有的DRAM更小，容量更大。

短期內，新型半導體可能用于智能手機和筆記本電腦等小型信息技術(shù)設備，這些設備需要高性能 DRAM 來(lái)實(shí)現設備上的 AI 功能。汽車(chē)行業(yè)預計將長(cháng)期使用 3D DRAM，因為電動(dòng)汽車(chē)和自動(dòng)駕駛汽車(chē)需要能夠實(shí)時(shí)處理從道路收集的 DRAM 的大數據。

三星正在開(kāi)發(fā)主導3D DRAM領(lǐng)域的技術(shù)，以期到2027年至2028年將其關(guān)鍵尺寸縮小到8-9納米(nm)。最新的DRAM預計為12 nm左右。該公司還積極擴大3D DRAM研發(fā)人員隊伍它在其半導體研究中心針對該技術(shù)成立了下一代工藝開(kāi)發(fā)團隊。

來(lái)源：半導體行業(yè)觀(guān)察