美光曝存儲器新進(jìn)度

研調機構TrendForce集邦咨詢(xún)17日舉辦AI服務(wù)器論壇，美光透露目前DDR5醞釀許久，而HBM產(chǎn)能在2025年前已滿(mǎn)載，美光在各種存儲器產(chǎn)品有多種布局，也為AI數據中心提供強大支持。

美光在全球布局超過(guò)54,000項專(zhuān)利，存儲器和存儲技術(shù)領(lǐng)先業(yè)界，目前已經(jīng)醞釀很久DDR5，下一代會(huì )做到1γ制程，采用EUV制程技術(shù)，計劃2025年率先在中國臺灣量產(chǎn)。

美光表示，公司擁有廣泛的產(chǎn)品群組、長(cháng)周期生命產(chǎn)品，以及完整的系統規劃。隨著(zhù)AI改變數據中心生態(tài)，讀取方式已經(jīng)不同，必須跟著(zhù)AI神經(jīng)網(wǎng)路模式運作，因此深度學(xué)習的讀寫(xiě)比率已經(jīng)到5000:1，意味著(zhù)讀取速度遠超過(guò)寫(xiě)入速度，因此選擇合適的儲存設備相當重要。

對此，美光也進(jìn)行服務(wù)器架構優(yōu)化，當GPU服務(wù)器和SSD以1:1方式進(jìn)行訓練，效能會(huì )做到最好。另外，隨著(zhù)AI時(shí)代來(lái)臨，在A(yíng)I效能和成本間的平衡也越發(fā)重要，美光推出能最佳化現有系統并延長(cháng)設備壽命的DDR4，速度高達3,200MT/s。在多核心CPU架構下，美光DDR5以6,400MT/s速度，使頻寬增至DDR4的2倍、深度學(xué)習效能為DDR4的5倍、AI性能提升7倍，支持AI、HPC和企業(yè)負載。

NAND部分，美光目前推出232層NAND，以穩定在產(chǎn)品上應用為主，并同步發(fā)展HBM3e甚至HBM4。美光表示，CXL也是未來(lái)相當重要的發(fā)展方向，目前推出的CZ120為存儲器擴充模組，可提供更多容量、頻寬和靈活配置，是較為前端的應用，目前樣品已經(jīng)分享給合作伙伴。

晶心科提供客制化指令集工具ACE，增加設計彈性

晶心科技資深技術(shù)經(jīng)理胡鴻光指出，RISC-V具有模組化優(yōu)勢；開(kāi)源架構、沒(méi)有法律問(wèn)題；可最少指令集進(jìn)行設計，因此能做到非常精簡(jiǎn)、有效率的狀態(tài)；具有客制化優(yōu)點(diǎn)，每個(gè)客戶(hù)能自己增加指令和自己的功能。RISC-V架構可以用于數據中心、車(chē)用、移動(dòng)設備等任何AI需求產(chǎn)品。

晶心科成立已經(jīng)有19年，在今年1月的SHD報告中，該公司在RISC-VIP供應商中市占率高達30%，聯(lián)發(fā)科、聯(lián)詠、瑞薩、群聯(lián)等都有長(cháng)期合作，另外一個(gè)主要大客戶(hù)是Meta。

胡鴻光認為Meta之所以選擇RISC-V，優(yōu)勢在于容易客制化、有極大彈性，而RISC-V新出的矢量指令集在做AI運算極具影響力，另外晶心科提供客制化指令集工具Andes Custom Extension（ACE），提供Meta增加私有客制指令介面與暫存器，可達成其需求。

TrendForce：AI服務(wù)器需求暢旺，出貨量年增近41%

最后針對AI服務(wù)器市況，TrendForce資深分析師龔明德指出，有幾大重點(diǎn)領(lǐng)域，主要拉貨領(lǐng)域包括北美CSP（云端服務(wù)供應商），包括公有云、搜尋引擎、廣告推薦系統等。

今年服務(wù)器僅成長(cháng)近2%，因為受到AI預算排擠，而AI服務(wù)器需求暢旺，出貨量可望達166萬(wàn)臺，年增近41%。龔明德預期，今年第二季成長(cháng)較明顯，因為Nvidia H100前導時(shí)間（leading time）縮短，逐季看好。

龔明德預期，Nvidia今年高端GPU出貨量將年增超過(guò)110%，到下半年產(chǎn)品品將過(guò)渡到H200，而B(niǎo)100將進(jìn)入早期量產(chǎn)階段。至于A(yíng)MD高端AI解決方案會(huì )主要面向CSP，搭載M1300 XAl芯片的Al服務(wù)器預計下半年將成主流，而第二供應商的身份有望帶來(lái)AMD成長(cháng)。

同時(shí)，CSP內部開(kāi)發(fā)的ASIC也將發(fā)揮關(guān)鍵作用。到了2024年，AWS將在下一代ASIC投入大量資源，Meta和中國大陸CSP亦是如此。CSP今年仍將是AI服務(wù)器主要成長(cháng)動(dòng)能，尤其北美四大CSP已經(jīng)占六成采購量，中國大陸自主芯片需求也會(huì )強勁。

最后針對Nvidia Blackwell平臺，龔明德認為這款產(chǎn)品主要面向CSP，并推動(dòng)CoWoS和HBM出貨量在2025年實(shí)現雙高個(gè)位數成長(cháng)。