AI SSD采購容量預計突破45EB
根據 TrendForce 集邦咨詢(xún)最新的《Enterprise SSD》研究報告,由于 AI 需求大幅升溫,最近兩季 AI 服務(wù)器相關(guān)客戶(hù)向供應商進(jìn)一步要求加單 Enterprise SSD(企業(yè)級固態(tài)硬盤(pán))。上游供應商為了滿(mǎn)足 SSD 在 AI 應用上的供給,加速制程升級,開(kāi)始規劃推出 2YY 產(chǎn)品,預期于 2025 年量產(chǎn)。
本文引用地址:http://dyxdggzs.com/article/202408/461945.htmTrendForce 集邦咨詢(xún)表示,AI 服務(wù)器客戶(hù)對供應商加單的情況,導致 Enterprise SSD 合約價(jià)于 2023 年第四季至 2024 年第三季間的累積漲幅超過(guò) 80%。
TrendForce 集邦咨詢(xún)在報告中指出,SSD 應用于 AI 推理服務(wù)器,可在推理過(guò)程中協(xié)助調整、優(yōu)化 AI 模型,尤其 SSD 可以實(shí)時(shí)更新數據,以便微調推理模型結果。AI 推理主要提供檢索增強生成 (RAG, Retrieval-Augmented Generation) 和大型語(yǔ)言模型 (LLM, Large Language Model) 服務(wù),而 SSD 可以?xún)Υ?RAG 和 LLM 參考的相關(guān)文檔和知識庫,以生成含有更豐富信息的響應。此外,隨著(zhù)更多生成信息是以影片或相片顯示,其數據存儲量也相應增加,因此,TLC/QLC(四層單元閃存)16TB 以上等大容量 SSD 便成為 AI 推理主要采用的產(chǎn)品。
現在大家都知道,想要大模型有更高質(zhì)量的輸出,就需要高質(zhì)量的數據,而且是大量的高質(zhì)量數據。所以,存儲系統的第一個(gè)作用就是:承擔起存儲大量數據的能力。
有人預測數據集會(huì )呈指數級增長(cháng),如此多的數據,說(shuō)到底還需要服務(wù)器和存儲來(lái)承擔,如果還是用機械硬盤(pán),則需要非常多的硬件系統,這對于數據中心空間,能耗和散熱都是挑戰。
而如果換成 SSD 閃存存儲后,其單位能耗可以輸出更高的性能,有助于省電。同時(shí),更高的單盤(pán)容量可以減少硬件系統數量,進(jìn)而減少數據中心機房空間占用,省下更多成本。
在 AI 同樣非?;馃岬谋泵赖仁袌?chǎng)上,對高容量 SSD 的需求正在快速上升。企業(yè)和數據中心正在尋求大容量的存儲解決方案來(lái)應對不斷增長(cháng)的 AI 相關(guān)數據。
AI 的場(chǎng)景大致分為模型訓練和推理兩大部分。
其中,訓練主要在數據中心內部完成,涉及的主要操作包括數據攝?。↖ngest)、Checkpoint 創(chuàng )建等。當然,需要歸檔的數據也都存放在資源充裕的數據中心里。而推理既可以在數據中心內部完成,也可以在近邊緣和遠邊緣端完成。
數據準備的過(guò)程主要發(fā)生在數據中心和近邊緣端,也會(huì )有少部分發(fā)生在遠邊緣端??梢哉f(shuō),幾乎所有場(chǎng)景中都離不開(kāi)存儲的支持,都需要存儲具有處理大量數據的能力,都需要有盡可能高的讀寫(xiě)性能。
此時(shí),閃存存儲的優(yōu)勢就非常明顯。
在 AI 浪潮的推動(dòng)下,美國頂級科技公司的數據中心正加速從 HDD 轉向企業(yè)級 SSD。比如:大型科技公司如特斯拉在擴大 AI 服務(wù)器建設時(shí),紛紛選擇增加 SSD 的采購量,以滿(mǎn)足日益增長(cháng)的數據處理需求。
AI SSD 需求位元年增率超過(guò) 60%,供應商加快大容量產(chǎn)品開(kāi)發(fā)
2024 年 AI 服務(wù)器 SSD 市場(chǎng)除了 16TB 以上產(chǎn)品需求自第二季大幅上升,隨著(zhù) NVIDIA H100、H20 和 H200 等系列產(chǎn)品到貨,相關(guān)客戶(hù)進(jìn)一步加大 TLC 4、8TB Enterprise SSD 訂單需求。根據 TrendForce 集邦咨詢(xún)預估,今年 AI 相關(guān) SSD 采購容量將超過(guò) 45EB,未來(lái)幾年,AI 服務(wù)器有望推動(dòng) SSD 需求年增率平均超過(guò) 60%,而 AI SSD 需求在整個(gè) NAND Flash(閃存)的占比有機會(huì )自 2024 年的 5%,上升至 2025 年的 9%。
不過(guò),戴爾公司副董事長(cháng)兼首席運營(yíng)官 Jeff Clarke 在財報電話(huà)會(huì )議上透露,由于成本上升和供需關(guān)系緊張,預計 2024 年下半年 SSD 價(jià)格將再攀升 20%。這一消息無(wú)疑給計劃購買(mǎi)或升級 SSD 的用戶(hù)帶來(lái)了不小的壓力。
業(yè)內專(zhuān)家分析認為,SSD 價(jià)格的上漲與原材料成本的增加密切相關(guān)。隨著(zhù)全球原材料價(jià)格的持續上漲,SSD 的生產(chǎn)成本也在不斷攀升。此外,存儲器廠(chǎng)商為了擺脫虧損、改善盈利狀況,也開(kāi)始尋求提高產(chǎn)品價(jià)格。這些因素共同推動(dòng)了 SSD 價(jià)格的上漲。
對于用戶(hù)而言,面對 SSD 價(jià)格的上漲,如何選擇合適的存儲設備成為了一個(gè)亟待解決的問(wèn)題。一方面,用戶(hù)可以根據自己的實(shí)際需求選擇性?xún)r(jià)比更高的存儲設備;另一方面,用戶(hù)也可以關(guān)注市場(chǎng)動(dòng)態(tài),抓住合適的時(shí)機進(jìn)行購買(mǎi)或升級。
評論