生成式AI大火引爆存儲產(chǎn)業(yè)新增長(cháng)引擎

2022年ChatGPT的出現，掀起了全球再一次的AI應用熱潮，憑借強大的功能和杰出的用戶(hù)體驗，生成式AI（AIGC）成為2022年開(kāi)始最引人關(guān)注的技術(shù)新浪潮。生成式AI使用深度學(xué)習模型，利用現有文本、圖像、音頻等內容生成全新內容、解決方案或新概念的人工智能技術(shù)，可以通過(guò)學(xué)習輸入數據的統計規律，來(lái)創(chuàng )造新的數據，因此它可以形成創(chuàng )造性的表達，極大地拓展了人工智能在各個(gè)領(lǐng)域的應用前景。并且可以通過(guò)AI大模型的經(jīng)驗分析，以極有想象力的方式生成眾多滿(mǎn)足用戶(hù)創(chuàng )意需求的原創(chuàng )內容，并通過(guò)包括文本、圖像、音頻、視頻甚至各類(lèi)代碼等方式輸出。

生成式AI的運用有可能在不久的將來(lái)，像工業(yè)時(shí)代的鐵路、電力、印刷等通用技術(shù)，影響各個(gè)產(chǎn)業(yè)。Bloomberg Intelligence報告指出，生成式AI市場(chǎng)可望迎來(lái)爆發(fā)性成長(cháng)，在未來(lái)10年內從400億美元的市場(chǎng)規模成長(cháng)至1.3萬(wàn)億美元。在訓練AI系統所需基礎設施的需求推動(dòng)下，有望以42%的復合年均成長(cháng)率逐步擴大規模，并在中長(cháng)期階段轉向對大型語(yǔ)言模型、數字廣告、專(zhuān)業(yè)軟件和服務(wù)設施的推理需求。麥肯錫（McKinsey）預測，生成式 AI 能夠在“經(jīng)過(guò)分析的 63 種應用中增加 2.6 萬(wàn)億到 4.4 萬(wàn)億美元的年收入，與之相比，英國 2021 年的 GDP 總額僅為 3.1 萬(wàn)億美元。如果我們將生成式 AI 嵌入到當前正在運行的其他任務(wù)軟件中，這一估值預計將會(huì )翻倍?！?/p>

在這龐大的生成式AI財富圈中，硬件是其中不可或缺的一環(huán)，支持AI技術(shù)的發(fā)展涉及算力、存力、網(wǎng)力三大核心要求的各類(lèi)硬件。在2022年下半年開(kāi)始，生成式AI浪潮引爆了企業(yè)對芯片元器件的需求，其中，龐大的模型訓練和任務(wù)部署對存儲芯片的容量和性能的需求急劇增加，存儲芯片正面臨著(zhù)內存墻限制的挑戰。美光致力于為世界最先進(jìn)的計算系統提供業(yè)界性能最佳的解決方案。美光科技領(lǐng)先的工藝提供了更快、更可靠和更大容量的存儲產(chǎn)品，使人工智能、機器學(xué)習和生成人工智能成為可能。

在生成式AI技術(shù)出現之前，很多人在優(yōu)化AI應用體驗時(shí)就感受到了存力對AI應用的制約。AI模型的訓練機制需要盡可能多的數據，越多的數據投喂結果越精準的工作原理，決定了大模型訓練存在深度學(xué)習網(wǎng)絡(luò )層數多、連接多、參數和數據集種類(lèi)復雜、數據量大的特征，隨著(zhù)模型參數和數據量的快速增長(cháng)，對于存儲的大容量和擴展需求也迫在眉睫。

綜合生成式AI在存儲方面所面臨的挑戰，大致可以分為幾個(gè)方面。

首當其沖的是GPU面臨的存儲容量問(wèn)題，因為計算單元的存儲能力有限，其計算效率同時(shí)受制于計算能力和與存儲單元的通信能力。比如用于生成式AI模型訓練的單卡無(wú)法完整存儲一個(gè)大模型的參數GPT-3的1750億個(gè)參數。參數本身就需要700GB的顯存空間（每個(gè)參數按照4個(gè)字節計算）。

而以NVIDIA A100 GPU為例只有80GB顯存，單卡增加顯存似乎又涉及到成本和尺寸等問(wèn)題，雖然該問(wèn)題可以通過(guò)分布式訓練和流水線(xiàn)并行的方式去解決，但分布式訓練之后又會(huì )遇到通信墻的問(wèn)題。再比如一臺AI服務(wù)器需要的存儲數量是普通服務(wù)器的3~6倍，而生成式AI對服務(wù)器的存儲容量要求更大，無(wú)論是大規模模型的構建，還是海量訓練數據的讀取，以及最基本的天量級訓練素材的儲備和搜集，都需要龐大的服務(wù)器存儲容量以及盡可能高速且低功耗的讀取過(guò)程，因為以更快的速度處理數據需要大量的功耗，這將不可避免地導致大量碳排放。

更多的存儲方面的問(wèn)題還集中在AI集群每天都會(huì )產(chǎn)生大量新的數據集，歷史數據的完整歸檔；小文件和非結構化數據過(guò)多，需要一個(gè)針對小文件存儲進(jìn)行優(yōu)化的分布式存儲系統。

云訓練數據I/O效率低，對象存儲較差的讀寫(xiě)性能可能會(huì )導致訓練過(guò)程中出現嚴重的瓶頸；以及持續的低延遲與高帶寬和EB級大容量存儲需求。  

基于上述要求，HBM（High Bandwidth Memory，高帶寬內存）作為一款新型的CPU/GPU 內存芯片比較好的滿(mǎn)足了生成式AI的存儲需求，HBM其實(shí)就是將很多個(gè)DDR芯片堆疊在一起后和GPU封裝在一起，實(shí)現大容量，高位寬的DDR組合陣列。高速、高帶寬HBM堆棧沒(méi)有以外部互連線(xiàn)的方式與信號處理器芯片連接，而是通過(guò)中間介質(zhì)層緊湊而快速地連接，同時(shí)HBM內部的不同DRAM采用TSV實(shí)現信號縱向連接，從而可擴展更大的容量，并提供更低的功耗以及更小的體積。

目前第四代產(chǎn)品HBM3，速率則提高到了6.4Gbps，最大容量則增加到了24GB。HBM3所提供的內存帶寬對實(shí)現下一代高性能計算、人工智能和百萬(wàn)兆級系統至關(guān)重要?；谶^(guò)去兩年存儲行業(yè)低迷的行情，生成式AI的橫空出世直接引爆了HBM3的市場(chǎng)需求，進(jìn)而帶動(dòng)2023年三季度開(kāi)始存儲器全行業(yè)的復蘇。生成式 AI 需要同時(shí)訪(fǎng)問(wèn)和獲取海量數據，并從大容量?jì)却嬷屑橙祿宰龀鲞m當響應。這需要美光第二代 HBM3 (HBM3E)、高密度 DDR5 DRAM 和 TB 級 SSD 存儲等技術(shù)，以滿(mǎn)足在云端進(jìn)行生成式 AI 訓練和推理所需的速度和容量。美光的HBM3E內存采用了eight-tier布局，每個(gè)堆棧的容量達到了24 GB，可以實(shí)現每秒1.2 TB的傳輸速度。與此同時(shí)，它采用了先進(jìn)的1β技術(shù)，這意味著(zhù)制造工藝更加先進(jìn)，有望提供更高的性能和效率，并降低制造成本。

生成式AI技術(shù)的火爆也開(kāi)始逐漸蔓延到智能手機產(chǎn)業(yè)，隨著(zhù)高通和聯(lián)發(fā)科技紛紛發(fā)布最新主打面向生成式AI的新旗艦SoC，智能手機產(chǎn)業(yè)將在2023年底正是邁向生成式AI時(shí)代，并在未來(lái)一兩年內成為旗艦手機的標配。生成式AI的加入，讓智能手機的存儲需求大幅提升，這就提供給美光LPDDR5X更多的實(shí)戰空間。對手機等終端設備而言，提供平衡的功耗和性能是助力 AI 驅動(dòng)用戶(hù)體驗的關(guān)鍵，美光最新推出擁有9600Mbps的LPDDR5X內存讓手機擁有更快的處理速度，能滿(mǎn)足手持高性能生成式 AI 設備所需的速度和帶寬。值得一提的是，美光的新一代LPDDR5X采用了最新的1β工藝，能夠實(shí)現單顆16GB的封裝容量，同時(shí)整體能耗將會(huì )降低30%，美光也將PC內存上常用的動(dòng)態(tài)電壓和頻率調節帶到了移動(dòng)端。

其實(shí)，美光不僅提供關(guān)鍵的生成式 AI 內存和存儲解決方案，還將 AI 應用于公司內部的硅制造流程。硅制造流程非常復雜，需要耗時(shí)數月，涉及約 1,500 道工序。美光將前沿 AI 技術(shù)應用于制造流程的全部工序，顯著(zhù)提高了準確性和生產(chǎn)效率。這樣做不僅能提高產(chǎn)量、良率與質(zhì)量、提供更安全的工作環(huán)境、改善效率，還能助力公司推進(jìn)可持續發(fā)展。            

無(wú)論是制造業(yè)、汽車(chē)、科學(xué)還是其他應用領(lǐng)域，生成式 AI 及其衍生技術(shù)都將以超乎人類(lèi)想象的方式塑造未來(lái)，而美光在驅動(dòng)您的穿戴、手持和云端設備數據中扮演著(zhù)核心角色。