生成式人工智能(GenAI)—幫助優(yōu)化全球功率最密集的計算應用

訓練生成式人工智能(GenAI)神經(jīng)網(wǎng)絡(luò )模型通常需要花費數月的時(shí)間，數千個(gè)基于GPU并包含數十億個(gè)晶體管的處理器、高帶寬SDRAM和每秒數太比特的光網(wǎng)絡(luò )交換機要同時(shí)連續運行。雖然人工智能有望帶來(lái)人類(lèi)生產(chǎn)力的飛躍，但其運行時(shí)能耗巨大，所以導致溫室氣體的排放也顯著(zhù)增加。

據《紐約時(shí)報》報道，到2027年，人工智能服務(wù)器每年的用電量將達到85至134太瓦時(shí)，大致相當于阿根廷一年的用電量。

為了應對日益加劇的能耗挑戰，AI處理器的供電網(wǎng)絡(luò )經(jīng)歷”了多代的發(fā)展。這種全面的演進(jìn)發(fā)展涉及電路架構、電源轉換拓撲、材料科學(xué)、封裝和機械1熱工程方面的創(chuàng )新。

1   生成式人工智能訓練處理器的供電方案負載點(diǎn)模式和分比式模式的演變：

從2020年到2022年，熱設計功率(TDP)幾乎翻了一番，從400W增加到了700W。TDP指標是指生成式人工智能訓練應用中GPU引擎的連續功耗。自2022年起，半導體行業(yè)的TDP水平不斷攀升，到了2024年3月，市場(chǎng)上甚至出現了-款TDP高達1000W的GPU。

用于生成式人工智能訓練的處理器復合體集成了一個(gè)GPU或ASIC芯片，以及六到八個(gè)高帶寬存儲器(HBM)芯片。采用4納米CMOS工藝的GPU通常以體管。HBM提供144GB的存儲容量，其工作電壓一般體管。HBM提供144GB的存儲容量，其工作電壓一般為1.1V或1.2V。該處理器的一個(gè)關(guān)鍵供電特性與人工神經(jīng)網(wǎng)絡(luò )算法負載有關(guān)。對比處于空閑狀態(tài)的GPU和算法滿(mǎn)載狀態(tài)的GPU,瞬態(tài)電流消耗(dl/dt)差別可能非常大，可能達到每微秒2000安培或更多。此外，該處理器不能容忍較大的電源電壓下沖或過(guò)沖幅值：這些負載階躍瞬變必須限制在標稱(chēng)V_pp的10%以?xún)?。設計用于生成式人工智能訓練處理器的供電解決方案時(shí)，由于這些動(dòng)態(tài)操作條件的原因，峰值電流輸送能力通常設計為連續電流輸送能力的兩倍，峰值事件通常持續數十亳秒(圖1)。

圖1 基于GPU的生成式人工智能訓練處理器芯片復合體，對于CPU、FPGA、網(wǎng)絡(luò )交換機處理器以及現在

對于CPU、FPGA、網(wǎng)絡(luò )交換機處理器以及現在(PoL)方法。相較于傳統的多相并聯(lián)電源架構，分比(PoL)方法。相較于傳統的多相并聯(lián)電源架構，分比式PoL電源架構實(shí)現了更高的功率和電流密度。這種電源架構借鑒了理想變壓器的“匝數比”概念，通過(guò)分壓實(shí)現電流倍增。電流倍增的可擴展性使我們能夠根據不同的輸出電壓和電流需求，開(kāi)發(fā)-系列全面的 PoL轉換器。這對客戶(hù)來(lái)說(shuō)至關(guān)重要，因為高級AI訓練處理器的需求正快速變化。

2   分比式電源架構(FPA)——分解為穩壓和變壓兩部分功能

生成式人工智能電源系統設計面臨的主要挑戰包括：

●   很高的電流輸送能力，范圍從500安培到2000包括安培

●   負載需要出色的動(dòng)態(tài)性能

●   PDN的損耗和阻抗較大

●   48V母線(xiàn)基礎架構的標準化使用，需要從48V轉換到1V以下的能力

要解決這種大電流和高密度負載點(diǎn)（PoL）問(wèn)題，需要采用不同的方法。先進(jìn)的分比式電源架構將穩壓和變壓/電流倍增功能進(jìn)行了分解，可將這些供電級放置在最佳位置，從而達到最高的效率和功率1電流密度。

當輸入電壓(V_IN)等于輸出電壓(V_out)時(shí)，穩壓器的效率最高，隨著(zhù)輸入輸出比的增加，效率逐漸降低。在36至60 v的典型輸入電壓范圍內，最佳輸出母線(xiàn)電壓將是48V，而不是中間母線(xiàn)架構(IBA)中常見(jiàn)的傳統12V母線(xiàn)電壓。48V輸出母線(xiàn)所需的電流是12V母線(xiàn)的四分之一(p=VI) ，而PDN的損耗是電流的平方(P=PR) ,這意味著(zhù)損耗降低至原來(lái)的1/16。 因此，先安裝穩壓器并將其調節至48 V輸出，可以實(shí)現最高的效率。穩壓器還必須接受有時(shí)低于48V的輸入電壓，這就需要一個(gè)降壓—升壓的功能來(lái)滿(mǎn)足這一設計需求。一旦輸入電壓得到了穩壓，下一步便是將48V轉換為1V。

在需要為1V負載供電的情況下，最佳變壓比為48:1。在這種情況下，穩壓器將輸入電壓降壓或升壓到48V輸出，再由變壓器將電壓從48降至1V。降壓變壓器以相同的比率加大電流，因此變壓器組件也可以稱(chēng)為電流倍增器。在這種情況下，1 安培的輸入電流將倍增至48安培的輸出電流。為了最大限度地減少大電流輸出的PDN損耗，電流倍增器必須小巧，以便盡可能靠近負載放置。

PRM穩壓器和VTMMCM模塊化電流倍增器結合在一起，構成Vicor分比式電源架構。這兩個(gè)器件相互合作，各司其職，實(shí)現完整的DC-DC轉換功能。

PRM通過(guò)調制未穩壓的輸入電源提供穩壓輸出電壓，即“分比式母線(xiàn)電壓”。該母線(xiàn)供電給VTM，由VTM將分比式母線(xiàn)電壓轉換為負載所需的電平。

與IBA不同，FPA 不通過(guò)串聯(lián)電感器從中間母線(xiàn)電壓降壓至PoL. FPA不通過(guò)降低中間母線(xiàn)電壓來(lái)平均電壓，而是使用電流增益為1:48或更高的高壓穩壓和電流倍增器模塊，以提供更高的效率、更小的尺寸、更快的響應和1000安培及以上的可擴展性(圖2)。

圖2 分比式電源架構可以提供超過(guò)1000安培的大電流，并使供電網(wǎng)絡(luò )的電阻降低到1/20

3   垂直放置Pol轉換器減少功耗耗散

在前幾代大電流生成式人工智能處理器電源架構中，PoL轉換器被放在處理器復合體的橫向(旁邊)位置。由于銅的電阻率和PCB上的走線(xiàn)長(cháng)度，橫向放置的PoL供電網(wǎng)絡(luò )(PDN)的集總阻抗相當高，可能達到200uQ2或更高。隨著(zhù)生成式人工智能訓練處理器的連續電流需求增加到1000安培，這意味著(zhù)PCB本身就會(huì )消耗掉200瓦的功率?？紤]到在A(yíng)I超級計算機中用于大型語(yǔ)言模型訓練的加速器模塊(AM)多達數千個(gè)，而且幾乎從不斷電，通常會(huì )持續運行10 年或更長(cháng)時(shí)間，這200瓦的功率損耗在整體上變得非常龐大。

認識到這種能源浪費后，AI 計算機設計師已經(jīng)開(kāi)始評估采用垂直供電(VPD)結構，將PoL轉換器直接放置在處理器復合體的下方。在垂直供電網(wǎng)絡(luò )中，集總阻抗可能降至10 μ2或更低，這意味著(zhù)在內核電壓域1000安培的連續電流下，只會(huì )消耗10瓦的功率。也就是說(shuō)，通過(guò)將PoL轉換器從橫向放置改為縱向放置，PCB的功耗減少了200- 10= 190瓦(W_PCB) (圖3)。

圖3 生成式人工智能加速模塊從橫向(頂部)供電改為縱向(背部)供電，可將PDN損耗降低至1/20

V_PD的另-一個(gè)優(yōu)點(diǎn)是降低了GPU芯片表面電壓梯度，這也有助于節省電力。如前所述，典型的4納米CMOS GPU的標稱(chēng)工作電壓為0.65V_DD使用橫向供電時(shí)，將電源提供給處理器復合體的四邊，由于集成電路的配電阻抗較高(通常使用電阻率高于銅的鋁導體)，壓達到標稱(chēng)值0.65 V。而采用縱向供電時(shí)，可以確保整個(gè)芯片表面的電壓為0.65 V。0.70 -0.65=50 mV，這個(gè)差值乘以1000安培，可額外節省50瓦( WV_DD)的功率。在本例中，節省的總功率為190 W_PCB+50 WV_DD= 240瓦(圖4)。

圖4 使用VPD時(shí)，處理器芯片的表面電壓均勻，有助于最大限度地提高計算性能，同時(shí)最小化功率損耗

根據未來(lái)幾年公共領(lǐng)域對加速器模塊(AM)需求的預測(2024年超過(guò)250萬(wàn)件)，以及對電力成本的合理估計(每兆瓦時(shí)75美元)，每個(gè)AM節省240W省,相當于每年節約數十億美元的電力運營(yíng)成本，而且省,相當于每年節約數十億美元的電力運營(yíng)成本，而且根據可再生能源的使用比例，每年還能永久性地減少數百萬(wàn)噸的二氧化碳排放。

4   遏制失控的生成式人工智能功耗

Vicor正引領(lǐng)生成式人工智能供電技術(shù)的創(chuàng )新浪潮。他們提供的分比式負載點(diǎn)轉換器解決方案有助于提升生成式人工智能處理器的功效，使生成式人工智能的功耗與社會(huì )層面的環(huán)境保護和節能目標相一致。

Vicor持續推動(dòng)電源架構的創(chuàng )新，并開(kāi)發(fā)先進(jìn)的新產(chǎn)品，致力于解決生成式人工智能模型訓練帶來(lái)的功耗增加問(wèn)題。通過(guò)采用先進(jìn)的分比式電流倍增器方法進(jìn)行負載點(diǎn)DC-DC轉換，就可以充分發(fā)揮生成式人工智能優(yōu)勢，同時(shí)有效控制全球范圍內的能源消耗。

（本文來(lái)源于《EEPW》202407）