Arm的使命是助力應對AI無(wú)止盡的能源需求

人工智能 (AI) 具有超越過(guò)去一個(gè)世紀所發(fā)生的所有變革性創(chuàng )新的潛力，它在醫療保健、生產(chǎn)力、教育等領(lǐng)域為社會(huì )帶來(lái)的益處將超乎我們的想象。為了運行這些復雜的 AI 工作負載，全球數據中心所需的計算量需要以指數級規模進(jìn)行擴展。然而，這種對計算無(wú)止盡的需求也揭示了一個(gè)嚴峻的挑戰：數據中心需要龐大的電力來(lái)驅動(dòng)AI這一突破性技術(shù)。

當今的數據中心已經(jīng)消耗了大量的電力——全球每年需要 460 太瓦時(shí) (TWh) 電力進(jìn)行支持，這個(gè)數字等同于整個(gè)德國的用電量。而 AI 的興起預計將在 2030 年把該數字提高三倍，意味著(zhù)將超過(guò)印度這一世界上人口最多國家的總耗電量。

未來(lái)的 AI 模型將持續變得更大、更智能，在帶動(dòng)對更多計算能力的需求的同時(shí)，對電力的需求也會(huì )增加，從而成為良性循環(huán)的一部分。而找到降低這些大型數據中心電力需求的方法對于實(shí)現社會(huì )性突破和兌現 AI 的承諾至關(guān)重要。

換言之，沒(méi)有電力就無(wú)法實(shí)現AI，企業(yè)需要重新思考如何應對能效問(wèn)題的方方面面。

重新構思AI的未來(lái)——一個(gè)由Arm平臺驅動(dòng)的未來(lái)

Arm 最初的產(chǎn)品就是為使用電池的設備而設計的，并推動(dòng)了移動(dòng)電話(huà)的變革。因此，深植于 Arm 的能效 DNA能使業(yè)界重新思考應如何構建芯片來(lái)滿(mǎn)足 AI 日益增長(cháng)的需求。

在典型的服務(wù)器機架中，僅計算芯片就可以消耗超過(guò) 50% 的電力預算。工程團隊正在尋找各種可以降低該數字的方法，每一瓦特的減少都至關(guān)重要。

正因為此，全球最大的AI頭部云服務(wù)提供商們轉而采用 Arm 技術(shù)來(lái)降低功耗。與同行業(yè)中的其他產(chǎn)品相比，Arm 最新的 Arm Neoverse CPU 是面向云數據中心，性能最高、最節能的處理器。Neoverse為頭部云服務(wù)提供商提供了定制芯片的靈活性，以?xún)?yōu)化其苛刻的工作負載，同時(shí)提供領(lǐng)先的性能和能效。每一瓦特的節省都可以用來(lái)實(shí)現更多的計算。這也正是為什么亞馬遜云服務(wù)(AWS)、微軟、Google 和甲骨文(Oracle)現在都通過(guò)Neoverse技術(shù)，處理其通用計算和基于CPU的AI推理和訓練。Neoverse 平臺正在成為云數據中心領(lǐng)域的事實(shí)標準。

從近期的行業(yè)內的發(fā)布來(lái)看：

●   基于A(yíng)rm架構的AWS Graviton：與其他同行業(yè)產(chǎn)品相比，Amazon Sagemaker的AI推理性能提高了25%，Web應用程序提高了30%，數據庫提高了40%，效率則提升了60%。

●   基于A(yíng)rm架構的Google Cloud Axion：與傳統架構相比，其性能和能效分別提高了 50% 和 60%，可為基于 CPU 的 AI 推理和訓練、YouTube、Google 地球等服務(wù)提供支持。

●   基于A(yíng)rm架構的Microsoft Azure Cobalt：性能高出同類(lèi)產(chǎn)品 40%，并為 Microsoft Teams 等服務(wù)提供支持，與 Maia 加速器的耦合驅動(dòng) Azure 的端到端 AI 架構。

●   Oracle Cloud采用基于A(yíng)rm架構的Ampere Altra Max：與傳統同類(lèi)產(chǎn)品相比，每機架服務(wù)器的性能提高 2.5 倍，能耗降低 2.8 倍，并用于生成式 AI 推理模型，諸如摘要、大語(yǔ)言模型訓練的數據的標記化，以及批量推理用例。

顯然，Neoverse極大地提升了云端通用計算的性能和能效。此外，合作伙伴也發(fā)現在加速計算方面，Neoverse 也能帶來(lái)同樣的益處。大規模AI訓練需要獨特的加速計算架構，例如，NVIDIA Grace Blackwell平臺(GB200)結合了NVIDIA的Blackwell GPU架構與基于A(yíng)rm架構的Grace CPU。這種基于A(yíng)rm技術(shù)的計算架構可實(shí)現系統級設計優(yōu)化，與面向大語(yǔ)言模型的NVIDIA H100 GPU相比，可帶來(lái)25倍的能耗降低，并將每個(gè)GPU的性能提高30倍。這些優(yōu)化能夠帶來(lái)顛覆性的性能和節能效果，而這一切都得益于Neoverse所帶來(lái)的前所未有的芯片定制靈活性。

隨著(zhù)基于A(yíng)rm 架構的部署持續擴大，這些企業(yè)將可以節省高達15%的數據中心總能耗。這些巨幅的節省可以用來(lái)在相同的功率范圍內驅動(dòng)額外的 AI 運算，而不會(huì )增加能源負擔。換言之，這些節能相當于可以額外運行 20 億次 ChatGPT 查詢(xún)，驅動(dòng)四分之一的日常網(wǎng)絡(luò )搜索流量，為 20% 的美國家庭提供照明，或為與哥斯達黎加面積相仿的國家進(jìn)行供電。這對改善能源消耗和環(huán)境可持續性產(chǎn)生了驚人的影響。

Arm CPU正在從根本上推動(dòng)AI變革，并造福地球。Arm架構是未來(lái)AI計算的基石。