亞馬遜云科技與英偉達擴展合作 持續推進(jìn)生成式AI創(chuàng )新

亞馬遜云科技將提供基于NVIDIA Grace Blackwell GPU的Amazon EC2實(shí)例和NVIDIA DGX Cloud，以加速構建及運行數萬(wàn)億參數的規模大型語(yǔ)言模型的性能

Amazon Nitro系統、Elastic Fabric Adapter加密，以及與Blackwell加密集成的Amazon KMS密鑰管理服務(wù)，為客戶(hù)提供從訓練數據到模型權重的端到端控制，為客戶(hù)在亞馬遜云科技上的AI應用提供更強的安全保障

“Ceiba項目”——一臺完全依托亞馬遜云科技搭建、采用DGX Cloud的AI超級計算機，搭載了20,736顆GB200 Superchips芯片，能夠提供414 exaflops的處理能力，專(zhuān)為NVIDIA自身的AI研發(fā)工作設計

Amazon SageMaker與NVIDIA NIM推理微服務(wù)集成，以幫助客戶(hù)進(jìn)一步優(yōu)化在GPU上運行基礎模型的性?xún)r(jià)比

亞馬遜云科技與英偉達之間的合作加速了在醫療保健和生命科學(xué)領(lǐng)域的AI創(chuàng )新

北京——2024年3月20日，亞馬遜云科技和英偉達宣布，英偉達在2024年GTC大會(huì )上推出的新一代NVIDIA Blackwell GPU平臺即將登陸亞馬遜云科技。亞馬遜云科技將提供NVIDIA GB200 Grace Blackwell Superchip和 B100 Tensor Core GPU，這一舉措延續了雙方長(cháng)期的戰略合作伙伴關(guān)系，旨在為客戶(hù)提供安全、先進(jìn)的基礎設施、軟件及服務(wù)，助力客戶(hù)開(kāi)啟新一代生成式AI的能力。

英偉達與亞馬遜云科技繼續匯聚各自的領(lǐng)先技術(shù)，包括具備英偉達最新多節點(diǎn)系統的下一代NVIDIA Blackwell平臺和AI軟件，以及亞馬遜云科技的Nitro系統、具備領(lǐng)先安全性的Amazon KMS密鑰管理服務(wù)、千萬(wàn)億比特級的Elastic Fabric Adapter（EFA）網(wǎng)絡(luò )和Amazon EC2 UltraCluster超大規模集群等技術(shù)?；谏鲜黾夹g(shù)打造的基礎設施和工具，使客戶(hù)能夠在A(yíng)mazon EC2上以更快速度、更大規模、更低成本地對其構建和運行數萬(wàn)億參數的大型語(yǔ)言模型（LLMs）進(jìn)行實(shí)時(shí)推理，性能相較于配備前一代英偉達GPU的EC2實(shí)例有顯著(zhù)改進(jìn)。

亞馬遜云科技首席執行官Adam Selipsky表示：“我們雙方的深入合作可以追溯到13年前，當時(shí)我們共同推出了世界上第一個(gè)亞馬遜云科技上的GPU云實(shí)例，而今天我們?yōu)榭蛻?hù)提供了最廣泛的英偉達GPU解決方案。英偉達的下一代Grace Blackwell處理器是生成式AI和GPU計算領(lǐng)域的標志性事件。當結合亞馬遜云科技強大的EFA網(wǎng)絡(luò )、Amazon EC2 UltraClusters的超大規模集群功能，以及我們獨有的Amazon Nitro高級虛擬化系統及其安全功能時(shí)，我們就能夠使客戶(hù)更快、更大規模且更安全地構建和運行具有數萬(wàn)億參數的大型語(yǔ)言模型?！?/p>

英偉達創(chuàng )始人兼首席執行官黃仁勛表示：“人工智能正在以前所未有的速度推動(dòng)新應用、新商業(yè)模式和跨行業(yè)的創(chuàng )新。我們與亞馬遜云科技的合作正在加速新的生成式AI能力的發(fā)展，并為客戶(hù)提供前所未有的計算能力，以開(kāi)創(chuàng )無(wú)限可能?！?/p>

亞馬遜云科技與英偉達的新合作將顯著(zhù)加快超萬(wàn)億參數前沿大型語(yǔ)言模型的訓練

亞馬遜云科技將提供配置GB200 NVL72的英偉達Blackwell平臺，它配備72顆Blackwell GPU和36顆Grace CPU，通過(guò)第五代NVIDIA NVLink?互連。當與亞馬遜云科技強大的EFA網(wǎng)絡(luò )、Amazon Nitro高級虛擬化系統和Amazon EC2 UltraClusters超大規模集群等技術(shù)結合時(shí)，客戶(hù)能夠輕松擴展至數千個(gè)GB200 Superchips。英偉達Blackwell在亞馬遜云科技上的應用，使得該平臺在應對資源密集型和數萬(wàn)億參數語(yǔ)言模型等推理工作負載加速方面實(shí)現了巨大飛躍。

基于此前搭載英偉達H100的Amazon EC2 P5實(shí)例的成功（客戶(hù)短期使用這些實(shí)例可通過(guò)Amazon EC2 Capacity Blocks for ML功能），亞馬遜云科技計劃提供配備B100 GPUs新的Amazon EC2實(shí)例，并支持在A(yíng)mazon EC2 UltraClusters中部署以加速超大規模生成式AI的訓練和推理。GB200也將在NVIDIA DGX? Cloud上可用，這是一個(gè)在亞馬遜云科技上雙方共同開(kāi)發(fā)的AI平臺，為企業(yè)開(kāi)發(fā)者提供了構建和部署先進(jìn)生成式AI模型所需的專(zhuān)用基礎設施和軟件。在亞馬遜云科技上推出的基于Blackwell的DGX Cloud實(shí)例將加速前沿生成式AI和超過(guò)1萬(wàn)億參數的大語(yǔ)言模型的開(kāi)發(fā)。

提升AI安全性：亞馬遜云科技Nitro系統、Amazon KMS、EFA加密與Blackwell加密技術(shù)緊密集成

隨著(zhù)AI技術(shù)應用越來(lái)越廣泛，企業(yè)需要確信，在整個(gè)訓練流程中，他們的數據都得到了安全的處理。保護模型權重的安全至關(guān)重要，模型權重是模型在訓練過(guò)程中學(xué)習到的參數，對于模型做出預測的能力至關(guān)重要。確保模型權重的安全對保護客戶(hù)的知識產(chǎn)權、防止模型被篡改以及維護模型的完整性都是非常重要的。

亞馬遜云科技的AI基礎設施和服務(wù)已經(jīng)實(shí)現了安全特性，使客戶(hù)能夠控制其數據，并確保數據不會(huì )與第三方模型提供者共享。Amazon Nitro系統和英偉達GB200的結合將能夠阻止未授權個(gè)體訪(fǎng)問(wèn)模型權重，從而把AI安全性提升到新的高度，。GB200支持對GPU之間NVLink連接進(jìn)行物理加密，以及對Grace CPU到Blackwell GPU的數據傳輸進(jìn)行加密，同時(shí)EFA也能夠對服務(wù)器之間的分布式訓練和推理過(guò)程的數據進(jìn)行加密。GB200還將受益于A(yíng)mazon Nitro系統，該系統將主機CPU/GPU的I/O功能卸載至專(zhuān)門(mén)的硬件上，以提供更加一致的性能，其增強的安全性可以在客戶(hù)端和云端全程保護客戶(hù)的代碼和數據在處理過(guò)程中的安全。這一獨有的功能已經(jīng)獲得了領(lǐng)先的網(wǎng)絡(luò )安全公司 NCC Group 的獨立驗證。

通過(guò)在A(yíng)mazon EC2上使用GB200，亞馬遜云科技將使客戶(hù)能夠使用Amazon Nitro Enclaves和Amazon KMS，在其EC2實(shí)例旁創(chuàng )建一個(gè)可信執行環(huán)境。Amazon Nitro Enclaves允許客戶(hù)使用Amazon KMS控制下的密鑰來(lái)加密他們的訓練數據和權重。從GB200實(shí)例內部可以加載安全區（enclave），并且可以直接與GB200 Superchip通信。這使得Amazon KMS能夠以加密安全的方式直接與安全區通信，并直接傳遞密鑰材料。然后，安全區可以將該材料傳遞給GB200，這樣做能夠保護客戶(hù)實(shí)例中的數據，防止亞馬遜云科技操作人員訪(fǎng)問(wèn)密鑰或解密訓練數據或模型權重，從而賦予客戶(hù)對其數據的無(wú)與倫比的控制權。

“Ceiba項目”利用Blackwell在亞馬遜云科技上推動(dòng)英偉達未來(lái)生成式AI創(chuàng )新

在2023年亞馬遜云科技re:Invent大會(huì )上宣布的“Ceiba項目”，是英偉達與亞馬遜云科技合作建造的世界上最快的AI超級計算機之一。這臺專(zhuān)為英偉達自身的研究和開(kāi)發(fā)而設的超級計算機，獨家托管在亞馬遜云科技上。這臺首創(chuàng )的擁有20,736顆GB200 GPU的超級計算機，采用新型NVIDIA GB200 NVL72配置構建，其特有的第五代NVLink將連接10,368顆NVIDIA Grace CPU。系統通過(guò)亞馬遜云科技第四代EFA網(wǎng)絡(luò )進(jìn)行擴展，為每個(gè)Superchip提供高達800 Gbps的低延遲、高帶寬網(wǎng)絡(luò )吞吐量——能夠處理高達414 exaflops的AI計算量，與之前計劃在Hopper架構上構建Ceiba相比，性能提升了6倍。英偉達的研發(fā)團隊將利用Ceiba推進(jìn)大語(yǔ)言模型、圖形（圖像/視頻/3D生成）與仿真、數字生物學(xué)、機器人技術(shù)、自動(dòng)駕駛汽車(chē)、NVIDIA Earth-2氣候預測等領(lǐng)域的AI技術(shù)，以幫助英偉達推動(dòng)未來(lái)生成式AI的創(chuàng )新。

亞馬遜云科技與英偉達的合作推動(dòng)生成式人工智能應用開(kāi)發(fā)及醫療健康與生命科學(xué)領(lǐng)域的應用進(jìn)展。

亞馬遜云科技與英偉達聯(lián)手，通過(guò)Amazon SageMaker與NVIDIA NIM推理微服務(wù)的整合，提供了高性能、低成本的生成式AI推理解決方案，該服務(wù)作為NVIDIA AI企業(yè)版的一部分提供?？蛻?hù)可以利用這一組合在A(yíng)mazon SageMaker中快速部署和運行已預編譯且對NVIDIA GPU進(jìn)行優(yōu)化的基礎模型，縮短生成式AI應用的推出時(shí)間。

亞馬遜云科技與英偉達還在利用計算機輔助的藥物發(fā)現領(lǐng)域進(jìn)行合作拓展，推出了新的NVIDIA BioNeMo?基礎模型，用于生成化學(xué)、蛋白質(zhì)結構預測，以及理解藥物分子與目標的相互作用。這些新模型將很快在A(yíng)mazon HealthOmics上提供，這是一個(gè)專(zhuān)為幫助醫療保健和生命科學(xué)組織存儲、查詢(xún)和分析基因組、轉錄組及其他組學(xué)數據而設計的專(zhuān)用服務(wù)。

Amazon HealthOmics和英偉達醫療保健團隊還合作推出生成式AI微服務(wù)，以推進(jìn)藥物發(fā)現、醫療技術(shù)和數字健康領(lǐng)域的發(fā)展，該服務(wù)提供一個(gè)新的GPU加速的云端服務(wù)目錄，涵蓋生物學(xué)、化學(xué)、成像和醫療保健數據，以便醫療企業(yè)能夠在亞馬遜云科技上利用生成式AI的最新成果。

關(guān)于亞馬遜云科技

自2006年以來(lái)，亞馬遜云科技（Amazon Web Services）一直以技術(shù)創(chuàng )新、服務(wù)豐富、應用廣泛而享譽(yù)業(yè)界。亞馬遜云科技一直不斷擴展其服務(wù)組合以支持幾乎云上任意工作負載，目前提供超過(guò)240項全功能的服務(wù)，涵蓋計算、存儲、數據庫、網(wǎng)絡(luò )、數據分析、機器學(xué)習與人工智能、物聯(lián)網(wǎng)、移動(dòng)、安全、混合云、媒體，以及應用開(kāi)發(fā)、部署與管理等方面；基礎設施遍及33個(gè)地理區域的105個(gè)可用區，并已公布計劃在馬來(lái)西亞、墨西哥、新西蘭、沙特阿拉伯和泰國等新建6個(gè)區域、18個(gè)可用區。全球數百萬(wàn)客戶(hù)，包括發(fā)展迅速的初創(chuàng )公司、大型企業(yè)和領(lǐng)先的政府機構，都信賴(lài)亞馬遜云科技，通過(guò)亞馬遜云科技的服務(wù)支撐其基礎設施，提高敏捷性，降低成本。要了解更多關(guān)于亞馬遜云科技的信息，請訪(fǎng)問(wèn)：www.amazonaws.cn。