亞馬遜宣布推出新的AI芯片，加深與Nvidia的合作關(guān)系

亞馬遜網(wǎng)絡(luò )服務(wù)（Amazon Web Services，AWS）宣布推出Trainium2芯片，用于訓練人工智能模型，并將提供對Nvidia最新一代H200 Tensor Core圖形處理單元的訪(fǎng)問(wèn)。

AWS將為客戶(hù)和Nvidia提供一個(gè)專(zhuān)用的計算集群。 目前，AWS客戶(hù)可以開(kāi)始測試新的通用Graviton4芯片。

亞馬遜AWS云部門(mén)宣布推出新的芯片，供客戶(hù)構建和運行人工智能應用程序，并計劃提供對Nvidia最新芯片的訪(fǎng)問(wèn)。

亞馬遜網(wǎng)絡(luò )服務(wù)正努力成為一家提供各種經(jīng)濟實(shí)惠選擇的云服務(wù)提供商。然而，它不僅僅銷(xiāo)售便宜的亞馬遜品牌產(chǎn)品。與其在線(xiàn)零售市場(chǎng)一樣，亞馬遜的云服務(wù)將包括其他供應商的頂級產(chǎn)品，包括來(lái)自頂級AI芯片制造商Nvidia的備受追捧的GPU。

自從初創(chuàng )公司OpenAI去年推出其ChatGPT聊天機器人以來(lái)，對Nvidia GPU的需求飆升，該機器人以其總結信息和生成類(lèi)似人類(lèi)文本的能力而讓人印象深刻。這導致Nvidia芯片供不應求，因為公司爭相將類(lèi)似的生成式AI技術(shù)納入其產(chǎn)品中。

亞馬遜采用了建設自己的芯片和讓客戶(hù)訪(fǎng)問(wèn)Nvidia最新芯片的雙管齊下策略，可能有助于對抗其最大的云計算競爭對手微軟。本月早些時(shí)候，微軟采取了類(lèi)似的方式，推出了其首個(gè)AI芯片Maia 100，并表示Azure云將配備N(xiāo)vidia H200 GPU。

這些公告是在拉斯維加斯的Reinvent大會(huì )上宣布的。具體而言，AWS表示將提供對Nvidia最新的H200人工智能圖形處理單元的訪(fǎng)問(wèn)。它還宣布了新的Trainium2人工智能芯片和通用Graviton4處理器。

新的Nvidia GPU是H100的升級版，而H100芯片是OpenAI用來(lái)訓練其最先進(jìn)的大型語(yǔ)言模型GPT-4的芯片。各大公司、初創(chuàng )公司和政府機構都在爭奪這些芯片的有限供應，這意味著(zhù)有很高的需求從云服務(wù)提供商如亞馬遜租用它們。Nvidia表示，H200將生成輸出速度幾乎是H100的兩倍。

亞馬遜自家的Trainium2芯片專(zhuān)為訓練人工智能模型而構建，包括像OpenAI的ChatGPT及其競爭對手運行的那種AI聊天機器人。初創(chuàng )公司Databricks和亞馬遜支持的Anthropic（OpenAI的競爭對手）計劃使用新的Trainium2芯片構建模型，其性能將比原始模型提高四倍，亞馬遜表示。

Graviton4處理器基于A(yíng)rm架構，比Intel或AMD的芯片消耗更少的能源。Graviton4承諾比現有的Graviton3芯片性能提高30%，實(shí)現AWS所說(shuō)的更高性?xún)r(jià)比的輸出。通貨膨脹一直高于平時(shí)，激發(fā)了央行加息的沖動(dòng)。希望在繼續使用AWS的同時(shí)降低云服務(wù)費用以更好地應對經(jīng)濟的組織，可能希望考慮轉向Graviton。

亞馬遜表示，已有超過(guò)50,000名AWS客戶(hù)正在使用Graviton芯片。

最后，作為與Nvidia合作加深的一部分，AWS表示將運營(yíng)超過(guò)16,000個(gè)Nvidia GH200 Grace Hopper Superchips，其中包含Nvidia GPU和Nvidia的基于A(yíng)rm的通用處理器。Nvidia自己的研發(fā)團隊和AWS客戶(hù)都將能夠利用這一基礎設施。

自2006年發(fā)布EC2和S3服務(wù)以來(lái)，AWS推出了200多種云產(chǎn)品。其中并非所有都取得了成功。有些長(cháng)時(shí)間沒(méi)有更新，極少數被停止，使亞馬遜能夠重新分配資源。然而，該公司繼續投資于Graviton和Trainium計劃，表明亞馬遜感覺(jué)到了需求。

AWS并未宣布帶有Nvidia H200芯片的虛擬機實(shí)例或依賴(lài)其Trainium2硅片的實(shí)例的發(fā)布日期。在未來(lái)幾個(gè)月內，客戶(hù)可以開(kāi)始測試Graviton4虛擬機實(shí)例，然后這些實(shí)例將商業(yè)化。