競爭加??！報道：亞馬遜勸說(shuō)云客戶(hù)遠離英偉達，改用自家芯片

與其他云服務(wù)提供商一樣，亞馬遜租用給開(kāi)發(fā)者和企業(yè)的服務(wù)器主要適用的是英偉達AI芯片。然而媒體報道，亞馬遜如今正試圖說(shuō)服這些客戶(hù)轉而使用由亞馬遜自研AI芯片驅動(dòng)的服務(wù)器。

The Information報道，亞馬遜芯片部門(mén)Annapurna的業(yè)務(wù)開(kāi)發(fā)負責人Gadi Hutt表示，包括蘋(píng)果、Databricks、Adobe和Anthropic在內的一些希望找到英偉達芯片替代方案的科技公司，已經(jīng)在測試亞馬遜最新的AI芯片，并取得了令人鼓舞的結果。

Hutt在亞馬遜AWS年度客戶(hù)大會(huì )表示：“去年，人們開(kāi)始意識到，‘嘿，亞馬遜在A(yíng)I芯片上的投資是認真的?！局?，更多人相信這是一個(gè)真實(shí)且持續的投入?！?/p>

分析認為，如果亞馬遜能夠將客戶(hù)支出轉移到其自研的服務(wù)器芯片上，由于這些芯片部分因為耗電量遠低于英偉達芯片而對云客戶(hù)更加便宜，這將提升亞馬遜的利潤率。此外，這也能阻止英偉達通過(guò)直接向企業(yè)出租其芯片服務(wù)器，搶占更多云市場(chǎng)份額。

英偉達在A(yíng)I芯片領(lǐng)域的主導地位一直難以撼動(dòng)，這部分歸因于其芯片比包括亞馬遜、微軟和谷歌在內的競爭對手生產(chǎn)的芯片更強大，同時(shí)，軟件開(kāi)發(fā)者習慣于使用英偉達專(zhuān)有的Cuda編程語(yǔ)言為其芯片編寫(xiě)軟件。

盡管如此，Hutt和其他亞馬遜高管本周表示，大客戶(hù)正在尋求更便宜的替代方案。AWS CEO Matt Garman表示，使用亞馬遜的AI芯片成本比英偉達的旗艦H100芯片低30%到40%，但能實(shí)現同等性能。

目前，亞馬遜已經(jīng)在開(kāi)發(fā)傳統服務(wù)器芯片方面建立了一定的影響力，并成功說(shuō)服客戶(hù)租用這些芯片。近年來(lái)，AWS客戶(hù)越來(lái)越多地使用亞馬遜的Graviton服務(wù)器芯片，而不是由英特爾和AMD提供芯片的服務(wù)器，因為Graviton通常性?xún)r(jià)比更高。

例如，企業(yè)軟件公司Databricks已經(jīng)成為Graviton的重要客戶(hù)，其高管Naveen Rao表示，計劃使用亞馬遜的新AI芯片以降低運行軟件的成本。

亞馬遜開(kāi)發(fā)芯片（包括AI芯片Trainium）的舉措是其更廣泛戰略的一部分，這一戰略旨在將計算的“基本構件”——從服務(wù)器到云軟件——轉變?yōu)榱畠r(jià)的通用商品。類(lèi)似地，亞馬遜CEO Andy Jassy本周宣布了一款由亞馬遜打造的新對話(huà)式AI模型，他表示，其性能與Anthropic和OpenAI的最新模型相當，但價(jià)格卻低了三倍以上。

Hutt還談到了公司的新Trainium芯片，以及AWS正在為Anthropic建造的一套超級計算服務(wù)器集群。Anthropic是OpenAI的競爭對手，也是AWS近年來(lái)營(yíng)收增長(cháng)的重要貢獻者之一，目前是AWS上最多使用英偉達服務(wù)器的客戶(hù)之一。

以下是媒體采訪(fǎng)Gadi Hutt的對話(huà)節選：

1. 使用Trainium2（亞馬遜芯片的最新版本），為什么你們要專(zhuān)注于把這款芯片賣(mài)給那些在英偉達芯片上花費巨大的公司？

Hutt：那些關(guān)注機器學(xué)習成本的客戶(hù)，通常是花費較大的客戶(hù)，包括蘋(píng)果、Adobe、Databricks等，還有一些資金充裕的初創(chuàng )公司，比如Poolside和Anthropic。

對他們來(lái)說(shuō)，關(guān)鍵指標是“每1美元能獲得多少性能”。還有許多其他客戶(hù)，我們稱(chēng)之為“長(cháng)期客戶(hù)”，他們有各種項目非常適合我們的芯片。但也許他們每月的花費只有1000美元，這種情況下不值得工程師投入時(shí)間去探索這種選項。

實(shí)際上，在Trainium2生命周期的這個(gè)階段，我并不尋求吸引上百萬(wàn)個(gè)客戶(hù)。就機器學(xué)習而言，我們還處于非常早期的階段。人們還在嘗試攻克通用人工智能（AGI）和各種各樣的想法，這個(gè)領(lǐng)域還在不斷演變。

我們不能從第一天起就支持所有的用例。如果客戶(hù)嘗試運行一些無(wú)法正常工作的東西，這會(huì )是一種非常糟糕的體驗。因此，我們專(zhuān)注于聽(tīng)取最大客戶(hù)的需求，“嘿，這是我們需要的”，而這往往是對整個(gè)市場(chǎng)未來(lái)需求的一個(gè)很好的預測。

2. Trainium2在明年的目標是什么？

Hutt：當我們部署大量芯片時(shí)，我們的目標是確保它們被充分利用。所以我們首先需要與這些大客戶(hù)合作，然后再擴展到我所說(shuō)的“長(cháng)期客戶(hù)”。對我們這些制造芯片的人來(lái)說(shuō)，成功的衡量標準是確保所有芯片都被充分利用。不管是10個(gè)客戶(hù)還是1000個(gè)客戶(hù)，數量是次要的。

這是場(chǎng)馬拉松，而不是短跑。隨著(zhù)時(shí)間的推移，我們希望看到越來(lái)越多的客戶(hù)。我不會(huì )在內部制定目標，規定要啟用多少客戶(hù)。我們更關(guān)注的是確保為客戶(hù)提供合適的工具和性能，采用率自然會(huì )隨之提高。

3. 為什么第一代Trainium芯片沒(méi)有成功推廣？第二代有什么不同？

Hutt：首先，這是我們的第一款訓練芯片。你可以看看Trainium1（2022年發(fā)布）與Graviton1（2019年發(fā)布）的對比，同樣的故事。Graviton1實(shí)際上是為了啟用整個(gè)生態(tài)系統，包括軟件生態(tài)系統，并確保我們?yōu)榭蛻?hù)構建了正確的產(chǎn)品。

Trainium1的客戶(hù)（包括亞馬遜內部的團隊）幫助我們強化了軟件，但工作仍未完成。在支持更多工作負載方面，我們還有很多工作要做。不過(guò)，現在我們可以說(shuō)，我們對Trainium2能夠支持的工作負載感到非常滿(mǎn)意，包括大型語(yǔ)言模型（LLM）、專(zhuān)家模型、多模態(tài)模型以及計算機視覺(jué)模型。

這需要時(shí)間，而且很復雜。如果很容易，更多人早就做到了。

4. AWS的客戶(hù)是否在考慮明年選擇租用Trainium2還是英偉達的Blackwell芯片？

Hutt：客戶(hù)喜歡有選擇的余地。我們的工作是確保我們的芯片即使與英偉達的最新芯片相比，也依然具有吸引力，目前確實(shí)如此。

順便說(shuō)一句，我們還沒(méi)有見(jiàn)到72芯片的Blackwell系統投入使用，但假設英偉達能夠交付，Trainium2依然會(huì )更具成本效益。

Trainium3（預計2025年底發(fā)布）的計算能力是Trainium2的四倍，因此客戶(hù)了解我們的發(fā)汗路線(xiàn)圖。他們有信心認為，這是一個(gè)值得投資的方向，否則他們不會(huì )選擇它。

5. 你認為英偉達GPU的需求是否會(huì )發(fā)生變化？

Hutt：有很多客戶(hù)想使用英偉達芯片，不愿了解Trainium芯片。如果你是小型GPU消費者，每次穩定使用10、20、30甚至100個(gè)GPU，沒(méi)有動(dòng)力去改變現狀。即使每月能省下幾千美元，你可能也更愿意讓工程師去做別的事情。

當客戶(hù)關(guān)心成本問(wèn)題時(shí)，通常是在他們開(kāi)始擴大規模時(shí)，但大規模的客戶(hù)并不多。所以對我們來(lái)說(shuō)，這些芯片是長(cháng)期投資，以確保我們?yōu)榭蛻?hù)提供選擇。如果客戶(hù)選擇使用它們很好，但如果不選擇，我們依然是運行GPU的最佳平臺。

我們的軟件成熟度會(huì )隨著(zhù)時(shí)間的推移而提高，希望屆時(shí)會(huì )有更多客戶(hù)選擇使用Trainium。但GPU對我們來(lái)說(shuō)也是一項好業(yè)務(wù)，我們在賣(mài)很多。所以，如果客戶(hù)希望我們?yōu)樗麄兲峁〨PU，我們會(huì )永遠這么做。

6. 使用Trainium芯片是否會(huì )提高AWS的利潤率？

Hutt：我們不會(huì )披露利潤率的具體情況，但我們在這些芯片上并沒(méi)有虧損。業(yè)務(wù)必須有存在的意義，否則我們不會(huì )在這里投資。

7. 客戶(hù)何時(shí)開(kāi)始對Trainium2感興趣？

Hutt：我記得與Poolside（一家AI編碼助手初創(chuàng )公司）的第一次會(huì )議。當我們向他們展示Trainium2的規格時(shí)，他們說(shuō)，“好吧，這正是我們需要的?！?/p>

8. Anthropic的超級計算機集群項目Rainier的耗電量是多少？

Hutt：我們沒(méi)有披露具體數據。但我可以告訴你，它比等效的GPU效率高50%。

9. 超級計算機何時(shí)能在A(yíng)nthropic投入使用？

Hutt：Rainier項目很快就會(huì )完成，我們已經(jīng)在建造中。他們可以逐步開(kāi)始使用部分集群，而不需要等到最后一顆芯片上線(xiàn)后再使用。隨著(zhù)集群擴展，他們可以逐步增加使用量。

10. Anthropic是否是唯一可以使用Rainier項目的公司？

Hutt：是的，僅供Anthropic使用。

我們正在建設更多的產(chǎn)能，以滿(mǎn)足其他客戶(hù)使用Trainium的需求。目前，短期內需求大于供應。所以第一季度將非常緊張，隨著(zhù)產(chǎn)能增加，情況會(huì )有所改善。