英特爾Gaudi 3價(jià)格曝光:對華特供版或僅為英偉達H20的一半!

6月7日消息,雖然目前在A(yíng)I加速芯片市場(chǎng),英偉達可謂是一家獨大,占據了大約超過(guò)90%的市場(chǎng)份額,但是英偉達AI加速芯片的供應瓶頸和高昂的價(jià)格也讓不少客戶(hù)頗有微詞。
對此,AMD和英特爾也在持續推出更具性?xún)r(jià)比AI加速芯片來(lái)爭奪市場(chǎng)份額。根據最新披露的數據顯示,英特爾新推出的 Gaudi 3 的價(jià)格僅為15,650美元左右,只有英偉達H100 80G版本價(jià)格的一半左右。
資料顯示,Gaudi 3將基于臺積電5nm工藝,擁有 8 個(gè)矩陣數學(xué)引擎、64 個(gè)張量?jì)群恕?6MB SRAM(每個(gè)Tile 48MB,可提供12.8 TB/s的總帶寬) 和 128 GB HBM2e 內存,16 個(gè) PCIe 5.0 通道和 24 個(gè) 200GbE 鏈路 。在計算核心的周?chē)?,則是八個(gè)HBM2e內存堆棧,總容量為128 GB,帶寬為3.7 TBps。
根據英特爾官方公布的數據顯示,Gaudi 3 在流行的大語(yǔ)言模型(LLM)訓練速度方面,比英偉達H100平均快了40%;在流行大模型的推理能效表現上,比如英偉達H100領(lǐng)先50%。英特爾 Gaudi 3 與英偉達 H100 在相同節點(diǎn)數量下,相關(guān)大模型訓練時(shí)間對比上最高快了1.7倍,其中,LLAMA2 70 億參數對比有 1.5 倍于 H100 的優(yōu)勢,LLAMA2 130 億參數最高有 1.7 倍的優(yōu)勢,GPT-3 1750 億參數有 1.4 倍優(yōu)勢。在大模型推理速度表現上,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍。

英特爾CEO帕特·基辛格在Computex 2024展會(huì )上表示,其Xeon處理器與Gaudi系列加速器不僅具備高效能,整體成本低于其他平臺的三分之一,這兩款產(chǎn)品也可以整合在單一系統中,整體平臺也比其他競爭者的解決方案更具競爭力。
目前,英特爾Gaudi 3已經(jīng)上市,并且與戴爾、慧與科技、聯(lián)想、美超威、華碩、鴻海、技嘉、英業(yè)達、廣達和緯創(chuàng )展開(kāi)合作。
根據Tirias Research 分析師 Jim McGregor 最新公布的數據顯示,英特爾集成了8個(gè)Gaudi 2 芯片的加速器售價(jià)為 65,000 美元,集成了8個(gè)Gaudi 3 芯片的加速器售價(jià)為 125,000 美元。這也意味著(zhù)單個(gè) Gaudi 2 芯片價(jià)格約為 8,125 美元,而單個(gè) Gaudi 3 芯片價(jià)格約為 15,650 美元。當然,這是批量購買(mǎi)時(shí)的價(jià)格,如果采購量更大,英特爾可能還會(huì )進(jìn)一步提供折扣。
對比之下,英偉達當前熱銷(xiāo)的 H100 80GB 加速卡售價(jià)約為 30,000 美元。匯豐銀行預計,基于 Blackwell 架構的英偉達“入門(mén)級”下一代 B100 GPU 的平均售價(jià) (ASP) 將在 30,000 美元至 35,000 美元之間,與當前的 H100 價(jià)格相當(B100上市后,H100會(huì )進(jìn)一步降價(jià))。性能更強大的 GB200 則集成了一個(gè) Grace CPU 和兩個(gè) B200 GPU,預計售價(jià)在 60,000 美元至 70,000 美元之間。但是,需要注意的是,這些只是分析師的估計,實(shí)際價(jià)格可能會(huì )更高。
顯然,英特爾最新的 Gaudi 3 不僅性能優(yōu)于英偉達H100 80G,價(jià)格更是僅只有其一半左右,這個(gè)價(jià)格顯然還是非常有吸引力的。
如果與英偉達對華特供的AI加速芯片H20,以及華為的昇騰910B相比,英特爾Gaudi 3 則更具性?xún)r(jià)比優(yōu)勢。
此前的消息顯示,AI算力只有英偉達H100不到15%的H20的批量?jì)r(jià)格已經(jīng)降至了10萬(wàn)元人民幣左右(約13,800美元),而華為昇騰910B售價(jià)約在12萬(wàn)元人民幣(約合16,556美元)左右。
當然由于美國出口限制的存在,英特爾Gaudi 3 也無(wú)法直接對華銷(xiāo)售。不過(guò),根據之前曝光的消息,英特爾也準備對華推出“特供版”的Gaudi 3,AI性能似乎只有原版的Gaudi 3的不到10%,不過(guò)即便如此應該還是要優(yōu)于英偉達H20,畢竟英特爾Gaudi 3的128GB HBM內存容量更大(英偉達H20 HBM容量為96 GB)。
對于A(yíng)I芯片來(lái)說(shuō),AI算力固然重要,但絕不能小看更大HBM容量所帶來(lái)的優(yōu)勢。此前的分析數據顯示,擁有更大HBM容量的英偉達H20在多數大模型推理場(chǎng)景中的速度表現比英偉達H100更優(yōu)異。
據此不難推測,擁有更大HBM容量的英特爾對華特供版Gaudi 3 整體的性能表現要更優(yōu)于英偉達H20,并且特供版的Gaudi 3 價(jià)格預計也將會(huì )更低。參考英偉達H20的定價(jià),其價(jià)格大約僅為H100的一半,如果對華特供版Gaudi 3 也只有原版的一半,那么價(jià)格大約為7825美元,僅為英偉達H20最初價(jià)格(約15,000美元)的一半左右。
不過(guò),以上對于特供版Gaudi 3 價(jià)格只是推測,畢竟目前還沒(méi)在國內上市,但可以確定的是定價(jià)必定會(huì )比英偉達H20更低,這意味著(zhù)英偉達H20接下來(lái)不僅將面臨昇騰910B的競爭,也將面臨英特爾對華特供版Gaudi 3 的強力競爭,可謂是“壓力山大”。
編輯:芯智訊-浪客劍
*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。