AI加速器對抗 AMD面對英偉達不落下風(fēng)
「買(mǎi)愈多、省愈多」的話(huà)語(yǔ)權輪到AMD發(fā)聲! 根據近期業(yè)者公布AI服務(wù)器測試結果顯示,MI300X在相同條件下,達到英偉達H200 5倍之Tokens(參數)吞吐量。 得益于AMD在ROCm生態(tài)系導入的新AI Tensor Engine(張量引擎),加速GPU訓練及推理; 另外,在硬件層面大量堆疊HBM也發(fā)揮關(guān)鍵作用。 未來(lái)在成本更加錙銖必較的情況下,AMD AI服務(wù)器更顯優(yōu)勢。
本文引用地址:http://dyxdggzs.com/article/202503/468708.htm平價(jià)語(yǔ)言模型的崛起,正在重塑GPU市場(chǎng)生態(tài),阿里巴巴首開(kāi)全球數據中心算力過(guò)剩第一槍?zhuān)瑯I(yè)界分析,未來(lái)成本更加被檢視情況下,AMD AI服務(wù)器價(jià)值將重獲市場(chǎng)重視。 過(guò)往英偉達自豪的CUDA生態(tài)護城河,AMD強化ROCm補齊短版,最新推出的AI Tensor Engine,搭配更佳的硬體規格,與主流業(yè)者一決雌雄。
法人分析,臺廠(chǎng)于A(yíng)I服務(wù)器供應鏈扮演重要角色,硬件組裝具競爭優(yōu)勢,因此包括鴻海、廣達,散熱業(yè)者奇鋐、雙鴻等也能吃到AMD服務(wù)器訂單。 晶片也委托臺積電生產(chǎn),但相較英偉達,AMD更敢于嘗試新技術(shù),MI300領(lǐng)先市場(chǎng)采用采用SoIC搭配CoWoS,今年將推出的MI350X以臺積電3納米制程打造,并用上HBM3E,更大的吞吐量、使推理性能將前一代提高35倍。
AMD之MI300X在DeepSeek-R1推理性能表現突出,結果顯示,MI300X運行FP8最高參數版本之DeepSeek-R1時(shí),在相同延遲下吞吐量最高可達輝達H200之5倍,科技業(yè)者指出,H200單一節點(diǎn)可處理16個(gè)請求、MI300X則可處理128個(gè)。
AMD原先預估今年上半年AI業(yè)務(wù)收入將持平,不過(guò),受中國大陸特規版MI308強勁需求推動(dòng),法人透露,CSP的資本支出成長(cháng)及阿里巴巴和騰訊的采用,將推動(dòng)AMD今年AI業(yè)務(wù)收入成長(cháng)至87億美元,相較去年50億美元、大幅成長(cháng)7成。 在消費性產(chǎn)品部分,Radeon 9070系列發(fā)布帶動(dòng),AMD游戲GPU預計表現強勁,該系列GPU在光追性能方面大幅提升,并引入全新的AI加速性能,第二季表現可期。
評論