調查:大量用戶(hù)正計劃由英偉達平臺轉向AMD MI300X!
3月10日消息,根據TensorWave最近公布的一項調查數據顯示,大量人工智能專(zhuān)業(yè)人士正計劃從英偉達的AI GPU平臺轉向采用AMD最新的Instinct MI300X GPU。
TensorWave 聯(lián)合創(chuàng )始人 Jeff Tatarchuk 近日通過(guò)X平臺透露,他們進(jìn)行了一項獨立調查,涵蓋 82 名工程師和人工智能專(zhuān)業(yè)人士,其中約有 50% 的受訪(fǎng)者表示他們對 AMD Instinct MI300X GPU 充滿(mǎn)信心,因為相比于英偉達的 H100 系列產(chǎn)品,MI300X 不僅擁有更出色的性?xún)r(jià)比,而且供應充足,避免了遇到貨源緊張的問(wèn)題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。
顯然,這對于 AMD 來(lái)說(shuō)無(wú)疑是個(gè)好消息。因為以往其 Instinct 系列產(chǎn)品相比英偉達的競品,不僅性能要低一些,市場(chǎng)認可度也相對較低,這也導致其在A(yíng)I芯片市場(chǎng)的份額遠低于英偉達。但是,AMD去年推出的最新的Instinct MI300X GPU在性能上成功超越了英偉達明星產(chǎn)品H100。
根據資料顯示,AMD Instinct MI300X 內部集成了12個(gè)5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個(gè)晶體管。在內核設計上,采用了相比MI250X更簡(jiǎn)單的設計,放棄了 APU 的 24 個(gè)Zen4內核和 I/O 芯片,取而代之的是CDNA 3 GPU內核架構,擁有304個(gè)計算單元(每個(gè)GPU小芯片擁有38個(gè)CU),19456個(gè)流處理器。在內存帶寬方面,MI300X也配備了更大的 192GB HBM3內存(8個(gè)HBM3封裝,每個(gè)堆棧為12 Hi)相比MI250X提高了50%,帶來(lái)高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達即將推出的H200 AI加速器也只有141 GB的容量。
具體來(lái)說(shuō),與英偉達 H100 相比,MI300X 擁有以下優(yōu)勢:
內存容量高出 2.4 倍
內存帶寬高出 1.6 倍
FP8 性能 (TFLOPS) 高出 1.3 倍
FP16 性能 (TFLOPS) 高出 1.3 倍
在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 20%
在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (FlashAttention 2) 最多 20%
在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 40%
在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Bloom 176B) 最多 60%
從參數上來(lái)看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達目前的主力產(chǎn)品H100擁有一定的優(yōu)勢,再加上英偉達目前仍然存在供應不足以及價(jià)格高昂等方面的問(wèn)題,這也使得AMD有了更多的機會(huì )。
AMD CEO蘇姿豐在1月30日的電話(huà)會(huì )議上預測稱(chēng),2024年AMD的AI芯片營(yíng)收將達35億美元,高于先前預測的20億美元。另外,去年四季度的AI芯片營(yíng)收也超越此前預測的4億美元,但她并未披露確切的數字。
不過(guò),需要指出的是,目前英偉達在A(yíng)I芯片市場(chǎng)占據了超過(guò)了90%的市場(chǎng)份額,居于壟斷地位,這也使得AMD在與其競爭過(guò)程中可能會(huì )受到其市場(chǎng)地位的壓制。
上個(gè)月推出的面向云端大模型的全新推理芯片與英偉達(NVIDIA)競爭的美國人工智能初創(chuàng )公司——Groq的CEO Jonathan Ross近日在接受《華爾街日報》采訪(fǎng)時(shí)就控訴英偉達阻礙公平競爭。Jonathan Ross表示,曾有其他芯片供應商客戶(hù)對其透露,如果英偉達問(wèn)起這件事,他們會(huì )否認與Groq談過(guò)話(huà),因為怕遭到報復。
“我們見(jiàn)過(guò)的很多人都說(shuō),倘若雙方見(jiàn)面的消息傳到英偉達耳里,他們會(huì )打死不認?!薄皢?wèn)題在于,你必須提前一年付款給英偉達,但產(chǎn)品交期或許是一年、或許要更久。他們會(huì )說(shuō),‘哎呀,你跟別人買(mǎi)了,那我猜交貨時(shí)間可能要晚點(diǎn)了?!?Jonathan Ross說(shuō)道。
雖然英偉達否認此事,隨后AMD前資深副總裁兼圖形業(yè)務(wù)部總經(jīng)理Scott Herkleman也指控英偉達的商業(yè)行為和壟斷集團卡特爾(Cartel)行為相似,并稱(chēng)其為“GPU卡特爾”,暗示英偉達在A(yíng)I芯片市場(chǎng)上的霸主地位或許不是偶然。Herkleman認為,英偉達限制GPU供應,通過(guò)讓客戶(hù)害怕使用競爭對手GPU,以維持產(chǎn)業(yè)主導地位。
編輯:芯智訊-浪客劍
*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。