傳字節已向英偉達下10億美元大單！AI服務(wù)器需求“爆表”

導讀：近日據鳳凰網(wǎng)消息，今年春節后，擁有云計算業(yè)務(wù)的中國各互聯(lián)網(wǎng)大公司都向英偉達下了大單，其中字節今年向英偉達訂購了超過(guò)10億美元的GPU，另一家大公司的訂單也至少超過(guò)10億元人民幣。

圖：英偉達H100加速卡

據一位接近英偉達的人士稱(chēng)，字節跳動(dòng)目前已經(jīng)到貨和沒(méi)到貨的A100與H800加速卡總計有10萬(wàn)塊。其中H800今年3月才開(kāi)始投產(chǎn)。據估計，僅字節跳動(dòng)一家公司今年的訂單可能已接近英偉達去年在中國銷(xiāo)售的商用GPU總和。

一名字節人士透露，字節在2020年6月GPT-3發(fā)布后曾借助V100計算卡訓練過(guò)一個(gè)數十億參數的生成式語(yǔ)言大模型，但由于參數規模有限，這個(gè)模型生成能力一般，字節當時(shí)看不到它的商業(yè)化可能性故不了了之。

另一位阿里云人士表示阿里也曾在2018-2019年積極采購GPU，當時(shí)采購量至少達到上萬(wàn)塊規模，包括V100和T4計算卡，其中約十分之一送到了達摩院用作AI技術(shù)研發(fā)，這也用在了2021年發(fā)布的萬(wàn)億參數大模型M6中。

圖：英偉達H100真身

消息人士提到，字節、阿里等大公司主要是和英偉達直接談采購，因為代理商和二手市場(chǎng)難以滿(mǎn)足其龐大需求，而英偉達會(huì )按目錄價(jià)，根據采購規模給出一定的折扣。

目前NVIDIA在售的加速卡至少有9款型號，其中用于A(yíng)I語(yǔ)言大模型訓練的4款高性能型號分別是V100、A800、A100及H100。

其中推出較早的V100加速卡至少10000美元，人民幣約合6.9萬(wàn)元，對中國市場(chǎng)“特供”的A800售價(jià)12000美元，人民幣8.3萬(wàn)元，A100售價(jià)在1.5萬(wàn)美元，人民幣至少10.35萬(wàn)元，現任“旗艦”H100加速卡官方售價(jià)3.65萬(wàn)美元，人民幣超過(guò)25.2萬(wàn)元。

同時(shí)，對AI的巨大需求也體現在云服務(wù)器代工供應鏈。

圖：搭載8組H100的計算陣列

近日，全球服務(wù)器電源和代工大廠(chǎng)臺達董事長(cháng)表示，各大廠(chǎng)進(jìn)入AI軍備競賽，初期急單很多，“Google、Meta和中國大陸的廠(chǎng)商都很急，下半年訂單一直進(jìn)來(lái)”，同時(shí)預計這波需求會(huì )在今年第4季到明年發(fā)酵。

另一家AI服務(wù)器代工大廠(chǎng)英業(yè)達預計，內建4或8顆GPU的AI伺服器產(chǎn)品明年起出貨量至少有兩位數增長(cháng)。

鴻海集團內負責AI服務(wù)器業(yè)務(wù)的鴻佰科技規劃新增五到六條生產(chǎn)線(xiàn)，以應對AI服務(wù)器客戶(hù)要求，除既有客戶(hù)微軟與亞馬遜之外，Meta、蘋(píng)果等大客戶(hù)也將加入今年出貨行列。