單價(jià)炒到4萬(wàn)美元！傳馬斯克已購入數千片英偉達H100

導讀：近日據CNBC報道，由于ChatGPT等語(yǔ)言模型火爆，英偉達最先進(jìn)的H100在eBay上的單片售價(jià)超過(guò)了4萬(wàn)美元，而此前零售商的售價(jià)約為3.6萬(wàn)美元。

圖：英偉達H100計算卡

H100是NVIDIA在2022年發(fā)布的旗艦AI芯片，取代了一直被稱(chēng)為AI應用“主力軍”的芯片A100，與A100相比，H100的能效提高了3.5倍，價(jià)格也從1萬(wàn)美元上漲到超過(guò)3萬(wàn)美元。

NVIDIA黃仁勛曾經(jīng)表示，20塊H100 GPU就可承托全球互聯(lián)網(wǎng)的流量。

芯片大師曾報道ChatGPT等火爆，英偉達增加A100等旗艦GPU投片，開(kāi)發(fā)人員正在使用H100來(lái)構建所謂的大型語(yǔ)言模型(LLMs)。

據報道，特斯拉CEO埃隆·馬斯克在美國內華達州成立了一家名為X.AI的人工智能公司，旨在與Open AI展開(kāi)競爭。據說(shuō)馬斯克為了新項目已經(jīng)從NVIDIA購買(mǎi)了數千顆高性能GPU。

圖：?jiǎn)蝺r(jià)被炒到4萬(wàn)美元的H100

3D游戲先驅、前Meta consulting技術(shù)主管約翰·卡馬克在Twitter上提到英偉達H100的漲價(jià)，上周五，至少有8個(gè)H100在eBay掛牌出售，價(jià)格從39995美元到46000美元不等。

而訓練一個(gè)AI語(yǔ)言模型，尤其是像GPT這樣的大型模型，需要數百個(gè)高端GPU協(xié)同工作。比如微軟就斥資數億美元購買(mǎi)了數萬(wàn)顆Nvidia A100芯片，幫助打造ChatGPT。

根據最近的爆料，為了創(chuàng )建和維持ChatGPT所需的人工智能分析數據的龐大數據庫，開(kāi)發(fā)商O(píng)penAI使用了10000個(gè)英偉達的GPU進(jìn)行相關(guān)的訓練。而為了支持實(shí)際應用，滿(mǎn)足服務(wù)器的需求，OpenAI已使用了約2.5萬(wàn)個(gè)英偉達的GPU，隨著(zhù)需求的增加未來(lái)預計還會(huì )增加。

圖：售價(jià)數百萬(wàn)的英偉達DGX

此外，Nvidia還提供了一臺帶有八顆GPU的超級計算機，稱(chēng)為DGX。年初英偉達宣布推出新服務(wù)，允許公司以每月37,000美元的價(jià)格租用DGX——該系統將使用Nvidia A100芯片。如果要購買(mǎi)，不同配置的DGX售價(jià)將高達數百萬(wàn)元。

行業(yè)專(zhuān)家表示，要構建比目前可用的模型更大、數據需求量更大的模型，將需要更強大的芯片。

同時(shí)，由于當前AI算力稀缺，高端GPU的價(jià)格和行情仍將上漲。