谷歌迅速成為Nvidia強大的競爭對手

谷歌迅速成為Nvidia強大的競爭對手 —— 驅動(dòng)其超級計算機的TPU v5p人工智能芯片比以往任何時(shí)候都更快，具有更大的內存和帶寬，甚至勝過(guò)強大的H100

谷歌伴隨其Gemini人工智能模型的最新推出，發(fā)布了用于人工智能訓練和推理的旗艦張量處理單元（TPU）的最新版本，這似乎是試圖挑戰Nvidia市場(chǎng)領(lǐng)先的GPU。

TPU v5p —— 谷歌最強大的定制設計人工智能加速器 —— 已經(jīng)部署以驅動(dòng)該公司的“AI超級計算機”。這是一個(gè)專(zhuān)門(mén)用于運行人工智能應用的超級計算機架構，而不是通常用于運行科學(xué)工作負載的超級計算機，因為T(mén)PU不適用于這種工作負載。

其TPU的最新版本每個(gè)架構（組成系統的一部分）有8960個(gè)芯片，而v4中有4096個(gè)，其總浮點(diǎn)運算數（FLOPs）每個(gè)架構的可用性方面具有四倍的可伸縮性。這些新的架構提供4800Gbps的吞吐量。新的架構還配備了95GB的高帶寬內存（HBM），而TPU v4中的HBM RAM為32GB。

Nvidia H100 vs 谷歌 TPU v5p：哪個(gè)更快？與Nvidia將其GPU提供給其他公司購買(mǎi)不同，谷歌的定制TPU仍然在內部使用，用于其自己的產(chǎn)品和服務(wù)。谷歌的TPU長(cháng)期以來(lái)一直用于推動(dòng)其服務(wù)，包括Gmail、YouTube和Android，而最新版本也用于訓練Gemini。

谷歌的v5p TPU比TPU v4在訓練大型語(yǔ)言模型方面快2.8倍，性?xún)r(jià)比提高了2.1倍。盡管今年早些時(shí)候發(fā)布的中間版本TPU v5e在所有三者中提供了最高性?xún)r(jià)比，但它只比TPU v4快1.9倍，使TPU v5p成為最強大的版本。

它甚至足夠強大，可以與Nvidia廣受歡迎的H100 GPU媲美，后者是最適用于AI工作負載的最佳顯卡之一。根據該公司自己的數據，該組件在訓練工作負載方面比Nvidia的A100 GPU快四倍。

與此同時(shí)，谷歌的TPU v4據估計比A100快1.2到1.7倍，根據其在四月份發(fā)布的研究。因此，極其粗略的計算表明，TPU v5p相對于A(yíng)100大約快3.4到4.8倍，使其與H100相當或更強大，盡管在得出任何結論之前需要更詳細的基準測試。