谷歌推出 A3 Virtual Machines 超級計算機:搭載英偉達 H100,可提供 26 exaFlops AI 性能
T之家 5 月 11 日消息,在今日凌晨的 Google I / O 大會(huì )上,谷歌花了一個(gè)多小時(shí)的時(shí)間來(lái)談?wù)撈湓谌斯ぶ悄芊矫娴谋姸噙M(jìn)步,例如用于其生成式 AI 巴德的新 PaLM 2 大型語(yǔ)言模型(LLM)。這是在谷歌產(chǎn)品組合中添加人工智能功能的基礎支柱,包括谷歌地圖、谷歌照片和 Gmail 等等。
本文引用地址:http://dyxdggzs.com/article/202305/446464.htm除此之外,谷歌還推出了一款性能卓絕的超級計算機 ——A3 Virtual Machines。它采用了第 4 代英特爾至強可擴展處理器、2TB DDR5-4800 內存,以及 8 張英偉達 H100“Hopper”GPU,通過(guò) NVLink 4.0 和 NVSwitch 實(shí)現了 3.6 TBps 的對分帶寬。
谷歌表示,新的 A3 超級計算機“專(zhuān)門(mén)用于訓練和服務(wù)要求最苛刻的人工智能模型,這些模型為當今的生成人工智能和大型語(yǔ)言模型創(chuàng )新提供動(dòng)力”。據介紹,這款超級計算機可以提供 26 exaFlops 的人工智能性能。
根據谷歌的說(shuō)法,A3代表了其 GPU 到 GPU 數據接口的首個(gè)生產(chǎn)級部署,允許在繞過(guò)主機 CPU 的情況下以 200Gbps 的速度共享數據。這個(gè)被谷歌稱(chēng)為基礎設施處理單元 (Infrastructure Processing Unit, IPU) 的接口可以使 A3 虛擬機 (VM) 的可用網(wǎng)絡(luò )帶寬比 A2 虛擬機提高 10 倍之多。
英偉達超大規模和高性能計算副總裁伊恩?巴克表示:“谷歌云的 A3 虛擬機由下一代英偉達 H100 GPU 提供支持,將加速生成式人工智能應用程序的培訓和服務(wù)?!霸诠雀柙谱罱瞥?G2 實(shí)例之后,我們很自豪能夠繼續與谷歌云合作,通過(guò)專(zhuān)門(mén)構建的人工智能基礎設施幫助全球企業(yè)轉型?!?/p>
如果你想要嘗試體驗 A3,現可通過(guò)谷歌 A3 預覽以申請加入早期訪(fǎng)問(wèn)計劃。但IT之家這里必須要提醒一下,填寫(xiě)表單只是申請,并不能保證你一定能夠通過(guò)審核且有資格使用 A3。
評論